如何进行Keras中的神经网络模型超参数调优

今天就跟大家聊聊有关如何进行Keras中的神经网络模型超参数调优,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。

为海州等地区用户提供了全套网页设计制作服务,及海州网站建设行业解决方案。主营业务为网站设计、成都网站制作、海州网站设计,以传统方式定制建设网站,并提供域名空间备案等一条龙服务,秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求,就会得到认可,从而选择与我们长期合作。这样,我们也可以走得更远!

在目前神经网络超参数调整的研究中,tensorflow/keras社区开发出了一款自动化调参工具 keras-tuner,通过keras-tuner我们在使tensorflow/keras 进行工程实践时,在模型参数优化这一环节可以方便的帮助我们做一些工作。

首先我们安装keras-tuner

要求:

  • Python 3.6

  • TensorFlow 2.0

从pypi安装

pip install -U keras-tuner

使用很简单,上来先import

import kerastuner as kt

首先先来介绍一下keras-tuner的参数类 HyperParameters,非常重要。

hp = kt.HyperParameters()

HyperParameters类作为一个hyerparameter容器。一个HyperParameters实例包含有关搜索空间和每个超参数的当前值的信息。当然也可以与使用超参数的模型构建代码内联定义超参数。这使您不必编写样板代码,并有助于使代码更具可维护性。

我们来看一个非常简单的例子

import kerastuner as ktimport tensorflow as tf
#初始化一个参数容器hp = kt.HyperParameters()#定义一个modeldef build_model(hp):    model = tf.keras.Sequential()    model.add(tf.keras.layers.Dense(units=hp.Int('units', min_value=32, max_value=512, step=32), activation='relu'))    model.add(layers.Dense(10, activation='softmax'))    model.compile(optimizer=tf.keras.optimizers.Adam(hp.Choice('learning_rate', values=[1e-2, 1e-3, 1e-4])),                  loss='sparse_categorical_crossentropy',                  metrics=['accuracy'])    return model#包装一个随即搜索器tuner = kt.tuners.RandomSearch(    build_model,    objective='val_accuracy',    max_trials=5,    executions_per_trial=3,    directory='my_dir',    project_name='helloworld')#打印搜索空间的摘要    tuner.search_space_summary()#搜索最佳的超参数配置tuner.search(x, y, epochs=5, validation_data=(val_x, val_y)#检索最佳模型models = tuner.get_best_models(num_models=2)#打印结果摘要tuner.results_summary()

可以看出,kerastuner就是这么好用,简洁的api方法定义随机参数和训练模型。

看完上述内容,你们对如何进行Keras中的神经网络模型超参数调优有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注创新互联行业资讯频道,感谢大家的支持。


网站栏目:如何进行Keras中的神经网络模型超参数调优
文章位置:http://myzitong.com/article/ijogcd.html