Keras model.fit() - 使用哪种训练算法？答案

【问题标题】：Keras model.fit() - which training algorithm is used?Keras model.fit() - 使用哪种训练算法？
【发布时间】：2018-01-31 17:13:02
【问题描述】：

我在 Theano 之上使用 Keras 来创建一个 MLP，我训练并使用它来预测时间序列。与我的网络的结构和深度无关，我无法弄清楚（Keras 文档、StackOverflow、搜索网络……）Keras 的model.fit() 函数正在使用哪种训练算法（反向传播……）。

在 Theano 中（之前没有使用 Keras）我可以定义自己调整参数的方式

self.train_step = theano.function(inputs=[u_in, t_in, lrate], outputs=[cost, y],
                                      on_unused_input='warn',
                                      updates=[(p, p - lrate * g) for p, g in zip(self.parameters, self.gradients)],
                                      allow_input_downcast=True)

找不到任何信息会导致我担心我遗漏了一些重要的东西，这可能是一个完全愚蠢的问题。

有人可以帮我吗？提前非常感谢。

【问题讨论】：

这取决于优化器。也许看看optimizers.py？您提供的 Theano 更新规则应等同于 SGD(momentum=0., nesterov=False)。
在keras中，训练算法和损失函数在“model.compile”方法中进行了调整。
谢谢大家。关于这个话题我找到了一篇可以推荐的文章：arxiv.org/abs/1609.04747

标签： machine-learning deep-learning keras theano

【解决方案1】：

看例子here：

...
model = Sequential()
model.add(Conv2D(32, kernel_size=(3, 3),
                 activation='relu',
                 input_shape=input_shape))
model.add(Conv2D(64, (3, 3), activation='relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Dropout(0.25))
model.add(Flatten())
model.add(Dense(128, activation='relu'))
model.add(Dropout(0.5))
model.add(Dense(num_classes, activation='softmax'))

model.compile(loss=keras.losses.categorical_crossentropy,
              optimizer=keras.optimizers.Adadelta(),
              metrics=['accuracy'])

model.fit(x_train, y_train,
          batch_size=batch_size,
          epochs=epochs,
          verbose=1,
          validation_data=(x_test, y_test))
score = model.evaluate(x_test, y_test, verbose=0)
...

model.fit 不使用算法来预测结果，而是使用您描述的模型。然后在model.compile中指定优化器算法

例如

model.compile(loss=keras.losses.categorical_crossentropy,
          optimizer=**keras.optimizers.Adadelta()**,
          metrics=['accuracy'])

您可以在此处找到有关可用优化器的更多信息：https://keras.io/optimizers/

【讨论】：