如何将Keras丢失输出记录到文件中

Question

当您运行Keras神经网络模型时,您可能会在控制台中看到类似的内容:

Epoch 1/3
   6/1000 [..............................] - ETA: 7994s - loss: 5111.7661

随着时间的推移,损失有望得到改善.我希望随着时间的推移将这些损失记录到文件中,以便我可以从中学习.我试过了:

logging.basicConfig(filename='example.log', filemode='w', level=logging.DEBUG)

但这不起作用.我不确定在这种情况下我需要什么级别的日志记录.

我也尝试过使用类似的回调:

def generate_train_batch():
    while 1:
        for i in xrange(0,dset_X.shape[0],3):
            yield dset_X[i:i+3,:,:,:],dset_y[i:i+3,:,:]

class LossHistory(keras.callbacks.Callback):
    def on_train_begin(self, logs={}):
        self.losses = []

    def on_batch_end(self, batch, logs={}):
        self.losses.append(logs.get('loss'))
logloss=LossHistory()
colorize.fit_generator(generate_train_batch(),samples_per_epoch=1000,nb_epoch=3,callbacks=['logloss'])

但显然这不是写入文件.无论采用何种方法,通过回调或记录模块或其他任何方式,我都希望听到您将keras神经网络丢失记录到文件中的解决方案.谢谢!

Answer 1

您可以使用CSVLogger回调.

例如:

from keras.callbacks import CSVLogger

csv_logger = CSVLogger('log.csv', append=True, separator=';')
model.fit(X_train, Y_train, callbacks=[csv_logger])

看看:Keras Callbacks

Answer 2

您的问题有一个简单的解决方案.每次使用任何fit方法时 - 结果都会返回名为History Callback的特殊回调.它有一个字段history,它是每个纪元后注册的所有指标的字典.因此,要获得每个纪元后的损失函数值列表,您可以轻松完成:

history_callback = model.fit(params...)
loss_history = history_callback.history["loss"]

将这样的列表保存到文件很容易(例如,通过将其转换为numpy数组和使用savetxt方法).

更新:

尝试:

import numpy
numpy_loss_history = numpy.array(loss_history)
numpy.savetxt("loss_history.txt", numpy_loss_history, delimiter=",")

更新2:

在每个批次之后记录丢失问题的解决方案在Keras Callbacks Documentation的Create a Callback段落中写入.

Answer 3

老问题,但在这里.Keras历史输出与pandas DataSet输入完美匹配.

如果您想将整个历史记录放在一行中的csv: pandas.DataFrame(model.fit(...).history).to_csv("history.csv")

干杯