Roc*_*etq 5 python crash deep-learning keras tensorflow
我有非常简单的架构 lstm NN。在几个 epoch 1-2 之后,我的电脑完全死机,我什至无法移动鼠标:
Layer (type) Output Shape Param #
=================================================================
lstm_4 (LSTM) (None, 128) 116224
_________________________________________________________________
dropout_3 (Dropout) (None, 128) 0
_________________________________________________________________
dense_5 (Dense) (None, 98) 12642
=================================================================
Total params: 128,866
Trainable params: 128,866
Non-trainable params: 0
# Same problem with 2 layers LSTM with dropout and Adam optimizer
SEQUENCE_LENGTH =3, len(chars) = 98
model = Sequential()
model.add(LSTM(128, input_shape = (SEQUENCE_LENGTH, len(chars))))
#model.add(Dropout(0.15))
#model.add(LSTM(128))
model.add(Dropout(0.10))
model.add(Dense(len(chars), activation = 'softmax'))
model.compile(loss = 'categorical_crossentropy', optimizer = RMSprop(lr=0.01), metrics=['accuracy'])
Run Code Online (Sandbox Code Playgroud)
我是这样训练的:
history = model.fit(X, y, validation_split=0.20, batch_size=128, epochs=10, shuffle=True,verbose=2).history
Run Code Online (Sandbox Code Playgroud)
NN 需要 5 分钟才能完成 1 个 epoch。更大的批量并不意味着问题会更快地发生。但是更复杂的模型可以训练更多的时间来达到几乎相同的准确度 - 大约 0.46(完整代码在这里)
我有最新的 Linux Mint, 1070ti 8GB, 32Gb ram
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 396.26 Driver Version: 396.26 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
|===============================+======================+======================|
| 0 GeForce GTX 107... Off | 00000000:08:00.0 On | N/A |
| 0% 35C P8 10W / 180W | 303MiB / 8116MiB | 0% Default |
+-------------------------------+----------------------+----------------------+
Run Code Online (Sandbox Code Playgroud)
图书馆:
Keras==2.2.0
Keras-Applications==1.0.2
Keras-Preprocessing==1.0.1
keras-sequential-ascii==0.1.1
keras-tqdm==2.0.1
tensorboard==1.8.0
tensorflow==1.0.1
tensorflow-gpu==1.8.0
Run Code Online (Sandbox Code Playgroud)
我曾尝试限制 GPU 内存使用,但这里不会有问题,因为在训练期间它只消耗 1 GB 的 GPU 内存:
from keras.backend.tensorflow_backend
import set_session config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.9
config.gpu_options.allow_growth = True set_session(tf.Session(config=config))
Run Code Online (Sandbox Code Playgroud)
这里有什么问题?我该如何解决这个问题?
这对我来说有点奇怪,但问题与我 2018 年 4 月刚刚发布的 AMD 新 CPU 有关。因此,拥有最新的 Linux 内核至关重要:遵循本指南https://itsfoss.com/upgrade-linux-kernel-ubuntu/我将内核从 4.13 更新到 4.17 - 现在一切正常
UPD:主板也使系统崩溃,我已经更改了它 - 现在一切正常
| 归档时间: |
|
| 查看次数: |
3389 次 |
| 最近记录: |