无法使用Keras中的multi_gpu_model之后的model.save保存模型

Question

升级到Keras 2.0.9之后,我一直在使用该multi_gpu_model实用程序,但我无法保存我的模型或最佳权重

model.save('path')

我得到的错误是

TypeError:无法pickle模块对象

我怀疑获取模型对象的访问权存在一些问题.有没有解决这个问题的工作？

Answer 1

解决方法

这是一个修补版本,在保存时不会失败:

from keras.layers import Lambda, concatenate
from keras import Model
import tensorflow as tf

def multi_gpu_model(model, gpus):
  if isinstance(gpus, (list, tuple)):
    num_gpus = len(gpus)
    target_gpu_ids = gpus
  else:
    num_gpus = gpus
    target_gpu_ids = range(num_gpus)

  def get_slice(data, i, parts):
    shape = tf.shape(data)
    batch_size = shape[:1]
    input_shape = shape[1:]
    step = batch_size // parts
    if i == num_gpus - 1:
      size = batch_size - step * i
    else:
      size = step
    size = tf.concat([size, input_shape], axis=0)
    stride = tf.concat([step, input_shape * 0], axis=0)
    start = stride * i
    return tf.slice(data, start, size)

  all_outputs = []
  for i in range(len(model.outputs)):
    all_outputs.append([])

  # Place a copy of the model on each GPU,
  # each getting a slice of the inputs.
  for i, gpu_id in enumerate(target_gpu_ids):
    with tf.device('/gpu:%d' % gpu_id):
      with tf.name_scope('replica_%d' % gpu_id):
        inputs = []
        # Retrieve a slice of the input.
        for x in model.inputs:
          input_shape = tuple(x.get_shape().as_list())[1:]
          slice_i = Lambda(get_slice,
                           output_shape=input_shape,
                           arguments={'i': i,
                                      'parts': num_gpus})(x)
          inputs.append(slice_i)

        # Apply model on slice
        # (creating a model replica on the target device).
        outputs = model(inputs)
        if not isinstance(outputs, list):
          outputs = [outputs]

        # Save the outputs for merging back together later.
        for o in range(len(outputs)):
          all_outputs[o].append(outputs[o])

  # Merge outputs on CPU.
  with tf.device('/cpu:0'):
    merged = []
    for name, outputs in zip(model.output_names, all_outputs):
      merged.append(concatenate(outputs,
                                axis=0, name=name))
    return Model(model.inputs, merged)

您可以使用此multi_gpu_model功能,直到在keras中修复错误.此外,在加载模型时,提供tensorflow模块对象很重要:

model = load_model('multi_gpu_model.h5', {'tf': tf})

这个怎么运作

问题在于import tensorflow中间的线multi_gpu_model:

def multi_gpu_model(model, gpus):
  ...
  import tensorflow as tf
  ...

这为get_slicelambda函数创建了一个闭包,其中包括gpus(即ok)和tensorflow模块(不正常)的数量.模型保存尝试序列化所有层,包括那些get_slice因为tf在闭包中而完全调用和失败的层.

解决方案是将导入移出multi_gpu_model,以便tf成为一个全局对象,尽管仍然需要get_slice工作.这解决了保存问题,但在加载时必须tf明确提供.

Answer 2

说实话,最简单的方法是使用实​​际检查多gpu并行模型

 parallel_model.summary()

(并行模型只是应用multi_gpu函数后的模型).这清楚地突出了实际的模型(我认为倒数第二层 - 我现在不在我的电脑上).然后,您可以使用此图层的名称来保存模型.

 model = parallel_model.get_layer('sequential_1)

它通常称为sequential_1,但如果您使用的是已发布的体系结构,则可能是"googlenet"或"alexnet".您将从摘要中看到图层的名称.

然后它的简单只是保存

 model.save()

Maxims方法有效,但我认为它有点矫枉过正.

Rem:你需要编译模型和并行模型.