忽略...`__init__` 中有参数的层必须覆盖`get_config`

Question

我正在使用以下类定义的残差单元训练卷积神经网络（根据 Aurelien Geron 的“使用 Scikit-Learn、Keras 和 Tensorflow 进行机器学习动手”中的第 478 页）

class ResidualUnit(tf.keras.layers.Layer):

    def __init__(self, filters, strides=1, activation="relu", **kwargs):

        super().__init__(**kwargs)
        self.activation = tf.keras.activations.get(activation)

        self.main_layers = [
            tf.keras.layers.Conv2D(filters, 3, strides=strides, padding="same", use_bias=False),
            tf.keras.layers.BatchNormalization(),
            self.activation,
            tf.keras.layers.Conv2D(filters, 3, strides=1, padding="same", use_bias=False),
            tf.keras.layers.BatchNormalization()]

        self.skip_layers=[]

        if strides > 1:
            self.skip_layers = [
                tf.keras.layers.Conv2D(filters, 1, strides=strides, padding="same", use_bias=False),
                tf.keras.layers.BatchNormalization()]


    def call(self, inputs):

        Z = inputs

        for layer in self.main_layers:
            Z = layer(Z)
        skip_Z = inputs

        for layer in self.skip_layers:
            skip_Z = layer(skip_Z)

        return self.activation(Z + skip_Z)

创建类没有报错，创建模型架构（使用这个类）也没有报错：

ResNet_model = tf.keras.models.Sequential()

ResNet_model.add(tf.keras.layers.Conv2D(64, 3, strides=2, input_shape=num_pixels_and_channels,
                                       padding="same", use_bias=False))


ResNet_model.add(tf.keras.layers.BatchNormalization())

ResNet_model.add(tf.keras.layers.Activation("relu"))

ResNet_model.add(tf.keras.layers.MaxPool2D(pool_size=3, strides=2, padding="same"))

prev_filters=64

for filters in [64] * 1 + [128] * 1 + [256] * 1 + [512] * 1:
    strides = 1 if filters == prev_filters else 2
    ResNet_model.add(ResidualUnit(filters, strides=strides))
    prev_filters=filters

ResNet_model.add(tf.keras.layers.GlobalAvgPool2D())
ResNet_model.add(tf.keras.layers.Flatten())
ResNet_model.add(tf.keras.layers.Dense(257, activation="softmax"))

...但是当我训练模型时，训练一开始就会显示警告：

警告：tensorflow：模型无法序列化为 JSON。忽略...带有参数的层__init__必须覆盖get_config。

模型训练第 1 个 epoch，然后停止。

出了什么问题，我需要在代码中更改什么才能解决此问题？

我在 CPU 上的 Jupyter Notebook 中运行 tensorflow 2.1.0 版。

Answer 1

我在我的图层类中按如下方式覆盖了 get_config() 函数，它似乎已经解决了这个问题：

def get_config(self):
    cfg = super().get_config()
    return cfg    

更具体地说：

class AttentionBlock(tf.keras.layers.Layer):
def __init__(self,units = 32,**kwargs):
    super(AttentionBlock, self).__init__(**kwargs)
    self.units = units
    self.conv2d = tf.keras.layers.SeparableConv2D(self.units, 1,  padding='same',
                                  use_bias=True,
                                  kernel_initializer=tf.keras.initializers.VarianceScaling(), bias_initializer='zeros',
                                  bias_regularizer=None)
    self.relu = tf.keras.layers.Activation('swish')
    self.batchnorm = tf.keras.layers.BatchNormalization()


def get_config(self):
    cfg = super().get_config()
    return cfg    

def call(self,inputs):
  if type(inputs) is not list or len(inputs) <= 1:
        raise Exception('Merge must be called on a list of tensors '
                        '(at least 2). Got: ' + str(inputs))
  else:
      x,y = inputs
      w = self.conv2d(x)
      v = self.conv2d(y)
      out = self.relu(w + v)
      out = self.batchnorm(out)
      out = tf.nn.sigmoid(out)
      return out