相关疑难解决方法(0)

如何在Tensorflow 2.0中通过Xavier规则进行权重初始化?

TF 2.0碰巧摆脱了contrib图书馆。因此,所有喜欢tf.contrib.conv2dtf.contrib.layers.variance_scaling_initializer不喜欢的东西都消失了。也就是说,您认为在不使用Keras的情况下(或通过一些numpy hack进行初始化)在TF2.0中进行Xavier初始化的最佳方法是什么?

即,我坚持tf.nn.conv2d并为此功能提供权重的人:

filters = tf.Variable(tf.zeros([3, 3, 32, 64]))
??? # something should happen hear, i guess
net = tf.nn.conv2d(input, filters)
Run Code Online (Sandbox Code Playgroud)

注意:万一您使用的是TF的第一个版本,则可以使用:

filters = tf.get_variable("w", shape=[3,3, 32, 64],
           initializer=tf.contrib.layers.xavier_initializer()) 
# no tf.contrib in 2.0, no tf.get_variable in 2.0
Run Code Online (Sandbox Code Playgroud)

python tensorflow tensorflow2.0

3
推荐指数
1
解决办法
1898
查看次数

标签 统计

python ×1

tensorflow ×1

tensorflow2.0 ×1