为什么逻辑回归的权重参数初始化为零?

Ala*_*wad 6 parameters initialization neural-network logistic-regression

我已经看到了将神经网络的权重初始化为随机数,因此我很好奇为什么逻辑回归的权重被初始化为零?

Mud*_*its 5

在神经网络的情况下,每一层都有n个神经元。因此,如果您将每个神经元的权重初始化为0,那么在反向传播后,每个神经元的权重将相同:

浅层神经网络

无论您迭代多长时间,第一层中的神经元a1和a2都将具有相同的权重。由于他们正在计算相同的功能。

逻辑回归不是这种情况,它的y = Wx + b。

  • 这对于 NN 来说是否意味着因为没有添加偏差,因此它将始终保持不变?但逻辑回归不就是这样吗? (2认同)