为什么反向传播神经网络识别XOR算子所需的偏置神经元？

Question

我昨天发布了一个问题,关于我对XOR运算符的反向传播神经网络所遇到的问题.我做了一些工作,并意识到这可能与没有偏见神经元有关.

我的问题是,偏置神经元的作用一般是什么,它在识别XOR算子的反向传播神经网络中的作用是什么？是否可以创建一个没有偏置神经元？

Answer 1

有可能创建一个没有偏置神经元的神经网络......它可以正常工作,但是对于更多信息,我建议你看看这个问题的答案:

偏差在神经网络中的作用

更新: 偏向神经元在试图解决模型XOR 的神经网络中的作用是最小化神经网络的大小.通常情况下,对于"原始"(不知道这是正确的术语)的逻辑功能,如AND,OR,NAND,等,你要创建一个神经网络与2个输入神经元,2元隐患和1个输出神经元.这是不可能的,XOR因为你可以建模的最简单的方法XOR是两个NANDs:

您可以考虑A并且B作为您的输入神经元,中间的门是您的"偏置"神经元,后面的两个门是您的"隐藏"神经元,最后您有输出神经元.您可以在XOR没有偏置神经元的情况下进行求解,但是需要将隐藏神经元的数量增加到最少3个隐藏神经元.在这种情况下,第3神经元基本上充当偏倚神经元.这是另一个讨论偏向神经元的问题XOR:XOR问题可以解决2x2x1神经网络无偏差？