从Neuralnetworksanddepleplearning了解第1章示例2

ext*_*620 3 neural-network

我经历的第1章neuralnetworksanddeeplearning,不明白的第二运动(S型神经元模拟感知,第二部分)

显示在极限为c→∞时,这个S形神经元网络的行为与感知器网络完全相同.当其中一个感知器的w⋅x+ b = 0时,这怎么会失败?

我能够证明c→∞的行为与感知器网络的行为相同.但是我不确定我是否正确w⋅x+ b = 0会失败的原因.

用z = 0代替sigmoid函数(1 /(1 + e ^ -z),得到1 /(1 + e ^ -0),它分解为1 /(1 + 1)= 1/2

如果1/2的定义会在神经元中触发1,那么我不明白为什么w⋅x+ b = 0会失败.

tho*_*as 10

您或多或少已经回答了您的问题.感知器的传递函数是阶跃函数H(z),其对于z <0为零,否则为1.大c的S形函数S(c*z)等于阶跃函数,除了z = 0,其中H(z)= 1且S(c*z)= 0.5.

  • 它不能"与感知器网络完全相同".这意味着如果传递函数的参数对于至少一个单位为零,则具有S形单位的网络的输出将不同. (2认同)