深度神经网络的非线性意味着什么?

Raj*_*jat 2 machine-learning deep-learning

当我们说“深度神经网络的非线性”时,在这种情况下“非线性”一词实际上是什么意思?

此外,激活函数的目的是将非线性引入网络。这种非线性意味着什么?(我是深度学习的新手。)

小智 5

非线性\xc2\xa0意味着输出不能从输入的线性组合中再现(这与呈现为直线的输出不同——这个词是\xc2\xa0affine)。

\n\n

另一种思考方式:如果网络中没有\xc2\xa0非线性\xc2\xa0激活函数,神经网络无论有多少层,都会表现得像单层感知器,因为对这些层求和会给你另一个线性函数(参见上面的定义)。

\n\n

来源

\n