深层中的神经元如何能够比浅层/早期层中的神经元做出更复杂的决策？

Question

我是ML的新手,正在http://neuralnetworksanddeeplearning.com阅读在线书籍.

在第一章中,作者使用奶酪节的例子描述了一个感知器.基本上,他举例说明了一个感知器试图决定是否在即将到来的周末参加奶酪节.感知器有3个输入(天气因素,社会因素和运输因子).虽然我完全理解作者的单一感知器的"奶酪节"示例100%,但我不理解他绘制的下一个(看似非平等的)结论,他在那里演变了包含组织成2层的多个感知器的例子:

"第二层中的感知器怎么样？每个感知器都通过权衡第一层决策的结果来做出决定.这样,第二层中的感知器可以做出更复杂的决策.比第一层中的感知器更抽象的层次......通过这种方式,感知器的多层网络可以参与复杂的决策."

我不明白的是:为什么第二层中的感知器能够比第一层中的同行更"复杂,更抽象地做出决定"？

有人可以提供一个例子,也许使用本作者已经开始的奶酪节示例？在第2层中,感知器可以做出更复杂/抽象决策的例子是什么？

---

例

图的顶部(上图)显示了作者奶酪节示例背后的决策感知器.孤独的感知者需要3个输入/因素:天气,社会和交通因素.从这些计算/确定是否应该去奶酪节.

上图(也就是水平线下方)的底部完美地说明了我的心理挂断所在.在这里,我们在第1层中有3个神经元馈入单个第2层节点:

• 一个"我应该去的奶酪节"节点:这是在同一个节点在图的上半部分; 和
• 一个"我应该去的奶节"节点:省略图的简单/简洁的
• 一个"我应该去的培根节"节点:也省略了简单/简洁

来自这3个感知器的输出(是/否决定)作为输入馈入单独的第2层节点.在这里给出我的例子,第二层节点决策的例子是什么,它说明了"特征层次结构"的概念和/或作者声明更深层可以做出更复杂/抽象的决策？

Answer 1

多层网络的基本思想是每一层都添加一定量的抽象。第二层本身与第一层具有相同的结构，因此它无法真正自行做出更复杂的决策。但它可以建立在第一层创建的抽象（输出）之上。

我想补充一点，这种说法有点理想化。在实践中，通常很难理解内层到底做了什么。

在您的示例中，第二层节点做出的决定可能是“我应该去参加节日吗？”