提出了哪些算法来学习深度神经网络的体系结构？

Question

Yoshua Benhgio的《学习AI的深度架构》一书提到

我们应该努力开发使用数据来确定最终架构深度的学习算法。

有人会知道到目前为止提出的任何算法来实现这一目标吗？

这个问题不是关于成功的算法的-实际上，目前似乎还没有。这个问题的目的是汇总曾经提出过的每个算法，这样，对该主题感兴趣的任何人都不需要花费数月的时间来找到它们。

到目前为止，我遇到了：

---

• 该平铺算法
  • 优势：增加层数和单位
  • 警告：仅用于学习布尔函数，与应用问题不太相关。

---

• 遗传算法（由用户vzn提供）：
  • 使用遗传算法寻找最佳的神经网络架构
  • 使用遗传算法选择前馈人工神经网络的架构
  • 优势：学习连续功能，即与应用问题相关
  • 警告：计算上非常昂贵

Answer 1

可以说，学习神经网络架构最常用的算法是Scott Fahlman和Christian Lebiere开发的Cascade Correlation。

在这里您可以找到描述，我之前也曾在某个地方看到过C实现，但不记得在哪里。