最佳神经网络优化算法

Question

我正在寻找神经网络优化中的4种最佳算法。我需要名称和任何描述，学习方法和拓扑结构对我很有帮助。我认为多层感知器（MLP）是其中之一，但我不确定。

谢谢你们。

Answer 1

您的问题确实很广泛。很难回答，因为不同的优化器各有优缺点。我想说的是，在当今最好的优化程序中，您会发现具有Nestov动力的ADAM，RMSPROP，ADAGRAD和SGD。您可以在此处了解这些方法（以及其他方法）。