为什么 SOM 中的学习率会随着迭代而变化

Question

通常学习率是我们在开始时决定的一个值，通常它不会随着迭代次数而改变。但是在SOM中学习率是随着迭代而改变的，这背后的想法是什么？

据我了解，学习率应该随着迭代次数的增加而降低。这是为什么？

Answer 1

原因很简单。SOM 在数学模型方面设计不佳，需要降低学习率以确保收敛。换句话说，如果你不改变这个值，学习过程可能根本不会停止。这个问题可以通过更多称为“主曲线”和“主流形”的数学模型来解决，这些模型不太受欢迎，但引入了有效的数学方法来学习类似 SOM 的表示。