rum*_*pel 4 algorithm neural-network
前馈神经网络的训练算法是否有任何实现(或简单描述),它不使用S形或线性壁球函数,而是不可微分的,如重质量函数？
我已经找到了一篇关于这种算法的论文,但没有根据实现,我觉得很困惑,因为在我看来,应该有一些东西.
任何提示？
rli*_*den 8
反向传播不适用于重函数,因为它的推导在所有域中都是零,除了零点,它是无限的.也就是说,重函数的导数是狄拉克δ.
其结果是除零之外的任何值都没有变化,并且不能取得进展.在零点处,派生是无限的,因此该步骤也是不可控制的.
你可以在网上找到这个函数的实现,但是我仍然不认为使用它是个好主意.如果增加sigmoid函数中的gama功率,它就会成为一个非常好的近似函数,具有可微分性的附加好处.
查看本文,看看它是否有任何可能对您有帮助的信息.
归档时间：
13 年，11 月 前
查看次数：
2838 次
最近记录：
8 年，3 月 前