NEAT 中的偏置神经元是如何创建的?

Fin*_*uth 3 neat neural-network mutation evolutionary-algorithm bias-neuron

我正在尝试实现简单的 NEAT。我从各种来源了解到,有 4 种类型的“节点”:输入神经元、隐藏神经元、输出神经元和所谓的偏置神经元。我不知道哪个过程可能会产生偏置神经元,这在本文第 16 页中有描述。

我知道在突变时可能会创建新的神经元,但它需要两个神经元之间存在现有的连接,该连接将被这个新的神经元分裂(基于已经提到的论文,第 10 页)。然而,偏置神经元没有“输入”连接,因此显然不能以上述方式创建。那么,具体来说,NEAT 是如何创建偏置神经元的呢?

Pab*_*blo 5

NEAT 上下文中的偏置神经元(节点)只是一个始终处于活动状态的特殊输入神经元。它总是包含在构造中,因为它在许多情况下似乎有助于进化。

因此,简而言之,您不会创建偏置神经元,就像您不会创建新的输入或输出节点一样;而是创建偏置神经元。这些是由您的问题定义的。

您是正确的,标准 NEAT 实现通过拆分现有连接引入了新的隐藏节点。隐藏节点是您在 NEAT 中创建或破坏的唯一神经元(据我所知,在一般神经进化中也是如此)。