这种神经网络模型是否存在？

Question

我正在寻找具有特定特征的神经网络模型.此型号可能不存在......

我需要一个不像传统人工神经网络那样使用"层"的网络.相反,我希望[我相信]是一个更生物的模型.

该模型将容纳一大群相互连接的神经元,如下图所示.一些神经元(在图的底部)将接收输入信号,并且级联效应将导致连续的,连接的神经元可能根据信号强度和连接权重而发射.这不是什么新鲜事,但是,没有明确的层......只是越来越远,间接的连接.

如您所见,我也将网络划分为多个部分(圆圈).每个圆圈代表一个语义域(语言学概念),它是围绕概念的核心信息; 本质上,语义域是一个概念.

节内节点之间的连接具有比不同节节点之间的连接更高的权重.因此,"汽车"的节点比将"英语"连接到"汽车"的节点更加相互连接.因此,当单个部分中的神经元发射(被激活)时,很可能整个(或大部分)部分也将被激活.

总而言之,我需要将输出模式用作进一步输出的输入,依此类推.级联效应是我所追求的.

我希望这是有道理的.如有需要请询问.

是否有任何合适的模型已经模拟了我所描述的内容？

Answer 1

总而言之，我需要将输出模式用作进一步输出的输入，等等。我追求的是级联效应。

这听起来像是一个具有多个隐藏层的前馈网络。不要害怕这里的“层”这个词，如果有多个，它就像你在那里画的一样..类似于 5-5-7-6-7-6-6-5-6-5 -结构化网络（5 个输入、8 个隐藏层，每个隐藏层的节点数量不同，以及 5 个输出）。

您可以按照自己喜欢的方式从一层到另一层将节点相互连接。您可以通过简单地使用常量零作为它们之间的权重来保留一些未连接的连接，或者如果使用面向对象的编程，只需将不需要的连接留在连接阶段之外。使用标准神经网络模型跳过层可能会更困难，但一种方法可以是为权重需要跨越的每一层使用虚拟节点。只需将原始输出*权重值从节点复制到虚拟节点就与跳过一层相同，这也将使标准神经网络模型保持完整。

如果您希望网络仅输出一些 1 和 0，则可以使用一个简单的阶跃函数作为每个节点中的激活函数：值大于 0.5 时为 1，否则为 0。

我不确定这是否是您想要的，但这样您应该能够构建您所描述的网络。然而，我不知道你打算如何教你的网络产生一些语义域。为什么不让网络学习自己的权重呢？这可以通过简单的输入输出示例和反向传播算法来实现。如果您使用标准模型来构建网络，那么学习的数学也与任何其他前馈网络没有任何不同。最后但并非最不重要的一点是，您可能可以找到一个适合此任务的库，只需对代码进行少量更改或根本无需更改。