如何让我的神经网络强调某些数据比其他数据更重要？

Question

我在网上环顾四周但找不到任何东西,但我可能错过了一篇关于此的文献.我在289分量矢量上运行基本神经网络以产生285分量矢量.在我的输入中,最后4个数据对于将输入的其余部分更改为输出的结果285至关重要.也就是说,输入是285 + 4,这样4将输入的其余部分变形为输出.

但是当对此运行神经网络时,我不确定如何反映这一点.我是否需要对其余输入使用卷积？我希望我的系统能够强调影响其他285的4个数据点.我仍然是所有这些的新手,所以一些指针会很棒!

再说一次,如果已经写了一些东西,那么那也是很棒的.

Answer 1

我认为你没有任何理由这样做，因为网络会自行推断。考虑到输出，每个输入的权重将根据其重要性而减少或增强。

不过，您可以做的是建立一个以 285 组件作为输入的初步网络，然后建立一个以 4 个关键组件和初步网络的输出作为输入的新网络。

[285 compo.]---[neural network]---+---[neural network]---[output 285 compo.]
                                  |
                       [4 compo.]-+

例如，您可以使用卷积网络处理图片，然后在完全连接的网络中添加一些元信息来处理所有内容。