小编iac*_*ppo的帖子

在 Tensorflow 中实现反馈对齐

我想在 Tensorflow 中实现直接反馈对齐。

参考论文:https ://arxiv.org/pdf/1609.01596v5.pdf,Nøkland (2016)

我实现了一个简单的网络,它在纯 Python 中执行 DFA,明确反向传播,我只是将 BP 的反向传递与 DFA 之一切换。

后传

其中 B1 和 B2 是两个具有适当维度的随机矩阵。

Tensorflow 训练显然默认进行反向传播。为了获得这种训练行为,我应该在 Tensorflow 代码中的什么地方进行修改?

python neural-network gradient-descent tensorflow

5
推荐指数
0
解决办法
586
查看次数