sel*_*cia 6 neural-network theano deep-learning lstm tensorflow
我一直在阅读有关LSTM的文章并检查其实现.有一点我不清楚. 在大多数论文中,提到从单元到门向量的权重矩阵应该是对角线的(例如:Alex第5页,2013),但我在任何实现中都没有看到这一点. 例如: 1 2 另一个例子来自mila lab. 3
这些人是错误地执行了还是我错过了什么?
Moh*_*shi 5
TensorFlow实现使用对角矩阵,请参见此处.请注意,这在实践中意味着窥视孔只从细胞到自身,所以你在做元素向量乘法.
归档时间:
9 年,11 月 前
查看次数:
1746 次
最近记录:
9 年 前