用窥视孔实现LSTM

sel*_*cia 6 neural-network theano deep-learning lstm tensorflow

我一直在阅读有关LSTM的文章并检查其实现.有一点我不清楚.
在大多数论文中,提到从单元到门向量的权重矩阵应该是对角线的(例如:Alex第5页,2013),但我在任何实现中都没有看到这一点.
例如:
1 2 另一个例子来自mila lab. 3

这些人是错误地执行了还是我错过了什么?

Moh*_*shi 5

TensorFlow实现使用对角矩阵,请参见此处.请注意,这在实践中意味着窥视孔只从细胞到自身,所以你在做元素向量乘法.