Pau*_*l O 6 neural-network autoencoder
我了解如何在自动编码器/解码器中绑定权重,即在解码器中使用编码器权重的转置。然而,目前尚不清楚如何处理这些偏见。
如果举例来说,
编码器:
4 个特征 -> 3 个隐藏 -> 2 个隐藏
解码器:
2 个隐藏 -> 3 个隐藏 -> 4 个特征'
由于一层的偏差是下一层中的节点数量,因此它们不对称。
在上面的例子中,偏差为 3,2,3,4
然而,由于编码器和解码器是对称的,但相反,有 2 个大小相同的偏差,即 3。
问题 1:
我是否将这些相似大小的偏差联系起来?
问题2:
如果问题1的答案是否定的,或者不能打结,那么我不打结的那些不对称变量,它们只是自变量吗?
归档时间: |
|
查看次数: |
950 次 |
最近记录: |