小编Rit*_*hik的帖子

pytorch 的嵌入层内部究竟发生了什么?

从多次搜索和pytorch文档本身,我可以发现在嵌入层内部有一个查找表,其中存储了嵌入向量。我无法理解的是:

  1. 在这一层的训练过程中到底发生了什么?
  2. 权重是多少以及如何计算这些权重的梯度?
  3. 我的直觉是至少应该有一个带有一些参数的函数来生成查找表的键。如果是这样,那么这个功能是什么?

在这方面的任何帮助将不胜感激。谢谢。

embedding pytorch

17
推荐指数
1
解决办法
4392
查看次数

标签 统计

embedding ×1

pytorch ×1