在现有的基本GloVe模型上进行改进

cs9*_*s95 5 nlp text-classification glove

我正在使用GloVe作为研究的一部分。我已经从这里下载了模型。我一直在用GloVe进行句子分类。一些STEM主题说,我正在分类的句子是特定于特定领域的。但是,由于现有的GloVe模型是在通用语料库上训练的,因此对于我的特定任务,它们可能无法产生最佳结果。

所以我的问题是,我将如何加载经过重新训练的模型,然后在自己的语料库上再对其进行一点再训练,以学习语料库的语义呢?如果可能的话,这样做是有好处的。

cs9*_*s95 2

经过一番挖掘,我在 git repo 上发现了这个问题。有人提出了以下建议:

是的,由于优化设置,这不会很好地工作。但您可以做的是在您自己的语料库上训练 GloVe 向量,然后将它们与预训练的 GloVe 向量连接起来,以便在您的最终应用程序中使用。

这就是答案。

  • 这难道不会学习预训练语料库中的单词与您的自定义语料库中的单词之间的任何依赖关系吗? (3认同)