pad_token_id 在拥抱脸部变压器中不起作用

Question

我想下载 GPT-2 模型和标记器。对于开放式生成，HuggingFace 将填充标记 ID 设置为等于句子结束标记 ID，因此我使用以下命令手动配置它：

import tensorflow as tf
from transformers import TFGPT2LMHeadModel, GPT2Tokenizer

tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = TFGPT2LMHeadModel.from_pretrained("gpt2", pad_token_id=tokenizer.eos_token_id)

但是，它给了我以下错误：

类型错误：（'关键字参数不理解：'，'pad_token_id'）

我无法找到解决方案，也不明白为什么会出现此错误。见解将不胜感激。

Answer 1

您的代码不会对我引发任何错误 - 我会尝试重新安装最新版本transformers- 如果这对您来说是可行的解决方案。