ImportError：无法从“transformers”导入名称“LLaMATokenizer”

Question

我无法导入LLaMATokenizer

这个问题有什么解决办法吗？

我正在使用这个仓库的代码。 https://github.com/zphang/transformers/tree/llama_push 并尝试使用加载模型和标记生成器

tokenizer = transformers.LLaMATokenizer.from_pretrained("./weights/tokenizer/")
model = transformers.LLaMAForCausalLM.from_pretrained("./weights/llama-7b/")

这会导致以下错误：

ImportError：无法从“transformers”导入名称“LLaMATokenizer”

Answer 1

为了补充cronoik答案（这是正确的答案）：

如果您仍然遇到问题，from transformers import LlamaForCausalLM, LlamaTokenizer请尝试直接从 github 安装软件包：

pip install git+https://github.com/huggingface/transformers

也不要忘记将 Tokenizer 配置文件从LLaMATokenizer更改为LlamaTokenizer。

来源： https: //github.com/huggingface/transformers/issues/22222

Answer 2

第二个L和MA在类名中小写：LlamaTokenizer和LlamaForCausalLM

from transformers import LlamaForCausalLM, LlamaTokenizer

model_id = "my_weights/"

tokenizer = LlamaTokenizer.from_pretrained(model_id)
model = LlamaForCausalLM.from_pretrained(model_id, 

一种快速方法是确定变量的正确情况，然后进行提交并在浏览器上执行 ctr+F， https: //github.com/huggingface/transformers/compare/main...zphang :transformers:llama_push