小编use*_*230的帖子

我正在尝试加载量化

from transformers import LlamaForCausalLM
from transformers import BitsAndBytesConfig

model = '/model/'
model = LlamaForCausalLM.from_pretrained(model, quantization_config=BitsAndBytesConfig(load_in_8bit=True))

但我得到了错误

ImportError: Using `load_in_8bit=True` requires Accelerate: `pip install accelerate` and the latest version of bitsandbytes `pip install -i https://test.pypi.org/simple/ bitsandbytes` or pip install bitsandbytes` 

但我都安装了，但出现同样的错误。我关闭并重新启动了我正在使用的 jupyter 内核。

我认为很明显它应该在删除环境时卸载所有包，因为否则将如何访问它们，但我没有看到文档这么说，所以我在这里检查是否需要先删除所有包。