小编Mim*_*ova的帖子

将句子转换器模型从 GPU 分离到 CPU

我在 GPU 上训练了一个 SentenceTransformer 模型并保存了它。现在我想在另一台没有 GPU 的机器上使用它,但我找不到将它加载到 CPU 上的方法。

from sentence_transformers import SentenceTransformer

model_name = 'all-MiniLM-L6-v2'
model = SentenceTransformer(model_name, device='cuda')
Run Code Online (Sandbox Code Playgroud)

python cpu gpu sentence-transformers

2
推荐指数
1
解决办法
5743
查看次数

标签 统计

cpu ×1

gpu ×1

python ×1

sentence-transformers ×1