标签: accelerate

我尝试使用 HuggingFace Transformer 通过运行以下代码来创建管道（代码在 SageMaker Jupyter 实验室上运行）：

pipeline = transformers.pipeline(
    "text-generation",
    model="meta-llama/Llama-2-7b-chat-hf",
    torch_dtype=torch.float16,
    device_map="auto",
)

但是，它会生成以下错误：

ImportError: Using `low_cpu_mem_usage=True` or a `device_map` requires Accelerate: `pip install accelerate`

参考：

Packages version:print(accelerate.__version__), print(transformers.__version__)
0.21.0
4.31.0

我被 Swift 中的插值卡住了。任何人都可以帮助我吗？

我想将浮点数组（例如[0, 0, 100, 25, 0, 0, 0, 25, 0, 0, 0]）插入另一个具有给定大小（例如128）的数组中。我找到了一篇文章（Use Linear Interpolation to Construct New Data Points），它展示了如何实现这些东西。

有两种方法（您可以在下面看到结果，它们的表现如何）：

• 使用vDSP_vgenp和的线性插值
• 更平滑（但不是为了我的目的）插值使用 vDSP_vlint

问题是这两种技术都没有实现我的期望，如截图 3 所示。如何使插值分布更平滑？我想看到一个立方体状的曲线。

初始情节：

线性插值：

import Accelerate

let n = vDSP_Length(128)
let stride = vDSP_Stride(1)

let values: [Float] = [0, 0, 100, 25, 0, 0, 0, 25, 0, 0, 0]
let indices: [Float] = [0, 11, 23, 34, 46, 58, 69, …

这里是非常新的 Python 学习者。

试图构建我的第一个项目，但是 numpy.js 有很多问题。当我尝试运行该程序时，它返回此错误：

    RuntimeError: Polyfit sanity test emitted a warning, most likely due to using a buggy Accelerate backend. If you compiled yourself, see site.cfg.example for information. Otherwise report this to the vendor that provided NumPy.
RankWarning: Polyfit may be poorly conditioned

我想我已经在 VS Code 上正确安装了所有东西，尽管弄清楚这一点也很头疼。

在谷歌上搜索有关加速的错误不断出现，但我不知道如何删除或卸载它......甚至它是什么。

任何提示都会很有帮助！

如果需要更多信息，请告诉我。这是我在这里的第一个问题。

谢谢！:)

我用scipy.optimize.root与hybr方法(最好的一个？)找到一个数值函数的根

我在每次迭代时打印残差

delta d 117.960112417 delta d 117.960112417 delta d 117.960112417 delta d 117.960048733 delta d 117.960112427 delta d 117.960112121 delta d 1.46141491664 delta d 0.0322651167588 delta d 0.000363688881595 delta d 4.05494689256e-08

如何通过增加步长,尤其是第一次迭代之间的加速来加速根找到？我不知道算法是如何工作的,但看起来很奇怪3个第一个结果是相同的,3个nexts也完全相同.

阅读文档,我试图修改eps因素,没有成功

编辑:@sasha,这是一个非常基本的功能来说明问题

def f(X1,X2):
    print ' X1 , diff , norm ' , X1 , X2 - X1 , np.linalg.norm(X2 - X1)
    return X2 - X1

Xa = np.array([1000,1000,1000,1000])
Xb = np.array([2000,2000,2000,2000])

SOL = scipy.optimize.root(f,Xa,(Xb,))

结果如下:无论X的长度如何,我们在开始时都有3个相同的迭代

 X1 , diff , …

什么是正确的anaconda加速功能来检查cuda？

使用numba-pro,您可以使用:

>>> from numbapro import check_cuda
numbapro:1: ImportWarning: The numbapro package is deprecated in favour of the accelerate package. Please update your code to use equivalent functions from accelerate.
>>> check_cuda()
CUDA is not available...

要么

>>> numbapro.check_cuda()
------------------------------libraries detection-------------------------------
Finding cublas
    located at /home/usr/miniconda3/envs/cuda/lib/libcublas.so.7.0.28
    trying to open library...   ok
Finding cusparse
    located at /home/usr/miniconda3/envs/cuda/lib/libcusparse.so.7.0.28
    trying to open library...   ok
Finding cufft
    located at /home/usr/miniconda3/envs/cuda/lib/libcufft.so.7.0.35
    trying to open library...   ok
Finding curand
    located at /home/usr/miniconda3/envs/cuda/lib/libcurand.so.7.0.28
    trying to open library... …