我有一个 Python 包,其中包含大型 PyTorch 模型检查点。我尝试将那些包含在我的setup.py
as中
package_data = {'mypackage': ['model_weights/*', 'model_weights/sequential_models*']},
Run Code Online (Sandbox Code Playgroud)
现在的问题是,每当我尝试通过源安装时,pip install mypackage/ --no-cache-dir
我都会得到一个MemoryError
. 我尝试调试并--verbose
意识到这发生在
creating '/tmp/pip-wheel-bs29bp6a/tmpp0itbxn1/mypackage-1.0-py3-none-any.whl' and adding 'build/bdist.linux-x86_64/wheel' to it
adding 'mypackage/model_weights/distilled_model.pt'
adding 'mypackage-1.0.dist-info/RECORD'
Traceback (most recent call last):
...
File "/zhome/1d/8/153438/miniconda3/envs/testenv/lib/python3.9/zipfile.py", line 1127, in write
data = self._compressor.compress(data)
MemoryError
Building wheel for mypackage (PEP 517) ... error
ERROR: Failed building wheel for mypackage
Run Code Online (Sandbox Code Playgroud)
我真的只想安装将文件复制到model_weights/
安装目录中。将它们纳入车轮似乎是不可能的。
有没有办法在运行时抑制这一步pip install
?该包只会作为源分发,而不会在 PyPI 上分发,因为model_weights
文件太大了。