如何减少anaconda目录中的文件数量?

sha*_*aea 9 python r anaconda conda

我正在计算群集上运行conda环境,其中每个"项目"的文件总数受到限制(最多200k个文件).我只创建了几个conda环境(用于Python 2.7的anaconda;在每个环境中安装了~200个python&R包;环境之间的高包重叠)并且已经达到了文件数限制.即使conda clean -a只使用一小部分文件也会被删除.我的conda环境中的一些python包(例如,boost)包含> 10k文件,而clean不会减少这个.

有没有办法大大减少作为conda环境的一部分存储的文件数量?

Rol*_*ber 2

Anaconda 使用硬链接来减少磁盘空间的消耗。但如果对文件数量施加限制,则每个硬链接都很重要。

正如评论中所讨论的,使用 Miniconda 而不是 Anaconda,并仅安装您实际需要的软件包可能会有所帮助。

如果这还不够,我建议将多个环境合并为一个。这样,重叠的包的硬链接就会减少。当然,这与环境的目的相反,但这就是解决方法的本质。

  • 令我惊讶的是,更多的人没有遇到与新 conda 环境相关的大量文件的问题。即使我们只使用 miniconda,并且每个用户只有几个为自己创建的环境,2 个环境 x 30 个用户 x 5-10k files_per_env = 300k 到 600k 个文件!目前,我们的 miniconda 安装中有大约 180 万个文件,这是运行“conda clean --all”之后的结果。 (5认同)
  • 对于文件系统的完整扫描或复制,文件数量会大大减慢速度,特别是当文件数量达到数百万时。 (3认同)