Mic*_*Loh 7 java-native-interface tensorflow tensorflow-serving
我正在尝试构建一个大小小于 1GB 的 TFServing docker 映像。如果您按照在线说明进行操作,您将获得大约 16GB 大小的图像。但是,如果您只构建模型服务器,则可以将大小减小到 3.5GB
bazel build //tensorflow_serving/model_servers:tensorflow_model_server
Run Code Online (Sandbox Code Playgroud)
一半的占用空间来自核心/内核中的动态库构建产品
root@5c275ce482e3:/# du -h -d 1 bazel-out/local-fastbuild/bin/external/org_tensorflow/tensorflow/core/kernels/
780M bazel-out/local-fastbuild/bin/external/org_tensorflow/tensorflow/core/kernels/_objs
1.8G bazel-out/local-fastbuild/bin/external/org_tensorflow/tensorflow/core/kernels/
Run Code Online (Sandbox Code Playgroud)
我认为这可以变得更小,因为 Tensorflow Java API 链接到的 dylib 只有 90MB (GPU)/30MB (CPU)。查看 Bazel BUILD 文件,似乎 JNI/dylib 和 model_servers 目标都依赖于 all_kernels。我不明白为什么 JNI 的 dylib 这么小。如何使 tfserver 构建具有可比较的大小?
| 归档时间: |
|
| 查看次数: |
1742 次 |
| 最近记录: |