部署了Tensorflow服务并运行测试用于Inception-V3.工作良好.
现在,想为Inception-V3服务进行批处理.例如,想发送10张图像用于预测而不是一张.
怎么做?要更新哪些文件(inception_saved_model.py或inception_client.py)?那些更新是什么样的?以及如何将图像传递给服务 - 它是作为包含图像的文件夹传递还是如何传递?
欣赏这个问题的一些见解.与此相关的任何代码段都非常有用.
=================================
更新了inception_client.py
# Copyright 2016 Google Inc. All Rights Reserved.
#
# Licensed under the Apache License, Version 2.0 (the "License");
# you may not use this file except in compliance with the License.
# You may obtain a copy of the License at
#
# http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT …Run Code Online (Sandbox Code Playgroud) 如何做到用配料的性能优化max_batch_size,batch_timeout_micros,num_batch_threads等参数?尝试将这些参数与 Query 客户端一起使用,它不起作用。
在下面的示例中,我有 100 张图像,我想以 10 的大小进行批处理。查询针对所有图像而不是 10 张运行。
bazel-bin/tensorflow_serving/example/demo_batch --server=localhost:9000 --max_batch_size=10
Run Code Online (Sandbox Code Playgroud)
另外,对于批量调度,如何在第一批完成后每 10 秒运行一次?谢谢。
要查找 Tensorflow 版本,我们可以通过以下方式执行此操作: python -c 'import tensorflow as tf; 打印(tf.版本)'
Tensorflow Serving是单独安装的,那么如何查找Tensorflow Serving的版本呢?
和张量流一样吗?没有看到任何与此相关的参考/评论或文档。