标签: serving
如何使用 tensorflow-serving 发布自定义（非 tensorflow）模型？
我已经阅读了基本和高级tensorflow-serving 教程，但我仍然不清楚如何在 tensorflow-serving 中为以下内容建立支持：
- 用 Python 构建的模型（如 xgboost 或 scikit-learn）
- 内置 R 的模型（如 xgboost 或 lightgbm）
考虑使用 TFBT 可用tf.contrib，但根据this，TensorFlow Boosted Trees (TFBT)需要更长的时间以培训相比xgboost，并指出它有精度差。
任何帮助或建议将不胜感激...
推荐指数
解决办法
查看次数
如何在spark上部署tensorflow模型仅进行推理
我想在 Spark 上部署一个大模型（例如 bert）来进行推理，因为我没有足够的 GPU。现在我有两个问题。
- 我将模型导出为 pb 格式并使用 SavedModelBundle 接口加载模型。
SavedModelBundle bundle=SavedModelBundle.load("E:\\pb\\1561992264","serve");
但是，我找不到加载 hdfs 文件系统路径的 pb 模型的方法
- Spark环境的Glibc版本与我训练模型的tensorflow版本不兼容。无论如何要解决这个问题吗？
我不确定这是否是在 Spark 上提供张量流模型的好方法。任何其他建议表示赞赏！
推荐指数
解决办法
查看次数
Tensorflow：服务模型始终返回相同的预测
我需要你的帮助，我现在有点陷入困境。
我重新训练了一个分类张量流模型，它给出了非常好的结果。现在我想通过张量流服务来服务它。我设法提供了它，但是当我使用它时，无论输入是什么，它总是给我相同的结果。
我认为导出模型的方式有问题，但我不知道是什么。下面是我的代码。
有人可以帮助我吗？非常感谢大家
这是将我的输入图像转换为 tf 可读对象的函数：
def read_tensor_from_image_file(file_name, input_height=299, input_width=299,
input_mean=0, input_std=255):
input_name = "file_reader"
output_name = "normalized"
file_reader = tf.read_file(file_name, input_name)
if file_name.endswith(".png"):
image_reader = tf.image.decode_png(file_reader, channels = 3,
name='png_reader')
elif file_name.endswith(".gif"):
image_reader = tf.squeeze(tf.image.decode_gif(file_reader,
name='gif_reader'))
elif file_name.endswith(".bmp"):
image_reader = tf.image.decode_bmp(file_reader, name='bmp_reader')
else:
image_reader = tf.image.decode_jpeg(file_reader, channels = 3,
name='jpeg_reader')
float_caster = tf.cast(image_reader, tf.float32)
dims_expander = tf.expand_dims(float_caster, 0);
resized = tf.image.resize_bilinear(dims_expander, [input_height, input_width])
normalized = tf.divide(tf.subtract(resized, [input_mean]), [input_std])
sess = tf.Session()
result = sess.run(normalized)
return result,normalized
这就是我导出模型的方式：
# …推荐指数
解决办法
查看次数
找不到 css 文件 - ASP.NET Core Web 应用程序
我已经创建了一个 asp.net core Web 应用程序（我从“空”选项开始），并且正在逐步构建它。看来我的 css 文件没有被读取或找到。
当我启动应用程序时，我可以看到我的 html 页面看起来不正常，当我在控制台下使用 Edge 中的开发人员工具时，出现错误，HTTP404: NOT FOUND - The server has not found anything matching the requested URI (Uniform Resource Identifier). GET - http://localhost:8888/css/site.css表明我的 css 文件确实没有被读取或找到。
现在，我的 css 文件位于项目根目录中名为“css”的文件夹下。当我说 root 时，我的意思是我刚刚创建了一个名为 css 的文件夹，并且路径与 Program.cs 或 Startup.cs 相同。我的项目中没有wwwroot（好像asp.net core 2.2默认已经去掉了？），css文件夹也不在。如下是我的 html 页面中的代码，我尝试在“/css”之前添加 ~ 但仍然没有。
<head>
<link href="/css/site.css" rel="stylesheet" />
</head>
推荐指数
解决办法
查看次数
使用 kserve seldon 或 Bentoml 进行 ML 服务
kserve、seldon core 或 BentoML 哪个更好？以及每一种的优点/缺点和特点是什么
查了很多资料都没有找到明确的答案
推荐指数
解决办法
查看次数
Django 1.7 - 提供静态文件
我正在关注官方文档以提供静态文件,但我在开发控制台中收到错误404.我正在使用'django.contrib.staticfiles',因此应该自动提供静态文件.这是我的设置:
设置:
STATIC_ROOT = ''
STATIC_URL = '/static/'
模板标题:
{% load staticfiles %}
<link rel="stylesheet" href="{% static "css/app.css" %}">
目录树:
django_project
\apps
\static
\css
app.css
\templates
index.html
我可以在firefox控制台中看到我文件的路径是正确的:
所以问题必须是Django不提供静态文件.我找不到我所缺少的东西.任何建议都非常受欢迎.
推荐指数
解决办法
查看次数
标签 统计
serving ×6
tensorflow ×3
python ×2
apache-spark ×1
django ×1
hdfs ×1
java ×1
seldon-core ×1
static ×1