是否可以导出一个syntaxnet模型(Parsey McParseface)来提供TensorFlow服务？

Question

我有demo.sh工作正常,我看了解parser_eval.py并在一定程度上完成了所有操作.但是,我没有看到如何使用TensorFlow服务来提供这个模型.我可以看到两个问题:

1)这些图没有导出的模型,图形是在每次调用时使用图形构建器(例如structured_graph_builder.py),上下文协议缓冲区以及其他一些我不完全理解的东西构建的. (它似乎也注册了额外的syntaxnet.ops).那么......是否可能,以及如何将这些模型导出为Serving所需的"捆绑"形式SessionBundleFactory？如果没有,似乎需要在C++中重新实现图形构建逻辑/步骤,因为Serving仅在C++上下文中运行.

2)demo.sh实际上是两个模型与UNIX管道一起管道,所以任何Servable都必须(可能)构建两个会话并将数据从一个到另一个进行编组.这是正确的方法吗？或者是否可以构建一个"大"图表,其中包含两个"修补"并同时导出的模型？

Answer 1

经过大量的学习,研究等工作后,我最终总结了一个对tensorflow/models和syntaxnet的拉取请求,实现了从TF服务中服务Parsey McParseface的目标.

https://github.com/tensorflow/models/pull/250

这里没有的是实际的"服务"代码,但与解决上述问题中的问题的工作相比,这是相对微不足道的.