如何使用C++为tensorflow加载检查点和推理？

Question

我有Tensorflow与python api并获得这些检查点模型文件:

model.ckpt-17763.data-00000-of-00001
model.ckpt-17763.index
model.ckpt-17763.meta

但是在集成到生产环境中时,我想要一个C/C++共享库(.so文件).所以我需要使用C++代码加载这些模型文件和推理并编译到共享库.这样做有一些教程或样本吗？

Answer 1

您可以使用此处给出的说明编写c ++代码来加载和使用图形.

您可以使用此处的文件在 TF存储库外部创建具有tensorflow的Cmake项目,并编译您的库.

但是,你仍然需要你的.so旁边的.ckpt文件,我不知道如何将它们插入其中.

关于SO的内容有很多问题,还有一些教程(参见本答复中引用的两篇),但由于张量流很快发展,它们很快就会过时,而且让它正常工作总是有点困难(虽然完全可行,但也变得更容易了.