将Keras模型转换为C++

Question

我正在使用Keras(与Theano)来训练我的CNN模型.有谁知道如何在我的C++应用程序中使用它？有没有人尝试类似的东西？我有想法写一些python代码,它将生成一个带有网络功能的c ++代码 - 有什么建议吗？

我在这里找到了一个类似的问题,如何在C++中使用Tensorflow Keras模型,但没有回答.

Answer 1

要回答我自己的问题并找到解决方案 - 我写了一个名为keras2cpp的简单c ++解决方案(它的代码在github上可用).

在此解决方案中,您存储网络体系结构(在json中)和权重(在hdf5中).然后,您可以使用提供的脚本将网络转储到纯文本文件.您可以在纯c ++代码中使用网络获取的文本文件.python库或hdf5没有依赖关系.它应该适用于theano和tensorflow后端.

Answer 2

我发现自己处于类似的情况,但不仅需要支持C++中顺序Keras模型的前向传递,还需要使用功能API构建更复杂的模型.

所以我写了一个名为frugally-deep的新库.你可以在GitHub上找到它并在MIT许可证下发布:https://github.com/Dobiasd/frugally-deep

除了支持许多常见的图层类型之外,它还可以在单​​个CPU上跟上(有时甚至击败)TensorFlow的性能.您可以在回购中找到一些常见模型的最新基准测试结果.

通过自动测试节俭深度保证C++中使用它的模型的输出与在Python中使用Keras运行时完全相同.

Answer 3

如果您的keras模型是使用tensorflow后端训练的，则可以按照以下代码将keras模型另存为tensorflow模型：https : //github.com/amir-abdi/keras_to_tensorflow

这是代码的简短版本：

from keras import backend as K
from tensorflow.python.framework import graph_util
from tensorflow.python.framework import graph_io

weight_file_path = 'path to your keras model'
net_model = load_model(weight_file_path)
sess = K.get_session()

constant_graph = graph_util.convert_variables_to_constants(sess, sess.graph.as_graph_def(), 'name of the output tensor')
graph_io.write_graph(constant_graph, 'output_folder_path', 'output.pb', as_text=False)
print('saved the constant graph (ready for inference) at: ', osp.join('output_folder_path', 'output.pb'))

Answer 4

你可以试试这个 https://github.com/gosha20777/keras2cpp

Keras2cpp 是一个小型库，用于从 C++ 应用程序运行经过训练的 Keras 模型，无需任何依赖。

支持的 Keras 层： - Dense - Convolution1D - Convolution2D - Convolution3D - Flatten - ELU - Activation - MaxPooling2D - Embedding - LocallyConnected1D - LocallyConnected2D - LSTM - GRU - CNN - BatchNormalization

支持的激活：-线性-relu-softplus-tanh-sigmoid-hard_sigmoid-elu-softsign-softmax

设计目标：

• 与 Keras 使用 TensorFlow 后端生成的网络兼容。
• 仅限 CPU。
• 无外部依赖，标准库，C++17。
• 模型存储在内存中。