use*_*617 5 python tensorflow tensorflow-serving tensorflow-estimator tensorflow2.0
到目前为止,我正在使用tf.contrib.predictor.from_saved_model加载SavedModel(tf.estimator模型类)。然而,不幸的是这个函数在 TensorFlow v2 中被删除了。到目前为止,在 TensorFlow v1 中,我的编码如下:
predict_fn = predictor.from_saved_model(model_dir + '/' + model, signature_def_key='predict')
prediction_feed_dict = dict()
for key in predict_fn._feed_tensors.keys():
#forec_data is a DataFrame holding the data to be fed in
for index in forec_data.index:
prediction_feed_dict[key] = [ [ forec_data.loc[index][key] ] ]
prediction_complete = predict_fn(prediction_feed_dict)
Run Code Online (Sandbox Code Playgroud)
使用tf.saved_model.load,我在 TensorFlow v2 中尝试了以下操作,但没有成功:
model = tf.saved_model.load(model_dir + '/' + latest_model)
model_fn = model.signatures['predict']
prediction_feed_dict = dict()
for key in model_fn._feed_tensors.keys(): #<-- no replacement for _feed_tensors.keys() found
#forec_data is a DataFrame holding the data to be fed in
for index in forec_data.index:
prediction_feed_dict[key] = [ [ forec_data.loc[index][key] ] ]
prediction_complete = model_fn(prediction_feed_dict) #<-- no idea if this is anyhow close to correct
Run Code Online (Sandbox Code Playgroud)
所以我的问题是(都在 TensorFlow v2 的背景下):
_feed_tensors.keys()?tf.estimator如何使用加载的模型以直接的方式进行推理tf.saved_model.load 非常感谢,非常感谢任何帮助。
注意:此问题与此处发布的问题并不重复,因为此处提供的答案全部依赖于 TensorFlow v1 中已在 TensorFlow v2 中删除的功能。
编辑:这里的问题帖子似乎问了基本相同的事情,但直到现在(2020-01-22)也没有得到解答。
小智 0
希望您已使用类似于下面提到的代码保存了估计器模型:
input_column = tf.feature_column.numeric_column("x")
estimator = tf.estimator.LinearClassifier(feature_columns=[input_column])
def input_fn():
return tf.data.Dataset.from_tensor_slices(
({"x": [1., 2., 3., 4.]}, [1, 1, 0, 0])).repeat(200).shuffle(64).batch(16)
estimator.train(input_fn)
serving_input_fn = tf.estimator.export.build_parsing_serving_input_receiver_fn(
tf.feature_column.make_parse_example_spec([input_column]))
export_path = estimator.export_saved_model(
"/tmp/from_estimator/", serving_input_fn)
Run Code Online (Sandbox Code Playgroud)
您可以使用下面提到的代码加载模型:
imported = tf.saved_model.load(export_path)
Run Code Online (Sandbox Code Playgroud)
要Predict通过传递输入特征来使用模型,您可以使用以下代码:
def predict(x):
example = tf.train.Example()
example.features.feature["x"].float_list.value.extend([x])
return imported.signatures["predict"](examples=tf.constant([example.SerializeToString()]))
print(predict(1.5))
print(predict(3.5))
Run Code Online (Sandbox Code Playgroud)
有关更多详细信息,请参阅此链接,其中解释了使用 TF Estimator 保存的模型。
| 归档时间: |
|
| 查看次数: |
4816 次 |
| 最近记录: |