服务TensorFlow预构建的线性分类器估计器模型

Question

我正在尝试使用我们自己的CSV数据集运行本教程的训练模型，其中每一行由4个int值（最后一个是标签）组成，距离使用TensorFlow Serving：

我正在远处使用Docker运行TensorFlow Serving，我的开发环境是使用Python 3.6的Windows。

我使用以下代码导出模型，类似于此处给出的示例：

feature_spec = {'firstInt': tf.FixedLenFeature([1], tf.int64),
                'secondInt': tf.FixedLenFeature([1], tf.int64),
                'thirdInt': tf.FixedLenFeature([1], tf.int64)}

def serving_input_receiver_fn():
    serialized_tf_example = tf.placeholder(dtype=tf.string,
                                           shape=[None],
                                           name='input_example_tensor')
    receiver_tensors = {'examples': serialized_tf_example}
    features = tf.parse_example(serialized_tf_example, feature_spec)
    return tf.estimator.export.ServingInputReceiver(features, receiver_tensors)

classifier.export_savedmodel(
    '.\\SaveLC\\save_dir',
    serving_input_receiver_fn=serving_input_receiver_fn)

老实说，我不确定会有什么样的结果，但是在本指南中，half _ plus _模型给出了这样一个预测数组

"predictions": [
        2.5,
        3,
        4.5
    ]

当它发出这样的POST请求时

{"instances": [1.0, 2.0, 5.0]}

所以我想类似的东西应该被归还，但相反，我被告知一个可服务甚至不存在。值得注意的是，它似乎也与指南中提供的其他模型一起执行此操作。

"error": "Servable not found for request: Latest(save_dir_new)"

这个可服务的是什么？如果我当前的方法不工作，它将如何被导出？

谢谢

Answer 1

这看起来像是您保存模型的路径，< code >。\\SaveLC\\save_dir和用于启动TensorFlow服务容器和打开REST API端口的路径可能不同。

启动TensorFlow Serving容器并打开REST API端口的代码是：

docker run -t --rm -p 8501:8501 \
    -v "$TESTDATA/saved_model_half_plus_two_cpu:/models/half_plus_two" \
    -e MODEL_NAME=half_plus_two \
    tensorflow/serving &

冒号前的路径，在本例中，$TESTDATA/saved_model_half_plus_two_cpu和您保存模型的路径应该是相同的，如果我们从终端或命令提示符执行命令，它应该是完整的路径。

关于模型路径的另一个要点是，我们不应该在上面的命令中包含版本号或时间戳值。