在用于服务模型的Tensorflow中，服务输入功能应该做什么

Question

因此，我一直在努力了解在Tensorflow中出于训练目的导出经过训练的模型时，serving_input_fn（）的主要任务是什么。网上有一些例子可以解释它，但是我在为自己定义它时遇到了问题。

我要解决的问题是一个回归问题，其中有29个输入和一个输出。是否有用于为此创建相应的服务输入功能的模板？如果我使用一类分类问题怎么办？服务输入功能是否需要更改，或者我可以使用相同的功能？

最后，我是否总是需要提供输入功能，还是仅当使用tf.estimator导出模型时才使用？

Answer 1

如果希望模型能够进行预测，则需要提供服务的输入功能。serving_input_fn指定predict（）方法的调用者必须提供的内容。您实际上是在告诉模型必须从用户那里获取什么数据。

如果您有29个输入，则服务输入功能可能类似于：

def serving_input_fn():
    feature_placeholders = {
      'var1' : tf.placeholder(tf.float32, [None]),
      'var2' : tf.placeholder(tf.float32, [None]),
      ...
    }
    features = {
        key: tf.expand_dims(tensor, -1)
        for key, tensor in feature_placeholders.items()
    }
    return tf.estimator.export.ServingInputReceiver(features, 
                                                    feature_placeholders)

通常以JSON形式出现：

{"instances": [{"var1": [23, 34], "var2": [...], ...}]}

PS输出不是服务输入功能的一部分，因为这与要预测的输入有关。如果您使用的是预制估算器，则输出已经预先确定。如果要编写自定义估算器，则应编写导出签名。