用于可变大小输入的Tensorflow Lite

Question

我有一个很像tensorflow语音命令演示的模型，只是它需要一个大小可变的1D数组作为输入。现在，我发现很难使用tflite\u convert将此模型转换为tflite，因为tflite\u convert需要输入形状。

据说tf lite需要固定大小的输入以提高效率，您可以在推理过程中调整输入大小，作为模型的一部分。然而，我认为这将涉及截断我不想要的输入。有什么方法可以让TF lite发挥作用吗？

Answer 1

您可以使用固定形状转换模型，如“input_shape=64”中所示，然后在推断时执行以下操作：

  interpreter->ResizeInputTensor(interpreter->inputs()[0], {128});
  interpreter->AllocateTensors();
  // ... populate your input tensors with 128 entries ...
  interpreter->Invoke();
  // ... read your output tensor ...