使用变换图量化后，Tensorflow SSD Mobilenet模型精度下降

Question

我正在研究谷歌最近发布的“SSD-Mobilenet”模型，用于目标检测。模型从以下位置下载：https://github.com/tensorflow/models/blob/master/object_detection/g3doc/detection_model_zoo.md

从网站下载的冻结图形文件按预期工作，但量化后精度显著下降（主要是随机预测）。

我建立了tensorflow r1。2来源，并使用以下方法进行量化：

bazel bin/tensorflow/tools/graph_transforms/transform_graph--in_graph=冻结的推理图。pb——out_图=优化的_图。pb--输入='image\u tensor'--输出='detection\u box'、'detection\u scores'、'detection\u classes'、'num\u detections'--转换='add\u default\u attributes strip\u unused\u nodes（type=float，shape=“1224224,3”）fold\u常量（忽略错误=true）fold\u batch\u norms fold\u batch\u norms量化权重strip\u unused\u unused\u nodes\u未使用的节点按执行顺序排序'

我在“变换”部分尝试了各种组合，上面提到的变换有时给出了正确的预测，但是没有接近原始模型的地方。

有没有其他方法可以提高量化模型的性能？

Answer 1

在这种情况下，SSD使用mobilenet作为其功能提取器。为了提高速度。如果你读过mobilenet的文章，它是一个轻量级的卷积神经网络，专门使用可分离卷积来减少参数。

据我所知，可分离卷积会因为信道卷积而丢失信息。

因此，当根据TF实现对图形进行量化时，它会进行16位运算，并将权重设置为8位。如果你阅读了TF中的量化教程，他们清楚地提到，这个操作更像是在已经训练好的网络中添加一些噪声，希望我们的模型得到很好的推广。

因此，对于像inception、resnet等重型模型来说，这将非常有效，几乎是无损失的精度。但是，使用mobilenet的ssd的轻巧和简单性确实会造成精度损失。

MobileNets：用于移动视觉应用的高效卷积神经网络

如何用TensorFlow量化神经网络