量化TensorFlow MobileNet模型中的浮点运算
正如您在TensorFlow中实现的量化MobileNet模型的屏幕截图中看到的那样，仍然有一些浮动操作。量化是通过graph_transform工具在TensorFlow中完成的。
图像中的红色椭圆在右侧大小文本框中有其描述。“depthwise”是一个“depthwiseConv2Native”操作，需要“DT_FLOAT”输入。
尽管较低的Relu6执行8位量化操作，但结果必须经过“（Relu6）”，这是一个“去量化”运算，以便为深度卷积产生“DT_FLOAT”输入。
为什么TFgraph_transform工具忽略了深度conv操作？谢谢你。
共有1个答案
不幸的是，在标准的TensorFlow中没有深度conv的量化版本，所以它回到了前后转换的浮点实现。对于完整的8位MobileNet实现，您需要查看TensorFlow Lite，您可以在这里了解更多信息：
https://www.tensorflow.org/mobile/tflite/
-
以下是go中的示例代码： 结果线A1、B1和C1之间的差异是可以理解的。然而，从A2开始到C2魔法来了。来自B2和C2的结果都与来自A2线的结果不匹配。对于x2行（x=A、B或C）也是如此——但是x2和x4的输出是相同的。 为了确保，让我们以二进制形式打印结果。 上面代码中的一些事实（一个在bin表单中）： 行A11和C11之间有差异（最后一位数字——就在指数之前）。 行A12和C12几乎相同（除
-
本文向大家介绍DSP中浮点转定点运算--定点数模拟浮点数运算及常见的策略，包括了DSP中浮点转定点运算--定点数模拟浮点数运算及常见的策略的使用技巧和注意事项，需要的朋友参考一下 4.定点数模拟浮点数运算及常见的策略 相信大家到现在已经大致明白了浮点数转换成定点数运算的概貌。其实，原理讲起来很简单，真正应用到实际的项目中，可能会遇到各种各样的问题。具我的经验，常见的策略有如下几条： 1）除法转
-
对于这些代码行，我得到0作为输出，即它们都是相等的。现在，如果我理解正确，a b和c可能会存储稍微不同版本的真值.3因此，当做一个Float.compare（...）对这些值，我希望得到一个输出值，而不是0。为什么我把它们取为0？
-
我阅读关于浮点和舍入在浮点算术期间发生的错误。 我读了很多关于IEEE754单精度/双精度格式的文章。我知道有符号位、8（或）11位指数和23（或）52位有效位以及隐式前导位。 我也知道分母不是质因数2的实数不能完全表示，例如二进制中的0.1是0.0001100110011...... 我知道0.1 0.1 0.1不等于0.3，因为舍入误差的累积。 同样，0.5也可以用二进制格式表示，因为它是1/
-
我想编写一个函数模板，它返回各种类型的随机变量（bool、char、short、int、float、double，以及这些变量的无符号版本）。 我看不出如何使用最新的C 11标准库来实现这一点，因为我需要使用统一的int分布或统一的real分布。我想我可以专门化模板： 在Visual Studio 2012 Update 3下，这给出了： 错误C2668:“‘匿名命名空间’：：randomPrim
-
本文向大家介绍DSP中浮点转定点运算--浮点与定点概述，包括了DSP中浮点转定点运算--浮点与定点概述的使用技巧和注意事项，需要的朋友参考一下 一：浮点与定点概述 1.1相关定义说明 定点数：通俗的说，小数点固定的数。以人民币为例，我们日常经常说到的如123.45￥，789.34￥等等，默认的情况下，小数点后面有两位小数，即角，分。如果小数点在最高有效位的前面，则这样的数称为纯小数的定点数，