转换后的tensorflow lite模型是否始终具有量化计算和输出?还是取决于tensorflow模型的输入和推理类型?
这取决于推理类型。
首先,输入模型应使用量化操作进行检测,https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/quantize 这可能会有帮助。
生成的评估图应提供给TOCO,以便使用--inference_type=QUANTIZED_UINT8和输入数组的正确--mean_值和--std_值进行转换。
有关如何为量化模型调用TOCO的一些示例,请参阅https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/toco/g3doc/cmdline_examples.md。
更新:我们添加了一个新的培训后量化工具:https://medium.com/tensorflow/tensorflow-model-optimization-toolkit-post-training-integer-quantization-b4964a1ea9ba 这应该比旧的量化方法更容易。
我在android studio上运行了一个Tensorflow示例(https://github.com/Tensorflow/examples/blob/master/lite/examples/image_classification/android/readme.md),得到以下错误。
校验者: @飓风 @小瑶 @FAME @v 翻译者: @小瑶 @片刻 @那伊抹微笑 有 3 种不同的 API 用于评估模型预测的质量: Estimator score method(估计器得分的方法): Estimators(估计器)有一个 score(得分) 方法,为其解决的问题提供了默认的 evaluation criterion (评估标准)。 在这个页面上没有相关讨论,但是在每个 esti
如果我的计算机有12个内核,我的模型有15个场景运行,批量运行是否会自动将最初的12个运行分配给每个内核,并同时运行相应的运行以节省时间?如果是,我还想知道我是否可以控制核心的使用,例如,在批量运行时限制使用8个核心,以防止单次运行规模过大时出现OOM。
1、自我介绍 2、介绍强化学习项目 状态、动作空间怎么设置的? 强化学习算法分为哪几类?PPO是On policy还是off policy?off policy和on policy的区别是什么?off policy相比于on policy有哪些优点和缺点? 3、机器学习 对哪些机器学习算法比较熟悉?特征怎么选的?lgb超参数怎么调的?特征是越多越好吗? 4、实习 CPT用了多少数据?什么机器配置?
我正在开发一个端到端训练和量化感知的训练示例。使用CIFAR10数据集,我加载了一个预训练的MobilenetV2模型,然后使用TensorFlow指南中的代码来量化我的模型。整个过程适当结束后,我得到以下结果: 注意,我并没有更改我从TensorFlow指南中附带的代码,我只是使用了一个不同的数据集和模型。
问题内容: 我出现了不想要的行为,即,它更改了进入原始函数的参数的数据类型。我最初的问题是关于一般情况的,我将使用这个新问题来提出更具体的情况。 (为什么要问第二个问题?为了说明问题,我创建 了一个关于更具体案例 的问题-从具体问题到更一般的问题总是比较容易。而且我 单独 创建了这个问题,因为我认为这是有助于保持一般情况以及对一般情况的答复(应该找到),而不会因为考虑解决任何特定问题而受到“污染”