当前位置: 首页 > 工具软件 > Core Lite > 使用案例 >

tflite模型转换与MLIR

倪鸿禧
2023-12-01

        模型量化有两种方式:python API和toco工具,这两种方式都可以进行tflite模型转换,包括float16、int8两种数据格式的tflite模型。

量化训练后的模型(带有虚节点)生成float16tflite模型

./bazel-bin/tensorflow/lite/toco/toco --input_file=model.pb   --output_file=pl.tflite   --input_format=TENSORFLOW_GRAPHDEF   --output_format=TFLITE   --inference_type=FLOAT --input_shape=1,768,768,3   --input_array=Placeholder   --output_arrays=strided_slice_11,strided_slice_12   --drop_fake_quant   --mean_value=0   --std_value=1

量化训练后的模型(带有虚节点)生成int8 tflite模型

./bazel-bin/tensorflow/lite/toco/toco --input_file=pixel_link_quan_sigmoid_split64_big_768_x4.pb   --output_file=pl2.tflite   --input_format=TENSORFLOW_GRAPHDEF   --output_format=TFLITE   --inference_type=QUANTIZED_UINT8   --input_shape=1,768,768,3   --input_array=Placeholder   --output_arrays=strided_slice_11,strided_slice_

 类似资料: