OpenVINO系列26丨DL Workbench的介绍与使用

酆君墨
2023-12-01

1.什么是DL Workbench

DL Workbench是可视化的OpenVINO模型性能评估工具,用户可以在web界面下选择已有的英特尔硬件设备进行模型评估。这个工具包含了下载深度学习模型、定制和生成推理所需数据集、优化模型、校准模型、调整和比较模型的性能,从而找到最符合工程实践的模型进行部署和使用。

2.DL Workbench支持哪些设备

DL Workbench支持基于Intel CPU、GPU、NCS2和具有英特尔VPU架构的视觉加速设备HDDL。需要注意的是由于MYRIAD和HDDL设备不兼容,因此不能在DL Workbench中一起使用,故不能同时设置。

3.DL Workbench可以做哪些事情

  • 可以从Open Model Zoo下载具有预训练模型的模型,用于各种不同任务

  • 使用模型优化器来优化模型,转换为中间表示(IR)格式

  • 可以定制和生成推理所需数据集

  • 训练后优化工具包,用于校准模型,然后以INT8精度执行

  • 准确性检查器,以确定模型的准确性

4.DL Workbench安装

Workbench有两种安装方式:

  • 从Docker Hub安装DL Workbench(包括在Linux,Windows和macOS上安装)

  • 从OpenVINO工具包软件包中安装DL Workbench。参见链接:

 类似资料: