DL Workbench是可视化的OpenVINO模型性能评估工具,用户可以在web界面下选择已有的英特尔硬件设备进行模型评估。这个工具包含了下载深度学习模型、定制和生成推理所需数据集、优化模型、校准模型、调整和比较模型的性能,从而找到最符合工程实践的模型进行部署和使用。
DL Workbench支持基于Intel CPU、GPU、NCS2和具有英特尔VPU架构的视觉加速设备HDDL。需要注意的是由于MYRIAD和HDDL设备不兼容,因此不能在DL Workbench中一起使用,故不能同时设置。
可以从Open Model Zoo下载具有预训练模型的模型,用于各种不同任务
使用模型优化器来优化模型,转换为中间表示(IR)格式
可以定制和生成推理所需数据集
训练后优化工具包,用于校准模型,然后以INT8精度执行
准确性检查器,以确定模型的准确性
Workbench有两种安装方式:
从Docker Hub安装DL Workbench(包括在Linux,Windows和macOS上安装)
从OpenVINO工具包软件包中安装DL Workbench。参见链接: