VAI_C 用法 - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文

在数据中心到边缘 DPU 上,Caffe 和 TensorFlow 框架的对应 Vitis AI 编译器分别为 vai_c_caffevai_c_tensorflowvai_c_tensorflow2vai_c_xir。VAI_C 的标准选项如下表所示。

表 1. 用于数据中心和边缘 DPU 的 VAI_C 常用选项
参数 描述
--arch 适用于 VAI_C 编译器的 DPU 架构配置文件,采用 JSON 格式。对于 AMD Vitis™ AI 版本中的预构建 DPU XCLBIN,您可以在 AMD Vitis™ AI Docker (/opt/vitis_ai/compiler/arch) 中找到对应的 arch.json 文件。内容应类似这样:{"target": "DPUCZDX8G_ISA0_B4096"}。对于自定义 DPU IP,对应的 arch.json 文件由 DPU 参考设计和 DPU IP 一起生成。内容应类似这样:{"fingerprint":"0x0101000016010407"}。fingerprint 为 64 位数字签名,用于识别 DPU 目标。其中,1 字节指示 DPU 类型,1 字节指示 ISA 版本,6 字节指示具体配置。每个 DPU 配置的 fingerprint 都是唯一的,运行时依赖它来识别当前平台上运行的 DPU 实例,并验证模型是否针对该 DPU 目标而编译。“DPUCZDX8G_ISA0_B4096”是特定 fingerprint 的别名,在编译器中预定义。
--output_dir 编译进程完成后的 vai_c_tensorflow 输出目录路径。
--net_name 由 VAI_C 编译的网络模型的 DPU 内核名称。
--options 附加选项列表,格式为:'key':'value'。如果要指定多个选项,请用“,”隔开。

使用 --options '{"input_shape": "1,224,224,3"}' 手动指定输入形状。

使用 --options '{"plugins": "plugin0,plugin1"}' 指定插件库。

使用 --options '{"output_ops": "op_name0,op_name1"}' 指定输出运算。

使用 --options '{"prefetch": "true"}' 启用跨层预取。

使用 --options '{"hd_opt": "true"}' 为 HD 输入启用特殊最优化。

注释: 以“--options”指定的实参享有最高优先级,且覆盖其他位置指定的值。