PyTorch 工作流程 - 3.5 简体中文

Vitis AI 用户指南 (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 简体中文

要生成量化推断模型和参考结果,请遵循下列步骤进行操作:

  1. 运行以下命令对模型进行量化,以生成量化推断模型。
    python resnet18_quant.py --quant_mode calib --subset_len 200
  2. export_xmodel API 中,将 deploy_check 设置为 True
    quantizer.export_xmodel(deploy_check=True)
  3. 运行以下命令生成参考数据,以生成参考结果。
    python resnet18_quant.py --quant_mode test  --deploy
  4. 运行以下命令生成 DPU XMODEL 文件,以生成 DPU XMODEL 文件。
    vai_c_xir -x /PATH/TO/quantized.xmodel -a /PATH/TO/
    arch.json -o /OUTPUTPATH -n netname}
  5. 生成 DPU 推断结果。

    此步骤与 TensorFlow 工作流程中的步骤相同。

  6. 请对参考结果和 DPU 推断结果进行交叉核对。

    此步骤与 TensorFlow 工作流程中的步骤相同。