要生成量化推断模型和参考结果,请遵循下列步骤进行操作:
- 运行以下命令对模型进行量化,以生成量化推断模型。
python resnet18_quant.py --quant_mode calib --subset_len 200
- 在 export_xmodel API 中,将 deploy_check 设置为 True。
quantizer.export_xmodel(deploy_check=True)
- 运行以下命令生成参考数据,以生成参考结果。
python resnet18_quant.py --quant_mode test --deploy
- 运行以下命令生成 DPU XMODEL 文件,以生成 DPU XMODEL 文件。
vai_c_xir -x /PATH/TO/quantized.xmodel -a /PATH/TO/ arch.json -o /OUTPUTPATH -n netname}
- 生成 DPU 推断结果。
此步骤与 TensorFlow 工作流程中的步骤相同。
- 请对参考结果和 DPU 推断结果进行交叉核对。
此步骤与 TensorFlow 工作流程中的步骤相同。