量子化されたモデルの生成 - 3.5 日本語

Vitis AI ユーザー ガイド (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 日本語

vai_q_tensorflow コマンドが正しく実行されると、${output_dir} に出力ファイルが 1 つ生成されます。quantize_eval_model.pb は、CPU および GPU 上で量子化されたモデルの精度を評価するために使用できるだけでなく、ハードウェア上での結果をシミュレーションするためにも使用できます。

表 1. vai_q_tensorflow 出力ファイル
番号 名前 説明
1 deploy_model.pb DPUCZDX8G インプリメンテーションをターゲットとする、Vitis AI コンパイラ用の量子化されたモデル (拡張された Tensorflow 形式)。
2 quantize_eval_model.pb 評価用の量子化されたモデル (DPUCAHX8H、DPUCADF8H など、ほとんどの DPU アーキテクチャでは Vitis AI コンパイラの入力)。