浮動小数点モデルと関連する入力ファイルを準備する - 2.5 日本語

Vitis AI ユーザー ガイド (UG1414)

Document ID
UG1414
Release Date
2022-06-15
Version
2.5 日本語

vai_q_tensorflow を実行する前に、次の表にリストされているファイルを含む、浮動小数点形式の凍結された推論 TensorFlow モデルとキャリブレーション セットを準備します。

表 1. vai_q_tensorflow 用の入力ファイル
No. 名前 説明
1 frozen_graph.pb 浮動小数点の凍結された推論グラフ。トレーニング グラフではなく推論グラフであることを確認する必要があります。
2 キャリブレーション データセット 100 ~ 1000 個のイメージを含むトレーニング データセットの一部。
3 input_fn 量子化の実行中にキャリブレーション データセットを frozen_graph の入力データに変換する入力関数。通常はデータの前処理と拡張を実行します。