浮動小数点モデルとキャリブレーション セットの準備 - 3.5 日本語

Vitis AI ユーザー ガイド (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 日本語

vai_q_onnx を実行する前に、次の表にリストされているファイルを含む浮動小数点モデルとキャリブレーション セットを準備します。

表 1. vai_q_onnx 用の入力ファイル
番号 名前 説明
1 float model ONNX 形式の浮動小数点モデル。
2 キャリブレーション データセット 入力データの分布を表現するトレーニング データセットまたは検証用データセットのサブセット。通常は 100 ~ 1000 個の画像で十分です。