vai_q_onnx
を実行する前に、次の表にリストされているファイルを含む浮動小数点モデルとキャリブレーション セットを準備します。
番号 | 名前 | 説明 |
---|---|---|
1 | float model | ONNX 形式の浮動小数点モデル。 |
2 | キャリブレーション データセット | 入力データの分布を表現するトレーニング データセットまたは検証用データセットのサブセット。通常は 100 ~ 1000 個の画像で十分です。 |
vai_q_onnx
を実行する前に、次の表にリストされているファイルを含む浮動小数点モデルとキャリブレーション セットを準備します。
番号 | 名前 | 説明 |
---|---|---|
1 | float model | ONNX 形式の浮動小数点モデル。 |
2 | キャリブレーション データセット | 入力データの分布を表現するトレーニング データセットまたは検証用データセットのサブセット。通常は 100 ~ 1000 個の画像で十分です。 |