Vitis AI クオンタイザーは、32 ビット浮動小数点の重みやアクティベーション コードを INT8 などの固定小数点に変換することで、予測精度を損なうことなく計算の複雑レベルを軽減できます。固定小数点ネットワーク モデルの方が、浮動小数点モデルよりも必要なメモリ帯域幅が狭く、速度と電力効率が向上します。
図 1. Vitis AI クオンタイザー
Vitis AI クオンタイザーは、32 ビット浮動小数点の重みやアクティベーション コードを INT8 などの固定小数点に変換することで、予測精度を損なうことなく計算の複雑レベルを軽減できます。固定小数点ネットワーク モデルの方が、浮動小数点モデルよりも必要なメモリ帯域幅が狭く、速度と電力効率が向上します。