Vitis AI クオンタイザーは、32 ビット浮動小数点の重みと活性化値を INT8 などの固定小数点形式に変換することで、予測精度を損なうことなく、演算の複雑さを大幅に軽減します。この変換で得られる固定小数点ネットワーク モデルは、浮動小数点モデルよりも必要なメモリ帯域幅が狭く、処理速度と電力効率が向上されます。
図 1. Vitis AI クオンタイザー
Vitis AI クオンタイザーは、32 ビット浮動小数点の重みと活性化値を INT8 などの固定小数点形式に変換することで、予測精度を損なうことなく、演算の複雑さを大幅に軽減します。この変換で得られる固定小数点ネットワーク モデルは、浮動小数点モデルよりも必要なメモリ帯域幅が狭く、処理速度と電力効率が向上されます。