固定小数点数ベクトルユニット

AIE-ML の固定小数点数ベクトルユニット

次に、固定小数点ベクトルデータパスのブロック図を示します。データパスは、5 つのパイプラインステージに分割されます。

図 1. AIE-ML の固定小数点ベクトルユニットの乗算パスのパイプライン

このデータパスに含まれる各ユニットの機能は次のとおりです。

乗算器ユニットには、並べ替えブロックからの出力が入力されます。ベクトル加算器は、ベクトルシャッフルおよびシフトデータパスと共に、別のファンクションユニットにあります。
並べ替えユニットは PRMX と PRMY の 2 つあり、これらが X ベクトルレジスタの並べ替えを処理します。
並べ替えと乗算以外に、シャッフル/シフトと加算/コンペアの 2 つのベクトルユニットがあります。これらには 2 つのベクトルレジスタの値が直接入力され、結果がベクトルレジスタに書き戻されます。次のビット幅モード (符号付きおよび符号なし) がサポートされます。
- 32 ビット x 16 レーン
- 16 ビット x 32 レーン
- 8 ビット x 64 レーン
このユニットは、加算と減算のどちらを実行するかをレーンごとに制御できます。

図 2. AIE-ML の固定小数点ベクトルユニットのシャッフル/シフトおよび加算器パスのパイプライン

上の図に示すように、ベクトル加算器以外にベクトルシャッフル/シフトデータパスもあります。ベクトルシフトユニットは 1 つまたは 2 つの 512 ビットベクトルレジスタを入力にとり、1 つの 512 ビットベクトルを出力します。次のモードがサポートされます。

8 ビット粒度の標準的な右シフト
左右いずれかの側へのスカラー値のシフトおよびプッシュ。8、16、または 32 ビットレーンを 512 ビットベクトルレジスタの LSB レーンにシフトでき、既存の値はすべて 1 レーン上にシフトされます。MSB レーンの値は捨てられます。

シャッフルユニットにより、各種モードでの入力ベクトルの変換が可能となります。次の機能がサポートされます。

次に、このユニットのブロック図を示します。

図 3. 固定小数点 SRS および UPS データパス

SRS ユニットはアキュムレータレジスタを読み出し、変換を実行し、結果をベクトルレジスタ、または直接メモリへ書き戻します。UPS ユニットはメモリまたはレジスタから直接ベクトルレジスタを読み出し、結果をアキュムレータレジスタへ書き込みます。次のモードがサポートされます。

浮動小数点の変換モードもサポートされます。bfloat16 と単精度を双方向に変換します。次のモードがサポートされます。

これ以外に、このユニットは浮動小数点から整数への変換として 16 レーンの bfloat16 ベクトルレジスタから 32 ビット符号付きレジスタへの変換もサポートしています (図には示していません)。