AMD Vitis™ AI コンパイラ (VAI_C) は、多様な DPU (深層学習プロセッシング ユニット) のニューラル ネットワーク計算を最適化するコンパイラ ファミリに対して統合されたインターフェイスとして機能します。各コンパイラは、ネットワーク モデルを、高度に最適化された DPU 命令シーケンスにマップします。
次の図に、VAI_C フレームワークを簡単に示します。最適化および量子化された入力モデルのトポロジを解析した後、VAI_C は内部計算グラフ (中間表現、IR) を構築し、対応する制御フローやデータフローを提供します。その後、複数の最適化を実行します。たとえば、バッチ正規化が先行するたたみ込みに融合される計算ノードの融合や、本来備わっている並列処理を利用した効率的な命令スケジューリング、またはデータの再利用などがあります。
図 1. Vitis AI コンパイラのフレームワーク
Vitis AI コンパイラは、DPU のマイクロアーキテクチャに基づいてコンパイルされたモデルを生成します。Vitis AI は、各種プラットフォームおよびアプリケーションに対応した DPU をいくつかサポートしています。
DPU 名 | ハードウェア プラットフォーム |
---|---|
DPUCZDX8G | AMD Zynq™ UltraScale+™ MPSoC |
DPUCVDX8G | AMD Versal™ アダプティブ SoC VCK190 評価ボード、Versal AI コア シリーズ |
DPUCVDX8H | Versal アダプティブ SoC VCK5000 評価キット |
DPUCV2DX8G | Versal アダプティブ SoC VEK280 評価ボード、Versal AI エッジ シリーズ、Versal アダプティブ SoC V70 評価キット、Alveo V70 アクセラレータ カード |