Vitis AI オプティマイザーの概要 - 2.5 日本語

Vitis AI オプティマイザー ユーザー ガイド (UG1333)

Document ID
UG1333
Release Date
2022-06-15
Version
2.5 日本語

Vitis™ AI は、ザイリンクス ハードウェア プラットフォーム上で AI 推論を実行するためのザイリンクス開発キットです。機械学習の推論は計算負荷が非常に高いため、各種アプリケーションで低レイテンシかつ高スループットという要件を満たすには、広いメモリ帯域幅が必要です。

Vitis AI オプティマイザーは、ニューラル ネットワーク モデルを最適化します。現在、Vitis AI オプティマイザーに含まれるのはプルーナーと呼ばれるツールのみです。Vitis AI プルーナーは、ニューラル ネットワーク内の冗長なカーネルを刈り込み (プルーニング)、これによって推論の全体的な演算コストを削減します。Vitis AI プルーナーで生成したプルーニング済みモデルを Vitis AI クオンタイザーで量子化し、ザイリンクス FPGA、SoC、または ACAP デバイス上で運用します。Vitis AI クオンタイザーと運用の詳細は、 『Vitis AI ユーザー ガイド』 (UG1414) を参照してください。

図 1. VAI オプティマイザー

Vitis AI プルーナーは、4 種類の深層学習フレームワークをサポートします。次の表に、これらのフレームワークとそれに対応するツール名を示します (「p」はプルーニングを示す)。

表 1. Vitis AI プルーナーのフレームワークとツール名
フレームワーク ツール名
TensorFlow vai_p_tensorflow (TF1.15)、vai_p_tensorflow2 (TF2.x)
PyTorch vai_p_pytorch

Vitis AI オプティマイザーにはコマーシャル ライセンスが必要です。Vitis AI オプティマイザーのインストール パッケージおよびライセンスをご希望の方は、xilinx_ai_optimizer@xilinx.com までお問い合わせください。