Vitis AI ランタイムにより、アプリケーションは統合された高レベルのランタイム API にアクセスでき、データセンターとエッジ間の運用がシームレスかつ効率的になります。この統一されたインターフェイスは、アプリケーションの運用プロセスを効率化し、データセンターとエッジ環境間のスムーズな移行を実現します。
AI ランタイム API の機能は次のとおりです。
- アクセラレータへジョブを非同期送信
- アクセラレータからジョブを非同期取得
- C++ および Python で実装
- マルチスレッドおよびマルチプロセスの実行に対応
次の図に、VART フレームワークを示します。XIR は AMD 中間表現です。これは、Vitis AI においてニューラル ネットワーク演算子を表すために使用される内部 IR (Intermediate Representation) です。
図 1. VART スタック