Microsoft ONNX Runtime は、ONNX モデル向けのオープンソースの推論アクセラレータです。このプラットフォームは Vitis AI に統合され、さまざまなトレーニング フレームワークから移植可能な ONNX モデルを高度にサポートします。非常に使いやすい Python および C++ のランタイム API が組み込まれ、TVM に必要なコンパイル フェーズを別途実行しなくてもモデルをサポートできます。ONNXRuntime には、CPU と FPGA 間のパーティショニングを自動的に実行するパーティショナーが含まれ、モデルの運用がさらに容易になります。また、Vitis AI クオンタイザーも組み込まれており、量子化の設定は別途必要ありません。
Microsoft ONNX Runtime の詳細は、https://microsoft.github.io/onnxruntime/ を参照してください。
Vitis AI と ONNX Runtime の統合に関する Vitis AI のチュートリアルとインストール ガイドは、Vitis AI の GitHub リポジトリ (https://github.com/Xilinx/Vitis-AI/tree/master/external/onnxruntime) にあります。