概要 - 3.5 日本語

このセクションでは、量子化された ONNX モデルをエッジ ボードで運用する方法を説明します。

Vitis AI 3.5 では、DPU を使用した AI 推論のハードウェア アクセラレーション用に ONNX Runtime Vitis AI Execution Provider (Vitis AI EP) が提供されています。これを使用すると、量子化した ONNX モデルをターゲット ボード上で直接実行できます。現在の ONNX Runtime に含まれる Vitis AI EP は、Zynq UltraScale+ MPSoC、Versal デバイス、Versal AI エッジ デバイス、および Kria カードなどのエンベデッド デバイスを使用したニューラル ネットワーク モデルの推論を高速化できます。

Vitis AI ONNX Runtime Engine (VOE) は、Vitis AI EP の実装ライブラリです。