AI カーネル スケジューラ - 3.5 日本語

Vitis AI ユーザー ガイド (UG1414)

Document ID
UG1414
Release Date
2023-09-28
Version
3.5 日本語

実際の深層学習アプリケーションでは、多段データ処理パイプラインを使用して、計算量の多い各種の前処理 (ディスクからのデータの読み込み、デコード、サイズ変更、色空間変換、スケーリング、クロッピングなど)、複数の ML ネットワーク (CNN など)、および各種の後処理 (NMS など) を実行する必要があります。

AI カーネル スケジューラ (AKS) は、前述のグラフを自動的かつ効率的にパイプライン処理するアプリケーションであり、ユーザーの労力は大幅に軽減されます。このスケジューラは、複雑なグラフの各段階に対応する各種のカーネルを提供します。これらのカーネルは、柔軟な設定が可能でプラグアンドプレイで使用できます。たとえば、画像のデコードおよびサイズ変更などの前処理カーネル、Vitis AI の DPU カーネルなどの CNN カーネル、SoftMax や NMS などの後処理カーネルがあります。カーネルを使用してグラフを作成し、ジョブをスムーズに実行して最大限の性能が得られます。

詳細と例については、Vitis AI の GitHub (AI カーネル スケジューラ) を参照してください。