明示的パケット スイッチング - 2023.2 日本語

AI エンジン カーネルおよびグラフ プログラミング ガイド (UG1079)

Document ID
UG1079
Release Date
2023-12-04
Version
2023.2 日本語

複数の AI エンジン カーネルで 1 つのプロセッサを共有し、インターリーブ方式で実行できるのと同様に、複数のストリーム接続を 1 つの物理チャネルで共有できます。このメカニズムはパケット スイッチングと呼ばれます。AI エンジン アーキテクチャとコンパイラを組み合わせたプログラミング モデルでは、最大 32 のストリーム接続が同じ物理チャネルを共有できます。

明示的パケット スイッチング機能により、グラフ計算におけるパケットの生成、分配、消費を細かく制御できます。明示的パケット スイッチングの使用は、共通の PL ソースからの多数の低帯域幅ストリームを異なる AI エンジンに対して分配できる場合に一般的に推奨されます。同様に、異なる AI エンジン ソースからの多数の低帯域幅ストリームを共通の PL に対して分配する場合も、この機能を利用できます。1 つの物理チャネルを複数のストリームで共有するため、AI エンジン - PL インターフェイス ストリームの使用数を最小に抑えることができます。このセクションでは、グラフ内で明示的にパケット スイッチング ストリームを作成するためのグラフ コンストラクトを説明します。