NoC を通過する際のレイテンシは、次の 2 つの要素で構成されます。
- 構造レイテンシ
- パケットが理想的な条件下で NoC 内のパイプライン ステージを通過するのにかかる時間です。
- キューイング レイテンシ
- ネットワークのキューイングによって生じる遅延です。既に FLIT が格納されているキューに新しいパケットの FLIT が追加された場合、前の FLIT がすべてキューから出るまでその FLIT は処理されません。
キューイング レイテンシの役割は、十分に理解しておく必要があります。特に高負荷のシステムなど、ワークロードによっては構造レイテンシよりもキューイング レイテンシの方が平均トランザクション レイテンシに与える影響がはるかに大きくなることがあります。