カーネルとグローバル メモリ間のデータ転送は、全体的なシステム パフォーマンスに大きく影響します。正しく設定しないと、カーネルのパフォーマンスが低下します。このため、カーネルに対してデータが効率的に移動するようにロードおよびストア関数を最適化し、計算関数に最適に入力されるようにすることが重要です。
グローバル メモリのデータ レイアウトは、ソフトウェア アプリケーションのデータ レイアウトと同じにする必要があります。ロードおよびストア関数を記述する際は、このレイアウトがわかっていることが必要です。カーネルのデータ移動に特定のデータ レイアウトの方が適している場合は、ソフトウェア アプリケーションのバッファー レイアウトを使用できます。どちらの方法でも、カーネル開発者とアプリケーション開発者の間でバッファーとグローバル メモリのデータ構造について合意しておく必要があります。
次に、カーネルのデータ転送の効率を改善するためのガイドラインを示します。