デバイス アクセラレーションとは、ホスト プロセッサの特定の計算負荷をデバイスのカーネルに移動することです。上の図に示すように、純粋なシーケンシャル モデルでは、アプリケーションは結果が準備されて処理を再開できるようになるまで、アイドル状態で待機します。
このようなアイドル サイクルが発生しないように、ソフトウェア アプリケーションを設計します。まず、カーネルの結果に依存しないアプリケーション部分を特定し、ホストでこれらの関数をデバイスで実行されているカーネルと並行して実行できるような構造にします。