動的かつバッチ処理のメタデータ管理を用いた安全なマルチGPUコンピューティングのサポート

GPUコンピューティングの問題サイズが増加する中で、精密なメモリ共有を持つマルチGPUシステムが、ページ移動に基づく現在の粗い統一メモリサポートを改善するために登場しました。共有メモリを持つマルチGPUシステムは、CPU-GPUおよびGPU間の通信を保護する上で新たな課題を提示します。安全なデータ転送のコストが大幅なパフォーマンスオーバーヘッドを追加します。マルチGPUシステムにおける安全な通信には2つのオーバーヘッドがあります。まず、認証暗号化のためのワンタイムパッド (OTP) を生成するために追加のオーバーヘッドが発生します。次に、暗号化データとともに渡されるMACやカウンターなどのセキュリティメタデータが貴重なネットワーク帯域幅を消費します。本研究では、マルチGPUシステムにおける安全な通信のパフォーマンスへの影響を調査し、マルチGPUシステムに適応された以前のCPU指向のOTP事前計算スキームを評価します。我々の調査は、GPU間通信のための限られたOTPバッファに関する課題と、GPUのバースト通信を用いたセキュリティメタデータのトラフィックを削減する機会を特定します。分析に基づいて、本論文では、通信パターンを反映するために、各ソース-デスティネーションペアのバッファ割り当てを調整する新しい動的OTPバッファ割り当て技術を提案します。追加のセキュリティメタデータによる帯域幅の問題に対処するために、本研究では、バッチデータ応答の各グループに対して単一のメタデータセットのみを転送する動的バッチ処理スキームを採用します。提案されたデザインは、各GPUからの通信パターンを常に追跡し、定期的に割り当てられたバッファサイズを調整し、動的にデータ転送のバッチを形成します。我々の評価は、16-GPUシステムにおいて、提案されたスキームが以前のキャッシュスキームおよびプライベートスキームに対してそれぞれ平均13.2 % および 17.5 % のパフォーマンス向上を実現できることを示しています。