CUDA에서 통합 메모리 접근 성능 조사

CPU와 GPU 간의 메모리 관리가 GPU 컴퓨팅에서 주요 도전 과제입니다. 프로그래밍 모델인 통합 메모리 접근(UMA)은 메모리 관리의 복잡성을 단순화하면서 전반적으로 우수한 성능을 주장하며 Nvidia에 의해 최근에 도입되었습니다. 본 논문에서는 이 프로그래밍 모델을 조사하고 우리의 실험 결과를 바탕으로 성능과 프로그래밍 모델 단순화를 평가합니다. 우리는 CPU에 대한 온디맨드 데이터 전송을 넘어, GPU가 요구하는 데이터의 하위 집합을 온디맨드로 요청할 수 있음을 발견했습니다. 이 기능은 UMA가 특정 병렬 애플리케이션과 작은 데이터 크기에 대해 전 데이터 전송 방법보다 우수한 성능을 발휘하게 합니다. 그러나 우리는 또한 대다수의 애플리케이션과 메모리 접근 패턴에 대해 UMA와 관련된 성능 오버헤드가 상당하며, 프로그래밍 모델의 단순화가 향후 최적화를 추가하는 데 유연성을 제한한다는 것을 발견했습니다.