클라우드 GPU에서 개선된 전력 관리 방향

현대 서버 GPU는 점점 더 많은 전력을 소모하므로, 보다 나은 전력 관리 메커니즘이 대규모 클라우드 데이터센터의 전력 소비, 자본 비용 및 탄소 배출을 상당히 줄일 수 있습니다. 이 연구는 다양한 데이터센터 작업 부하를 사용하여 현대 GPU의 전력 관리 기능을 조사합니다. 현재 GPU 관리 메커니즘은 클라우드 가상화에서 호환성과 모니터링 지원이 제한적임을 발견했습니다. 동적 전압 및 주파수 조정(DVFS)과 전력 제한의 구현이 비최적이고, 부정확하며, 직관적이지 않습니다. 결과적으로, 효율적인 GPU 전력 관리는 오늘날 클라우드에서 널리 배포되지 않고 있습니다. 이러한 문제를 해결하기 위해, 우리는 GPU 공급업체와 연구자들에게 실행 가능한 권장 사항을 제시합니다.