Richtung verbesserte Energieverwaltung in Cloud-GPUs

Da moderne Server-GPUs zunehmend energieintensiv sind, können bessere Energieverwaltungsmethoden den Energieverbrauch, die Investitionskosten und die Kohlenstoffemissionen in großen Cloud-Rechenzentren erheblich reduzieren. In diesem Schreiben verwenden wir verschiedene Rechenzentrums-Workloads, um die Energieverwaltungsfähigkeiten moderner GPUs zu untersuchen. Wir stellen fest, dass die aktuellen GPU-Management-Mechanismen unter der Cloud-Virtualisierung eine eingeschränkte Kompatibilität und Unterstützung für die Überwachung aufweisen. Sie haben suboptimale, ungenaue und nicht-intuitive Implementierungen von Dynamischer Spannungs- und Frequenzregelung (DVFS) und Energiebegrenzung. Folglich ist ein effizientes GPU-Management in der Cloud heute nicht weit verbreitet. Um diese Probleme anzugehen, geben wir umsetzbare Empfehlungen für GPU-Hersteller und Forscher.