Energie- und leistungsoptimiertes Computerauslagern für tiefe neuronale Netzwerke in einer mobilen Cloud-Computing-Umgebung

In der heutigen Computing-Technologielandschaft gelten mobile Geräte als rechnerisch schwach, während große Cloud-Server in der Lage sind, teure Arbeitslasten zu bewältigen. Daher werden intensive Rechenaufgaben typischerweise in die Cloud ausgelagert. Jüngste Fortschritte in den Lerntechniken ermöglichen den Einsatz von tiefen neuronalen Netzwerken (DNNs) in einer Vielzahl von Anwendungen. Kommerzielle sprachbasierte intelligente persönliche Assistenten (IPA) wie Apples Siri, die DNN als ihr Erkennungsmodell nutzt, arbeiten ausschließlich über die Cloud. Der Cloud-Only-Ansatz kann eine große Menge an Datentransfer zwischen der Cloud und dem mobilen Gerät erfordern. Der Mobile-Only-Ansatz kann in Bezug auf die Leistungseffizienz mangelhaft sein. Darüber hinaus kann der Cloud-Server gelegentlich aufgrund von Überlastung und begrenztem Abonnement langsam sein und mobile Geräte können Einschränkungen beim Batterieverbrauch haben. In diesem Papier untersuchen wir die Effizienz, nur einige Teile der Berechnungen in DNNs in die Cloud auszulagern. Wir haben ein optimales Computerauslagerungsframework für die Vorwärtspropagation in DNNs formuliert, das sich an die Einschränkungen des Batterieverbrauchs auf der mobilen Seite und die begrenzten verfügbaren Ressourcen in der Cloud anpasst. Unsere Simulationsergebnisse zeigen, dass unser Framework im Durchschnitt eine Beschleunigung von 1,42x und bis zu 3,07x in der Ausführungszeit auf dem mobilen Gerät erreichen kann. Darüber hinaus führt es im Durchschnitt zu einer Reduzierung des mobilen Energieverbrauchs um 2,11x und bis zu 4,26x.