AutoML-GPT: Automatisiertes maschinelles Lernen mit GPT

KI-Aufgaben umfassen ein breites Spektrum an Bereichen und Feldern. Obwohl zahlreiche KI-Modelle für spezifische Aufgaben und Anwendungen entwickelt wurden, erfordern sie oft erhebliche menschliche Anstrengungen, um die richtige Modellarchitektur, den Optimierungsalgorithmus und die Hyperparameter zu finden. Jüngste Fortschritte bei großen Sprachmodellen (LLMs) wie ChatGPT zeigen bemerkenswerte Fähigkeiten in verschiedenen Aspekten des Denkens, des Verstehens und der Interaktion. Folglich schlagen wir vor, aufgabenorientierte Eingabeaufforderungen zu entwickeln und LLMs automatisch zu nutzen, um die Trainingspipeline zu automatisieren. Um dieses Konzept umzusetzen, präsentieren wir AutoML-GPT, das GPT als Brücke zu verschiedenen KI-Modellen einsetzt und Modelle dynamisch mit optimierten Hyperparametern trainiert. AutoML-GPT erfasst dynamisch Benutzeranfragen aus den Modell- und Datenkarten und formuliert den entsprechenden Eingabetextabsatz. Letztendlich wird AutoML-GPT mit diesem Eingabetextabsatz automatisch die Experimente von der Datenverarbeitung über die Modellarchitektur, das Hyperparameter-Tuning bis hin zum prognostizierten Trainingsprotokoll durchführen. Durch die Nutzung der robusten Sprachfähigkeiten und der verfügbaren KI-Modelle kann AutoML-GPT zahlreiche komplexe KI-Aufgaben über verschiedene Aufgaben und Datensätze hinweg angehen. Dieser Ansatz erzielt bemerkenswerte Ergebnisse in der computergestützten Bildverarbeitung, der Verarbeitung natürlicher Sprache und in anderen anspruchsvollen Bereichen. Umfangreiche Experimente und Abtrennungsstudien zeigen, dass unsere Methode allgemein, effektiv und vorteilhaft für viele KI-Aufgaben sein kann.