AutoML-GPT：基于GPT的自动机器学习

AI任务涵盖广泛的领域和范畴。尽管许多AI模型是为特定任务和应用而设计的，但它们通常需要相当多的人力来寻找合适的模型架构、优化算法和超参数。最近，在大型语言模型（LLMs）如ChatGPT方面的进展展示了在推理、理解和互动等各个方面的显著能力。因此，我们提议开发面向任务的提示，并自动使用LLMs来自动化训练流程。为实现这一概念，我们提出了AutoML-GPT，它利用GPT作为连接各种AI模型的桥梁，并动态训练具有优化超参数的模型。AutoML-GPT动态从模型和数据卡中获取用户请求，并组合相应的提示段落。最终，使用这些提示段落，AutoML-GPT将自动进行实验，从数据处理到模型架构、超参数调优和预测训练日志。通过利用强大的语言能力和可用的AI模型，AutoML-GPT能够处理各类复杂的AI任务，横跨多个任务和数据集。这种方法在计算机视觉、自然语言处理和其他挑战性领域取得了显著成果。大量实验和消融研究表明，我们的方法在许多AI任务中可以是通用的、有效的和有益的。