预算型自主AI用于自适应轻量模型微调

设备上的部署通常依赖于轻量模型，这些模型在部署环境与开发条件不同或模型性能随时间变化时需要进行微调。尽管近期的LLM驱动代理能够推理系统状态并形成自适应策略，但它们通常会产生大量计算和预算开销，使其在资源受限的边缘环境中不切实际。本文提出了预算型自主AI用于自适应轻量模型微调（BA2），这是一个结合有界优化步骤、辅助评估、回滚和压缩操作的预算受限轻量模型适应框架。BA2使代理能够根据实时预算条件动态调整适应策略，同时最大化系统性能。BA2明确考虑了受限资源，包括有限的微调步骤、工具调用配额和令牌消耗。引入了一种工程师-经理架构，在该架构中，基于LLM的工程师从系统日志生成参数化的候选操作，而轻量上下文赌博型经理则根据环境状态和剩余预算选择操作。实验结果表明，BA2在紧张的预算限制下，取得了优于静态启发式和推理时间搜索代理的成本-性能权衡，同时在高预算情况下与强基线保持竞争力。