GPT-2模型在航空航天工程知识支持中的适应：LLM微调方法

由于缺乏特定领域的知识，将大型语言模型（LLM）作为工程智能助手进行集成受到困难，这往往导致不准确或过于笼统的结果。本研究探讨了微调紧凑型LLM GPT-2在复杂航空航天工程知识领域作为专业助手的有效性。我们创建了一个经过筛选的数据集，涵盖专业教材、期刊文章和技术报告，涉及复合材料、动力系统和航空电子等主题。该数据集被用于使用因果语言建模目标对GPT-2模型进行微调。微调后的模型在关键质量指标上显示出相较于基础模型的改善。专家的定性评估表明，经过适配的模型生成了技术上准确且上下文相关的回答，超越了基础的GPT-2。结果证实，有针对性地对小型且经济高效的模型如GPT-2进行微调是创建数据敏感和高科技领域可靠AI助手的可行策略，从而可能缩短开发周期并加速创新.