Answers are grounded in this paper and cite their sources.
Assesses performance of tuning methods in magnesium alloy knowledge system, suggesting significant enhancements.
在国家双碳目标和高端装备制造快速发展阶段,镁合金因低密度及优异比性能被认为是实现结构轻量化的重要材料。但是,镁合金材料设计需要遵循复杂的设计流程并且每个流程间的关系联系非常紧密,而材料研发知识不仅复杂而且专业性也相对较高,传统依赖人工经验的设计方法和分散检索方式在研发效率和知识复用方面面临明显瓶颈。为提升大语言模型在镁合金领域知识问答与决策任务中的科学性与正确性,本文以DeepSeek-R1-Distill-Qwen-14B为基础模型,系统对比参数高效微调技术LoRA与P-Tuningv2在镁合金领域问答任务中的性能提升效果,同时进一步评估两者联合微调的协同增益。具体实验设计上,本文分别采用LoRA、P-Tuningv2以及联合微调三种微调方案,并在同一测试集上进行20次重复测试实验,使用Accuracy、F1分数、ROUGE与BLEU四种性能指标对模型性能进行评估。结果发现,相较于未经微调的基础模型,运用LoRA与P-Tuningv2技术微调的模型在各项关键性能指标均有显著提升。其中联合微调策略下的模型性能提升最优,体现出显著的协同增强效应。进一步分析发现,这种性能提升主要来自两种微调方法之间的互补作用。LoRA更侧重对模型参数进行简化调整,而P-Tuningv2则通过在多层加入提示信息,引导模型更好地关注任务重点。在不改变模型主要参数的前提下,两种方法从不同角度同时优化模型,从而取得了更好的效果。基于上述结果,本文将联合微调后的模型集成至LangChain框架,为后续面向镁合金知识库问答系统的实际应用提供模型基础与方法参考。
No takes yet. Share an insight, caveat, or question.
Wu et al. (2026) studied this question.
Synapse has enriched 10 related papers. Consider them for comparative context: