面向企业 LLM 路由的多准则决策框架

企业中大型语言模型（LLMs）的日益广泛应用，催生了根据技术性能和组织偏好来选择模型的路由机制需求。本文提出了一种用于企业 LLM 路由的多准则决策支持框架，该框架将基于 AHP 的准则加权与基于 SAW 的提示词级模型选择相结合。该框架根据与所需准确性、业务风险、推理深度、成本敏感性、响应时间敏感性、标准化和创造力相关的准则来评估提示词。实证评估在 500 个异构业务提示词上进行，使用 GPT-5-nano 作为提示词评分路由器，GPT-4o-mini 作为低成本响应模型，GPT-5 作为更强能力的响应模型。成本根据实际输入和输出 token 计数（包括路由开销）进行计算。响应充分性通过采用三种评估者配置文件的结构化 LLM-as-a-judge 方案进行评估。所提出的带有置信区间和风险否决机制的 SAW 路由变体实现了 94.4% 的充分率，相比之下，始终选择强模型策略的充分率为 94.6%，始终选择低成本模型策略的充分率为 86.8%。与始终选择强模型的路由相比，它在充分率仅下降 0.2 个百分点的情况下，将总成本降低了 37.4%。该框架还与关键词风险、token 阈值、TF-IDF 质心、逻辑回归、乘法 SAW 和 TOPSIS 基线进行了比较。结果表明，可解释的多准则路由器能够以大幅降低的成本实现接近强模型的响应充分性，同时保持可审计性以及与企业决策准则的一致性。