意图路由使用规则、小模型还是主模型，为什么？

核心回答

按意图是否明确、误路由的损失和维护成本选择，通常采用分层方案：明确、稳定的指令先用规则；类别清楚且有标注数据的常见请求交给小模型；复杂、多意图或需要结合上下文判断的请求再交给主模型，无法确定时澄清。 不必让所有请求都走最贵的模型，也不能认为规则天然覆盖全部说法。

例如运维入口中，“查看任务状态”可以匹配明确命令；历史告警查询与故障分析可由分类模型区分；“发布后变慢，还偶发报错”可能需要主模型结合现象拆任务。无论谁负责分类，路由结果都只是执行建议，后端仍独立核对允许调用的工具与数据范围。

三种方案各解决什么问题

规则可解释、延迟低，适合精确入口和强约束，但同义表达、否定和复合语义会增加维护成本。小模型适合稳定分类，需有覆盖真实问法、越界输入和“其他类”的数据；新增类别或业务变化后要重新评估。主模型更擅长少样本和复杂上下文判断，但增加耗时、成本和输出不确定性。

分层也有成本：前级漏判会改变后级看到的样本分布，因此不能只分别评估每个分类器。接口统一输出意图、必要参数和是否需澄清；多任务可以拆分，但不因识别到“退款”等词就直接执行资金操作。

怎样证明选择合理

用同一批实际请求比较混淆矩阵、关键类别的召回、误触发副作用、澄清率、端到端成功率和延迟成本。查询被分错与高风险操作被误触发的损失不同，可按业务后果加权，不能只看平均分类准确率。

阈值需通过留出样本校准；模型自报的置信度不能直接当成可靠概率。保留低置信、未知类别和多意图的回退路径，线上再观察新类别、分布漂移与错误集中在哪一层。

对应教程

参考资料