低置信度问题转人工

这是一份什么方法

对 AI 客服的召回/回答设定置信度或相似度阈值，把低于阈值的问题路由到人工处理的方法。在 SRC-BIZ-001 中，作者 WMW 把"低置信度或无法回答的问题"明确交给人工处理，并保留调用日志。

适合什么时候用

• AI 客服在某些主题上仍可能给出错误功能承诺或错误裁决。
• 客服场景中存在"必须由有权限的人处理"的事项（退款、补偿、封禁、合同、付费权益、重大投诉）。
• 希望在自动化与人工成本之间有清晰的边界。

怎么做

• 为每次召回/回答打上置信度或相似度分数。
• 设定阈值：低于阈值或命中"必须转人工"事项清单的问题直接路由到人工。
• 整理者建议：低置信度回答的结尾必须保留清晰的人工入口，不能用自动拒绝替代消费者申诉渠道。
• 转人工后留下的记录与人工处理结果，作为 数据飞轮（低置信度池 → 人工 → 知识库） 的输入。
• 涉及退款/补偿/封禁/合同/付费权益/确定性功能承诺的问题，无论置信度多高，都不应仅靠 AI 给出最终结论（AI 客服自动裁决退款、补偿、封禁、合同承诺与付费权益的风险）。

来源中的关键经验

• 来源明确：高风险数据库操作、付费权益处理、确定性功能承诺、退款/补偿/封禁/合同承诺不交给机器人。
• 来源未公开置信度阈值的具体数值与"必须转人工"清单的完整内容。
• 来自 SRC-BIZ-001：从0到1构建AI客服系统（空气小猪实践记录） 与 空气小猪从创始人真人客服到 AI 客服数据飞轮。

限制

• 阈值过低会过度转人工、增加成本；阈值过高会放大错误风险。
• 整理者建议（保留清晰人工入口）来源未直接表达，属于基于业务的整理者补充。
• 来源未公开人工处理 SLA 与回灌时间。