大模型聊天机器人

老式聊天机器人为什么失败，以及什么变了

这件事值得说准确，因为多数人对聊天机器人的印象，是被一个确实很糟的东西塑造的。

上一代的做法，是把你打的字去比对某人事先写好的一串短语。你的问题在名单上，就得到正确答案。不在 —— 而且通常不在，因为同一件事人们有一百种说法 —— 你得到的是「抱歉，我没听懂」，这样来回两次之后，所有人都学会了直接打「人工」。

语言模型不做短语匹配。它像人一样读句子，于是「送巴生吗」「can send klang ah」和「delivery Selangor available?」都会落成同一个问题。仅仅这一个变化，就决定了一个聊天机器人是被客户绕开，还是被真正使用。

但把问题读懂，带来了老式机器人没有的新风险。语言模型无论知不知道，都会给出流利而自信的回答。放任不管，它会编出一个运费、报一个你从没给过的折扣、承诺一个你做不到的交期。这才是真正的工程问题，而大部分开发精力也花在这里。

接地：怎样让它不再瞎编

这项技术叫检索增强生成，道理比名字简单。

我们不让模型凭训练时吸收的内容作答，而是给它一个你自己的文档库 —— 价格表、配送条款、退货政策、保修条件、营业时间。客户提问时，系统先在这个库里检索，取出真正与问题相关的段落，再让模型只依据这些段落作答。

实际效果是：答案可以追溯。当它告诉客户送到柔佛需要三个工作日，这句话来自你写的某份文档里的具体一行，你指得出来。你改了文档，答案当天就变。什么都不需要重新训练。

这也意味着系统知道自己什么时候手上没东西可依据。如果检索没有返回相关段落，正确的行为是如实说明并转人工 —— 而不是即兴发挥。我们会专门测这一点：拿你文档里没有的内容去问它，检查它是拒答而不是编造。

这也是为什么第一项交付物常常只是把你的政策写下来。很多企业从没把配送条款或退货期限集中放在一处；它存在待得最久的那个人脑子里。这份文档本身就有价值，无论你最后有没有上线聊天机器人。

它绝不该处理什么

一个什么都想做的聊天机器人，比一个界限清楚的更糟，而这些界限是在动工之前就定下的设计决策。

投诉交给人。已经不满意的人要的不是高效的答复，而是被听见的感觉；让软件流畅地处理他们的情绪，是永久失去一个客户最快的方式。机器人在那里的职责是识别语气、简短致歉，并连同完整对话一起转交。

任何它拿不准的、涉及金钱的事都交给人。定制价格、谈好的费率、账期、退款。我们用的规则是：如果搞错了会损失金钱或关系，那就不自动回答。

法律、医疗和安全类问题一律交给人，无论你的文档里怎么写。而当客户直接要求找人时，这个请求立刻被满足 —— 没有挽留循环，没有「让我先试着帮你」。仅这一个行为，对机器人给人的观感所起的作用，超过任何程度的答案质量。