幻觉演示：AI 编出来的“卖点”

AI 最危险的本事不是犯错，而是犯错的时候理直气壮。这一节，带你现场抓包。

你现在就可以打开任何一个 AI 对话框，问它：“帮我介绍一下「舒云雀」牌洗地机的核心卖点。”

“舒云雀”这个牌子是我刚编的，世界上不存在。但 AI 大概率不会说“我不认识”，它会煞有介事地告诉你：洗拖一体、智能感应、续航 60 分钟、母婴家庭适用……参数齐全，卖点动人，直接就能当详情页用。

① 自信编造 ② 张冠李戴 ③ 知识过时

你：介绍下“舒云雀”洗地机的卖点AI：舒云雀洗地机主打洗拖一体 + 智能脏污感应，续航 60 分钟，噪音低至 58 分贝，特别适合有娃家庭，京东好评率 98%……“舒云雀”根本不存在——但只要名字“像个牌子”，AI 就能给你编出全套卖点。

为什么：训练语料里有几万篇洗地机评测，AI 把“洗地机卖点”的平均模样猜了出来，套在你给的牌子上。它不知道这个牌子不存在，它只知道“后面该接卖点”。

• 商品参数：问 AI“这款电饭煲功率多少”，它会给一个“最常见的功率”——而不是你这款的真实功率。直接上架就是虚假宣传。
• 竞品数据：让 AI 做竞品分析，销量、价格、评分张口就来，全是“像真的”的估计值。拿去汇报要出大事。
• 平台规则：“天猫现在满减退款怎么算”？平台规则一年改几次，AI 的记忆停在训练那天。
• 用户评价：让 AI“总结这款产品的差评”，如果你没给它真实评论数据，它会编一批“典型差评”给你。

因为在训练的时候，“给出像模像样的回答”得到的奖励，远远高于“老实承认不知道”。它被训练成了一个不懂装懂的老油条——这不是 bug，是它“太想让你满意”的性格决定的。

所以治本的方法只有一个思路：别让它猜，给它查。这正是接下来三节要讲的四种应对方案——提示词约束、温度控制、RAG 知识库、人工评测。