防止 AI 出错（幻觉）的指令给法

AI 有时会把并非事实的内容说得像真的一样。这被称为"幻觉（hallucination）"。不存在的书名、错误的数字、捏造的引用——而且语气十分自信，难以识破，这正是它的麻烦之处。

为什么会发生（粗略地说）

AI 是把"接下来可能出现的词"按概率连接起来生成文章的。它擅长制造"像模像样的文章"，但并不保证"是否属实"。所以即使是不知道的事，它也会像填补空白一样，编造出一个看似合理的答案。

用指令减少错误的 5 种说法

1. 给它退路 ——"不知道的话，就老实回答不知道，不要靠猜测来填补。"
2. 让它区分事实与推测 ——"请把确定的内容和你的推测分开写。"
3. 要求出处 ——"请一并给出依据或出处。"（※出处本身也可能被捏造，因此仍需核实）
4. 递给它资料 ——不让它猜测，只在你提供的资料范围内作答（效果最佳）。
5. 怀疑数字和专有名词 ——"请再核对一遍这个回答中的数字、日期、人名。"

最有效的是"递给它资料"

比起让 AI 凭记忆作答，递给它正确的资料并指示"从这里面作答"，能让错误骤减。把公司文档、官方页面、数据贴上去再提问。仅此一步，可信度就会大幅提升。

但最后仍要自己核实

无论怎么巧设指令，都无法把幻觉降为零。

重要的事实（数字、人名、日期、引用、法律或医疗信息），务必用一手来源核实。

尤其是"要给人看的""涉及金钱或健康"的信息，切勿原封不动地相信 AI 的回答。下一篇文章将具体讲解这种"核实的习惯"。