AIは、事実でないことをさも本当のように答えることがあります。これを「ハルシネーション（幻覚）」と呼びます。存在しない本のタイトル、間違った数字、でっちあげの引用——しかも口調は自信満々なので、見抜きにくいのが厄介です。
なぜ起きるのか（ざっくり）
AIは「次に来そうな言葉」を確率的につないで文章を作っています。「それらしい文章」を作るのは得意でも、「事実かどうか」を保証しているわけではありません。だから、知らないことでも空白を埋めるように、もっともらしい答えを作ってしまうのです。
指示で間違いを減らす5つの言い方
- 逃げ道を与える — 「分からない場合は、分からないと正直に答えて。推測で埋めないで」
- 事実と推測を分けさせる — 「確実なことと、あなたの推測を分けて書いて」
- 出典を求める — 「根拠や出典も一緒に示して」（※出典自体が捏造される場合もあるので確認は必要）
- 資料を渡す — 推測させず、こちらが渡した資料の中だけで答えさせる（最も効果が高い）
- 数字や固有名詞を疑う — 「この回答の中の数字・日付・名前を、もう一度確認して」
一番効くのは「資料を渡すこと」
AIに記憶から答えさせるより、正しい資料を渡して「この中から答えて」と指示するほうが、間違いは激減します。社内文書、公式ページ、データを貼ってから質問する。これだけで信頼度が大きく上がります。
それでも最後は自分で確認
どんな工夫をしても、ハルシネーションをゼロにはできません。
重要な事実（数字・名前・日付・引用・法律や医療の情報）は、必ず一次情報で裏を取る。
特に「人に見せる」「お金や健康に関わる」情報は、AIの回答をそのまま信じないこと。次の記事では、この「検証の習慣」を具体的に説明します。