ハルシネーション

一言でいうと：AIが事実でないことを、もっともらしく言い切ってしまう現象です。

やさしく説明すると

ハルシネーション（hallucination）は直訳すると「幻覚」。AIが、実在しない本のタイトルや、存在しない法律の条文などを、まったく迷いのない口調で答えてしまう現象を指します。

これはAIが嘘をついているのではなく、そもそもAIが「言葉のつながりとして自然なもの」を作っているだけで、事実かどうかを確かめる仕組みを持っていないために起こります。

たとえるなら

たとえるなら、話し上手だけれど記憶があいまいな友人のようなものです。話は面白いし筋も通っているけれど、名前や数字は自分で調べ直したほうがいい、という付き合い方になります。

初心者へのひとこと

人名・数字・日付・URL・法律・医療情報。この6つがAIの答えに出てきたら、必ず自分で裏を取ってください。AIを使ううえで最も大事な習慣です。

関連する用語

• LLM（大規模言語モデル）
• RAG（検索拡張生成）
• ガードレール