ハルシネーション
AIが事実と異なる情報を自信満々に生成する現象。幻覚とも。
AIが存在しない情報・誤った情報を「事実」として生成してしまう現象。例えば存在しない論文を引用したり、実在しない法律を「ある」と断言したりします。確率的な文章生成の性質上、完全には避けられません。重要な情報は必ず一次ソースで確認することが必要です。
法的・財務・医療など高リスク領域での利用は特に注意が必要。RAGや人間によるファクトチェックを組み合わせてリスクを低減します。