# LLMのハルシネーション 大規模言語モデル(LLM)が、もっともらしいが事実に基づかない情報を生成する現象。訓練データにない事実の捏造だけでなく、実在しない引用文献・存在しない API・誤った数値の生成など幅広い形態を取る。モデル開発者は出力の人手検証を推奨するが、実運用では見過ごされることが多く、政府報告書・法律文書・科学論文など高難度の知識作業に紛れ込んだ事例が報告されている(Source: [[@2026__arXiv__LLM hallucinations in the wild]])。 ## 横断的知見 - [[@2023__arXiv__GPT-4 Technical Report]] は「幻覚(hallucination)は改善されたが根絶されていない」とモデル自身の限界として自認するにとどまり、実世界での発生規模や社会的帰結までは踏み込んでいない。一方 [[@2026__arXiv__LLM hallucinations in the wild]] は、学術引用という検証可能な対象を使って「実運用でどれだけのハルシネーションが実際に知識記録へ混入しているか」を population スケールで定量化しており、モデル開発者視点(生成時点の性能改善)と社会実装視点(既に生産された知識への混入・拡散)という 2 つの異なる観測軸が存在することが分かる(Source: [[@2023__arXiv__GPT-4 Technical Report]], [[@2026__arXiv__LLM hallucinations in the wild]])。 - ハルシネーションは「検知して弾く」個別の誤りとしてだけでなく、[[@2026__arXiv__LLM hallucinations in the wild]] が示すように、査読・モデレーションといった既存の品質管理を一定程度すり抜けて記録に定着し、後続の引用や次世代モデルの訓練データに再帰的に取り込まれる「複利的リスク」としても捉える必要がある。 - [[@2026__LambdaNote__ネットワークシステムについて語るときに我々の語ること - Chapter 12 Looking Over The Fence （垣根をこえて）]] は、文献引用の捏造を「性能の問題」ではなく「世界モデルの欠如」という理論的な観点から説明する。[[@2026__arXiv__LLM hallucinations in the wild]] が population スケールで捏造の混入率を測定するのに対し、Chapter 12 は同じ現象を「言語モデルは正当な引用とは何かという人間なら当たり前に把握できる世界の事実を理解していない」という記号接地問題の一事例として位置づける。両者を合わせると、ハルシネーションは (1) 発生規模を実測すべき経験的問題であると同時に、(2) 言語モデルが世界モデルを欠くという構造的な理由に根ざす問題である、という二重の性格を持つことが分かる。(Source: [[@2026__arXiv__LLM hallucinations in the wild]], [[@2026__LambdaNote__ネットワークシステムについて語るときに我々の語ること - Chapter 12 Looking Over The Fence （垣根をこえて）]]) ## 未解決の問い - モデル側の事後訓練(RLHF・キャリブレーション改善)は、実世界のハルシネーション発生率(特に引用捏造)をどの程度実際に低減させているか。[[@2023__arXiv__GPT-4 Technical Report]] のキャリブレーション劣化(ECE 0.007→0.074)は引用ハルシネーションの増加と関係するか。 - 引用以外の構造化されていない主張(政策メモ・臨床記録など)におけるハルシネーション有病率を、[[@2026__arXiv__LLM hallucinations in the wild]] のようなベースライン差分推定の枠組みで測定する方法は確立されているか。 - エージェント型検証ツール(自動参照バリデータ等)の普及は、[[@2026__arXiv__LLM hallucinations in the wild]] が観測した「モデレーション通過率 78.8%」をどの程度実際に引き下げるか。 - 記号接地問題(世界モデルの欠如)に由来する構造的なハルシネーションと、事後訓練やキャリブレーションで低減しうる統計的な誤り生成とを、実際の出力からどう切り分けて計測できるか。(Source: [[@2026__LambdaNote__ネットワークシステムについて語るときに我々の語ること - Chapter 12 Looking Over The Fence （垣根をこえて）]]) ## 関連 - ソース: [[@2026__arXiv__LLM hallucinations in the wild]]、[[@2023__arXiv__GPT-4 Technical Report]]、[[@2026__LambdaNote__ネットワークシステムについて語るときに我々の語ること - Chapter 12 Looking Over The Fence （垣根をこえて）]] ## 出典 - [[@2026__arXiv__LLM hallucinations in the wild]] - [[@2023__arXiv__GPT-4 Technical Report]] - [[@2026__LambdaNote__ネットワークシステムについて語るときに我々の語ること - Chapter 12 Looking Over The Fence （垣根をこえて）]](§12.3)