# LLMのハルシネーション 大規模言語モデル(LLM)が、もっともらしいが事実に基づかない情報を生成する現象。訓練データにない事実の捏造だけでなく、実在しない引用文献・存在しない API・誤った数値の生成など幅広い形態を取る。モデル開発者は出力の人手検証を推奨するが、実運用では見過ごされることが多く、政府報告書・法律文書・科学論文など高難度の知識作業に紛れ込んだ事例が報告されている(Source: [[@2026__arXiv__LLM hallucinations in the wild]])。 ## 横断的知見 - [[@2023__arXiv__GPT-4 Technical Report]] は「幻覚(hallucination)は改善されたが根絶されていない」とモデル自身の限界として自認するにとどまり、実世界での発生規模や社会的帰結までは踏み込んでいない。一方 [[@2026__arXiv__LLM hallucinations in the wild]] は、学術引用という検証可能な対象を使って「実運用でどれだけのハルシネーションが実際に知識記録へ混入しているか」を population スケールで定量化しており、モデル開発者視点(生成時点の性能改善)と社会実装視点(既に生産された知識への混入・拡散)という 2 つの異なる観測軸が存在することが分かる(Source: [[@2023__arXiv__GPT-4 Technical Report]], [[@2026__arXiv__LLM hallucinations in the wild]])。 - ハルシネーションは「検知して弾く」個別の誤りとしてだけでなく、[[@2026__arXiv__LLM hallucinations in the wild]] が示すように、査読・モデレーションといった既存の品質管理を一定程度すり抜けて記録に定着し、後続の引用や次世代モデルの訓練データに再帰的に取り込まれる「複利的リスク」としても捉える必要がある。 ## 未解決の問い - モデル側の事後訓練(RLHF・キャリブレーション改善)は、実世界のハルシネーション発生率(特に引用捏造)をどの程度実際に低減させているか。[[@2023__arXiv__GPT-4 Technical Report]] のキャリブレーション劣化(ECE 0.007→0.074)は引用ハルシネーションの増加と関係するか。 - 引用以外の構造化されていない主張(政策メモ・臨床記録など)におけるハルシネーション有病率を、[[@2026__arXiv__LLM hallucinations in the wild]] のようなベースライン差分推定の枠組みで測定する方法は確立されているか。 - エージェント型検証ツール(自動参照バリデータ等)の普及は、[[@2026__arXiv__LLM hallucinations in the wild]] が観測した「モデレーション通過率 78.8%」をどの程度実際に引き下げるか。 ## 関連 - ソース: [[@2026__arXiv__LLM hallucinations in the wild]]、[[@2023__arXiv__GPT-4 Technical Report]] ## 出典 - [[@2026__arXiv__LLM hallucinations in the wild]] - [[@2023__arXiv__GPT-4 Technical Report]]