# How LLMs Distort Our Written Language > [!abstract] 概要 > 大規模言語モデル（LLM）は世界中で10億人を超える人々に利用されており、最も頻繁には執筆の支援に用いられている。本研究において我々は、LLMが人間の執筆における声やトーンを変えるだけでなく、意図された意味をも一貫して改変してしまうことを実証する。第1に、執筆にLLMを使用する際に人間が実際にどのようにLLMと対話しているかを理解するため、ユーザー実験を実施した。その結果、広範なLLMの利用によって、トピックの問いに対して中立にとどまるエッセイが約70%増加することが明らかになった。LLMを多用したユーザーは、文章の創造性が低下し、自分自身の声ではないと有意に多く報告した。第2に、LLMが普及する前の2021年に収集された人間執筆エッセイのデータセットを用い、データセット内の人間による専門的フィードバックに基づいてエッセイを修正するようLLMに指示すると、得られる内容と意味に大きな変化が生じることを検証した。専門家のフィードバックを与えられ、文法の修正のみを行うよう指示された場合であっても、LLMはテキストのセマンティックな意味を著しく改変する形で修正してしまうことが判明した。第3に、最近のトップAI会議における科学的査読（ピアレビュー）の21%を占めるAI生成テキストに着目し、実世界におけるLLM生成テキストを調査した。その結果、LLM生成レビューは研究の明瞭さや重要性に置く比重が有意に低く、平均して丸1点高い評点を付与していることがわかった。これらの知見は、AI利用の知覚された利点と、人間の執筆の意味論に対する暗黙的かつ一貫した影響との間のミスアライメントを浮き彫りにし、広範なAIによる執筆が我々の文化的・科学的制度にどのような影響を及ぼすかについての将来の研究を動機づけるものである。 ## 要約 世界中で10億人以上が利用する大規模言語モデル（LLM）は、日常的な文書作成や推敲の支援に広く活用されている。しかし本研究は、LLMによる推敲支援が人間の文章の「声」や「トーン」を変えるだけでなく、書き手が本来意図していた**「意味内容（semantics）」や「立場（stance）」そのものを一貫して歪曲・改変してしまう**ことを、人間被験者実験・既存エッセイ推敲コーパスの定量分析・および学術会議ピアレビューの大規模実環境分析の3つの観点から実証した。 人間による推敲が個性的で多様な方向へ小幅に変化するのに対し、LLMによる推敲は「文法修正のみ」を指示した場合でさえ、特定の一方向（人間がこれまで執筆しなかった潜在空間領域）へ大幅に文章をシフトさせる。さらに主張の断定を避けて中立化し、感情表現を削ぎ落として分析的・統計的語彙へ置き換え、品詞分布を名詞優位へと変容させる。学術査読の実データ（ICLR 2026の査読1万8,000件中21%のAI生成レビュー）でも、研究の本質的明瞭さ・重要性を軽視しつつ平均1点甘く採点する歪みが確認された。これはAI支援の認知的利点と実際の意味的歪曲の間に深刻な不整合が存在することを示しており、文化的・学術的制度への長期的影響に強い警鐘を鳴らしている。 ## 問題設定と背景 LLMによる文章生成支援は、文法修正・トーン調整・要約・ブレインストーミングなど生産性向上のツールとして急速に社会に浸透している。しかし、これまでの研究は主に表現の洗練度や流暢性、あるいは事実性の誤り（ハルシネーション）に注目しており、「人間が表現しようとした本来の主張、立場、ニュアンス、感情」が推敲プロセスによってどのように変容してしまうかという**意味的歪曲（semantic distortion）**の定量的・体系的な評価は欠落していた。 特に、ユーザーが「語調を整える」「文法ミスを直す」といった表層的・形式的な修正のみを意図してLLMにプロンプトを与えた場合でも、LLMの内部バイアスやRLHF（人間からのフィードバックによる強化学習）によって埋め込まれた選好が、文章の結論や論証構造を静かに書き換えてしまう懸念がある。 ## 提案手法と実験設計 著者らは以下の3つのアプローチを組み合わせて検証を行った。 1. **被験者ユーザー実験（ランダム化比較試験）**: 120名の参加者を「LLM非使用（統制群）」「LLM検索・支援群」「LLM大量利用群」に割り当て、倫理的・社会的な問いに関する説得力のあるエッセイを執筆させた。執筆過程のテレメトリ、事前・事後アンケート、自己評価を収集。 2. **ArgRewrite-v2 コーパスを用いた推敲介入実験**: LLM普及前の2021年に収集された高校生・大学生の議論エッセイ初稿（D1）と、人間の専門家による修正指示、および人間が実際に修正した第2稿（D2）の対データを使用。LLM（Claude 3.5 Haiku, Gemini 2.5 Flash, GPT-5-mini等）に対し、専門家フィードバックを与えつつ「文法のみ修正」「最小限の修正」「全体推敲」等のプロンプトを与えてエッセイを書き直させ、意味空間における移動ベクトルを計測。 3. **実世界の大規模学術査読分析**: ICLR 2026における約1万8,000件のピアレビューテキストを対象に、AI生成検出手法およびLLM-as-a-Judgeを用いて、AI生成レビュー（全体の約21%）と人間レビューにおける論点（明瞭さ、妥当性、重要性）の重み付けと評点バイアスを比較。 ## 実験結果と分析 ### 1. 意味空間における均質化と一方向へのシフト Sentence-Transformers (MiniLM-L6-v2) による文埋め込みをPCA（主成分分析）に射影した結果、人間による推敲は個々の書き手に応じて多様な方向へ小幅に推移するのに対し、LLMによる推敲はモデルや指示プロンプトにかかわらず、**きわめて強い一貫性を持った同一方向への巨大な意味シフト**を示した。 **Figure 1: 人間推敲とLLM推敲における意味空間シフトの比較** ![[_attachments/arxiv-2603.18161v2/fig01-semantic-shift-overview.png]] (Figure 1. ArgRewrite-v2データセットにおける初稿(D1)から推敲後(D2)へのPCA空間での移動ベクトル。左上（灰色）の人間の推敲は小さく多様な方向に分散しているのに対し、LLMによる推敲（緑色）は指示内容（最小修正、文法修正、拡張等）を問わず、同一方向へ大きく偏向し、人間がかつて到達しなかった潜在空間領域へ収束している。) **Figure 5: モデル別（Claude 3.5 Haiku / Gemini 2.5 Flash / GPT-5-mini）の意味シフト比較** ![[_attachments/arxiv-2603.18161v2/fig05-semantic-shifts-models.png]] (Figure 5. 主要モデル間で共通して観測される強い意味シフト。モデルが異なってもシフトの方向性と均質化の傾向は極めて酷似している。) ### 2. ユーザーの自己認識と立場の無力化（中立化） ユーザー実験において、LLMを過剰に利用した参加者は「文章が自分の声（voice）を反映していない」「創造的でない」と強く実感していた（Figure 4a）。またエッセイの単語埋め込みをt-SNEで可視化すると、LLM利用群のエッセイは狭い領域に密集し、多様性が著しく失われていた（Figure 4b）。 さらに深刻な点として、賛成・反対を明確に論じるべきエッセイにおいて、LLM介入によって**「どちらの立場も取らず中立にとどまる（Both/Neither）」エッセイの割合が約70%増加**した（Figure 6）。 **Figure 4: ユーザー実験における主観評価と埋め込み分布の密集化** ![[_attachments/arxiv-2603.18161v2/fig04-user-study-self-report-tsne.png]] (Figure 4. (a) 5件法による自己申告スコア。ヘビーLLMユーザーは創造性と自身の声の反映度が大幅に低下。(b) t-SNE射影において、人間単独のエッセイ（黒）に対しLLM関与エッセイ（緑）は極端に局所クラスタへ圧縮されている。) **Figure 6: LLM介入による議論スタンスの中立化現象** ![[_attachments/arxiv-2603.18161v2/fig06-stance-neutralization.png]] (Figure 6. トピックに対するスタンス判定。統制群（Human User）に比べ、LLMの影響を受けた文章では断定的な賛否が消え、中立的・玉虫色の結論へ収束する。) ### 3. 具体的な書き換えの質的実例 文法修正のみを指示された場合であっても、LLMは元の個人的体験や主観的信念を削除し、客観的・制度的な言説へ書き換えてしまう。 **Figure 2: 文法修正指示における実質的な論証構造書き換えの例** ![[_attachments/arxiv-2603.18161v2/fig02-argumentative-rewriting-example.png]] (Figure 2. 赤字は削除、緑字は追加。元の学生の素朴な主張や個人の視点が、LLMによって完全に形式的・規範的な政策論調へ書き換えられている。) ### 4. 語彙・品詞・感情の変容 LLMによる書き換えは、名詞・前置詞の多用（いわゆる名詞化・官僚的文体）を招き、動詞・代名詞・感情語を削ぎ落とす。 **Figure 3: 人間編集とAI編集における特徴的語彙（ワードクラウド）** ![[_attachments/arxiv-2603.18161v2/fig03-wordclouds-human-vs-ai.png]] (Figure 3. 人間編集（左）は people, idea, money, feel などの日常的・具体的語彙を保持するのに対し、AI編集（右）は deployment, frameworks, robust, regulatory などの抽象的・制度的バズワードへ置換される。) **Figure 7: 語彙的多様性の低下（Lexical Divergence / JSD）** ![[_attachments/arxiv-2603.18161v2/fig07-lexical-divergence-jsd.png]] (Figure 7. イェンセン・シャノンダイバージェンス（JSD）の分布。LLM介入エッセイは語彙選択の多様性が顕著に狭小化する。) **Figure 8: 品詞（POS）分布の変化** ![[_attachments/arxiv-2603.18161v2/fig08-parts-of-speech-user-study.png]] (Figure 8. 品詞頻度。LLM生成・支援テキストは名詞（NOUN）が突出して増加し、代名詞（PRON）や動詞（VERB）が抑制される。) **Figure 9: 感情価のレーダーチャート変化** ![[_attachments/arxiv-2603.18161v2/fig09-emotional-shifts-radar.png]] (Figure 9. 怒り・恐れ・悲しみ・喜び・驚きなどの感情表現が、LLMによる推敲を経ることで全方位的に縮退・平坦化する。) **Figure 10: LIWC分析的思考スコアと論拠タイプの変化** ![[_attachments/arxiv-2603.18161v2/fig10a-liwc-analytic-distribution.png]] ![[_attachments/arxiv-2603.18161v2/fig10b-argument-types-distribution.png]] (Figure 10. (a) LIWC Analytic スコアが急激に上昇。(b) 個人的体験（personal experience）や感情的根拠が激減し、統計的・分析的論証（statistical/logical）へ画一化される。) ### 5. 実世界ピアレビュー（ICLR 2026）への波及 実社会での応用事例として ICLR 2026 の査読データを分析したところ、AI生成レビューは人間レビューと大きく異なる挙動を示した。 **Figure 11: ICLR 2026査読におけるAIレビューの評価観点と採点バイアス** ![[_attachments/arxiv-2603.18161v2/fig11-iclr-peer-review-shifts.png]] (Figure 11. (a) 評価観点の言及比率。AIレビューは研究の明瞭さ（Clarity）や重要性（Significance）への言及が極端に低く、表層的な健全性・堅牢性に偏る。(b) 採点スコアの分布。AI生成レビューは人間レビューに比べ、評点が平均で丸1ポイント甘く（高得点側に偏向して）付与されている。) ## 考察と議論 本論文の発見は、LLMを単なる「無害な文章校正器」として捉えることの危険性を明示している。 1. **RLHFアライメントと無難さの代償**: RLHFや安全策のチューニングは、モデルに「毒性の低さ」「客観的・中立的態度」「万人受けする礼儀正しさ」を刷り込む。この性質が推敲タスクに転移すると、人間の書き手の尖った意見、強い感情、個性的文体を「欠陥」とみなして平滑化・中立化してしまう。 2. **科学的・文化的言説の均質化**: 論文執筆、政策文書、教育エッセイ、ピアレビューにLLMが浸透することで、多様な人間的視点が失われ、制度的・官僚的な語彙（robust, deployment, framework等）で塗り固められた無個性なテキスト空間が再生産される。 3. **査読制度の空洞化**: 批判的思考や真の重要性の見極めを欠き、表層的な流暢さと甘い評点をばら撒くAIピアレビューの蔓延は、学術的信憑性そのものを蝕む。 ## 関連 - [[DeepMind]] - [[Natasha Jaques]] - [[Marwa Abdulhai]] - [[アライメント]] ## 出典 - `[[.raw/papers/arxiv-2603.18161v2.pdf]]` - https://arxiv.org/abs/2603.18161