# 検閲とコンテンツモデレーション ## 定義 検閲とコンテンツモデレーションとは、国家による直接的な情報統制と、プラットフォーム企業による間接的な言論規律という、性質の異なる2つの統制主体が併存する現代の情報統制の構造を指す。国家検閲の代表例である**中国のグレートファイアウォール**は三層防御からなる。第一層(境界防御)は国境ルータでのIPアドレスフィルタリングとDNSキャッシュポイズニングで、近年は暗号化トラフィックの増加(2020年にTLS 1.3のEncrypted Server Name Indicationの遮断を開始、トラフィックの30%超に相当)に対応して深層パケット検査からシフトしている。第二層(アプリケーション層防御)は、GoogleやFacebookを禁止する一方でTencent・Alibaba・Baiduという国産エコシステムを育成し、国境を国家間ではなく企業間に引き直すことで産業政策と政治を一体化させる。第三層(社会的防御)は、新疆・チベットのような少数民族地域での顔認識・感情認識付き監視カメラと社会信用システムの統合、そして数百万人規模の「五毛党」的な市民ボランティアが反体制的言論を沈黙させるのではなく「洗い流す(swamp)」戦略への転換である。ロシア(トロールファームによる世論操作、Telegramへの規制と街頭抗議)やアラブの春以降の中東諸国は、この中国モデルを部分的に模倣している。(Source: [[@2020__Wiley__Security Engineering 3e - Chapter 26 Surveillance or Privacy?]] §26.4.1) プラットフォーム企業によるコンテンツモデレーションは、米国の**Section 230**(1996年通信品位法)——プラットフォームをユーザー投稿の「発行者」とみなさず免責する条項——によって法的に可能になった。この免責が、YouTubeやFacebookのようなサービスを成立させた一方、報復ポルノや違法銃器販売を収益源とするサイトも保護してしまうという副作用を生んだ。各国のヘイトスピーチ規制には差があり、ドイツは2018年からNetzDG法でヘイトスピーチ(Volksverhetzung)の24時間以内削除を怠ったプラットフォームに5000万ユーロの罰金を科す一方、米国は憲法上の言論の自由の保護がより強い。フィルタリングの実務は、コンテンツモデレーター(多くは開発途上国に外注される)への深刻な心理的負荷、AI検知の限界(過激派の投稿頻度は低すぎて偽陽性を招きやすい)、そしてFacebookの元CISOであるAlex Stamosが指摘する「プライバシーか検閲か」というスペクトラム(WhatsAppのようなエンドツーエンド暗号化チャットはプライバシーが期待され、放送メディアは検閲が期待され、Facebookグループのような中間領域が最も困難)という3つの構造的な困難を伴う。(Source: [[@2020__Wiley__Security Engineering 3e - Chapter 26 Surveillance or Privacy?]] §26.4.2) 情報公開(freedom of information)は、検閲・コンテンツモデレーションと表裏をなす「忘れられる権利」との緊張を生む。David Brinの『透明な社会』は、監視技術の低廉化が不可避であるなら、その監視が当局だけの一方的な道具になるか、市民も当局を監視できる双方向の道具になるかという二者択一を提起する。欧州の「忘れられる権利」(2014年のGoogle Spain判決に始まり、GDPRに明文化)は、犯罪歴の一定期間後の抹消(clean-slate laws)を検索エンジンの時代にどう実効化するかという課題への一つの回答であり、新聞のアーカイブには記録が残るが検索結果からは除外されるという妥協的な解決策を採る。(Source: [[@2020__Wiley__Security Engineering 3e - Chapter 26 Surveillance or Privacy?]] §26.7) ## 横断的知見 - **中国のグレートファイアウォールの三層防御という具体的な統制構造は、第2章が扱う国家主体の一般的な戦略類型(スパイ)の中で「中国=防御型」と分類された戦略が、対内的にどう実装されているかを裏付ける**: [[敵対者の類型論]]が集約する第23章の横断的知見は、中国が他国への攻撃より自国の情報遮断(グレートファイアウォール)と経済・技術・諜報能力の構築を優先する「防御型」の国家戦略を取ると分類した。本概念が集約する第26章は、この「情報遮断」の中身を境界・アプリケーション層・社会的統制という三層の技術的・産業的・社会的構造として詳述する。同一の国家主体について、第23章は「戦略的な位置づけ」を、本章は「その戦略を実現する具体的なメカニズム」を提供しており、両者を合わせて初めて「防御型」という抽象的な分類が技術的な実装として何を意味するかが理解できる。(Source: [[@2020__Wiley__Security Engineering 3e - Chapter 26 Surveillance or Privacy?]] §26.4.1, [[@2020__Wiley__Security Engineering 3e - Chapter 23 Electronic and Information Warfare]] §23.8.2) - **Section 230がもたらす「プラットフォームの免責」という米国の法的枠組みは、本章のテロリズム論([[テロリズムの政治学と心理学]])が指摘する「メディア・プラットフォームの自己利益が恐怖を増幅する」構造と、規制の不在という点で共鳴する**: [[テロリズムの政治学と心理学]]が集約する第26.3.3節は、レコメンドアルゴリズムが恐怖と怒りを煽るコンテンツを優先することが滞在時間の最大化という自己利益と一致すると指摘した。本概念が集約する第26.4.2節は、Section 230がプラットフォームを投稿内容の法的責任から免責することで、この種の自己利益に対する外部からの矯正圧力(訴訟リスク)を弱めてきたと報告する。両者を合わせると、プラットフォームの経済的インセンティブ(滞在時間の最大化)と法的な免責構造(Section 230)が組み合わさることで、恐怖を煽るコンテンツの増幅に対する自己修正機構が働きにくくなっているという構造が見える。(Source: [[@2020__Wiley__Security Engineering 3e - Chapter 26 Surveillance or Privacy?]] §26.3.3, §26.4.2) ## 未解決の問い - 中国のグレートファイアウォールの「社会的防御」層(市民ボランティアによる言論の「洗い流し」)は、ロシアのトロールファームとどこまで同型の運用モデルを持つか。本章は両者を並べて描写するが、体系的な比較(資金源・動員規模・効果測定)には踏み込んでいない。 - Section 230の見直し(2018年の性売買関連法、2019年の欧州著作権法)が今後どこまで進み、米国のプラットフォーム免責モデルがどう変質するかは、本書の記述範囲(2020年)を超える。 - Alex Stamosが提示する「プライバシー対検閲」のスペクトラムにおいて、Facebookグループのような中間領域の統治モデルは、本章執筆時点でどこまで具体化されていたか。本章は問題提起にとどまる。 - 「忘れられる権利」(欧州)と米国憲法修正第1条の言論の自由が正面衝突する場面(Google Spain判決のグローバル適用を巡る係争)は、本章執筆後にどう決着したか、本書の記述範囲を超えるため追跡できていない。 ## 関連 - ソース: [[@2020__Wiley__Security Engineering 3e - Chapter 26 Surveillance or Privacy?]](§26.4-§26.4.2, §26.7) - 概念: [[テロリズムの政治学と心理学]](過激化とメディア・プラットフォームの自己利益の接続) / [[情報戦]](国家主体の偽情報キャンペーンとの関係) / [[敵対者の類型論]](中国=防御型国家戦略の分類) / [[データのプライバシーと同意]](忘れられる権利とプライバシー権の関係) ## 出典 - Ross Anderson, *Security Engineering: A Guide to Building Dependable Distributed Systems*, 3rd Edition, John Wiley & Sons, 2020, Chapter 26, §26.4-§26.4.2, §26.7.