# 予測分析とアルゴリズムバイアス ## 定義 予測分析(predictive analytics)は、データ分析に基づいて個人の将来行動(再犯の可能性・債務不履行・保険金請求の可能性等)を予測し、意思決定に用いる手法である。天気や疫病の流行を予測することと、個人が融資に適格かを予測することは性質が異なる。後者は個人の人生に直接的な影響を及ぼす。組織にとっては機会損失のコストより不良債権や問題のある従業員のコストの方が高いため、疑わしきは「no」と判断する誘因が働く。その結果、リスクありと(正しくであれ誤ってであれ)判定された人が、就職・航空機搭乗・保険加入・住宅賃貸・金融サービスなど社会参加の複数局面で系統的に排除され続けることがあり、これは「algorithmic prison(アルゴリズムの牢獄)」と呼ばれる。人権を尊重する国の刑事司法制度は無罪推定を原則とするが、自動化システムは有罪の証拠なしに、かつ不服申し立ての機会もほとんどないまま人を社会参加から排除しうる。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]] "Predictive Analytics") ## アルゴリズムバイアスの発生機序 アルゴリズムによる判断は人間の判断より優れているとも劣っているとも言えない。人間には誰しもバイアスがあり、それが文化的に制度化されることもある。データに基づく意思決定は主観的・直感的な人間の判断よりも公平になりうるという期待があるが、予測分析・AIシステムは人間の意思決定ルールを自動化するのではなく、そのルール自体をデータから推論させる。学習されたパターンは不透明であり、相関が見えてもなぜそうなるかは分からないことが多い。入力に系統的バイアスがあれば、システムはほぼ確実にそのバイアスを学習し出力で増幅する。 多くの国の反差別法は民族・年齢・性別・性的指向・障害・信条などの保護属性に基づく差別的取り扱いを禁じるが、他の属性がこれらと強く相関する場合に問題が生じる。例えば人種で分離された居住区では、郵便番号やIPアドレスが人種の強力な代理変数になる。バイアスのかかった入力からアルゴリズムが公平で偏りのない出力を生み出せると信じることは、「機械学習はバイアスのためのマネーロンダリングのようなものだ」と揶揄されるとおり非現実的である。予測分析システムは過去を外挿するにすぎず、過去が差別的であればその差別を体系化し増幅する。過去より良い未来を望むなら、人間にしか持ちえない道徳的想像力が必要とされる。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]] "Bias and Discrimination") ## 責任と説明責任の空白 人間が判断を誤れば説明責任を問え、影響を受けた人は不服を申し立てられる。しかしアルゴリズムが誤った場合、誰が責任を負うのかが曖昧になる。自動運転車が事故を起こしたとき、あるいは信用スコアリングアルゴリズムが特定の人種・宗教の人々を系統的に差別したとき、責任の所在をどう定めるかは未解決の問題である。従来の信用スコアは「過去にどう行動したか」という関連する事実に基づき、誤りがあれば(容易ではないが)訂正可能である。これに対し機械学習に基づくスコアリングは、より広範な入力を使い、より不透明であるため、どのように特定の判断に至ったか、不公正・差別的な扱いを受けていないかを理解することが難しい。予測分析は「あなたに似た人々が過去にどう行動したか」という統計的分類であり、母集団全体の確率分布が正しくても個々のケースでは誤りうる。誤って分類された個人がデータの誤りを理由に救済を求めることはほぼ不可能である。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]] "Responsibility and Accountability") ## 横断的知見 - (この節は今後、複数ソースの突き合わせで得られた知見を蓄積する。現時点では単一ソース([[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]])からの知見のみ。) ## 未解決の問い - アルゴリズムの説明責任(explainability)を法制度上どう担保するか。GDPRの「説明を受ける権利」がどこまで実効性を持つかは本章の範囲外。 - 保護属性の代理変数を事前に検知・除去する技術的手法(公平性を考慮した特徴量選択等)は、本章で議論される「郵便番号のような代理変数問題」をどこまで緩和できるか。 - algorithmic prison からの救済手続き(不服申し立て制度の設計)を具体的にどう制度化するか。 ## 関連 - ソース: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]]("Predictive Analytics", "Bias and Discrimination", "Responsibility and Accountability" 節) - 概念: [[フィードバックループ]](予測が既存の格差を自己強化する経路) - 書籍: [[Designing Data-Intensive Applications 2nd Edition]] ## 出典 - [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]]("Predictive Analytics", "Bias and Discrimination", "Responsibility and Accountability" 節)