# フィードバックループ ## 定義 予測分析が人々の生活に影響を及ぼす場面では、自己強化的なフィードバックループという特に厄介な問題が生じる。予測分析の帰結そのものが、次の予測の入力となる状況を悪化させ、予測をさらに悪化させる方向に働く現象を指す。レコメンデーションシステムのような比較的影響の小さい予測アプリケーションでも、ユーザーが既に同意する意見ばかりを見せられ、ステレオタイプ・誤情報・分極化が育つエコーチェンバーが生まれる問題が起きる。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]] "Feedback Loops") ## 具体例 - **信用スコアと雇用の下降スパイラル**: 良い信用スコアを持つ良い労働者であっても、本人にはどうしようもない不運によって経済的困難に陥ることがある。支払いの延滞は信用スコアを下げ、それが就職を難しくし、無職の状態が貧困を押し進め、貧困がさらに信用スコアを悪化させる。これは数学的厳密さとデータという装いの下に隠された、有害な前提に基づく下降スパイラルである。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]] "Feedback Loops") - **アルゴリズム的価格協調**: ドイツのガソリンスタンドがアルゴリズムによる価格設定を導入したところ、競争が減少し消費者向け価格が上昇したことを経済学者が発見した。アルゴリズムどうしが学習の結果として暗黙のうちに協調(collude)してしまったことが原因とされる。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]] "Feedback Loops") ## システム思考によるフィードバックループの予測 フィードバックループがいつ生じるかを常に事前予測できるわけではない。しかし多くの帰結は、計算機部分だけでなく、それと相互作用する人間を含めたシステム全体を考えることで予測できる。この考え方は「システム思考(systems thinking)」と呼ばれる。データ分析システムが異なる行動・構造・特性に対してどう応答するかを理解し、既存の格差(富める者をより富ませ、貧しい者をより貧しくする等)を強化するのか、それとも不公正と戦うのかを検討する必要がある。最善の意図を持っていても、意図しない帰結の可能性を常に警戒しなければならない。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]] "Feedback Loops") ## 横断的知見 - (この節は今後、複数ソースの突き合わせで得られた知見を蓄積する。現時点では単一ソース([[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]])からの知見のみ。) - **社会システムの定性的フィードバックループと、計算機システムの古典制御理論による形式的フィードバックループは、同じ「循環する情報の流れ」を指しながら分析の厳密さの水準が対照的である**。DDIAの「Feedback Loops」節は、予測分析の帰結が次の予測入力を悪化させるという定性的・記述的な現象(信用スコアの下降スパイラル、アルゴリズム的価格協調)を扱い、事前検知の定量的指標は提示しない。一方『Feedback Control of Computing Systems』は同じ循環構造を、目標値入力・制御誤差・コントローラ・制御入力・対象システム・外乱入力・測定出力・ノイズ入力・トランスデューサという要素に分解したブロック線図(図1.1)で表現し、安定性(有界入力・有界出力)・精度(定常偏差)・整定時間・オーバーシュートというSASO特性で定量的に評価する枠組みを与える([[SASO特性]])。DDIAが問うている「フィードバックループがいつ生じるかを事前予測できない」という限界は、古典制御理論の側では「対象システムの正確なモデルを構築できない」という、開ループ制御が実務でほとんど使われない理由(表1.1)と同型の問題として現れる。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]], [[@2004__Wiley__Feedback Control of Computing Systems - Chapter 1 Introduction and Overview]]) - **「フィードバックループ」という一つの語が指すループの「良し悪し」の評価軸が両ソースで逆転している**。DDIAでは自己強化フィードバックループは主に望ましくない現象(格差拡大、エコーチェンバー)として描かれる。対して古典制御理論の閉ループ制御は、外乱に適応し目標値入力へ収束させるための望ましい設計手法として積極的に用いられる。両者を並べると、フィードバックループそのものは価値中立な構造であり、望ましさは「何を目標値入力として設計したか」「コントローラの設計が適切か」に依存することが見えてくる——DDIAの下降スパイラル事例も、制御理論の語彙で言えば「意図しない目標値入力(既存の格差の再生産)へ収束する、設計されていないフィードバック系」と読み替えられる。(Source: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]], [[@2004__Wiley__Feedback Control of Computing Systems - Chapter 1 Introduction and Overview]]) - **DDIAとHellersteinらが2020年代に個別に確認した「フィードバックループは価値中立な構造であり、望ましさは目標値入力とコントローラ設計に依存する」という上記の観察は、ウィーナーが1948年の本源的定式化の時点ですでに数学的に同じ形で示していた**。ウィーナーは第4章で、目的的な行動を可能にする負のフィードバック(温度・速度・位置の安定化)と、利得過大や時間遅れによって破局的な発振に陥る失敗モードとを、単一の作用素の式 A/(1+λA) の同じ変数(帰還の乗数λ)が生む2つの帰結として提示する——λが小さすぎたり符号を誤れば安定化は働かず、λが大きすぎれば点−1/λが演算子Aの描く曲線の内点に入り発振する。DDIA・Hellersteinの対比が「良し悪しは設計に依存する」と抽象的に述べるのに対し、ウィーナーはその「設計」を複素平面上の内点/外点判定という具体的な数学的操作にまで落とし込んでおり、価値中立性という2020年代の観察の起点がここにあることが分かる。(Source: [[@1961__MITPress__Cybernetics - Chapter 4 Feedback and Oscillation]] pp.98-103, [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]], [[@2004__Wiley__Feedback Control of Computing Systems - Chapter 1 Introduction and Overview]]) - **ウィーナーは負のフィードバックの失敗モードを、DDIAの社会システムとは異なる生理学的な領域ですでに実例として観察していた**。DDIAの下降スパイラル(信用スコアと雇用)は社会システムにおける自己強化フィードバックループの害を描くが、ウィーナーが第4章冒頭で挙げる小脳性振戦(purpose tremor)——コップを取ろうとする手が過修正を繰り返し、往復運動が激しくなっていく症状——は、随意フィードバックの利得調整(比例配分)が乱れたときに神経筋系という別の領域で起きる、構造的に同型の暴走である。両者とも「本来は目標へ収束させるはずのフィードバックが、誤った利得・誤った目標値のもとで自己を増幅する」という同じ数学的失敗形態の、異なる基質(神経系/社会制度)における現れとして並べられる。(Source: [[@1961__MITPress__Cybernetics - Chapter 4 Feedback and Oscillation]] pp.95-96, [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]] "Feedback Loops") ## 未解決の問い - フィードバックループの発生を事前に検知するための定量的な指標や監視手法は何か。本章はシステム思考という定性的な枠組みを提示するにとどまる。 - アルゴリズムどうしの暗黙的な協調(ガソリン価格の例)は、意図的なカルテル形成とは法的・倫理的にどう区別され、どう規制されうるか。 - レコメンデーションシステムのエコーチェンバー問題に対する技術的緩和策(多様性を強制する再ランキング等)は、本章では触れられていない。 - DDIAの定性的なフィードバックループ(社会システム)に、古典制御理論のSASO特性(安定性・精度・整定時間・オーバーシュート)のような定量的な評価軸を適用できるか。例えば信用スコアの下降スパイラルを「不安定な閉ループ系」として形式化し、安定化のための「コントローラ設計」(規制・介入策)を論じる先行研究はあるか。本 wiki にはまだ両分野を橋渡しする直接のソースがない。 - ウィーナーの複素平面上の内点/外点判定(第4章)と、Hellerstein らの離散時間・Z変換極による安定性判定(第5章・第6章、[[制御ループの安定性とタイムラグ補償]])は、連続時間/離散時間という違いを除けば同じ判定を与えるはずである。両者を橋渡しする形式的な対応関係(ウィーナーの複素変数zがHellersteinの極とどう対応するか)を明示した先行研究は本 wiki にはまだない。 - DDIAの信用スコアの下降スパイラルを、ウィーナーの流儀で「利得λが臨界値を超えた負のフィードバック系」として定式化しなおせるか。もしできれば、規制介入を「λを臨界値以下に戻す設計」として具体化できる可能性があるが、本 wiki にその定式化を試みたソースはまだない。 ## 関連 - ソース: [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]]("Feedback Loops" 節) / [[@2004__Wiley__Feedback Control of Computing Systems - Chapter 1 Introduction and Overview]] / [[@1961__MITPress__Cybernetics - Chapter 4 Feedback and Oscillation]] - 概念: [[予測分析とアルゴリズムバイアス]](フィードバックループが増幅する既存の格差の起点) / [[計算機システムのフィードバック制御]] / [[SASO特性]] / [[制御ループの安定性とタイムラグ補償]] / [[ホメオスタシス]] - 実体: [[ノーバート・ウィーナー]] - 書籍: [[Designing Data-Intensive Applications 2nd Edition]] / [[Feedback Control of Computing Systems]] / [[Cybernetics]] ## 出典 - [[@2026__OReilly__Designing Data-Intensive Applications 2E - Chapter 14 Doing the Right Thing]]("Feedback Loops" 節) - Hellerstein, Diao, Parekh, Tilbury, *Feedback Control of Computing Systems*, IEEE Press / John Wiley & Sons, 2004, Chapter 1.