# Eliezer Yudkowsky AI安全性研究者。LessWrong の創設者であり、当時の Singularity Institute for Artificial Intelligence(後の MIRI, Machine Intelligence Research Institute)研究員。[[@2008__LessWrong__Recursive Self-Improvement]](2008-12-01)で、AI開発のある時点で速く・局所的な能力急増(「AI go FOOM」)が起こりうるという主張の中心的論証を展開した。 「自分のソースコードをRAM上で直接書き換えること」と「農業を発明して専門化した発明家を支えること」を明確に区別すべきだという立場を取り、複雑で段差のある最適化連鎖を再帰的に自己へ畳み込むと理論上は横ばいか爆発かのどちらかになるはずだと論じた(ソフトテイクオフが成立するには「正確に都合の良い収穫逓減則」という狭い条件が必要)。この論証は [[Robin Hanson]] との一連の "FOOM debate" の一部を成し、後年 [I. J. Good (1965)](https://philpapers.org/rec/GOOSCT) の「ウルトラ知能機械」概念と合わせて [[Recursive Self-Improvement]] という語を定着させる起点となった。(Source: [[@2008__LessWrong__Recursive Self-Improvement]]) ## 関連 - [[@2008__LessWrong__Recursive Self-Improvement]] — 本人の主要論証source - [[Robin Hanson]] — FOOM debate の論敵、「局所性」の論点で異論を唱えた - [[I. J. Good]] — 「知能爆発」概念の先行提唱者 - [[Recursive Self-Improvement]] — 本人が語を定着させた中心概念 - [[知能爆発]] / [[テイクオフ速度論争]] — 本人の論証が支える上位概念 ## 出典 - [[@2008__LessWrong__Recursive Self-Improvement]](2008-12-01)