# ランダムフォレスト ## 定義 ランダムフォレストは、ブートストラップ標本ごとに決定木を作り、各ノードで検討する変数をランダムに選んで分割し、多数の木の多数決(回帰では平均)で予測する[[アンサンブル学習]]の手法である。Breiman は、単一の決定木より大幅に誤差を減らし、変数を削らなくても過学習しにくいと主張した。(Source: [[@2001__Statistical Science__Statistical Modeling - The Two Cultures]]) ## 未解決の問い - ランダムフォレストの高い予測精度は、変数重要度やクラスタ構造などの「情報」の信頼性をどこまで保証するか。相関する変数の間で重要度がどう配分されるかは未整理である。 ## 未編纂の観察 - Breiman(2001)は 10 個のデータ集合で単一の木より誤差が小さいと報告した(Source: [[@2001__Statistical Science__Statistical Modeling - The Two Cultures]])。 ## 関連 - 概念: [[アンサンブル学習]] / [[決定木]] / [[変数重要度]] / [[統計的機械学習]] - ソース: [[@2001__Statistical Science__Statistical Modeling - The Two Cultures]] ## 出典 - [[@2001__Statistical Science__Statistical Modeling - The Two Cultures]](定義)