# 変数重要度 ## 定義 変数重要度は、予測変数のうちどれが応答の予測に寄与するかを表す指標である。定義は手法ごとに操作的に与えられる。回帰では最良部分集合や変数の削除、線形モデルでは係数と標準誤差の比、ランダムフォレストでは袋外の事例でその変数の値を置換したときの誤分類率の増加である。(Source: [[@2001__Statistical Science__Statistical Modeling - The Two Cultures]]) ## 未解決の問い - 変数重要度に満足な理論的定義はあるか。出力変数と入力変数の依存、および入力変数間の依存の両方に左右されるため、相関する変数群の扱いが定まっていない。 ## 未編纂の観察 - Breiman は、相関の強い 2 変数の一方を削っても予測精度が落ちず、両方を削ると大きく落ちる点に注意し、置換に基づく定義は両者を検出すると述べた(Source: [[@2001__Statistical Science__Statistical Modeling - The Two Cultures]])。 ## 関連 - 概念: [[ランダムフォレスト]] / [[予測モデルの解釈手法]] / [[統計的機械学習]] - ソース: [[@2001__Statistical Science__Statistical Modeling - The Two Cultures]] ## 出典 - [[@2001__Statistical Science__Statistical Modeling - The Two Cultures]](定義)