[機械学習の解釈性に関する研究動向とシステム運用への応用 / A Survey on Interpretable Machine Learning and Its Application for System Operation - Speaker Deck](https://speakerdeck.com/tsurubee/a-survey-on-interpretable-machine-learning-and-its-application-for-system-operation?slide=17) - 協力ゲーム理論において、プレイヤーが全員協力すると仮定した場合の総利益を分配する方法。 - 機械学習モデルの予測結果に対する各特徴量の重要性の尺度となる。 プレイヤー$i$が参加したときの利得の増加分 （下記式の積項の後者）を限界貢献度とするが、プレイヤーの参加順に依存する。 そこで、以下のように、全部分集合に対するプレイヤーの限界貢献度の平均値を計算する。 $v$を特性関数、$n$をプレイヤー数、$|S|$を部分集合のプレイヤー数とすると、シャープレイ値は次のように定義される。 $\varphi _{i}(v)=\sum _{S\subseteq N\setminus \{i\}}{\frac {|S|!\;(n-|S|-1)!}{n!}}(v(S\cup \{i\})-v(S))$ シャープレイ値の欠点は、計算量が順列数に依存するため、$n$が大きいと計算量が膨大になる。 機械学習では特性関数$v$がモデル$f$となる。