## Memo - [[XAI|XAI]] - [GitHub - iancovert/sage: For calculating global feature importance using Shapley values.](https://github.com/iancovert/sage/) ## Abstract 複雑な[[機械学習]]モデルの内部構造を理解することは長年の課題であり、最近の研究のほとんどは局所的な解釈可能性に焦点を当てたものである。グローバルな意味での個々の入力特徴の役割を評価するために、我々は各特徴に関連する予測力を通じて特徴の重要性を定義する観点を探求する。我々は予測力の2つの概念（モデルベースとユニバーサル）を導入し、このアプローチを加法的重要度尺度の枠組みで定式化し、文献上の多くの手法を統一する。そして、特徴の相互作用を考慮しながら予測力を定量化する、モデルにとらわれない手法であるSAGEを提案する。実験により、SAGEは効率的に計算できること、他の手法に比べてより正確な重要度値を割り当てることができることを示した。 [[2020__NeurIPS__Understanding Global Feature Contributions With Additive Importance Measures__translations]]