推定量非依存因果推論を用いた実用的なドゥー・シャープレイ説明
なぜ重要か: 企業や社会への影響が見込まれ、一般メディアにも波及する可能性があります。
arXiv:2509.20211v1 発表種別: 新規
概要: 説明可能性手法の中でもSHAPは最も普及しているものの、しばしば問題の因果構造を見過ごしている。これに対応するため、do-SHAPは介入的クエリを用いるが、その推定量への依存が実用的な適用を妨げている。この問題に対処するため、我々は推定量非依存アプローチの使用を提案する。これは、単一モデルから任意の識別可能なクエリを推定することを可能にし、複雑なグラフ上でのdo-SHAPの実現性を高める。また、計算速度を大幅に向上させる新規アルゴリズムを無視できるコストで開発したほか、アクセス不可能なデータ生成プロセスを説明する方法も開発した。我々のアプローチの推定と計算性能を実証し、2つの現実世界のデータセットで検証することで、信頼できる説明を得る上での可能性を示す。
原文（英語）を表示
Title (EN): Practical do-Shapley Explanations with Estimand-Agnostic Causal Inference
arXiv:2509.20211v1 Announce Type: new
Abstract: Among explainability techniques, SHAP stands out as one of the most popular, but often overlooks the causal structure of the problem. In response, do-SHAP employs interventional queries, but its reliance on estimands hinders its practical application. To address this problem, we propose the use of estimand-agnostic approaches, which allow for the estimation of any identifiable query from a single model, making do-SHAP feasible on complex graphs. We also develop a novel algorithm to significantly accelerate its computation at a negligible cost, as well as a method to explain inaccessible Data Generating Processes. We demonstrate the estimation and computational performance of our approach, and validate it on two real-world datasets, highlighting its potential in obtaining reliable explanations.
Published: 2025-09-24 19:00 UTC