勾配降下法によるコンパクトなルールベース分類器学習
なぜ重要か: 企業や社会への影響が見込まれ、一般メディアにも波及する可能性があります。
arXiv:2502.01375v2 発表種別: replace-cross
要旨: ルールベースモデルは、その透明性と解釈可能性からハイステークスの意思決定に不可欠であるが、その離散的な性質は最適化とスケーラビリティに課題をもたらす。本研究では、ルールベースの複雑さに関する厳格なユーザ制約をサポートしながら、競争力のある性能を達成する、新しい勾配ベースのルール学習システムであるFuzzy Rule-based Reasoner (FRR) を提案する。解釈可能性を最大化するため、FRRは、既存のニューロファジィアプローチでは達成できない意味的に意味のあるファジィ論理パーティションと、加法的なルールアンサンブルの組み合わせ複雑さを回避する十分条件（単一ルール）による意思決定を用いる。40個のデータセットにわたる広範な評価により、FRRは：(1) 従来のルールベース手法（例：RIPPER を平均5%上回る精度）を上回る性能；(2) ルールベースが90%コンパクトなツリーベースモデル（例：CART）と同等の精度；(3)最先端の加法的なルールベースモデルの精度の96%を、十分条件となるルールのみを用いて、そのルールベースサイズのわずか3%で達成することを示した。
原文（英語）を表示
Title (EN): Compact Rule-Based Classifier Learning via Gradient Descent
arXiv:2502.01375v2 Announce Type: replace-cross
Abstract: Rule-based models are essential for high-stakes decision-making due to their transparency and interpretability, but their discrete nature creates challenges for optimization and scalability. In this work, we present the Fuzzy Rule-based Reasoner (FRR), a novel gradient-based rule learning system that supports strict user constraints over rule-based complexity while achieving competitive performance. To maximize interpretability, the FRR uses semantically meaningful fuzzy logic partitions, unattainable with existing neuro-fuzzy approaches, and sufficient (single-rule) decision-making, which avoids the combinatorial complexity of additive rule ensembles. Through extensive evaluation across 40 datasets, FRR demonstrates: (1) superior performance to traditional rule-based methods (e.g., $5\%$ average accuracy over RIPPER); (2) comparable accuracy to tree-based models (e.g., CART) using rule bases $90\%$ more compact; and (3) achieves $96\%$ of the accuracy of state-of-the-art additive rule-based models while using only sufficient rules and requiring only $3\%$ of their rule base size.
Published: 2025-09-24 19:00 UTC