指揮者と機関車：協調設計推論への道筋
なぜ重要か: 企業や社会への影響が見込まれ、一般メディアにも波及する可能性があります。
arXiv:2509.19762v1発表タイプ：新規
要約：現代のLLM推論は、内部モデルの訓練と外部エージェントによるオーケストレーションによって駆動される、広範なテスト時計算に依存しています。しかし、このシナジーは、モデルの冗長性と指示への追従性の低さから、計算資源の無駄につながることが多いです。本稿では、この能力とコストのトレードオフを分析し、規模の何倍も大きいモデルを凌駕する能力を小型のオープンソースモデルに与える最適化された推論ワークフロー（\cepo）を導入します。このワークフローはオープンソースとして公開し、更なる研究を促進します。本研究は、基盤となるモデルの能力とオーケストレーションフレームワークを協調設計することで、中小型モデルにおいて強力な推論を可能にする明確な道筋を示しています。
原文（英語）を表示
Title (EN): The Conductor and the Engine: A Path Towards Co-Designed Reasoning
arXiv:2509.19762v1 Announce Type: new
Abstract: Modern LLM reasoning relies on extensive test-time computation, driven by internal model training and external agentic orchestration. However, this synergy is often inefficient, as model verbosity and poor instruction following lead to wasted compute. We analyze this capability-cost trade-off and introduce an optimized reasoning workflow (\cepo) that empowers smaller open-source models to outperform models multiple times their size. We will open-source this workflow to enable further research. Our work demonstrates a clear path toward co-designing orchestration frameworks with the underlying model capabilities to unlock powerful reasoning in small-to-medium sized models.
Published: 2025-09-24 19:00 UTC