アンカード・ランジュバンアルゴリズム

アンカード・ランジュバンアルゴリズム

なぜ重要か: 企業や社会への影響が見込まれ、一般メディアにも波及する可能性があります。

ソースを読む(export.arxiv.org)

arXiv:2509.19455v1発表形式:クロス

要旨:Unadjusted Langevin Algorithm (ULA)などの標準的な1階LangevinアルゴリズムはLangevin拡散の離散化によって得られ、高次元および大規模データセットでのサンプリングにおいて機械学習で広く用いられている。しかしながら、これらには2つの主要な限界がある:(i) 微分可能な対数密度を必要とするため、非微分可能な成分を持つ標的は除外される。(ii) 一般的に裾の重い標的のサンプリングに失敗する。本稿では、非微分可能な標的と特定の種類の裾の重い分布に対応する統一的なアプローチであるAnchored Langevin Dynamicsを提案する。この手法は元のポテンシャルを滑らかな参照ポテンシャルで置き換え、乗法的なスケーリングによってLangevin拡散を修正する。標的分布への2-Wasserstein距離に関する非漸近的な保証を確立し、Langevin拡散のランダムな時間変化によって導出された等価な定式化を示す。数値実験により、理論と提案手法の実用的な性能を示す。

原文(英語)を表示

Title (EN): Anchored Langevin Algorithms

arXiv:2509.19455v1 Announce Type: cross
Abstract: Standard first-order Langevin algorithms such as the unadjusted Langevin algorithm (ULA) are obtained by discretizing the Langevin diffusion and are widely used for sampling in machine learning because they scale to high dimensions and large datasets. However, they face two key limitations: (i) they require differentiable log-densities, excluding targets with non-differentiable components; and (ii) they generally fail to sample heavy-tailed targets. We propose anchored Langevin dynamics, a unified approach that accommodates non-differentiable targets and certain classes of heavy-tailed distributions. The method replaces the original potential with a smooth reference potential and modifies the Langevin diffusion via multiplicative scaling. We establish non-asymptotic guarantees in the 2-Wasserstein distance to the target distribution and provide an equivalent formulation derived via a random time change of the Langevin diffusion. We provide numerical experiments to illustrate the theory and practical performance of our proposed approach.

Published: 2025-09-24 19:00 UTC


コメントする