プラトニックな宇宙:基盤モデルは同じ空を見ているか?
なぜ重要か: 企業や社会への影響が見込まれ、一般メディアにも波及する可能性があります。
arXiv:2509.19453v1発表タイプ:クロス
要約:JWST、HSC、Legacy Survey、DESIからの分光観測および画像観測を用い、様々なデータタイプで訓練された複数の基礎モデルにおける表現の収束を測定することで、天文学におけるプラトン的表現仮説(PRH)を検証する。ビジョン・トランスフォーマー、自己教師あり学習モデル、天文学特化アーキテクチャからの表現を、相互k近傍法を用いて比較する。検証した全てのアーキテクチャにおいて、表現の整合性はモデルの容量と共に一般的に増加する傾向が見られ、銀河天体物理学の共有表現への収束を支持する結果が得られた。本研究の結果は、天文学的基礎モデルが事前学習済みの汎用アーキテクチャを利用できる可能性を示唆しており、機械学習コミュニティによる既に行われた膨大な計算投資を活用できることを示している。
原文(英語)を表示
Title (EN): The Platonic Universe: Do Foundation Models See the Same Sky?
arXiv:2509.19453v1 Announce Type: cross
Abstract: We test the Platonic Representation Hypothesis (PRH) in astronomy by measuring representational convergence across a range of foundation models trained on different data types. Using spectroscopic and imaging observations from JWST, HSC, Legacy Survey, and DESI, we compare representations from vision transformers, self-supervised models, and astronomy-specific architectures via mutual $k$-nearest neighbour analysis. We observe consistent scaling: representational alignment generally increases with model capacity across our tested architectures, supporting convergence toward a shared representation of galaxy astrophysics. Our results suggest that astronomical foundation models can use pre-trained general-purpose architectures, allowing us to capitalise on the broader machine learning community’s already-spent computational investment.
Published: 2025-09-24 19:00 UTC