クリティカルケア時系列データのための自己教師あり基盤モデルに向けて
なぜ重要か: 企業や社会への影響が見込まれ、一般メディアにも波及する可能性があります。
arXiv:2509.19885v1発表形式：クロス
要約：近年、医療分野におけるドメイン特化型基盤モデルは急速に発展していますが、クリティカルケア時系列データに関する基盤モデルは、データセットの規模と可用性の制限により、比較的未開拓な領域です。本研究では、プールされた電子健康記録データセットを用いて訓練された、Bi-Axial Transformer (BAT)に基づくクリティカルケア時系列データのための初期段階の事前学習済み基盤モデルを紹介します。本モデルを、訓練ソースとは異なるデータセットで死亡予測のためにファインチューニングすることで、転移学習の有効性を示します。その結果、特に小規模データセット（<5,000）において、教師あり学習ベースラインを上回る性能を示しました。これらの貢献は、リソースが限られた環境における汎用的かつ堅牢な臨床応用を支援するための、クリティカルケア時系列データに対する自己教師あり学習基盤モデルの可能性を浮き彫りにしています。
原文（英語）を表示
Title (EN): Towards Self-Supervised Foundation Models for Critical Care Time Series
arXiv:2509.19885v1 Announce Type: cross
Abstract: Domain-specific foundation models for healthcare have expanded rapidly in recent years, yet foundation models for critical care time series remain relatively underexplored due to the limited size and availability of datasets. In this work, we introduce an early-stage pre-trained foundation model for critical care time-series based on the Bi-Axial Transformer (BAT), trained on pooled electronic health record datasets. We demonstrate effective transfer learning by fine-tuning the model on a dataset distinct from the training sources for mortality prediction, where it outperforms supervised baselines, particularly for small datasets ($<5,000$). These contributions highlight the potential of self-supervised foundation models for critical care times series to support generalizable and robust clinical applications in resource-limited settings.
Published: 2025-09-24 19:00 UTC