Résumé - Efficient Parametric SVD of Koopman Operator for Stochastic Dynamical Systems
SVD paramétrique efficace de l'opérateur de Koopman pour les systèmes dynamiques stochastiques
Titre
Efficient Parametric SVD of Koopman Operator for Stochastic Dynamical Systems
SVD paramétrique efficace de l'opérateur de Koopman pour les systèmes dynamiques stochastiques
Temps
2025-07-09 18:55:48
Auteur
{"Minchan Jeong","J. Jon Ryu","Se-Young Yun","Gregory W. Wornell"}
Catégorie
{cs.LG,cs.NA,math.DS,math.NA}
Lien
http://arxiv.org/abs/2507.07222v1
PDF Lien
http://arxiv.org/pdf/2507.07222v1
Résumé
L'article présente une méthode innovante pour apprendre les top-k fonctions singulières de l'opérateur de Koopman pour les systèmes dynamiques stochastiques, qui peut être utilisée pour analyser et comprendre les dynamiques complexes. La méthode proposée, appelée Approximation de Rank Faible (LoRA), s'appuie sur l'idée d'approximation de rang faible et évite les opérations numériquement instables, ce qui la rend adaptée pour les systèmes de grande taille. L'approche LoRA est conceptuellement simple et peut être facilement intégrée dans les pipelines de l'apprentissage profond moderne.
L'article compare LoRA avec des méthodes existantes telles que VAMPnet et DPNet, qui dépendent d'opérations numériquement instables comme la décomposition en valeurs singulières et l'inversion de matrice pendant le calcul de l'objectif. Ces opérations peuvent introduire des estimations de gradient biaisées et limiter la scalabilité à de grandes systèmes.
LoRA atteint les objectifs suivants :
- Il supprime le besoin d'opérations algébriques linéaires instables.
- Il est facile à intégrer dans les pipelines modernes d'apprentissage profond.
- Il récupère de manière fiable les sous-espaces dominants de Koopman.
- Il supporte des tâches descendantes telles que l'analyse des valeurs propres et les prévisions à plusieurs étapes.
L'article présente des résultats expérimentaux démontrant l'efficacité de LoRA sur divers benchmarks, y compris une carte logistique bruyante, un exemple MNIST ordonné, les dynamiques de Langevin et la dynamique moléculaire de Chignolin. Les résultats montrent que LoRA outperforme constamment les méthodes existantes en termes de sous-espaces singuliers, fonctions propres, prévisions à long horizon et scalabilité.
Les limites de l'approche LoRA incluent la rareté des méthodes de recherche d'architecture neuronale et de la théorie de l'apprentissage profond pour l'apprentissage des systèmes dynamiques stochastiques. Les travaux futurs devraient aborder ces limites et enquêter sur l'influence spécifique de LoRA sur l'optimisation de l'apprentissage profond.
Articles Recommandés
L'entraînement visuel et linguistique aide à déployer la connaissance taxonomique mais ne la modifie pas fondamentalement.
Meilleures pratiques pour l'ingénierie protéique assistée par l'apprentissage automatique
Optimisation à grande échelle des portefeuilles avec l'annealing neural variationnel
États de groupes résilients dans le Mott dans la Nb$_3$Cl$_8$ couchée contre la brisure de symétrie induite par la pression
Un réseau de neurones informé de la physique pour la modélisation de la fracturation sans dommage par gradient : formulation, application et évaluation
L'effet de la plasticité des fibres sur la formation de domaines dans les composites biologiques mous -- Partie I : une analyse de bifurcation
Étape-3 : Grand mais abordable : Co-conception du modèle-système pour un décodage efficace en termes de coût
Séparations temporelles et spatiales entre le spin glass et l'ordre à courte portée
Règles des sommes en liquides quantiques
Résamplage isotrope avec optimisation inter-angles