Résumé - Sur les prédictions arbitraires à partir de modèles également valides

Sur les prédictions arbitraires à partir de modèles également valides

2025-07-25 16:15:59

{"Sarah Lockfisch","Kristian Schwethelm","Martin Menten","Rickmer Braren","Daniel Rueckert","Alexander Ziller","Georgios Kaissis"}

{cs.LG,cs.AI}

Cette étude investigate la question de la multiplicité des modèles en apprentissage automatique, en particulier dans les applications médicales. Elle met en lumière l'existence de multiples modèles qui peuvent décrire les mêmes données de manière équivalente mais produire des prédictions différentes. Cela soulève des préoccupations concernant la fiabilité et la justification des modèles individuels, en particulier dans des scénarios à haut risque comme le diagnostic médical. **Principales conclusions** : * **La performance de validation est inconstante** : Les métriques de validation standard ne parviennent pas à identifier un modèle optimal unique, rendant le choix d'un modèle unique arbitraire. * **Les résultats prédictifs sont arbitraires** : L'utilisation d'un seul modèle peut entraîner des prédictions contradictoires pour le même patient, pouvant aboutir à des diagnostics arbitraires et néfastes. * **Les ensembles avec stratégie d'abstention mitigent la multiplicité** : Un petit ensemble de modèles avec une stratégie d'abstention peut réduire ou éliminer efficacement la multiplicité prédictive, rendant les prédictions plus fiables. * **L'exactitude réduit la multiplicité** : Une plus grande exactitude obtenue par une capacité accrue du modèle peut aider à réduire la multiplicité prédictive. **Implications pour les applications médicales** : * **La multiplicité des modèles est un défi significatif** : Elle peut entraîner des incohérences dans les diagnostics et les traitements, et les décisions ne devraient pas être basées sur un seul modèle. * **Les approches basées sur des ensembles sont prometteuses** : Elles peuvent améliorer la fiabilité diagnostique en combinant les prédictions de multiples modèles. * **Un examen par des experts est nécessaire** : Dans les cas où les modèles ne parviennent pas à atteindre un consensus suffisant, un examen par des experts devrait être utilisé pour prendre des décisions. **Limitations** : * L'étude se concentre sur les problèmes de classification et ne traite pas d'autres types de tâches médicales, telles que la segmentation ou la régression. * L'analyse est basée sur un nombre limité de modèles et de jeux de données, et des recherches supplémentaires sont nécessaires pour généraliser les résultats. **Conclusion** : La multiplicité des modèles est une question critique qui doit être abordée dans l'apprentissage automatique, en particulier dans les applications médicales. Les approches basées sur des ensembles et l'examen par des experts peuvent aider à atténuer les risques associés à la multiplicité des modèles et à améliorer la fiabilité des prédictions.