La start-up française Mistral AI se retrouve au cœur d’un débat sur l’évaluation des modèles d’intelligence artificielle. Pour la première fois intégrée au classement de l’organisation SaferAI, l’entreprise arrive neuvième et dernière parmi les principaux développeurs mondiaux de modèles d’IA, derrière Anthropic, OpenAI, Google DeepMind, Meta, Z.ai, Alibaba Cloud, xAI et DeepSeek.
Ce classement ne mesure pas les performances des modèles, mais les politiques mises en place par les entreprises pour prévenir les usages dangereux de leurs IA, comme les cyberattaques, la création de contenus malveillants ou d’autres utilisations à haut risque.
Mistral AI remet en cause la méthodologie
La jeune entreprise française rejette toutefois les conclusions de cette évaluation. Selon elle, la méthodologie utilisée est principalement conçue pour les modèles dits « fermés », développés par des entreprises qui ne rendent pas publics leurs paramètres ou leur processus d’entraînement.
Or, Mistral AI mise largement sur une stratégie open-weight, qui permet aux développeurs de télécharger, adapter et déployer ses modèles dans leurs propres environnements. Pour la société, cette approche implique que les mécanismes de sécurité sont en partie définis par les entreprises qui utilisent les modèles, et non uniquement par leur concepteur. Elle estime donc que cette spécificité n’est pas suffisamment prise en compte dans le classement.
Un débat qui dépasse le cas de Mistral
Cette controverse met en lumière une question de plus en plus importante dans l’industrie de l’IA : comment évaluer les risques des modèles ouverts ?
Les partisans des modèles ouverts estiment qu’ils favorisent l’innovation, la transparence et la souveraineté technologique. À l’inverse, certains experts considèrent qu’ils peuvent être plus difficiles à contrôler une fois diffusés, puisqu’ils peuvent être modifiés ou réutilisés par des tiers.
Au-delà de la position de Mistral AI, ce débat illustre l’un des grands défis de l’intelligence artificielle : définir des critères d’évaluation qui tiennent compte de la diversité des modèles et des stratégies de développement. À mesure que les modèles ouverts gagnent en popularité, les référentiels de sécurité devront probablement évoluer pour mesurer non seulement les capacités des systèmes, mais aussi les responsabilités partagées entre leurs concepteurs et leurs utilisateurs.
