Comment évaluer la gravité d’un contournement des garde-fous d’une intelligence artificielle ? Jusqu’à présent, il n’existait aucun référentiel commun. Anthropic veut désormais combler ce vide.
Quelques jours après le redéploiement mondial de Claude Fable 5, l’entreprise américaine a présenté une échelle de gravité des « jailbreaks », ces techniques utilisées pour contourner les mécanismes de sécurité des modèles d’IA. L’objectif est de permettre aux laboratoires, aux chercheurs et aux autorités de parler un langage commun lorsqu’une faille est découverte.
Un standard pour mieux évaluer les risques
Anthropic rappelle qu’un jailbreak ne présente pas toujours le même niveau de danger. Certains permettent uniquement de contourner des restrictions mineures, tandis que d’autres peuvent conduire un modèle à produire des contenus ou des actions potentiellement dangereuses.
Le nouveau cadre proposé classe les jailbreaks selon plusieurs critères, notamment le gain réel de capacités obtenu, l’étendue des fonctionnalités débloquées, la facilité avec laquelle la technique peut être exploitée et sa reproductibilité. L’idée est de mieux distinguer une faille limitée d’un problème de sécurité majeur nécessitant une intervention immédiate.
Une initiative née après l’affaire Fable 5
Cette annonce intervient dans le prolongement de l’affaire ayant conduit les autorités américaines à suspendre temporairement l’accès à Claude Fable 5. Des chercheurs d’Amazon avaient alors démontré qu’une technique de contournement permettait au modèle d’identifier certaines vulnérabilités logicielles et, dans un cas précis, de générer un code d’exploitation.
Après avoir renforcé ses garde-fous, Anthropic a obtenu la levée des restrictions et remis son modèle en service. L’entreprise affirme que le mécanisme de protection mis en place bloque désormais plus de 99 % des tentatives exploitant cette technique.
Vers des règles communes pour l’industrie
Anthropic ne souhaite pas développer ce référentiel seule. L’entreprise indique travailler avec plusieurs partenaires, dont Amazon, Google et Microsoft, afin d’élaborer un standard qui pourrait être adopté par l’ensemble de l’industrie.
À mesure que les modèles d’intelligence artificielle gagnent en puissance, la question de leur sécurité devient aussi importante que leurs performances. L’émergence d’un cadre commun pour qualifier les jailbreaks pourrait ainsi faciliter la collaboration entre laboratoires, chercheurs en cybersécurité et autorités publiques, tout en accélérant la correction des failles les plus critiques.
