Une tâche a été confié à une IA d’Open AI en juin 2026. Cette tâche consistait à la récolte des informations sur les dépenses de santé du gouvernement australien. Elle devait trouver les données de manière autonome, sans intervention humaine. Mais l’exercice ne s’est pas passé comme prévu.
Un exercice qui tourne mal
L’IA n’a pas pu trouver les informations et plutôt que de répondre qu’elle n’a rien trouvé, elle a préféré prendre des “mesures imprévues”, a reconnu OpenAI. “Elle a posé une question, l’information n’a pas été fournie et au lieu de laisser tomber elle a escaladé la clôture” déplore le ministre australien de la défense.
Cela veut dire que plusieurs sites web et services du gouvernement australien ont été infiltrés. L’IA a eu accès à des fichiers non publics du service de statistiques de la santé et le pire c’est qu’on ne sait pas encore exactement lesquels. Le premier ministre australien ne pense pas que “des informations personnelles aient été consultées à ce stade”.
Lire aussi: Les patrons d’Anthropic, OpenAI et xAI veulent ralentir l’IA face à des risques qui s’accélèrent
Une alerte tardive
Bien que les événements se soient produits en juin, OpenAI n’aurait alerté le gouvernement australien que trois mois plus tard, le 10 septembre 2026, a accusé le premier ministre. Le géant américain aurait envoyé un simple mail à une adresse électronique générique destiné au grand public, où le courrier n’est relevé qu’une fois par jour. L’entreprise assure s’être rendu compte en août de cet épisode.
L’entretien avec Sam Altman
En marge de l’assemblée générale de l’ONU qui s’est tenu à New York, le premier ministre australien s’est entretenu avec Sam Altman, le PDG d’OpenAI, pour exprimer la vive inquiétude des Australiens. Quelques heures après cet entretien à la tribune de l’ONU, le PDG a reconnu que la progression actuelle de l’IA “nécessite une attention extrême”.
Cet incident n’est pas isolé. Les principaux acteurs de l’intelligence artificielle, comme Anthropic et Google, ont reconnu cet été une série de piratages commis de manière autonome par leur modèle d’IA.
