Un père de famille norvégien affirme avoir découvert que ChatGPT l’accusait faussement du meurtre de deux de ses enfants et d’une tentative de meurtre sur un troisième. L’affaire, portée devant les autorités avec le soutien d’une organisation de défense de la vie privée, remet en lumière les risques liés aux hallucinations des intelligences artificielles génératives.
Une recherche sur son propre nom qui tourne au cauchemar
Par curiosité, Arve Hjalmar Holmen a décidé de demander à ChatGPT ce que l’intelligence artificielle savait de lui. La réponse l’a immédiatement stupéfié.
Selon le chatbot, l’homme aurait assassiné deux de ses enfants, tenté de tuer un troisième et aurait été condamné à 21 ans de prison. Une histoire entièrement fictive. Aucun de ces faits n’a jamais eu lieu.
Face à ces accusations particulièrement graves, le Norvégien a décidé de porter plainte contre OpenAI avec le soutien de l’organisation de défense des droits numériques Noyb.
Quand l’IA mélange le vrai et le faux
Ce qui rend cette affaire particulièrement préoccupante est que ChatGPT ne s’est pas contenté d’inventer un crime.
L’outil a également utilisé plusieurs informations réelles concernant l’intéressé, notamment son nom, sa ville d’origine, sa situation familiale et certains éléments personnels exacts. À partir de ces données authentiques, l’intelligence artificielle a construit un récit totalement imaginaire présenté comme un fait établi.
Pour Arve Hjalmar Holmen, c’est précisément ce mélange entre informations réelles et fausses accusations qui rend la situation inquiétante. Une personne découvrant cette réponse pourrait avoir du mal à distinguer ce qui relève de la réalité de ce qui a été inventé par la machine.
Les hallucinations, une limite toujours présente des IA génératives
Dans le domaine de l’intelligence artificielle, ce phénomène est connu sous le nom d’hallucination.
Il survient lorsqu’un modèle génère des informations inexactes ou totalement fictives tout en les présentant avec assurance. Contrairement à un moteur de recherche qui renvoie vers des sources identifiables, un modèle de langage construit sa réponse en prédisant statistiquement les mots les plus probables à partir de son entraînement.
Le résultat peut parfois sembler parfaitement crédible alors même qu’il est totalement faux.
Une question de réputation et de confiance
Dans sa plainte, Arve Hjalmar Holmen explique craindre que certaines personnes puissent considérer ces accusations comme crédibles.
Son inquiétude repose sur une idée simple : lorsqu’une information apparaît dans une réponse générée par une intelligence artificielle, certains utilisateurs peuvent être tentés de lui accorder une confiance excessive. Même lorsqu’une accusation est fausse, sa simple existence peut suffire à semer le doute.
Cette problématique devient d’autant plus sensible que les assistants IA sont utilisés chaque jour par des centaines de millions de personnes à travers le monde.
OpenAI assure avoir renforcé ses protections
OpenAI indique que cette réponse provenait d’une ancienne version de ChatGPT et affirme que les modèles actuels ont été améliorés pour réduire ce type d’erreurs.
Les progrès réalisés ces dernières années ont effectivement permis de diminuer le nombre d’hallucinations. Toutefois, les spécialistes du secteur rappellent que le problème n’a pas disparu. Les systèmes d’intelligence artificielle restent capables de produire des affirmations erronées présentées comme des faits.
Au-delà de cette affaire, une question pour toute l’industrie
L’affaire dépasse aujourd’hui le seul cas d’Arve Hjalmar Holmen.
Elle pose une question de plus en plus importante à mesure que l’intelligence artificielle s’intègre dans la recherche d’informations, les moteurs de recherche et les assistants numériques : qui est responsable lorsqu’une IA invente des faits concernant une personne réelle ?
À mesure que les outils comme ChatGPT, Gemini ou Claude gagnent en popularité, la capacité des entreprises à limiter ces erreurs devient un enjeu majeur de confiance. Car si l’intelligence artificielle peut accélérer l’accès à l’information, elle reste encore capable d’inventer des histoires qui n’ont jamais existé.
