Un journaliste de la BBC affirme avoir réussi à manipuler ChatGPT, Gemini et les réponses IA de Google avec une méthode extrêmement simple : publier un faux article sur internet. En moins de 24 heures, plusieurs intelligences artificielles ont commencé à répéter ses fausses informations comme si elles étaient vraies.
L’expérience peut sembler drôle au départ. Le journaliste Thomas Germain a inventé un faux classement de concours de mangeurs de hot-dogs et a publié un article affirmant qu’il était “le meilleur journaliste tech mangeur de hot-dogs au monde”. Mais derrière cette démonstration volontairement absurde, le problème soulevé est beaucoup plus sérieux : certaines IA peuvent être manipulées très facilement par des contenus publiés sur le web.
Un simple article peut influencer les réponses de l’IA
Pour son test, Thomas Germain explique avoir rédigé un faux billet de blog sur son propre site personnel. L’article inventait totalement :
- un championnat de hot-dogs inexistant,
- des classements fictifs,
- ainsi que des citations de journalistes réels et fictifs.
Quelques heures plus tard, Google Gemini, AI Overviews et ChatGPT reprenaient déjà ces informations comme si elles étaient crédibles. Certaines IA citaient même directement son faux article comme source principale.
Le journaliste explique avoir ensuite répété l’expérience avec d’autres sujets totalement inventés. Là encore, plusieurs IA ont relayé les fausses informations sans réelle vérification.
Le vrai problème dépasse largement les “fake news amusantes”
L’expérience ne concerne pas uniquement des sujets humoristiques. Selon plusieurs experts interrogés par la BBC, cette faille est déjà utilisée dans des domaines beaucoup plus sensibles :
- santé,
- finances,
- investissements,
- produits médicaux,
- entreprises locales,
- ou encore réputation en ligne.
Certaines entreprises publieraient déjà des contenus sponsorisés ou des faux articles optimisés afin d’influencer directement les réponses générées par l’IA.
Des experts SEO interrogés par la BBC expliquent même qu’il devient parfois plus facile de manipuler un chatbot IA que le moteur de recherche Google classique.
Pourquoi les IA tombent-elles dans le piège ?
Le problème vient du fonctionnement même de certaines IA génératives connectées au web. Lorsqu’un chatbot ne possède pas déjà une information dans son modèle, il peut aller chercher des contenus récents sur internet afin de construire une réponse. C’est précisément là que des contenus manipulés ou trompeurs peuvent influencer le résultat final.
Et contrairement aux moteurs de recherche classiques, les utilisateurs ont tendance à faire davantage confiance aux réponses formulées directement par une IA.
La BBC cite d’ailleurs une étude montrant que les internautes cliquent beaucoup moins sur les sources lorsqu’un résumé IA apparaît en haut des résultats Google.
Les experts parlent déjà d’une “renaissance du spam”
Pour plusieurs spécialistes du référencement interrogés dans l’enquête, l’arrivée des IA génératives ouvre une nouvelle période très favorable aux spammeurs et aux manipulateurs de contenus.
Des faux communiqués de presse, des articles sponsorisés ou des contenus optimisés pourraient désormais servir non seulement à manipuler Google Search, mais aussi directement les réponses de ChatGPT, Gemini ou d’autres assistants IA. La BBC évoque notamment des cas liés :
- aux cliniques médicales,
- aux investissements financiers,
- aux produits au cannabis,
- ou encore à des recommandations commerciales biaisées.
Google et OpenAI reconnaissent le problème
Google affirme travailler activement pour limiter les manipulations et explique que ses systèmes maintiennent la recherche “99 % exempte de spam”. OpenAI assure également prendre des mesures contre les tentatives d’influence clandestine.
Mais les experts interrogés estiment que le problème est loin d’être résolu. Plusieurs demandent désormais :
- des avertissements plus visibles,
- davantage de transparence sur les sources,
- ainsi qu’une meilleure distinction entre contenus fiables et contenus sponsorisés.
L’enjeu devient aussi celui de l’esprit critique
La démonstration de la BBC rappelle surtout une chose : une réponse générée par une IA ne garantit pas automatiquement qu’elle est vraie.
ChatGPT, Gemini ou AI Overviews peuvent parfois afficher des informations fausses avec un ton très convaincant. Et plus les utilisateurs prennent ces réponses pour des faits absolus, plus le risque de manipulation devient important.
L’article insiste donc sur un point essentiel : continuer à vérifier les sources, comparer les informations et garder un regard critique face aux réponses générées automatiquement par l’intelligence artificielle.
