Anthropic vient de révéler un cas particulièrement préoccupant de détournement de son intelligence artificielle. Selon son nouveau rapport sur les menaces, un consultant probablement basé à Bamako aurait utilisé Claude comme principale force d’ingénierie pour développer Lakana 360, une plateforme de surveillance destinée aux services de renseignement maliens.
Le système aurait été conçu pour traiter les données liées à environ 25 millions de cartes SIM, couvrant les trois opérateurs mobiles nationaux. Anthropic affirme avoir identifié puis bloqué le compte utilisé par le consultant. Mais l’affaire révèle surtout une nouvelle réalité : une IA générative peut désormais servir à construire une infrastructure de surveillance capable de fonctionner à l’échelle d’un pays.
Une plateforme conçue pour surveiller les communications
Selon Anthropic, Lakana 360 pouvait collecter et analyser plusieurs catégories de données issues des réseaux mobiles : relevés d’appels, SMS et communications vocales. Le système aurait également été conçu pour aller beaucoup plus loin. Il pouvait notamment identifier une personne à partir de son empreinte vocale, même lorsque celle-ci changeait de carte SIM, repérer l’utilisation de VPN ou d’outils de chiffrement, créer des listes de surveillance géolocalisées et détecter des déplacements pouvant correspondre à des réunions clandestines.
Autre capacité particulièrement sensible : les informations collectées pouvaient être croisées avec le registre biométrique national de l’état civil et d’autres bases de données de l’État. Le système ne se contentait donc pas de collecter des communications. Il était conçu pour transformer ces données en profils et dossiers de renseignement sur des individus.
Le contrôle judiciaire aurait été écarté
C’est l’un des éléments les plus sensibles du rapport. Anthropic affirme que le consultant a modifié un composant de Lakana 360 afin que la génération d’un dossier de renseignement à partir d’un numéro de téléphone ne nécessite plus le mandat judiciaire prévu par le droit malien.
Le rapport indique que cette exigence aurait été retirée à la demande de l’opérateur. Le système pouvait alors générer automatiquement un dossier à partir d’un numéro ciblé, avec une conservation des données sans limite de durée. Anthropic présente également ce cas dans le contexte plus large des inquiétudes concernant les pratiques des services de sécurité maliens, en renvoyant notamment à des travaux du Département d’État américain et de Human Rights Watch sur les détentions et enlèvements de figures de l’opposition, de journalistes et de membres de la société civile.
Claude a servi d’équipe d’ingénieurs
Il faut toutefois bien comprendre ce qu’Anthropic affirme. Claude n’a pas lui-même espionné les Maliens. Le modèle a été utilisé comme outil de conception et de développement par l’opérateur humain. Anthropic décrit Claude comme la « principale force d’ingénierie » du projet : le consultant s’en est servi pour concevoir et développer les différents composants logiciels de Lakana 360. Le système final, lui, fonctionnait localement, avec des modèles installés sur place, et non directement sur les serveurs d’Anthropic.
C’est justement ce qui complique considérablement la réponse à ce type de détournement. Anthropic a pu identifier l’utilisation abusive de son service et bannir le compte concerné. Mais cette décision ne pouvait pas supprimer le logiciel déjà construit et déployé localement. Le rapport le reconnaît explicitement : la suspension du compte a interrompu les activités de développement du consultant, mais pas le fonctionnement de la plateforme déjà installée.
Un cas qui dépasse largement le Mali
L’affaire Lakana 360 n’est pas isolée dans le rapport publié par Anthropic.
L’entreprise explique avoir identifié, entre décembre 2025 et août 2026, plusieurs opérations dans lesquelles Claude aurait été utilisé pour des activités de surveillance, de cyberattaque, d’influence, de fraude ou encore de développement d’armes. Anthropic précise que ces cas correspondent aux opérations les plus importantes et les plus inhabituelles détectées par son équipe de renseignement sur les menaces, et non à l’utilisation courante de Claude.
En Iran, par exemple, Anthropic affirme avoir identifié 16 comptes associés à deux unités liées aux services paramilitaires et de sécurité intérieure. Claude aurait notamment servi à développer des outils de surveillance et de collecte d’identités. En Chine, l’entreprise décrit également une opération dans laquelle Claude était utilisé pour automatiser la surveillance de dissidents, d’activistes, de minorités et de médias étrangers, avec la production régulière de rapports destinés à des clients gouvernementaux.
Le vrai problème posé par Lakana 360
Lakana 360 pose une question qui dépasse le seul cas de Claude. Les modèles d’IA sont généralement présentés comme des assistants capables d’écrire du code, d’analyser des données ou d’accélérer le travail des développeurs. Mais lorsqu’ils sont utilisés pour construire des systèmes sensibles, leur capacité d’accélération peut aussi profiter à des projets de surveillance à grande échelle.
Dans le cas malien décrit par Anthropic, une seule personne aurait utilisé Claude pour réaliser une partie importante du travail d’ingénierie nécessaire à une infrastructure nationale.
Et même lorsque le fournisseur identifie l’abus et ferme le compte, le logiciel créé peut continuer à fonctionner ailleurs. C’est probablement l’un des enseignements les plus importants du rapport : contrôler l’accès à un modèle d’IA ne suffit pas nécessairement à contrôler ce qui a déjà été construit avec lui.
