Meta fait face à une nouvelle polémique liée à la modération de ses plateformes. Des chercheurs du Tech Transparency Project (TTP) affirment avoir identifié plus de 50 publicités payantes contenant des images pédocriminelles générées par intelligence artificielle, diffusées sur Facebook, Instagram, Messenger et Threads après avoir été approuvées par les systèmes publicitaires de l’entreprise. Selon les chercheurs, certaines de ces publicités sont restées en ligne pendant plusieurs mois et ont été vues par des milliers d’utilisateurs dans plusieurs pays, dont le Royaume-Uni, la France, l’Allemagne, l’Espagne et les États-Unis.
Des publicités approuvées malgré les règles de Meta
Le Tech Transparency Project explique que les annonces promouvaient notamment des applications de « nudify », capables de générer des images dénudées ou truquées grâce à l’intelligence artificielle. Les chercheurs estiment que ces contenus ne cherchaient pas à dissimuler leur caractère illicite, ce qui soulève des questions sur le fonctionnement des outils de modération et de validation des publicités de Meta.
Meta retire les annonces et défend ses systèmes
Après avoir été alertée, Meta a supprimé les publicités concernées et réaffirmé appliquer une politique de tolérance zéro contre l’exploitation sexuelle des enfants. L’entreprise affirme que la majorité de ces annonces ont eu une portée limitée et que plusieurs avaient déjà été désactivées avant la publication de l’enquête. Elle indique également que certaines avaient été diffusées avant le déploiement de nouveaux outils de détection reposant sur l’intelligence artificielle, censés mieux identifier ce type de contenu lors de leur soumission.
L’IA complique la lutte contre les contenus illicites
Cette affaire intervient alors que les organisations spécialisées observent une forte progression des contenus pédocriminels générés par IA. L’Internet Watch Foundation (IWF) estime que les images et vidéos synthétiques représentant des abus sexuels sur mineurs augmentent rapidement, grâce à des outils de génération toujours plus accessibles et réalistes. Pour les plateformes, cette évolution rend la modération beaucoup plus complexe. Les contenus peuvent être créés à grande vitesse, modifiés facilement et publiés via de multiples comptes avant d’être détectés.
Un nouveau défi pour les géants du numérique
Au-delà du cas de Meta, cette enquête relance le débat sur la responsabilité des plateformes utilisant des systèmes automatisés pour examiner les publicités. Alors que l’intelligence artificielle facilite la création de contenus illicites, les entreprises technologiques sont de plus en plus attendues sur leur capacité à empêcher leur diffusion avant même leur publication. Cette affaire pourrait également renforcer la pression des régulateurs sur les mécanismes de contrôle des grandes plateformes numériques.
