Un document interne confidentiel relance la controverse autour de TikTok. Selon une enquête révélée par Bloomberg Businessweek, la plateforme aurait volontairement privé environ 15 millions d’utilisateurs américains d’une mise à jour destinée à limiter la recommandation répétitive de contenus liés à la dépression, au suicide et à l’automutilation. L’objectif était de mesurer l’impact de cette protection sur l’engagement des utilisateurs.
L’affaire est d’autant plus sensible qu’un adolescent de 16 ans, inclus dans ce groupe de test, s’est suicidé quelques semaines après avoir été exposé à un grand nombre de contenus sur la dépression et le suicide, selon les conclusions du document interne.
Une expérience menée sur 10 % des utilisateurs américains
D’après les documents révélés, TikTok avait développé dès 2021 un mécanisme destiné à empêcher les utilisateurs de tomber dans des « bulles algorithmiques » où les recommandations tournent en boucle autour des mêmes thèmes sensibles.
Cette protection a été déployée auprès d’environ 90 % des utilisateurs américains, tandis que 10 %, soit près de 15 millions de personnes, en ont été volontairement privés afin de comparer les effets sur le temps passé dans l’application et d’autres indicateurs d’engagement. Le document précise que cette décision a été prise « by design » (« volontairement »).
Un adolescent au cœur de l’affaire
Le rapport interne évoque le cas de Chase Nasca, un adolescent de 16 ans qui faisait partie du groupe privé de cette protection. Selon les enquêteurs, son fil « Pour toi » lui recommandait de manière répétée des vidéos liées à la dépression, à la solitude, au suicide et à l’automutilation. Quelques semaines plus tard, le jeune homme est décédé par suicide. Le document indique que les mécanismes destinés à casser cette spirale de recommandations « ne se sont pas activés, volontairement » pour son compte.
TikTok conteste les accusations
TikTok affirme que cette présentation des faits est trompeuse. L’entreprise explique que le dispositif concerné faisait partie d’un test visant à améliorer la sécurité de la plateforme et rappelle avoir investi massivement dans la protection des adolescents. Elle souligne également que le lien entre les recommandations algorithmiques et le suicide d’un utilisateur ne peut être établi de manière certaine.
Une pression grandissante sur les plateformes
Cette affaire intervient alors que les réseaux sociaux font face à une multiplication des enquêtes et des actions en justice concernant leur impact sur la santé mentale des jeunes. Depuis plusieurs années, des études et des organisations de défense des droits numériques alertent sur les « rabbit holes », ces mécanismes de recommandation qui peuvent enfermer des utilisateurs vulnérables dans des flux de contenus liés à la dépression, aux troubles alimentaires ou à l’automutilation.
Si les faits révélés sont confirmés, ils pourraient alimenter les nombreuses procédures judiciaires déjà engagées contre TikTok aux États-Unis et renforcer les appels à une régulation plus stricte des algorithmes de recommandation.
