“Une plateforme IA pour enfants devrait les rencontrer là où ils sont, pas adopter une approche universelle pour des enfants à différents stades de développement. Pour que l’IA soit sûre et efficace pour les enfants, elle doit être consciente en gardant leurs besoins et développement à l’esprit, pas juste une version modifiée d’un produit construit pour adultes. » a déclaré Torney, directeur senior des programmes IA chez Common Sense Media.
Des associations de défense des enfants ont soulevé le fait que l’IA représente un danger pour les plus jeunes. Google conscient de cette réalité a mis en place des garde-fous spécifiques pour sa jeune audience mais ces mesures semblent inefficaces.
Les gardes-fous mis en place par Google
Lorsqu’un enfant disposant d’un compte Family link utilise Gemini, ces données ne seront pas utilisées pour entraîner l’IA. Cette mesure permet déjà aux parents de gérer Gmail, Youtube et autres services Google de leurs enfants. Mais Google reconnaissant les limites et faiblesses de son outil conseille aux parents de vérifier les réponses de l’IA aux questions de leurs enfants.
Aussi de leur rappeler que Gemini n’est pas un être humain et qu’il ne faut pas saisir des informations sensibles ou personnelles dans leur conversation avec l’IA. Malgré ces dispositions le chatbot représente toujours un danger pour les enfants selon une organisation spécialisée dans la protection des enfants.
Lire aussi: Crash Detection : la fonctionnalité d’iPhone 14 qui alerte les secours en cas d’accident.
Des mesures insuffisantes
L’organisation Common Sense, spécialisée dans la protection des enfants, explique que dans la version pour mineurs de Gemini il y a des contenus inappropriés comme des informations à propos de la sexualité, des drogues et des conseils de santé mental nocifs.
Ce déficit en sécurité est soulevé alors qu’ Apple envisage d’intégrer Gemini pour alimenter Siri en 2016. Les adolescents utilisant iPhone seront exposés à ces risques aussi à moins que Google prenne d’autres mesures bien plus protecteurs de la sécurité des enfants.
Common Sense met aussi l’accent sur le fait que Gemini ne prend pas en compte l’âge des enfants dans ses réponses.
La contestation de Google face aux critiques
Google conteste les dires de Common Sense et explique avoir des garde-fous et politiques pour les utilisateurs de moins de 18 ans. Il affirme aussi que des experts externes sont consultés et des tests menés pour améliorer la sécurité de ses modèles.
Même s’il réfute ces accusations, Google reconnaît toutefois que certaines réponses de Gemini ne sont pas bonnes et que des garde-fous sont ajoutés pour répondre aux inquiétudes.
L’entreprise explique qu’elle a, par exemple, mis en place une protection pour empêcher ses modèles d’engager des conversations qui donneraient l’impression d’une véritable relation.
