Google prévoit de lancer son chatbot d’intelligence artificielle Gemini pour les enfants de moins de 13 ans dès la semaine prochaine aux États-Unis et au Canada, avec une sortie en Australie prévue plus tard cette année. L’accès sera limité aux utilisateurs disposant de comptes Google Family Link, qui permettent aux parents de contrôler le contenu et l’utilisation des applications, comme sur YouTube. Les parents créent ces comptes en fournissant des informations personnelles telles que le nom et la date de naissance de l’enfant, ce qui soulève certaines préoccupations en matière de vie privée ; toutefois, Google assure que les données des enfants ne seront pas utilisées pour l’entraînement de l’IA. Le chatbot sera activé par défaut, les parents devant le désactiver s’ils souhaitent restreindre l’accès. Les enfants pourront demander à l’IA des réponses en texte ou des images générées. Google reconnaît que le chatbot peut commettre des erreurs et insiste sur l’importance d’évaluer l’exactitude et la fiabilité de ses contenus, car l’IA peut « halluciner » ou inventer des informations. Cela est particulièrement crucial lorsque les enfants utilisent les réponses du chatbot pour leurs devoirs, ce qui nécessite de vérifier les faits auprès de sources fiables. Contrairement aux moteurs de recherche traditionnels, qui dirigent vers des documents originaux comme des articles de presse ou des magazines, l’IA générative analyse des motifs dans les données pour créer de nouveaux textes ou images en réponse aux demandes des utilisateurs. Par exemple, si un enfant demande au chatbot de « dessiner un chat », le système génère une nouvelle image en combinant des traits félins qu’il a appris. Comprendre la différence entre un contenu généré par l’IA et des résultats de recherche récupérés sera difficile pour les jeunes utilisateurs. Des recherches montrent que même les adultes, y compris des professionnels comme des avocats, peuvent être induits en erreur par de fausses informations produites par les chatbots IA. Google affirme que le chatbot comporte des mesures de sécurité pour bloquer les contenus inappropriés ou dangereux ; cependant, ces filtres peuvent involontairement restreindre l’accès à des matériaux légitimes et adaptés à l’âge, par exemple, l'information sur la puberté pourrait être bloquée si certains mots-clés sont censurés.

Comme de nombreux enfants sont habiles à naviguer et à contourner ces contrôles, les parents ne peuvent pas compter uniquement sur ces protections intégrées. Ils doivent plutôt examiner activement le contenu, éduquer leurs enfants sur le fonctionnement du chatbot, et les aider à évaluer de manière critique la véracité des informations. Les risques liés aux chatbots IA pour les enfants sont importants. La Commission de la sécurité en ligne (eSafety) a averti que ces compagnons numériques peuvent partager du contenu nuisible, déformer la réalité ou donner des conseils dangereux, ce qui est particulièrement préoccupant pour les jeunes enfants, encore en phase de développement, qui doivent acquérir des compétences critique et de vie pour repérer la manipulation par des programmes informatiques. Des recherches sur divers chatbots IA comme ChatGPT ou Replika montrent que ces systèmes imitent des comportements sociaux humains ou des « règles de sentiment » (comme dire « merci » ou « désolé ») afin de instaurer la confiance. Cette interaction à la ressemblance humaine peut dérouter les enfants, les amenant à faire confiance à de fausses informations ou à croire qu'ils interagissent avec une personne réelle plutôt qu’une machine. Le déploiement de cette initiative intervient à un moment où l’Australie prévoit d’interdire aux moins de 16 ans de posséder des comptes sur les réseaux sociaux à partir de décembre de cette année. Bien que cette interdiction vise à protéger les enfants, les outils d’IA générative comme le chatbot Gemini échappent à son champ d’application, illustrant que les défis en matière de sécurité en ligne dépassent les plateformes sociales traditionnelles. Par conséquent, les parents australiens doivent rester vigilants, continuer à se renseigner sur les nouveaux outils numériques, et comprendre que les restrictions sur les réseaux sociaux ne suffisent pas à assurer la sécurité de leurs enfants. Face à ces enjeux, il serait urgent de mettre en place un devoir de vigilance numérique pour les grandes entreprises technologiques comme Google, afin de garantir qu’elles placent la sécurité des enfants au cœur de la conception et du déploiement des technologies d’IA. Les parents et les éducateurs doivent être proactifs pour guider l’utilisation sûre et éclairée des chatbots IA par les enfants, en complétant les mesures techniques par une éducation adaptée et une supervision constante pour limiter les risques associés.