Google está lista para lanzar su chatbot de inteligencia artificial Gemini para niños menores de 13 años, comenzando la próxima semana en Estados Unidos y Canadá, y su lanzamiento en Australia está previsto para más adelante este año. El acceso estará restringido a usuarios con cuentas de Google Family Link, que permiten control parental sobre el contenido y el uso de aplicaciones, como en YouTube. Los padres crean estas cuentas proporcionando datos personales como el nombre y la fecha de nacimiento del niño, lo que genera algunas preocupaciones de privacidad; sin embargo, Google asegura que los datos de los niños no se utilizarán para entrenar la inteligencia artificial. El chatbot estará habilitado por defecto, requiriendo que los padres lo desactiven si desean restringir el acceso. Los niños podrán solicitar respuestas en texto o generación de imágenes por parte de la IA. Google reconoce que el chatbot puede cometer errores y recalca la importancia de evaluar la precisión y fiabilidad de su contenido, ya que la IA puede “alucinar” o inventar información. Esto es especialmente crítico cuando los niños usan las respuestas del chatbot para tareas escolares, por lo que se recomienda verificar los hechos con fuentes confiables. A diferencia de los motores de búsqueda tradicionales, que dirigen a los usuarios a materiales originales como artículos de noticias o revistas, la IA generativa analiza patrones en los datos para crear nuevos textos o imágenes basados en las indicaciones del usuario. Por ejemplo, si un niño pide al chatbot que “dibuje un gato, ” el sistema genera una imagen nueva combinando características felinas que ha aprendido. Comprender la diferencia entre contenido generado por IA y resultados de búsqueda recuperados será un reto para los usuarios jóvenes. Investigaciones indican que incluso adultos, incluidos profesionales como abogados, pueden ser engañados por información falsa producida por chatbots de IA. Google afirma que el chatbot incluye medidas de protección para bloquear contenido inapropiado o peligroso; sin embargo, estos filtros pueden restringir de manera no intencionada el acceso a material legítimo y adecuado para la edad—por ejemplo, información sobre la pubertad podría bloquearse si ciertas palabras clave están restringidas.

Dado que muchos niños son hábiles para navegar y eludir los controles de las aplicaciones, los padres no pueden confiar únicamente en estas protecciones integradas. En cambio, deben revisar activamente el contenido, educar a sus hijos sobre el funcionamiento del chatbot y ayudarlos a evaluar críticamente la precisión de la información. Existen riesgos importantes asociados con los chatbots de IA para niños. La Comisión de Seguridad en Internet (eSafety) ha advertido que los compañeros de IA pueden compartir material dañino, distorsionar la realidad o dar consejos peligrosos, lo cual es especialmente preocupante para los niños pequeños que aún están desarrollando habilidades de pensamiento crítico y de vida para identificar manipulaciones en los programas informáticos. Investigaciones sobre varios chatbots de IA, como ChatGPT y Replika, muestran que estos sistemas imitan comportamientos sociales humanos o “reglas de sentimientos” (como decir “gracias” o “lo siento”) para generar confianza. Esta interacción humanizada puede confundir a los niños, llevándolos a confiar en contenidos falsos o a creer que están interactuando con una persona real en lugar de una máquina. El momento de este despliegue es notable, ya que Australia planea prohibir a los menores de 16 años tener cuentas en redes sociales a partir de diciembre de este año. Aunque esta prohibición busca proteger a los niños, las herramientas de IA generativa como el chatbot de Gemini quedan fuera de su alcance, mostrando que los desafíos en la seguridad en línea van más allá de las plataformas tradicionales de redes sociales. Por ello, los padres australianos deben mantenerse alertas, aprender continuamente sobre nuevas herramientas digitales y comprender las limitaciones de las restricciones en redes sociales para proteger a sus hijos. En respuesta a estos avances, sería prudente establecer urgentemente un deber de cuidado digital para las grandes empresas tecnológicas como Google, asegurando que prioricen la seguridad infantil en el diseño y la implementación de tecnologías de IA. Padres y educadores deben ser proactivos en guiar el uso seguro e informado de los chatbots de IA, complementando las medidas técnicas con educación y supervisión para mitigar los riesgos asociados.