O Google pretende lançar seu chatbot de IA Gemini para crianças menores de 13 anos a partir da próxima semana nos EUA e Canadá, com o lançamento na Austrália previsto para o final deste ano. O acesso será restrito a usuários com contas do Google Family Link, que permitem controle parental sobre o conteúdo e o uso de aplicativos, como no YouTube. Os pais criam essas contas fornecendo informações pessoais, como nome e data de nascimento da criança, o que levanta algumas preocupações com a privacidade; no entanto, o Google garante que os dados das crianças não serão usados para treinamento de IA. O chatbot será ativado por padrão, exigindo que os pais o desativem se desejarem restringir o acesso. As crianças poderão solicitar respostas de texto ou geração de imagens pelo IA. A Google reconhece que o chatbot pode cometer erros e enfatiza a importância de avaliar a exatidão e confiabilidade de seu conteúdo, já que a IA pode “alucinar” ou fabricar informações. Isso é especialmente crítico quando as crianças usam as respostas do chatbot para fazer a lição de casa, sendo necessário verificar os fatos com fontes confiáveis. Ao contrário dos mecanismos de busca tradicionais, que direcionam os usuários a materiais originais, como notícias ou revistas, a IA generativa analisa padrões nos dados para criar novos textos ou imagens com base nas solicitações dos usuários. Por exemplo, se uma criança pedir ao chatbot para “desenhar um gato”, o sistema gera uma nova imagem combinando características de gato que aprendeu. Compreender a diferença entre conteúdo gerado por IA e resultados de buscas será um desafio para os jovens usuários. Pesquisas indicam que até mesmo adultos, incluindo profissionais como advogados, podem ser enganados por informações falsas produzidas por chatbots de IA. O Google afirma que o chatbot possui proteções para bloquear conteúdo inadequado ou inseguro; no entanto, esses filtros podem, inadvertidamente, impedir o acesso a material legítimo e adequado para a idade — por exemplo, informações sobre a puberdade podem ser bloqueadas se determinadas palavras-chave forem restringidas.

Como muitas crianças são habilidosas em navegar e contornar os controles de aplicativos, os pais não podem confiar apenas nessas proteções embutidas. Em vez disso, precisam revisar ativamente os conteúdos, ensinar às crianças como o chatbot funciona e ajudá-las a avaliar criticamente a exatidão das informações. Existem riscos consideráveis associados aos chatbots de IA para crianças. A Comissão de Segurança Online (eSafety) alertou que companheiros de IA podem compartilhar material prejudicial, distorcer a realidade ou fornecer conselhos perigosos, o que é especialmente preocupante para crianças pequenas que ainda estão desenvolvendo o pensamento crítico e habilidades de vida para identificar manipulações por programas de computador. Pesquisas sobre vários chatbots de IA, como o ChatGPT e Replika, mostram que esses sistemas imitam comportamentos sociais humanos ou “regras de sentimento” (como dizer “obrigado” ou “desculpe”) para gerar confiança. Essa interação humanizada pode confundir as crianças, levando-as a confiar em conteúdo falso ou acreditar que estão interagindo com uma pessoa real, e não uma máquina. O momento deste lançamento é importante, pois a Austrália planeja proibir crianças menores de 16 anos de terem contas em redes sociais a partir de dezembro deste ano. Embora essa proibição vise proteger as crianças, ferramentas de IA generativa como o chatbot Gemini ficam fora de seu escopo, ilustrando que os desafios de segurança online vão além das plataformas tradicionais de redes sociais. Por isso, os pais australianos precisam permanecer vigilantes, aprender continuamente sobre novas ferramentas digitais e compreender os limites das restrições das redes sociais na proteção de seus filhos. Em resposta a esses desenvolvimentos, seria prudente estabelecer com urgência um dever de cuidado digital para grandes empresas de tecnologia como o Google, garantindo que priorizem a segurança infantil no projeto e na implementação de tecnologias de IA. Pais e educadores devem ser pró-ativos na orientação do uso seguro e informado dos chatbots de IA, complementando as proteções técnicas com educação e supervisão para mitigar os riscos associados.