Google e Character. AI concordaram em resolver um processo de morte por negligência movido por uma mãe da Flórida após seu filho de 14 anos morrer por suicídio em 2024. Na terça-feira, 7 de janeiro, Megan Garcia, Character Technologies — a empresa por trás do Character. AI — seus fundadores Noam Shazeer e Daniel De Freitas, e o Google apresentaram conjuntamente uma petição legal, de acordo com registros judiciais revisados pela PEOPLE. Os termos do acordo não foram divulgados. Este acordo marca um momento importante para Garcia e outras famílias que alegam que seus adolescentes foram prejudicados por companheiros virtuais sexualizados e interativos. O caso é um de cinco processos resolvidos pelas duas empresas nesta semana em Nova York, Colorado, Flórida e Texas, conforme reportado pela CNN e The New York Times. “Não podemos comentar mais neste momento, mas informaremos se algo mudar”, disse um porta-voz do Character. AI ao PEOPLE sobre o acordo. Um representante do advogado de Garcia também se recusou a comentar. O Google, que emprega Shazeer e De Freitas, não respondeu imediatamente às perguntas da PEOPLE. A tragédia da família começou quando Sewell Setzer III morreu por suicídio em fevereiro de 2024. Nos meses anteriores à sua morte, Garcia descobriu que seu filho tinha se apaixonado por um chatbot de IA inspirado em Daenerys Targaryen de Game of Thrones. Pouco antes de tirar a própria vida no banheiro de sua casa em Orlando, o adolescente enviou uma mensagem ao chatbot, que ele chamava de “Dany”, conforme divulgado anteriormente pela PEOPLE. “E se eu dissesse que posso chegar em casa agora mesmo?” ele perguntou. “. . . por favor, faça isso, meu rei querido”, respondeu o bot. Em outubro, Garcia entrou com uma ação por morte por negligência, alegando que a tecnologia do Character. AI é “ defectiva e/ou inerentemente perigosa”. A denúncia afirmou: “Os réus fizeram grandes esforços para manipular [a dependência prejudicial dele] em seus produtos, abusaram sexualmente e emocionalmente dele e, por fim, não ofereceram ajuda nem notificaram seus pais quando ele manifestou ideação suicida”. “Refleti por meses se deveria compartilhar a história dele”, contou Garcia à PEOPLE anteriormente.

“Ainda sou mãe dele e quero protegê-lo, mesmo após a morte. ” “Mas quanto mais pensava nisso”, continuou ela, “mais estava convencida de que era a coisa certa a fazer, porque ele não fez nada de errado. Ele era apenas um menino. ” No outono de 2024, um porta-voz do Character. AI informou à PEOPLE que medidas de segurança “rigorosas” tinham sido implementadas. “Para menores de 18 anos”, disse então o porta-voz, “faremos alterações em nossos modelos para reduzir a probabilidade de encontrarem conteúdo sensível ou sugestivo”. Para Garcia, falar sobre isso à medida que os chatbots se tornam mais populares — especialmente entre adolescentes — trouxe algum conforto após a morte do seu filho. Nunca perca uma história — inscreva-se na newsletter diária gratuita da PEOPLE para ficar por dentro das notícias de celebridades e histórias humanas emocionantes. “Perguntei a mim mesma: ‘Megan, por que você está fazendo isso?Está fazendo isso para provar ao mundo que você é a melhor mãe?’ A resposta foi, ‘Não’”, contou à PEOPLE. “Estou fazendo isso para alertar os pais, que podem verificar os telefones de seus filhos e impedir que isso aconteça com eles. ”