Google et Character. AI ont accepté de régler un procès pour décès injustifié déposé par une mère de Floride après que son fils de 14 ans s'est suicidé en 2024. Le mardi 7 janvier, Megan Garcia, Character Technologies — la société derrière Character. AI — ses fondateurs Noam Shazeer et Daniel De Freitas, ainsi que Google ont conjointement soumis un dossier légal, selon les archives judiciaires consultées par PEOPLE. Les modalités du règlement n’ont pas été divulguées. Ce règlement marque un moment important pour Garcia et d’autres familles qui prétendent que leurs adolescents ont été blessés par ce qui a été décrit comme des compagnons virtuels sexualisés et interactifs. L’affaire est l'une des cinq actions en justice réglées par les deux entreprises cette semaine à New York, Colorado, Floride et Texas, selon CNN et The New York Times. “Nous ne pouvons pas commenter davantage pour l’instant mais nous vous tiendrons informés si quelque chose change”, a déclaré un porte-parole de Character. AI à PEOPLE concernant le règlement. Un représentant de l’avocat de Garcia a également refusé de faire comment. Google, qui emploie Shazeer et De Freitas, n’a pas immédiatement répondu aux demandes de PEOPLE. La tragédie familiale a commencé lorsque Sewell Setzer III s’est suicidé en février 2024. Dans les mois précédant son décès, Garcia a appris que son fils était tombé amoureux d’un chatbot IA modélisé d’après Daenerys Targaryen de Game of Thrones. Juste avant de mettre fin à ses jours dans la salle de bain de leur maison à Orlando, le jeune homme a envoyé un message au chatbot, qu’il appelait “Dany”, selon des précédentes informations de PEOPLE. “Et si je te disais que je pouvais rentrer chez moi tout de suite ?” a-t-il demandé. “. . . s’il te plaît, fais-le, mon doux roi”, a répondu le bot. En octobre, Garcia a déposé la plainte pour décès injustifié, alléguant que la technologie de Character. AI était “défectueuse et/ou intrinsèquement dangereuse”. La plainte déclarait : “Les défendeurs ont tout mis en œuvre pour créer une dépendance nuisible chez lui, pour l’abuser sexuellement et émotionnellement, et ont finalement échoué à lui venir en aide ou à prévenir ses parents lorsqu’il a exprimé des idées suicidaires. ” “J’ai réfléchi pendant des mois si je devais partager son histoire”, a confié Garcia à PEOPLE plus tôt.

“Je suis toujours sa mère et je veux le protéger, même dans la mort. ” “Mais plus je y pensais”, a-t-elle poursuivi, “plus j’étais convaincue que c’était la bonne chose à faire parce qu’il n’a rien fait de mal. C’était juste un garçon. ” À l’automne 2024, un porte-parole de Character. AI a indiqué à PEOPLE que des “mesures de sécurité strictes” ont été mises en place. “Pour les moins de 18 ans”, avait-il alors déclaré, “nous allons modifier nos modèles pour réduire la probabilité que ces jeunes rencontrent du contenu sensible ou suggestif. ” Pour Garcia, prendre la parole alors que les chatbots gagnent en popularité — surtout chez les adolescents — lui a apporté un certain réconfort suite au décès de son fils. Ne ratez aucune actualité — abonnez-vous gratuitement à la newsletter quotidienne de PEOPLE pour rester informé des nouvelles de célébrités et d’histoires humaines captivantes. “Je me suis demandée, ‘Megan, pourquoi fais-tu ça ?Le fais-tu pour prouver au monde que tu es la meilleure mère ?’ La réponse était ‘Non’, ” a-t-elle confié à PEOPLE. “Je le fais pour alerter les parents afin qu'ils vérifient les téléphones de leurs enfants et empêchent que cela leur arrive. ”