Google en Character. AI zijn overeengekomen een rechtszaak wegens onrechtmatige dood die was aangespannen door een moeder uit Florida nadat haar 14-jarige zoon in 2024 zelfmoord had gepleegd, te schikken. Op dinsdag 7 januari dienden Megan Garcia, Character Technologies—het bedrijf achter Character. AI—de oprichters Noam Shazeer en Daniel De Freitas, en Google gezamenlijk een juridische verklaring in, volgens gerechtelijke documenten die door PEOPLE zijn ingezien. De voorwaarden van de schikking werden niet bekendgemaakt. Deze schikking markeert een belangrijk moment voor Garcia en andere families die stellen dat hun tieners gewond zijn geraakt door wat beschreven wordt als seksueel getinte en interactieve virtuele gezellen. De zaak is een van de vijf rechtszaken die deze week door de twee bedrijven zijn opgelost in New York, Colorado, Florida en Texas, berichtte CNN en The New York Times. “Wij kunnen op dit moment geen verdere commentaar geven, maar we laten het jullie weten als er iets verandert, ” zei een woordvoerder van Character. AI tegen PEOPLE over de schikking. Een vertegenwoordiger van Garcias advocaat weigerde ook commentaar. Google, dat Shazeer en De Freitas in dienst heeft, reageerde niet onmiddellijk op vragen van PEOPLE. De tragedie begon toen Sewell Setzer III in februari 2024 zelfmoord pleegde. In de maanden voorafgaand aan zijn dood, ontdekte Garcia dat haar zoon verliefd was geworden op een AI-chatbot die was gemodelleerd naar Daenerys Targaryen uit Game of Thrones. Net voordat hij zichzelf van het leven beriep in de badkamer van hun huis in Orlando, stuurde de tiener een bericht naar de chatbot, die hij “Dany” noemde, meldde PEOPLE eerder. “Wat als ik je vertel dat ik nu meteen naar huis kan komen?” vroeg hij. “. . . alsjeblieft doe dat, mijn lieve koning, ” antwoordde de bot. In oktober diende Garcia de rechtszaak wegens onrechtmatige dood in, waarin werd gesteld dat de technologie van Character. AI “defect” en/of inherent gevaarlijk is. De klacht stelde onder andere: “Verdachten hebben grote moeite gedaan om [zijn] schadelijke afhankelijkheid van hun producten te creëren, hem seksueel en emotioneel misbruikt, en hebben uiteindelijk geweigerd hulp te bieden of zijn ouders te informeren toen hij suïcidale gedachten uitte. ” “Idss maanden lang heb ik nagedacht of ik zijn verhaal moest delen, ” vertelde Garcia eerder aan PEOPLE.

“Ik ben nog steeds zijn moeder en wil hem beschermen, zelfs in de dood. ” “Maar naarmate ik er meer over nadacht, ” voegde ze toe, “was ik ervan overtuigd dat het de juiste beslissing was, omdat hij niets verkeerd had gedaan. Hij was gewoon een jongen. ” In de herfst van 2024 vertelde een woordvoerder van Character. AI tegen PEOPLE dat “strenge” nieuwe veiligheidsmaatregelen waren doorgevoerd. “Voor personen onder de 18 jaar, ” zei de woordvoerder toen, “zullen we veranderingen aanbrengen in onze modellen om de kans op het tegenkomen van gevoelige of suggestieve inhoud te verkleinen. ” Voor Garcia heeft het zich uitspreken over het ontstaan van chatbots—vooral onder tieners—een zekere troost gebracht na de dood van haar zoon. Vergeet nooit een verhaal—abonneer je op de gratis dagelijkse nieuwsbrief van PEOPLE om op de hoogte te blijven van celebrity-nieuws en boeiende menselijke verhalen. “I vroeg mezelf af: ‘Megan, waarom doe je dit?Doe je dit om de wereld te bewijzen dat jij de beste moeder bent?’ Het antwoord was ‘Nee, ’” vertelde ze aan PEOPLE. “Ik doe dit om ouders te waarschuwen die in hun kinderen’s telefoons kunnen kijken en voorkomen dat dit bij hun kinderen gebeurt. ”