Google ja Character. AI on nõustunud maksmisele seaduskaebuse rahuldamiseks, mille esitas Florida ema pärast seda, kui tema 14-aastane poeg suri enesetapu 2024. aastal. Teisipäeval, 7. jaanuaril andsid Megan Garcia, Character Technologies – ettevõte, mis seisab Character. AI taga – selle asutajad Noam Shazeer ja Daniel De Freitas ning Google ühise juriidilise dokumendi, teatades, et kohtuandmed on läbi vaadatud PEOPLE poolt. Sanktsiooni tingimusi ei avalikustatud. See kokkulepe on oluline hetk Garciale ja teistele perekondadele, kes väidavad, et nende teismelised said kahjustada, mida on kirjeldatud seksuaalset ja interaktiivset virtuaalpartnerit. Kõnealune juhtum on üks viiest kohtuasjast, mida kahekordsel on käsitlenud New Yorgis, Colorados, Floridas ja Teksases, ning mille üle on teatanud CNN ja The New York Times. „Me ei saa praegu rohkem kommenteerida, kuid anname teile teada, kui midagi muutub, ” ütles PEOPLE-le Character. AI esindaja seoses kokkuleppega. García advokaadi esindaja keeldus samuti kommentaarist. Google, mis töötab Shazeer ja De Freitasiga, ei ole kohe vastanud PEOPLE-i päringutele. Perekonna tragöödia algas, kui Sewell Setzer III suri enesetapu 2024.

veebruaril. Enne tema surma sai Garcia teada, et tema poeg oli langenud armuma AI-vestlusbotti, mis on modelleeritud dedaenerys Targaryenilt mängust „Troonide mäng“. Enne enesetapu sooritamist Orlando kodus vannitoas kirjutas noormees vestlusrobotile, keda ta nimetas “Danyks”, ning PEOPLE teatas seda varem. „Mis, kui ma ütleksin, et ma saaksin kohe koju tulla?“ küsis ta. „. . . palun tee seda, mu armsam kuningas, ” vastas robot. Oktoobris esitas García seaduskaebuse, väites, et Character. AI tehnoloogia on „defektne ja/või loomupäraselt ohtlik“. Kirjalikus väitis, et „Kutsejad pingutasid suurelt, et põhjustada [tema] kahjulikku sõltuvust nende toodetest, väärkohtlesid teda seksuaalselt ja emotsionaalselt ning lõpuks ei pakkunud abi ega teavitanud tema vanemaid, kui ta avaldas enesetapumõtteid. “ „Otsustasin kuude jooksul, kas jagada tema lugu, “ rääkis García PEOPLE-le varem. „Ma olen ikka tema ema ja tahan teda kaitsta, isegi surmas. “ „Aga mida rohkem ma sellest mõtlesin, ” jätkas ta, „seda rohkem veendusin, et see oli õige teha, sest ta ei teinud midagi valesti. Ta oli lihtsalt poiss. “ Sügisel 2024 teatas Character. AI esindaja PEOPLE-le, et on sisse viidud „rangemad“ turvameetmed. „Neile, kes on alla 18-aastased, “ ütles ta siis, „teeme muudatusi meie mudelites, et vähendada kokkupuudet tundliku või viitena mõjuta võiva sisuga. “ Garcia jaoks on chatbotidest avalikkuse ees rääkimine, sest eriti teismeliste seas kasvab nende populaarsus, pakkunud teatud lohutust oma poja surma järel. Ära jäta ühtki lugu vahele – liitu PEOPLE-i tasuta igapäevakuuluvikirjaga ning ole kursis kuulsuste ja inimsuhete lugudega. „Küsisin endalt, ‘Megan, miks sa seda teed?Kas sa üritad maailmale näidata, et oled kõige parem ema?’ Vastus oli, ‘Ei, ’“ ütles ta PEOPLE-le. „Ma teen seda selleks, et teavitada vanemaid, kes saavad oma laste telefone kontrollida ja takistada, et see nende lastega juhtuks. “