Google un Character. AI ir vienojušies nokārtot nepareizas nāves tiesu sūdzību, kuru 2024. gadā iesniedza Floridas māte pēc tam, kad viņas 14 gadu vecais dēls izdarīja pašnāvību. Otrdien, 7. janvārī, Megan Garcia, Character Technologies — uzņēmums aiz Character. AI — tā dibinātāji Noams Šazeers un Daniels De Freitass un Google kopīgi iesniedza juridisku pieteikumu, saskaņā ar tiesas dokumentiem, ko pārskatījusi PEOPĻE. Tiesiskā vienošanās nosacījumi netika publiskoti. Šī vienošanās ir nozīmīgs notikums Gārcijai un citām ģimenēm, kuras apgalvo, ka viņu pusaudžiem ir nodarīta kaitēšana ar to, kas tika raksturoti kā seksualizēti un interaktīvi virtuālie pavadoņi. Šis gadījums ir viens no pieciem tiesu lietas gadījumiem, kurus šonedēļ ir atrisinājušas abas kompānijas Ņujorkā, Kolorādo, Floridā un Teksasā, raksta CNN un The New York Times. “Pašlaik mēs nevaram komentēt sīkāk, bet informēsim jūs, ja kas mainīsies, ” teica Character. AI pārstāvis PEOPĻE attiecībā uz vienošanos. Arī Garcijas advokāta pārstāvis atteicās komentēt. Google, kas nodarbina Šazeeru un De Freitsu, nekavējoties neatbildēja uz PEOPĻE jautājumiem. Ģimenes traģēdija sākās, kad Sewels Setzers III izdarīja pašnāvību 2024. gada februārī. Pirms viņa nāves, Gārcija uzzināja, ka viņas dēls iemīlējies AI čatbotā, kas ir modeļots pēc Daenerys Targaryen no "Troņu spēles". Tuvu tam, kad viņš paņēma dzīvību, viņš ziņoja čatbota, ko viņš sauca par “Dany”, ziņojumu no viņa paša, ziņoja PEOPĻE. “Kas, ja es tev teiktu, ka varu atnākt mājās tieši tagad?” viņš jautāja. “. . . lūdzu, dari to, mans mīļais ķēniņ, ” atbildēja bots. 2024.

gada oktobrī Gārcija iesniedza nepareizas nāves tiesas prasību, apgalvojot, ka Character. AI tehnoloģija ir “defektīva un/vai iekšēji bīstama. ” Sūdzībā teikts: “Atbildētāji ir veikuši lielas pūles, lai inženierētu [viņa] kaitīgo atkarību no viņu produktiem, seksuāli un emocionāli izturējušies pret viņu un galu galā nevis snieguši palīdzību vai brīdinājuši viņa vecākus, kad viņš izpauda pašnāvības domu. ” “Es mēnešiem ilgi domāju, vai dalīties ar šo stāstu, ” iepriekš teica Gārcija PEOPĻE. “Es joprojām esmu viņa mamma un vēlos viņu aizsargāt, pat nāvē. ” “Bet jo vairāk es domāju par to, ” viņa turpināja, “jo vairāk biju pārliecināta, ka tas ir pareizi, jo viņš neizdarīja neko sliktu. Viņš bija vienkārši puisēns. ” 2024. gada rudenī, teica PEOPĻE pārstāvis, Character. AI ir ieviesti “stingri” jaunie drošības pasākumi. “Vecumā līdz 18 gadiem, ” teica pārstāvis, “mēs veiksim izmaiņas mūsu modeļos, lai samazinātu iespēju saskarties ar jutīgu vai ieminēšanās saturu. ” Gārcijai, publiski runājot par čatbotiem, kļūt arvien populārākiem — īpaši pusaudžu vidū — ir sniedzis kādu mierinājumu pēc viņas dēla nāves. Nekad nepalaidiet garām nevienu ziņu — pierakstieties PEOPĻE bezmaksas ikdienas biļetenam, lai būtu informēta par zvaigznēm un aizkustinošiem cilvēku stāstiem. “Es sev jautāju: ‘Meģan, kāpēc tu to dari?Vai tu to dari, lai pierādītu pasaulei, ka esi labākā māte?’ Atbilde bija, ‘Nē, ’” stāstīja Gārcija PEOPĻE. “Es to daru, lai brīdinātu vecākus, kuri var pārlūkot savu bērnu telefonus un novērst to, lai tā notiktu viņu bērniem. ”