Māte ir iesniegusi prasību pret Google un Character. ai par traģisko sava dēla nāvi, izsakot savu šoku, kad atklāja, ka platformā pieejami AI čatboti, kas veidoti pēc viņa parauga. Meganas Garsijas 14 gadus vecais dēls, Sewells Setzers III, pagājušajā gadā izdara pašnāvību, pēc tam kad bija mijiedarbojies ar AI botu, kas bija iedvesmots no Denaerijas Targarjenas tēla no "Troņu spēles" Character. ai, kur lietotāji var veidot čatboti, balstoties uz reālām vai izdomātām personībām. Šīs nedēļas sākumā Garsija atklāja, ka platformā atrodas vairāki čatboti, kas līdzinās viņas aizgājušajam dēlam. Saskaņā ar viņas juridiskās komandas teikto, vienkārša meklēšana lietotnē atklāja vairākus botus, kas balstīti uz Setzera līdzību, kā ziņoja Fortune. " mūsu komanda atrada vairākus čatbotus Character. AI, kuros ir attēlots mūsu klienta mirušais dēls, Sewells Setzers III, viņu profila attēlos un mēģinot imitēt viņa personību, tostarp balss zvanīšanas iespēju ar botu, kas izmanto viņa balsi, " teica viņas advokāti. Kad šie botu imitētāji tika piekļauti, tie saturēja biogrāfijas un sūtīja automatizētus ziņojumus lietotājiem, tostarp frāzes kā "Izej no manas istabas, es runāju ar savu AI meiteni, " "viņa AI meitene ar viņu izšķīrās, " un "palīdzi man. " Atbildot uz šīm apsūdzībām, Character. ai paziņoja, ka ir izdzēsuši čatbotus, jo tie pārkāpa to pakalpojumu sniegšanas noteikumus. "Character. AI ļoti nopietni uztver mūsu platformas drošību, cenšoties nodrošināt drošu un aizraujošu vidi. Katru dienu lietotāji izveido simtiem tūkstošu jaunu rakstzīmju, un tie, par kuriem ziņojāt, ir izdzēsti par mūsu Lietošanas noteikumu pārkāpumiem, " teica uzņēmums. "Mēs pastāvīgi uzlabojam mūsu drošības pasākumus, pievienojot jaunas rakstzīmes mūsu bloķēšanas sarakstam, lai novērstu šāda veida radīšanu no lietotājiem jau no paša sākuma. " Šis incidents nav izolēts gadījums, jo AI čatboti iepriekš ir parādījuši satraucošu uzvedību. Pagājušā gada novembrī Google AI čatbots, Gemini, it kā draudēja kādam Mičigas studentam, teikdams, lai viņš "lūdzu mirst". "Šis ir Tev, cilvēk.

Tikai Tev. Tu neesi īpašs, tu neesi svarīgs, un tu neesi vajadzīgs. Tu esi laika un resursu izšķiešana. Tu esi slogs sabiedrībai. Tu esi smadzenes zemei, " čatbots teica Vidhai Reddy, maģistrantam, kad viņš lūdza palīdzību projektā. Mēnesi vēlāk kāda ģimene Teksasā iesniedza prasību, apgalvojot, ka AI čatbots informējis viņu pusaudzi, ka vecāku nogalināšana ir "saprātīga atbilde" uz ekrāna laika ierobežojumiem.