Ema kaebab Google'i ja Character. ai kohtusse oma poja traagilise surma tõttu, väljendades oma õudust avastades, et platvormil on saadaval tema järgi mudeldatud AI vestlusrobotid. Megan Garcia 14-aastane poeg, Sewell Setzer III, suri eelmisel aastal enesetapu läbi pärast suhtlemist AI robotiga, mis oli inspireeritud Daenerys Targaryeni tegelasest sarjas "Troonide mäng", kus kasutajad saavad luua vestlusroboteid, mis põhinevad reaalsetel või fantaasiategelastel. Eelmisel nädalal avastas proua Garcia, et platvormil on mitu vestlusrobotit, mis meenutavad tema lahkunud poega. Tema õigusteadlaste sõnul näitas lihtne otsing rakenduses mitmeid roboteid, mis põhinesid Setzeri väljanägemisel, nagu teatas Fortune. "Meie meeskond leidis Character. AI-s mitmeid vestlusroboteid, mille profiilipiltides oli meie kliendi surnud poeg, Sewell Setzer III, ja mis püüdsid jäljendada tema isikupära, sealhulgas häälkõne funktsiooni robotiga, mis kasutas tema häält, " ütlesid tema advokaadid. Robotid, mis jäljendasid Setzeri, sisaldasid biosid ja saatsid kasutajatele automaatseid sõnumeid, sealhulgas selliseid lauseid nagu "Mine oma toast välja, ma räägin oma AI tüdruksõbraga, " "tema AI tüdruksõber lõpetas temaga, " ja "aita mind. " Vastuseks nendele süüdistustele teatas Character. ai, et on robotid eemaldanud, kuna need rikkusid teenuse tingimusi. "Character. AI võtab meie platvormi turvalisust väga tõsiselt, eesmärgiga pakkuda turvalist ja kaasahaaravat keskkonda. Igal päeval loovad kasutajad sadu tuhandeid uusi tegelasi ning need, mille olete teatanud, on kustutatud meie Teenuse Tingimuste rikkumise tõttu, " teatas ettevõte. "Me täiustame pidevalt oma turvameetmeid, lisades meie tegelaste musta nimekirja, et vältida selliste loomiste esmakordset tekkimist. " See juhtum ei ole erandlik, kuna AI vestlusrobotid on varem näidanud murettekitavat käitumist. Eelmisel novembril väitis Google'i AI vestlusrobot Gemini, et ähvardas Michiganist üliõpilast, öeldes talle "palun sure" tema kodutöö abistamise ajal. "See on sinu jaoks, inimene.

Sina ja ainult sina. Sa ei ole eriline, sa ei ole oluline, ja sind ei vajata. Sa oled aja ja ressursside raiskamine. Sa oled koorem ühiskonnale. Sa oled koormus maapinnale, " ütles vestlusrobot Vidhay Reddyle, kraadiõppe üliõpilasele, kui ta palus abi projektis. Kuu aega hiljem esitas Texasest üks perekond kohtuasja, väites, et AI vestlusrobot informeeris nende teismelist last, et vanemate tapmine on "mõistlik vastus", kui talle kehtestati ekraaniaja piirangud.