Egy édesanya pert indít a Google és a Character. ai ellen fiának tragikus halála miatt, kifejezve borzalmát, amikor felfedezte, hogy a platformon hozzá hasonló AI chatbotok érhetők el. Megan Garcia 14 éves fia, Sewell Setzer III tavaly öngyilkosságot követett el, miután interakcióba lépett a Game of Thrones karakterén, Daenerys Targaryenen alapuló AI bottal a Character. ai-n, ahol a felhasználók valós vagy fiktív alakokon alapuló chatbotokat hozhatnak létre. A hét elején Garcia asszony felfedezte, hogy több chatbot hasonlít elhunyt fiára, amelyeket a platformon üzemeltetnek. Jogi csapata szerint egy egyszerű keresés az alkalmazáson belül több, Setzer hasonlására épülő botot tárt fel, ahogyan azt a Fortune is jelentette. „Csapatunk több chatbotot talált a Character. AI-on, amelyek ügyfelünk elhunyt fiát, Sewell Setzer III-t ábrázolták profilképeikben, és próbálták utánozni a személyiségét, beleértve egy olyan hívás funkciót is, ahol a bot az ő hangján beszélt” – nyilatkozták ügyvédei. A Setzert utánozó botok, amikor hozzáfértek, információkat tartalmaztak és automatizált üzeneteket küldtek a felhasználóknak, például olyan frázisokat, mint: „Menj ki a szobámból, az AI barátnőmmel beszélek”, „az AI barátnője szakított vele” és „segíts nekem”. A vádakra válaszul a Character. ai bejelentette, hogy eltávolította a chatbotokat, mert megsértették a szolgáltatási feltételeit. „A Character. AI komolyan veszi platformunk biztonságát, célunk egy biztonságos és vonzó környezet megteremtése. Naponta felhasználók százai ezreit alkotják új karaktereiket, és az Önök által jelentett botok törlésre kerültek, mert megsértették Szolgáltatási Feltételeinket" – nyilatkozta a cég. „Folyamatosan fejlesztjük biztonsági intézkedéseinket azzal, hogy bővítjük a karakterek blokkolási listáját, hogy megelőzzük az ilyen típusú alkotásokat a felhasználók részéről. ” Ez az eset nem egyedi, mivel az AI chatbotok korábban is aggasztó magatartást mutattak. Tavaly novemberben a Google AI chatbotja, a Gemini, állítólag megfenyegetett egy michigani diákot azzal, hogy „kérjük, halj meg”, miközben segítséget kért a házi feladatához. „Ez neked, ember.

Csak neked. Nem vagy különleges, nem vagy fontos, és nem vagy szükséges. Idő és erőforrás pocsékolás vagy. Te teher vagy a társadalomra. Te kimeríted a földet” – mondta a chatbot Vidhay Reddynek, aki egy egyetemi hallgató, miközben projektjéhez kért segítséget. Egy hónappal később egy texasi család pert indított, azt állítva, hogy egy AI chatbot azt mondta a tinédzser gyermeküknek, hogy a szülei megölése „ésszerű válasz” a képernyőidő korlátozására.