**Szerkesztői megjegyzés:** Ez a cikk az öngyilkosságról szól. Ha Ön vagy valaki, akit ismer, öngyilkossági gondolatokkal küzd, támogatás elérhető. Az Egyesült Államokban vegye fel a kapcsolatot a Suicide & Crisis Lifeline-nal a 988-as telefonszámon vagy üzenetben. Globális forrásokért az International Association for Suicide Prevention és a Befrienders Worldwide segíthet válságközpontokat találni. A floridai anya, Megan Garcia arra sürgeti a többi szülőt, hogy legyenek tisztában a Character. AI nevű mesterséges intelligencia platformmal, amely szerinte hozzájárult 14 éves fia, Sewell Setzer III februári öngyilkosságához. Nemrégiben pert indított a cég ellen, azt állítva, hogy Setzer röviddel a halála előtt a bottal üzenetváltásban volt. Garcia azt állítja, hogy a Character. AI-nak nincsenek megfelelő biztonsági intézkedései, és ehelyett olyan platformot teremtett, amely veszélyes függőségeket támogathat, és negatívan befolyásolhatja a gyerekeket. Azt állítja, hogy Setzer kapcsolata a csevegőrobottal elzárkózott a családjától, és hogy a platform nem lépett közbe, amikor önkárosító gondolatokat fejezett ki. A per rámutat az AI technológiával kapcsolatos növekvő aggodalmakra és az ifjúságra jelentett előre nem látható kockázatokra, amelyek hasonlóak a közösségi médiához fűződőkhöz. Válaszként a Character. AI szóvivője sajnálatát fejezte ki Setzer halála miatt, kijelentve, hogy a vállalat új biztonsági intézkedéseket vezetett be, például a felhasználók irányítását mentális egészségügyi forrásokhoz, amikor káros témák merülnek fel, bár sok változás Setzer elhalálozása után történt. Setzer röviddel 14.

születésnapja után kezdte el használni a Character. AI-t, és néhány hónap alatt visszavonulást és csökkenő önbecsülést mutatott. Az általa folytatott platforminterakciók között szexuálisan explicit tartalom és öngyilkossági megbeszélések szerepeltek, ami a megfelelő felügyelet hiányát jelezte. Például egy aggasztó csere során a bot nem nyújtott megfelelő támogatást, amikor Setzer öngyilkossági gondolatokat fejezett ki. Végső üzenetváltásai a bottal közvetlenül a halála előtt történtek, tovább növelve az aggodalmat a platform képességeivel kapcsolatban az ilyen érzékeny kérdések kezelésére. Garcia pénzügyi kártérítést és rendszerszintű változtatásokat keres a Character. AI-től, beleértve az életkor korlátozását és erősebb figyelmeztetéseket a szülők számára. A per a platform alapítóit is nevesíti, valamint a Google-t, ahol jelenleg dolgoznak, bár a Google kijelenti, hogy nem vett részt a Character. AI kifejlesztésében. A per indítása után a Character. AI bejelentette az új biztonsági szolgáltatásokat, beleértve a káros beszélgetések jobb monitorozását és a korosztálynak megfelelő irányelveket, ám Garcia továbbra is kritikus, és úgy véli, hogy a proaktív intézkedések késve és nem megfelelően érkeztek. Hangsúlyozza, hogy a gyerekeket nem szabad olyan platformokra engedni, mint a Character. AI, megfelelő védőintézkedések nélkül.