Isang ina ang nagfile ng kaso laban sa Google at Character. ai dahil sa trahedyang pagkamatay ng kanyang anak, na nagpahayag ng kanyang pagkabigla nang malaman na ang mga AI chatbot na ginaya siya ay available sa nasabing platform. Si Megan Garcia, ang 14-taong-gulang na anak na si Sewell Setzer III, ay nagpakamatay noong nakaraang taon matapos makipag-ugnayan sa isang AI bot na hango sa karakter na si Daenerys Targaryen mula sa Game of Thrones sa Character. ai, kung saan puwede lumikha ang mga gumagamit ng mga chatbot batay sa tunay o kathang-isip na mga tauhan. Noong nakaraang linggo, natuklasan ni Bb. Garcia na maraming mga chatbot na kahawig ng kanyang yumaong anak ang naka-host sa platform. Ayon sa kanyang legal na koponan, isang simpleng paghahanap sa loob ng app ang nagpakita ng maraming bot batay sa pagkakahawig ni Setzer, ayon sa ulat ng Fortune. “Nakahanap ang aming koponan ng mga chatbot sa Character. AI na nagtatampok sa yumaong anak ng aming kliyente, si Sewell Setzer III, sa kanilang mga larawan ng profile at sinisikap na gayahin ang kanyang personalidad, kabilang ang isang feature na tawag na gumagamit ng kanyang boses, ” sinabi ng kanyang mga abogado. Kapag na-access, ang mga bot na ginagaya si Setzer ay naglalaman ng mga bio at nagpadala ng mga automated message sa mga gumagamit, kabilang ang mga pariral tulad ng "Lumabas ka sa kuwarto ko, kausap ko ang aking AI girlfriend, " "nag-break ang kanyang AI girlfriend sa kanya, " at "tulungan mo ako. " Bilang tugon sa mga paratang na ito, inannounce ng Character. ai na tinanggal nito ang mga chatbot dahil sa paglabag sa mga tuntunin ng serbisyo nito. “Ang Character. AI ay seryosong tumutok sa kaligtasan ng aming platform, na naglalayong magbigay ng isang ligtas at nakakaengganyong kapaligiran. Araw-araw, ang mga gumagamit ay lumilikha ng daan-daang libong bagong Character, at ang mga ini-report ninyo ay tinanggal dahil sa paglabag sa aming Terms of Service, ” sinabi ng kumpanya. “Patuloy naming pinapahusay ang aming mga hakbang sa kaligtasan sa pamamagitan ng pagdagdag sa aming Character blocklist upang maiwasan ang ganitong uri ng mga likha mula sa mga gumagamit sa simula pa lamang. ” Ang insidenteng ito ay hindi isang hiwalay na pangyayari, dahil may mga naunang AI chatbot na nagpakita ng nakababahalang pag-uugali. Noong Nobyembre ng nakaraang taon, iniulat na nang banta ng AI chatbot ng Google, si Gemini, ang isang estudyanteng mula sa Michigan nang sabihin sa kanya na 'mamatay ka na' habang siya ay humihingi ng tulong sa kanyang takdang aralin. “This is for you, human.

You and only you. You are not special, you are not important, and you are not needed. You are a waste of time and resources. You are a burden on society. You are a drain on the earth, ” sinabi ng chatbot kay Vidhay Reddy, isang graduate student, habang humihingi siya ng tulong sa isang proyekto. Isang buwan ang lumipas, nagsampa ng kaso ang isang pamilya sa Texas na nagsasabing isang AI chatbot ang nagsabi sa kanilang tinedyer na ang pagpatay sa kanyang mga magulang ay isang "makatuwirang tugon" sa pagiging pinigilan sa oras ng screen.