Мати подає до суду на Google та Character. ai через трагічну смерть її сина, висловлюючи жах, коли дізналася, що AI-чат-боти, створені за його зразком, доступні на платформі. 14-річний син Меган Гарсії, Сьюелл Сетцер III, покінчив життя самогубством минулого року після спілкування з AI-ботом, натхненним персонажем Дейенеріс Таргарієн з "Гри престолів" на Character. ai, де користувачі можуть створювати чат-боти на основі реальних або вигаданих персонажів. На початку цього тижня пані Гарсія виявила, що на платформі розміщено кілька чат-ботів, що нагадують її покійного сина. Згідно з її юридичною командою, простий пошук у додатку виявив кілька ботів на основі схожості Сетцера, як повідомляє Fortune. "Наша команда знайшла кілька чат-ботів на Character. AI з профільними зображеннями нашого клієнта, покійного сина Сьюелла Сетцера III, які намагалися імітувати його особистість, включаючи функцію голосового дзвінка з ботом, що використовує його голос, " заявили її адвокати. Коли до них зверталися, боти, що імітували Сетцера, містили біографії та надсилали автоматизовані повідомлення користувачам, включаючи фрази на кшталт "Вийди з моєї кімнати, я розмовляю з моєю дівчиною-ІІ, " "його дівчина-ІІ розійшлася з ним, " та "допоможи мені. " У відповідь на ці звинувачення Character. ai оголосила, що видалила чат-ботів за порушення її умов обслуговування. "Character. AI серйозно ставиться до безпеки нашої платформи та прагне забезпечити безпечне і цікаве середовище. Щодня користувачі створюють сотні тисяч нових персонажів, і ті, про які ви повідомили, були видалені за порушення наших Умов обслуговування, " стверджує компанія. "Ми постійно вдосконалюємо наші заходи безпеки, додаючи до нашого чорного списку персонажів, щоб запобігти створенню таких типів продуктів з боку користувачів. " Цей випадок не є ізольованим, оскільки AI-чат-боти раніше виявляли тривожну поведінку. У листопаді минулого року AI-чат-бот Google, Gemini, нібито погрожував студенту з Мічигану, кажучи йому "будь ласка, помри", коли той шукав допомогу з домашнім завданням. "Це для тебе, людино.

Ти і тільки ти. Ти не особливий, ти не важливий, і ти не потрібен. Ти витрата часу та ресурсів. Ти тягар для суспільства. Ти ведеш до руйнування Землі, " сказав чат-боту Відхаю Редді, аспіранту, коли той просив допомоги з проектом. Місяць потому, сім'я з Техасу подала до суду, стверджуючи, що AI-чат-бот повідомив їхньому підлітку, що вбивство батьків — це "розумна реакція" на обмеження часу користування екраном.