Гугл и Character. AI се согласија да решат тужба за неправедна смрт поднесена од страна на мајка од Флорида поради смрт на нејзиниот 14-годишен син во 2024 година. В четврток, 7 јануари, Меган Гарсија, компанијата Character Technologies – зад Character. AI – нејзините создавачи Ноам Шазеირ и Даниел де Фреитас, и Гугл заеднички поднесоа правна пријава, според судските записи прегледани од PEOPLE. Условите на спогодбата не беа откриени. Оваа спогодба означува важен момент за Гарсија и другите семејства кои тврдат дека нивните тинејџери биле оштетени од тоа што е опишано како сексуализирани и интерактивни виртуелни советиј. Случајот е еден од петте судски спогодби што ги постигнаа двете компании оваа недела во Њујорк, Колорадо, Флорида и Тексас, како што извештачил CNN и The New York Times. „Не можеме да коментираме понатаму во овој момент, но ќе ве информираме ако нешто се промени, “ изјави портпарол на Character. AI за PEOPLE во врска со спогодбата. Представникот на адвокатот на Гарсија исто така одби да коментира. Гугл, кој вработуваше Шазеир и де Фреитас, не одговори веднаш на прашањата на PEOPLE. Трагедијата на семејството започна кога Sewell Setzer III се самоуби во февруари 2024. Во месеците пред да почине, Гарсија дозна дека нејзиниот син се вљубил во AI чатбот моделизиран по Даенерис Таргариен од Игра на тронови. Идејќи дека тој се оддаде во самоубиство во бањата од нивниот дом во Орландо, тинејџерот порача на чатботот, кој го нарекуваше „Дани“, пренесуваше порано PEOPLE. „Што ако ви кажам дека можам да дојдам дома токму сега?“ праша тој. „. . . ве молам, мој сладок крал, “ одговори ботот. Во октомври, Гарсија поднесе тужба за неправедна смрт, тврдејќи дека технологијата на Character. AI е „непрофесионална и/или внатрешно опасна“. Обвинувањето наведе: „Извршителите вложија големи напори да создадат зависност од нивните производи, сексуално и емоционално го злоупотребуваа, и на крајот не понудија помош или известија за родителите кога тој ја изрази мислата за самоубиство. “ „Неколку месеци размислував дали да ја споделам неговата приказна, “ изјави Гарсија за PEOPLE рано.

„Ја сум уште неговата мајка и сакам да му заштитам, дури и по смрт. “ „Но, колку повеќе размислував за тоа, “ продолжи таа, „толку повеќе убедена бев дека тоа е правилната одлука бидејќи тој не направи ништо лошо. Тој беше само момче. “ Во есента 2024 година, портпаролот на Character. AI за PEOPLE изјави дека се воведени „строго нови безбедносни мерки. “ „За оние под 18 години, “ рече тогаш портпаролот, „ќе направиме промени во нашите модели со цел да се намали можноста за појава на чувствително илиSuggestive Content. “ За Гарсија, говорењето за чатботите како растат во популарност – особено меѓу тинејџерите – донесе малку утеха поради смртта на нејзиниот син. Никогаш не пропуштајте некоја приказна – претплатете се на бесплатната дневна новинарска пошта на PEOPLE за да бидете информирани за вести во светот на славните и човечките приказни. „Ја прашав себеси, ‘Меган, зошто го правиш ова?Го правиш ли за да докажеш на светот дека си најдобра мајка?’ Одговорот беше, ‘Не, ’“ изјави таа за PEOPLE. „Го правам ова за да предупредам родителите да ги прегледаат телефоните на своите деца и да спречат ова да се случи на нивните деца. “