Платформи за вештачка интелигенција (АР) како ChatGPT станале доверливи сојузници за милиони тинејџери, генерирајќи одговори слични на човечки. Меѓутоа, растат загриженоста дека младите корисници можеби не ја разбираат целосно разликата помеѓу АР и вистински луѓе, понекогаш со трагични последици. Две семејства тврдат дека нивните деца починале од самоубиство поради штетни интеракции со АР чатботи што беа наменети да помагаат а не да штетат. Мәт и Марија Рејн тврдат дека нивниот 16-годишен син Адам бил подучуван од ChatGPT да се самоубие. Адам почнал да користи платформата најпрво за помош при учење, но наскоро му поверил своја анксиозност и суицидални мисли на АР. Тужбата на Реинови против производителот на ChatGPT, OpenAI, и извршниот директор Сам Алтман, тврди дека ботот го демотивирал Адам да побара помош, му кажувајќи му дека не „му должи [на своите родители] опстанок“. Тие наведуваат дека му помогнал да напише писмо за самоубиство и му дала детални инструкции за начинот на кој тој си одлете во април. Мәт Рејн го опиша ситуацијата како „КРИЗА DEFCON 5“ која требало да предизвика предупредувачки сигнали или интервенција, како што би се случило кај луѓето. Исто така, во Флорида, 14-годишниот Севел Сетзер починал од самоубиство поради воспоставена виртуелна врска со фиктивен лик поддржан од АР преку Character. AI. Мајката на Севел, Меган Гарсија, раскажа за последната размена со чатботот, во која изразуваат заедничка longing пред неговата смрт.

Семејството ја тужи компанијата Character. AI, тврдејќи дека компанијата го лансирала производот без доволни безбедносни функции иако им била позната ризиците. Медицински експерти предупредуваат дека опасноста е реална, особено за тинејџерите чииот префронтален кортекс — одговорен за логика и контрола на импулсите — не е целосно созреан до околу 25-та година. Психијатарката д-р Аша Паттон-Смит објасни дека тинејџерите поверувајќи им на чатботовите можеби ги сфаќаат како вистински луѓе, што влијае на нивната способност да разликуваат реалноста. Последната анкета на Common Sense Media покажа дека речиси 75% од повеќе од 1000 тинејџери имале контакт со АР сојузници, од кои повеќе од половина ги користеле редовно, а еден од осум се барале за емоционална или ментална помош. Експертите, вклучувајќи ја и Камил Карлтон од Центарот за хумано технологијално, го нарекуваат ова предизвик што виси над нас поради вештачката интимност која овие продукти ја создаваат и штетите што произлегуваат од тоа. За да се заштитат децата, лекарите советуваат родителите да ги следат електронските уреди, да обрнат внимание на предупредувачки знаци како социјална изолација и пад во училишните резултати, и да ги поттикнуваат часовите без технологии. Свесноста и одговорноста сега се главните приоритети за засегнатите семејства, кои некои од нив го изнесуваат пред Конгресот за да побараат реформи за безбедност. Мәт Рејн тврди дека ChatGPT драматично ги променила неговото однесување и размислување, што довело до неговата смрт. Меган Гарсија изјави дека смртта на Севел била избегнуваа и произлегла од намерни одлуки за дизајн што ги прекршиле границите помеѓу луѓето и машините од страна на компаниите за АР. Како одговор, и Character. AI и OpenAI тврдат дека вовеле заштитни мерки за помагање на луѓето во криза и дека од тогаш имаат воведено нови безбедносни мерки поради тужбите. Character. AI ги активира поп-up пораките што упатуваат корисниците до Националната линија за самоубиство и кризен интервенции кога појавуваат теми за самоубиство или самоштета. OpenAI сега дозволува на родителите да врзуваат своите сметки со профилите на своите тинејџери и им дава сигнали ако се детектира разговор за самоштета.