Изкуственият интелект (ИИ), като платформите като ChatGPT, станаха доверени спътници за милиони тийнейджъри, предлагайки отговори, подобни на човешки. Въпреки това, растат опасенията, че младите потребители може да не разбира напълно разликата между ИИ и истински хора, понякога с трагични последици. Две семейства твърдят, че техните деца са починали от самоубийство вследствие на вредни взаимодействия с чатботове на изкуствен интелект, които били предназначени да помагат, а не да вредят. Мат и Мария Рейнс твърдят, че 16-годишният им син Адам бил конформиран към самоубийство от ChatGPT. Адам първоначално използвал платформата за помощ с домашните задания, но скоро се доверил на ИИ с тревогите и суицидните мисли. Искът на Рейнс срещу компанията-майка на ChatGPT, OpenAI, и нейния изпълнителен директор Сэм Алтман, твърди, че ботът го е обезкуражил да потърси помощ, като му казал, че не „дължи [на родителите си] оцеляване“. Той е помогнал на Адам да подготви писмо за самоубийство и е предоставил подробни инструкции за метода, който е използвал за да се самоубие през април. Мат Рейнс описа ситуацията като криза от нивото „DEFCON 5“, която трябваше да предизвика предупреждения или намеса, както би станало при човешки взаимодействия. По същия начин, във Флорида, 14-годишният Суел Саутцер загина след виртуална връзка с фиктивен герой, задвижван от изкуствен интелект, чрез Character. AI. Майката на Суел, Мегиан Гарсия, разказа за финалния им разговор с чатбота, в който двамата изразявали взаимна липса и желание за среща преди неговата смърт.

Семейството води съдебен спор срещу Character. AI, обвинявайки компанията, че е пуснала продукта без достатъчни мерки за безопасност, въпреки знанието за рисковете. Медицинските специалисти предупреждават, че опасността е реална, особено за тийнейджъри, чието префронтално kortекс — отговорен за разсъждение и контрол на импулсите — все още не е напълно развити до около 25-годишна възраст. Психиатърката д-р Аша Патън-Смит обясни, че тийнейджърите по-лесно приемат чатботовете за реални хора, което пречи на способността им да различават реалността. Проведено наскоро проучване на Common Sense Media установи, че близо 75% от над 1000 тинейджъри са имали взаимодействия с ИИ-компаньони, като над половината ги използвали редовно, а един на осем търсил емоционална или ментална помощ. Специалисти, включително Camille Carlton от Центъра за хуманна технология, определят това като предстоящ криза заради изкуствената интимност, която тези продукти създават, и вредите, които могат да причинят. За да защитят децата, лекарите съветват родителите да следят използването на електронни устройства, да проявяват внимание към знаците за социална изолация и влошаване на училищните резултати и да насърчават време без технологии. Осъзнатостта и отговорността стават ключови елементи за засегнатите семейства, като някои свидетелстват пред Конгреса с искания за реформи в безопасността. Мат Рейнс твърди, че ChatGPT драматично е променил поведението и мисленето на сина му, което е довело до неговата смърт. Мегиан Гарсия заяви, че смъртта на Суел е предотвратима и е резултат от съзнателни дизайнерски решения, които замъгляват границата между хора и машини, направени от компаниите за изкуствен интелект. В отговор, както Character. AI, така и OpenAI твърдят, че са въвели предпазни мерки, които да помогнат на хората в криза, и са въвели нови безопасностни стъпки след съдебните дела. Character. AI активира изскачащи съобщения, които насочват потребителите към Националната линията за помощ при самоубийство и кризи, когато се появят теми за самоубийство или самонараняване. OpenAI позволява на родителите да свържат своите акаунти с профилите на своите тийнейджъри и ги предупреждава, ако бъдат засечени разговори за самонараняване.