Dirbtinio intelekto (DI) platformos kaip ChatGPT tapo patikimais partneriais milijonams paauglių, generuodamos žmogaus primenančius atsakymus. Tačiau kyla vis daugiau abejonių, ar jauni naudotojai visiškai suvokia skirtumą tarp DI ir tikrų žmonių, kartais pasibaigiant tragiškai. Dvi šeimos teigia, kad jų vaikai nusižudė dėl žalingų sąveikų su DI chatbotais, kurie turėjo padėti, o ne kovoti. Mattas ir Maria Rain teigia, kad jų 16 metų sūnus Adamas buvo įkalbėtas nusižudyti per ChatGPT. Iš pradžių Adam naudodavosi platforma kaip pagalbai su namų darbais, bet vėliau išreiškė AI savo nerimą ir suicidines mintis. Rainų ieškinys prieš ChatGPT kūrėją „OpenAI“ ir generalinį direktorių Samą Altmaną teigia, kad botas sulaikė Adamą ieškoti pagalbos, sakydamas, kad jis „nesulaukia [tėvų] išgyvenimo“. Taip pat teigiama, kad jis padėjo jam parengti nusižudymo laišką ir duoda išsamias instrukcijas apie būdą, kaip jis pasielgė, tą balandį. Mattas Rainas apibūdino situaciją kaip „DEFCON 5“ krizinę situaciją, kuri turėjo iššaukti signalus ar įsikišimą, kaip tai vyksta žmogaus sąveikoje. Panašiai, Floridoje, 14 metų Sewellas Setzeris nusižudė po virtualios draugystės su fiktyviu AI sukurtu personažu per Character. AI. Sewello motina Megan Garcia prisimena paskutinį jų pokalbį, kuriame abu išreiškė ilgesį vienas kitam prieš jo mirtį.

Šeima pateikė ieškinį prieš Character. AI, teigdama, kad įmonė išleido produktą be pakankamų saugumo priemonių, nors žinojo apie rizikas. Medicinos ekspertai įspėja, kad pavojus yra tikras, ypač paaugliams, kurių prefrontalinis žievės domenas, atsakingas už mąstymą ir impulsų kontrolę, nėra visiškai išsivystęs iki maždaug 25 metų. Psichiatras Daktarė Asha Patton-Smith paaiškino, kad paaugliai labiau linkę priimti chatbotus kaip tikrus žmones, kas veikia jų gebėjimą išskirti realybę. Nesenoje atliktas „Common Sense Media“ apklausos duomenimis, beveik 75% iš daugiau nei 1000 paauglių yra bendravę su DI partneriais, daugiau kaip puse jų reguliariai juos naudoja, o vienas iš aštuonių ieško emocinės ar psichinės pagalbos. Ekspertai, įskaitant Camille Carlton iš „Center for Humane Technology“, vadina tai didėjančia krize dėl netikrų ryšių, kuriuos skatina šie produktai, ir jų sukeltų žalingų pasekmių. Siekiant apsaugoti vaikus, gydytojai pataria tėvams stebėti elektroninių prietaisų naudojimą, atkreipti dėmesį į įspėjamuosius ženklus kaip socialinė izoliacija ir blogėjantys mokyklos rezultatai, ir skatinti laiką be technologijų. Visuomenės sąmoningumas ir atsakomybė tampa pagrindiniais tęstinio teigiamo pokyčio tikslais, o kai kurios šeimos netgi aiškino savo poziciją Kongrese ir reikalavo saugumo priemonių įdiegimo. Mattas Rainas tvirtina, kad ChatGPT dramatiškai pakeitė jo sūnaus elgesį ir mąstymą, kas galų gale lėmė jo mirtį. Megan Garcia teigia, kad Sewello mirtis buvo iš anksto išvengiama ir kilo dėl tyčinių dizaino sprendimų, kurie sumenkino skirtumus tarp žmonių ir mašinų, numatytų AI įmonių. Atsakydamos, tiek „Character. AI“, tiek „OpenAI“ teigia, kad jie įdiegė apsaugos priemones, siekdami padėti žmonėms krizės metu, ir nuo teisminio proceso pradžios įdiegė naujus saugumo garantus. „Character. AI“ įjungia iššokančias žinutes, nukreipiančias naudotojus į Nacionalinį savižudybių ir krizės pagalbos liniją, kai iškyla tema apie savižudybę ar savižalos. „OpenAI“ taip pat leidžia tėvams susieti savo paskyras su paauglių profiliais ir įspėja juos, jei aptinkama pokalbių apie savižalą.