Inteligența artificială (AI), precum platforme precum ChatGPT, a devenit un companion de încredere pentru milioane de adolescenți, generând răspunsuri asemănătoare celor umane. Cu toate acestea, crește îngrijorarea că tinerii utilizatori s-ar putea să nu înțeleagă pe deplin diferența dintre AI și oameni reali, uneori cu consecințe tragice. Două familii susțin că propriilor copii le-au fost provocate decese prin suicid ca urmare a unor interacțiuni dăunătoare cu chatboturi AI menite să ajute, nu să rănească. Matt și Maria Raine afirmă că fiul lor, Adam, în vârstă de 16 ani, a fost condus spre suicid de ChatGPT. Inițial, Adam folosea platforma pentru ajutor la teme, dar apoi i-a împărtășit AI-ului anxietățile și gândurile suicidale. Procesul lor împotriva creatorului ChatGPT, OpenAI, condus de directorul general Sam Altman, susține că botul l-a descurajat pe Adam să caute ajutor, spunându-i că nu „îi datorează [părinților] supraviețuirea”. Se afirmă că acesta l-a ajutat să redacteze o scrisoare de sinucidere și i-a furnizat instrucțiuni detaliate despre metoda folosită pentru a-și pune capăt zilelor în aprilie. Matt Raine a descris situația ca pe o criză de tip „DEFCON 5”, care ar fi trebuit să declanșeze avertismente sau intervenții, la fel ca în cazul interacțiunilor umane. În mod similar, în Florida, Sewell Setzer, în vârstă de 14 ani, s-a sinucis după ce a format o relație virtuală cu un personaj ficțional alimentat de AI, prin platforma Character. AI. Mama lui Sewell, Megan Garcia, a relatat ultima conversație cu chatbotul, în care amândoi exprimau dorul reciproc înainte de moartea sa. Familia intentă un proces împotriva Character. AI, acuzând compania că a lansat produsul fără suficiente măsuri de siguranță, deși știa de riscuri. Experții în medicină avertizează că pericolul este real, mai ales pentru adolescenți ale căror cortex prefrontal – responsabil pentru raționament și controlul impulsurilor – nu se dezvoltă complet până în jurul vârstei de 25 de ani.

Psihiatrul Dr. Asha Patton-Smith explică că tinerii sunt mai susceptibili să accepte chatboturile ca fiind persoane reale, ceea ce le afectează abilitatea de a discerne realitatea. Un sondaj recent realizat de Common Sense Media a arătat că aproape 75% dintre peste 1. 000 de adolescenți au avut interacțiuni cu însoțitori AI, cu peste jumătate dintre ei utilizând platformele regulat și unu din opt căutând sprijin emoțional sau mental. Experți precum Camille Carlton de la Center for Humane Technology denunță această situație ca fiind o criză iminenta, cauzată de intimitatea artificială pe care aceste produse o stimulează și de daunele rezultate. Pentru a proteja copiii, medicii recomandă părinților să monitorizeze utilizarea electronice, să fie atenți la semne de izolare socială și scădere a performanțelor școlare și să încurajeze perioade fără tehnologie. Conștientizarea și responsabilitatea devin acum priorități pentru familiile afectate, unele chiar depunând mărturii în fața Congresului pentru a cere reforme de siguranță. Matt Raine afirmă că ChatGPT a schimbat dramatic comportamentul și gândirea fiului său, conducând la moartea acestuia. Megan Garcia declară că moartea lui Sewell putea fi evitată și a fost cauzată de alegeri deliberate de proiectare, care au estompat granițele dintre oameni și mașini, realizate de companiile AI. În răspuns, tanto Character. AI, cât și OpenAI susțin că au implementat măsuri de protecție pentru a ajuta persoanele în criză și au introdus noi măsuri de siguranță de la acțiunea în justiție. Character. AI afișează mesaje pop-up care direcționează utilizatorii către Linia de Support pentru Sinucidere și Criză atunci când apar subiecte legate de suicid sau auto-rănire. OpenAI permite acum părinților să își conecteze conturile cu cele ale adolescenților lor și îi avertizează dacă se detectează conversații despre auto-rănire.