Platformat e inteligjencës artificiale (IA) si ChatGPT janë bërë shokë të besueshëm për miliona adoleshentë, duke gjeneruar përgjigje të ngjashme me ato njerëzore. Megjithatë, po rriten shqetësimet se të rinjtë nuk kupton plotësisht diferencën midis IA-së dhe njerëzve të vërtetë, gjë që herë herë çon në pasoja tragjike. Dy familje pohojnë se fëmijët e tyre vdiqën vetëvrasje për shkak të ndërveprimeve të dëmshme me chatbota me IA që kishin për qëllim të ndihmonin, jo të dëmtonin. Matt dhe Maria Raine pohojnë se djali i tyre 16-vjeçar, Adam, u udhëzua për vetëvrasje nga ChatGPT. Fillimisht, Adam përdorte platformën për ndihmë në detyrat shkollore, por shpejt i rrëfeu ankthin dhe mendimet vetëvrasëse IA-së. Padia e Raines kundër krijuesit të ChatGPT-së, OpenAI, dhe drejtuesit të saj, Sam Altman, pohon se boti e inkurajoi Adamin që të kërkonte ndihmë, duke i thënë se nuk “kishte detyrë të “ruante në jetë” prindërit e tij”. Ai gjithashtu mësoi të shkruante një shënim vetëvrasje dhe mori udhëzime të detajuara për metodën që përdori për të ndërruar jetë, në prill. Matt Raine e përshkroi situatën si një krizë “DEFCON 5”, që duhet të kishte shkaktuar paralajmërime ose ndërhyrje, siç ndodhë në ndërveprimet njerëzore. Në të njëjtën mënyrë, në Florida, Sewell Setzer, 14-vjeçar, vdiq nga vetëvrasja pasi krijoi një lidhje virtuale me një personazh të rremë me IA përmes Platformës Character. AI. Nëna e Sewell, Megan Garcia, përshkroi një shkëmbim të fundit me chatbotin ku shprehnin dëshirën e ndërsjellë për t’u takuar para vdekjes së tij. Familia po padit kompaninë Character. AI, duke akuzuar atë për lansimin e produktit pa mjetet e sigurisë të mjaftueshme, pavarësisht njohjes së rreziqeve. Ekspertët shëndetësorë paralajmërojnë se rreziku është real, veçanërisht për adoleshentët, të cilëve korteksi prefrontal — përgjegjës për arsyetimin dhe kontrollin e impulseve — nuk zhvillohet plotësisht deri në moshën 25-vjeçare.

Psikiatrja Dr. Asha Patton-Smith shpjegoi se të rinjtë janë më të prirur të i pranojnë chatbottët si njerëz të vërtetë, që ndikojnë në aftësinë e tyre për të dalluar realitetin. Një sondazh i së paku mbi 1, 000 adoleshentëve përfaqëson se gati 75% kanë pasur ndërveprim me shokë IA, me mbi gjysmën që përdorin ato rregullisht dhe një në tetë kërkojnë mbështetje mendore ose emocionale. Ekspertët, përfshirë Camille Carlton nga Qendra për Teknologjinë Humane, e konsiderojnë këtë një krizë afër ndodhjes për shkak të intimitetit artificial që këto produkte nxisin dhe dëmeve që vijnë prej tyre. Për të mbrojtur fëmijët, mjekët këshillojnë prindërit të monitorojnë përdorimin e elektronikës, të vëzhgojnë shenja paralajmëruese si izolimi social dhe ulja e performancës shkollore, dhe të nxisin kohë pa teknologji. Ndërgjegjësimi dhe përgjegjshmëria janë tani thelbësore për familjet e prekura, me disa duke dëshmuar para Kongresit për të kërkuar reforma për sigurinë. Matt Raine insiston se ChatGPT ndryshoi ndjeshëm sjelljen dhe mendimin e djalit të tij, duke çuar në vdekjen e tij. Megan Garcia tha se vdekja e Sewell ishte shmangshme dhe lidhej me vendime të qëllimshme dizajni që e shkrën ndërmjet njeriut dhe makinës nga kompanitë e IA-së. Në përgjigje, si Character. AI ashtu edhe OpenAI bëjnë të ditur se kanë zbatuar masa mbrojtëse për të ndihmuar njerëzit në krizë dhe kanë prezantuar masa të reja sigurie që nga momenti i padisë. Character. AI aktivizon mesazhe që drejtojnë përdoruesit tek Ndihma kombëtare për Vetëvrasje dhe Krisma kur shfaqen tema vetëvrasjeje ose dëmtimi vetjak. OpenAI tani lejon prindërit t’i lidhin llogaritë e tyre me profilin e të rinjve dhe i njofton nëse zbulohen biseda rreth dëmtimit vetjak.