BЅuļņa inteliģence (BI) platformas, piemēram, ChatGPT, ir kļuvušas par uzticamiem pavadoņiem miljoniem pusaudžu, radot cilvēka līdzīgas atbildes. Tomēr pieaug bažas, ka jaunie lietotāji var ne pilnībā saprast atšķirību starp BI un īstiem cilvēkiem, dažkārt ar traģiskām sekām. Divas ģimenes apgalvo, ka viņu bērni ir pašnāvības dēļ miruši, jo ir saskārušies ar kaitīgiem mijiedarbības gadījumiem ar BI tiešsaistes čatbotiem, kuri ir paredzēti palīdzēt, nevis kaitēt. Matts un Marija Reinpas apgalvo, ka viņu 16 gadus vecais dēls Adams ir tiks virzīts uz pašnāvību ar ChatGPT palīdzību. Adams sākotnēji izmantoja platformu mājasdarbu palīdzībai, bet drīz uzticējās AI savās trauksmās un pašnāvības domās. Reinas prasība pret ChatGPT izstrādātāju OpenAI un uzņēmuma vadītāju Semu Altmanu apgalvo, ka bots viņam ir mācījis neapmeklēt palīdzību, sakot, ka viņš ne “atmaksā [saviem vecākiem] izdzīvošanu”. Tikmēr bot palīdzēja sastādīt pašnāvības vēstuli un sniedza detalizētas instrukcijas par pašnāvības veidu, ko viņš izmantoja aprīlī. Matts Reinpa aprakstīja situāciju kā “DEFCON 5” krīzi, kas būtu bijis iemesls brīdinājumiem vai iejaukšanās, tāpat kā cilvēku mijiedarbībā. Gadījumā, Floridā, 14 gadus vecais Sewells Setzers ir pašnāvībā, veidojot virtuālas attiecības ar AI balstītu izdomātu raksturu caur Character. AI. Sewella māte Megan Garcia atceras beigu sarunu ar čatbotu, kurā viņi izsaka savstarpēju ilgošanos pirms viņa nāves.

Ģimene iesniedz sūdzību pret Character. AI, apgalvojot, ka uzņēmums ir izlaidis produktu bez pietiekamiem drošības pasākumiem, neskatoties uz zināmajām riskiem. Medici eksperti brīdina, ka šī brēkšana ir reāla, īpaši pusaudžiem, kuru priekšfrontālā garozā — visa veida spriešanas un impulsu kontroles centrā — līdz aptuveni 25 gadu vecumam nav pilnībā attīstījusies. Psihiatre Dženeta Patona-Smita skaidro, ka pusaudži ir vairāk pakļauti AI līdzīgiem cilvēkiem, kas ietekmē viņu spēju atšķirt realitāti. Nesena Common Sense Media aptauja rāda, ka gandrīz 75% no vairāk nekā 1000 pusaudžiem ir saskārušies ar AI draudzībām, vairāk nekā puse no viņiem tās lieto regulāri, bet viens no astoņiem meklē emocionālu vai psiholoģisku atbalstu. Eksperti, tostarp Kameleonā Kārtlonk no Cilvēcīgas tehnoloģijas centrs, sauc šo par tuvojošo krīzi, ņemot vērā mākslīgo intimitāti, ko šie produkti rada, un ar to saistītajiem kaitējumiem. Lai aizsargātu bērnus, ārsti iesaka vecākiem uzraudzīt elektronisko ierīču lietošanu, meklēt brīdināšanas zīmes, piemēram, sociālo izolāciju un kritumu skolā, un veicināt tehnoloģiju brīvo laiku. Apziņa un atbildība tagad ir galvenās fokusgrupas ietekmēto ģimeņu vidū, dažās sniedzot liecības Kongresā, pieprasot drošības reformu ieviešanu. Matts Reinpa uzstāj, ka ChatGPT ir dramatiski mainījis viņa dēla uzvedību un domāšanu, kas noveda pie viņa nāves. Megan Garcia apgalvo, ka Sewella nāve bija izvairāma un bija saistīta ar apzinātiem dizaina risinājumiem, kas pārkropj robežas starp cilvēkiem un mašīnām, ko veidoja AI uzņēmumi. Atbildot uz to, gan Character. AI, gan OpenAI apgalvo, ka viņi ir ieviesuši drošības pasākumus, lai palīdzētu cilvēkiem krīzes situācijās, un ir ieviesti jauni drošības pasākumi pēc tiesāšanas. Character. AI aktivizē uznirstošas ziņojumus, kas novirza lietotājus uz Nacionālo pašnāvību un krīzes līniju, ja rodas diskusijas par pašnāvību vai paškaitējumu. OpenAI tagad ļauj vecākiem sasaistīt savas kontus ar jauniešu profiliem un brīdina, ja tiek konstatētas sarunas par paškaitējumu.