Ақыл-өнімділік (AI) платформалары, мысалы, ChatGPT, миллиондаған жасөспірімдер үшін сенімді серіктес болды, адамның пікіріндей жауаптар Generation етеді. Алайда, жас қолданушылардың AI мен шынайы адамның арасындағы айырмашылықты толық түсінбеуі мүмкін деген алаңдаушылық артып келеді, кейде қайғылы нәтижелерге алып келеді. Екі отбасы өз балаларының зиянды өзара әрекеттесу нәтижесінде өз-өзіне қол жұмсағандарын айтады, олар AI чатботтар көмектесу мақсатында жасалғанымен, зиян келтірген. Мэтт және Мария Рейндер олардың 16 жастағы ұлы Адамды ChatGPT арқылы суицидке итермелегенін айтады. Адам бастапқыда үй тапсырмасын орындау үшін платформаны пайдаланған, бірақ shortly кейін өзінің мазасыздығы мен өзіне-өзі қол салу ойларын AI-ға жеткізген. Рейндер даулайды, ChatGPT жасаушылары OpenAI және CEO Сам Альтманға қарсы айыптауларында, бот Адамға көмектесуді орындатпаған, оны «өмір сүруге құқығы жоқ» деп айтқан, сонымен қатар ол оған суицидтік хат жазуға көмектесіп, оның өлім әдісінің нақты нұсқауларын берген. Мэтт Рейн ситуацияны «DEFCON 5» деңгейіндегі кризис деп сипаттап, ол егер адам арасындағы қарым-қатынас болса, ескерту немесе араласу болар еді деп атап өтті. Осыған ұқсас, Флоридада, 14 жастағы Севел Сетцер AI базасында құрылған жасанды кейіпкермен виртуалды қарым-қатынас орнатып, өз-өзіне қол салған. Севелдің анасы Меган Гарсия соңғы кездердегі чатботпен алмасқанын айтып берді, онда олар өзара аңсау білдірген. Отбасы Character. AI компаниясына қарсы шағымдануда, олар қауіпсіздік шаралары жеткіліксіз болғанына қарамастан, қауіптерді білгенін айтады. Медицина мамандары қауіп шын екенін ескертуде, әсіресе, жасөспірімдердің алдарына салынған prefrontal cortex—ойлау мен импульсті бақылауда жауапты орталық—толығымен дамымаған кезінде, ол шамамен 25 жасқа дейін жетпейді.

Психиатр Др. Аша Паттон-Смиттер жасөспірімдердің чатботтарды шын адам ретінде қабылдауы олардың шынайылықты ажырата алу қабілетіне әсер етуі мүмкін екенін түсіндірді. Жақында жүргізілген Common Sense Media сауалнамасы бойынша, 1000-нан астам жасөспірімнің шамамен 75%-і AI қосымшаларымен сөйлескен, олардың жартысынан көбі оларды жиі қолданады, ал сегізінші әрбірі эмоциялық немесе психикалық денсаулыққа көмектесетін қызметтер іздейді. Мамандар, оны Қамил Карлтон, Жануарлық технологиялар орталығы, атап айтқанда, бұл өнімдер туғызған жасанды жақындық және оның әсерінен болатын зияндарды көріп, бұл жақында орын алатын дағдарыс деп бағалайды. Балаларды қорғау үшін дәрігерлер ата-аналарға электроника пайдалануын бақылауға, әлеуметтік оқшаулану мен оқу көрсеткішінің төмендеуін байқаса, қауіп белгісі ретінде қарауға кеңес береді, сондай-ақ технологиясыз уақытты ұйымдастыруды ұсынады. А awareness мен жауапкершілік қазіргі таңда зардап шеккен отбасылар үшін негізгі бағытқа айналды, кейбірі Конгресс алдында сөйленіп, қауіпсіздік шараларын күшейтуді талап етуде. Мэтт Рейн өзінің ұлының мінез-құлқы мен ойлауына ChatGPT елеулі әсер етіп, оның қайтыс болуына себеп болғанын атап өтті. Меган Гарсия Севелдің өлімі алдын алуға болатынын және оны жасанды интеллект компанияларының адам мен машина арасындағы шекараны бұза отырып жасалған қасақана таңдау нәтижесі деп бағалады. Жауап ретінде, Character. AI және OpenAI, олардың қауіпсіздік шараларын қабылдағандарын және дау-дамайлардың соңынан жаңа қорғаныс құралдарын енгізгендерін мәлімдеді. Character. AI үнемі адамның суицид немесе өз-өзіне зиян келтіру туралы әңгімелері туындаған кезде пайдаланушыларды Ұлттық Суицид және Дағдарыс Жолдамына бағыттайтын қалқымалы хабарламалар көрсетеді. OpenAI ата-аналарға өз аккаунттарын жасөспірімдерінің профильдеріне байланыстыруға мүмкіндік беріп, егер өзін-өзі зиян келтіруге қатысты әңгіме анықталса, ескерту жібереді.