Nowa generacja dorasta w czasach wzrostu sztucznej inteligencji, a wstępne oznaki jej wpływu budzą obawy. OnSide, brytyjska organizacja charytatywna działająca na rzecz młodzieży, przeprowadziła ankietę wśród 5035 młodych osób w wieku od 11 do 18 lat w ramach corocznego raportu „Generation Isolation Report”, który bada, jak młodzież spędza czas wolny. Wyniki ujawniają niepokojącą rzeczywistość. Badanie wykazało, że dwie na pięć nastolatek i nastolatków szukają porady, towarzystwa lub wsparcia u AI, a 20% z nich stwierdziło, że rozmowa z AI jest dla nich łatwiejsza niż komunikacja z prawdziwą osobą. „Wsparcie od AI jest natychmiastowe, ale nie może zastąpić zaufania, empatii i zrozumienia, które znajdujemy w rozmowach międzyludzkich” – powiedział w raporcie Jamie Masraff, dyrektor OnSide. Ponad połowa respondentów przyznała, że zwraca się do AI po rady w kwestiach takich jak ubranie, przyjaźnie, zdrowie psychiczne czy radzenie sobie z emocjami, takimi jak smutek czy stres. Dodatkowo, jedna na dziesięć osób stwierdziła, że korzysta z AI po prostu dlatego, że chciałaby mieć kogoś do rozmowy. Badanie podkreśla generację borykającą się z samotnością i nieograniczonym dostępem do uzależniającej technologii. Zgodnie z badaniem, 76% młodych ludzi spędza większość swojego wolnego czasu przed ekranami, a 34% raportuje wysokie lub bardzo wysokie poziomy samotności. Sztuczna inteligencja, nadal w dużej mierze nieuregulowana i znajdująca się w fazie dzikiego zachodu, jest jednym z takich narzędzi, na które coraz bardziej polegają samotne młode osoby, szukając szybkiej towarzyskości i wskazówek. „Jest wyraźne, że powiązane problemy osamotnienia, uzależnienia od technologii i izolacji mają głębokie korzenie w życiu młodych ludzi, co rodzi ważne pytania o to, co oznacza dorastać w takich warunkach” – powiedział Masraff. W miarę jak sztuczna inteligencja staje się coraz bardziej zintegrowana z codziennym życiem nastolatków, pojawiają się rosnące obawy. Chatboty AI udowodniły, że mogą być niebezpiecznie uzależniające dla niektórych dorosłych, których mózgi się już ukształtowały, wzbudzając obawy o jeszcze większy wpływ na dzieci, u których rozwój kory przedczołowej jest niekompletny. Amerykańskie Stowarzyszenie Psychologiczne wezwało Federalną Komisję Handlu (FTC) do regulacji chatbotów AI działających jako nielegalni terapeuci. W marcowym wpisie na blogu stowarzyszenie ostrzegło, że czaty dotyczące zdrowia psychicznego mogą stanowić zagrożenie dla użytkowników, szczególnie „wrażliwych grup, takich jak dzieci i nastolatki, które nie mają wystarczającego doświadczenia, aby odpowiednio ocenić te zagrożenia”. W niektórych tragicznych przypadkach skutki były śmiertelne.

Dwie rodziny złożyły skargi przeciwko firmom AI Character. AI i OpenAI, zarzucając ich chatbotom wpływ na samobójstwo swoich synów. Na przykład, ChatGPT firmy OpenAI rzekomo pomógł 16-latkowi zaplanować samobójstwo i zniechęcił go do poinformowania rodziców. Kilka chatbotów AI jest również badan na podstawie podejrzeń o prowadzenie seksualizowanych rozmów z dziećmi. Wczesniej w tym roku Meta spotkała się z krytyką po wycieku wewnętrznego dokumentu, który ujawnił, że firma pozwoliła swoim narzędziom AI na prowadzenie „sentymentalnych” rozmów z nieletnimi. W ubiegłym miesiącu Kongres przedstawił dwupartyjną ustawę, ustawę GUARD, mającą na celu wymuszenie na firmach AI wprowadzenia weryfikacji wieku i blokowania użytkowników poniżej 18 lat. „Chatboty AI stanowią poważne zagrożenie dla naszych dzieci” – powiedział senator Josh Hawley, który współprowadził ustawę razem z senatorem Richardem Blumenthalem. „Ponad siedemdziesiąt procent amerykańskich dzieci korzysta już z tych produktów AI. ” Jednak nawet jeśli ustawa zostanie przyjęta, jej skuteczność pozostaje niepewna. Metody weryfikacji wieku i ograniczenia stosowane przez platformy społecznościowe od dawna mają trudności z ochroną dzieci przed szkodliwymi skutkami internetu.