Una nova generació està creixent enmig de l'auge de la intel·ligència artificial, i les primeres indicacions del seu impacte són motiu d’inquiütud. OnSide, una associació benèfica juvenil britànica, va realitzar una enquesta a 5. 035 joves d’entre 11 i 18 anys en el seu informe anual “Informe de Generació Aïllament”, que analitza com els joves passen el seu temps lliure. Les troballes revelen una realitat preocupant. L’enquesta va mostrar que dos de cada cinc adolescents busquen consell, companyia o suport a través de la IA, i que el 20% d’aquests diuen que els resulta més fàcil parlar amb la IA que amb una persona real. “El suport de la IA és immediat, però no pot substituir la confiança, l’empatia i la comprensió que es troben en les converses humanes, ” va dir el director general d’OnSide, Jamie Masraff, en l’informe. Més de la meitat dels enquestats van afirmar que recorreien a la IA per a orientació en qüestions com la roba, les amistats, la salut mental o la gestió d’emocions com la tristesa i l’estrès. A més, una de cada deu persones va dir que feia servir la IA simplement perquè volia algú amb qui parlar. L’estudi destaca una generació que lluita amb la solitud i l’accés il·limitat a tecnologia addictiva. Segons la investigació, el 76% dels joves passen la major part del seu temps lliure davant les pantalles, i el 34% expliquen sentir-se amb nivells alts o molt alts de solitud. La IA, encara en gran manera sense regulació i en una fase de caos, és una de les tecnologies en què els joves solitaris confien cada vegada més per obtenir companyia i consell ràpid. “És clar que els problemes interrelacionats de solitud, dependència digital i aïllament estan profundament arrelats en la vida dels joves, i plantegen preguntes importants sobre què significa créixer així, ” va dir Masraff. A mesura que la IA s’incorpora més en la vida quotidiana dels adolescents, creixen les preocupacions. Els chatbots d’IA han demostrat ser perillósament addictius per a alguns adults, el cervell dels quals ja ha madurat, provocant por encara més gran per a nens i nenes, ja que el desenvolupament del seu cortex prefrontal encara està incomplet. L’Associació Americana de Psicologia ha instat la FTC a regular els chatbots d’IA que actuen com a terapis sense llicència. En un article de març, l’Associació va advertir que els chatbots de salut mental poden comportar riscos per als usuaris, especialment “els grups vulnerables com els nens i adolescents que no disposen de l’experiència per avaluar aquests riscos de manera adequada. ” En alguns casos tràgics, s’han donat conseqüències que s’han reporting com fatals.

Dues famílies han presentat denúncies contra les empreses d’IA Character. AI i OpenAI, acusant els seus chatbots d’haver influït i ajudat els seus fills a suïcidar-se. Per exemple, es diu que ChatGPT d’OpenAI va ajudar un noi de 16 anys a planificar el seu suïcidi i el va desanimar a informar els seus pares. També hi ha diversos chatbots d’IA sota investigació per participar en converses sexualitzades amb nens. A principis d’aquest any, Meta va rebre crítiques després que unes dades internes filtrades revelessin que l’empresa havia permès que els seus eines d’IA realitzessin converses “sensorials” amb menors. El mes passat, el Congrés va presentar una llei bipartidista, la GUARD Act, que preveu exigir a les empreses d’IA verificar l’edat i bloquejar els usuaris menors de 18 anys. “Els chatbots d’IA representen una amenaça seriosa per als nostres fills, ” va dir el senador Josh Hawley, que va co-idear la llei amb el senador Richard Blumenthal. “Més del setanta per cent dels nens nord-americans ja utilitzen aquests productes d’IA. ” No obstant això, fins i tot si s’aprova, l’eficàcia de la llei roman incerta. Els mètodes de verificació d’edat i restriccions utilitzats per les plataformes de xarxes socials han demostrat històricament tenir dificultats per protegir els nens dels efectes nocius d’Internet.