En ny generasjon vokser opp midt i AI-æraen, og tidlige indikasjoner på dens påvirkning er grunn til bekymring. OnSide, en britisk ungdomsorganisasjon, gjennomførte en undersøkelse blant 5 035 unge i alderen 11 til 18 år i sin årlige “Generation Isolation Report, ” som undersøker hvordan ungdom bruker fritiden sin. Funnene viser en bekymringsfull virkelighet. Undersøkelsen viste at to av fem tenåringer søker råd, selskap eller støtte fra AI, hvor 20 % av disse sier de synes det er lettere å snakke med AI enn å kommunisere med en ekte person. “AI-støtte er umiddelbar, men den kan ikke erstatte tillit, empati og forståelse som man finner i menneskelige samtaler, ” sa OnSide’ sjefssjef Jamie Masraff i rapporten. Mer enn halvparten av respondentene rapporterte at de bruker AI for veiledning om saker som klesvalg, vennskap, mental helse eller håndtering av følelser som sorg og stress. I tillegg sier ett av ti at de bruker AI bare fordi de vil ha noen å snakke med. Studien belyser en generasjon som sliter med ensomhet og ubegrenset tilgang til avhengighetsskapende teknologi. Ifølge forskningen bruker 76 % av unge mesteparten av fritiden sin foran skjermer, og 34 % rapporterer å føle seg høye eller veldig høye på nivåer av ensomhet. AI, som fortsatt er stort sett uregulert og i en vill vest-fase, er en slik teknologi som ensomme ungdommer i økende grad stoler på for rask selskap og råd. “Det er tydelig at de sammenkoblede problemene med ensomhet, digital avhengighet og isolasjon er dypt forankret i ungdommens liv, noe som reiser viktige spørsmål om hva det vil si å vokse opp på denne måten, ” sa Masraff. Ettersom AI blir mer integrert i tenåringers hverdag, øker bekymringene. AI-chatboter har vist seg å være farlig avhengighetsskapende for noen voksne hvis hjerner er fullt utviklet, og dette vekker frykt for enda større påvirkning på barn hvis prefrontale hjerneområde fortsatt utvikler seg. Den amerikanske psykologforeningen har oppfordret FTC til å regulere AI-chatboter som fungerer som uautoriserte terapeuter. I en bloggpost i mars advart foreningen om at mentale helse-chatboter kan utgjøre risiko for brukerne, spesielt “sårbare grupper som barn og tenåringer som mangler erfaring til å vurdere disse risikoene på riktig måte. ” I noen tragiske tilfeller skal konsekvensene ha vært dødelige.

To familier har levert klager mot AI-foretakene Character. AI og OpenAI, og mener chatbotene deres har påvirket og hjulpet til med sønnenes selvmord. For eksempel skal OpenAI’s ChatGPT ha hjulpet en 16-åring med å planlegge sitt selvmord og oppmuntret ham til å ikke informere foreldrene sine. Flere AI-chatboter er også under etterforskning for å ha deltatt i seksualiserte samtaler med barn. Tidligere i år ble Meta kritisert etter at et lekket internt dokument viste at selskapet hadde tillatt sine AI-verktøy å føre “sensuelle” samtaler med mindreårige. I forrige måned introduserte Kongressen et tverrpolitisk lovforslag, GUARD Act, som har som mål å pålegge AI-selskaper å innføre aldersverifisering og blokkere brukere under 18 år. “AI-chatboter utgjør en alvorlig trussel mot våre barn, ” sa senator Josh Hawley, som sammen med senator Richard Blumenthal sto bak lovforslaget. “Mer enn sytti prosent av amerikanske barn bruker nå disse AI-produktene. ” Men selv om lovforslaget vedtas, er det usikkert hvor effektivt det vil være. Metoder for aldersverifisering og restriksjoner brukt av sosiale medie-plattformer har historisk sett hatt utfordringer med å beskytte barn mot de skadelige effektene av internett.