Mer over 200 organisasjoner og barneutviklingseksperter har gått sammen for å oppfordre YouTube og morselskapet Google til å innføre sterkere tiltak for å beskytte barn mot en økning av lavkvalitets, AI-genererte videoer, ofte kalt "AI slop". Ledet av interesseorganisasjonen Fairplay, retter dette felles oppropet alvorlige bekymringer om hvordan slikt innhold påvirker unge seere. Gruppene advarer om at disse AI-genererte videoene misrepresenterer virkeligheten, overvelder barns læringsprosesser og fanger oppmerksomheten deres på skadelig vis, noe som potensielt kan ha negativ innvirkning på deres utvikling og velvære. I et omfattende brev rettet til YouTubes sjef Neal Mohan og Googles administrerende direktør Sundar Pichai, beskriver Fairplay risikoene ved disse videoene og oppfordrer teknologigigantene til å håndheve strenge retningslinjer. Brevet ber spesielt om at YouTube tydelig merker all AI-generert innhold for å sikre åpenhet for både seere og foreldre. Videre kreves det et fullstendig forbud mot slikt innhold på YouTube Kids, plattformens tjeneste for yngre brukere, og at YouTube utstyres med verktøy som gjør det mulig for foreldre å blokkere AI-genererte videoer helt. Signatørene av brevet representerer en bred gruppe av innflytelsesrike organisasjoner som arbeider for barns velferd og utdanning. Blant dem er American Federation of Teachers og American Counseling Association, begge langvarige forkjempere for å beskytte og forbedre barns læringsmiljøer. Dette initiativet er en del av Fairplays bredere satsing på å skape tryggere digitale opplevelser for barn, som også inkluderer en aktiv offentlig underskriftskampanje som har fått stor oppslutning. YouTube erkjenner utfordringene knyttet til AI-generert innhold rettet mot barn, og sier at de begrenser slike AI-videoer på YouTube Kids og legger vekt på sitt engasjement for åpenhet ved å merke relevant innhold.

Kritikere mener imidlertid at disse tiltakene er utilstrekkelige, særlig fordi svært unge barn – som utgjør en stor del av seergruppen – ofte ikke kan forstå eller tolke innholdsadvarsler effektivt. Dette pågående debatten utspiller seg i en tid med økt reguleringsfokus og offentlig bekymring for hvordan digitale plattformer påvirker barn. Nylig falt en rettsavgjørelse som konkluderte med at YouTubes utforming fremmer avhengighetsskapende atferd blant barn, noe som fører til økende krav om strengere regulering og større ansvarlighet fra selskapene. I tillegg forsterker Google sin kontrovers ved å ha investert 1 million dollar i Animaj, et AI-basert animasjonsstudio, noe mange ser på som motstridende med de bekymringene som er reist om AI-generert innhold på YouTube. Som følge av økende press har YouTube oppgitt å gjøre bekjempelse av "AI slop" til en av sine toppprioriteringer for 2026, noe som indikerer at de anerkjenner problematikken og antyder at det vil komme tiltak for å redusere lavkvalitets AI-generert innhold. Likevel forblir interesseorganisasjoner og eksperter årvåkne og understreker at det er nødvendig med avgjørende handling for å beskytte barn mot potensielt skadelig digitalt materiale. Dialogen mellom barneutviklingsforkjempere og teknologileverandører fremhever en viktig utfordring i den digitale tidsalderen: å finne en balanse mellom innovasjon og ansvarlighet. Etter hvert som AI-teknologier fortsetter å utvikle seg og integreres i underholdnings- og utdanningsinnhold, er det avgjørende å sikre at sårbare målgrupper – spesielt barn – ikke blir utsatt for skadelig innhold. Vegledningen fra over 200 organisasjoner understreker kraftfullt at fremtidens generasjoners velvære må være i sentrum for utviklingen og styringen av AI-drevne plattformer og tjenester.