Més de 200 organitzacions i experts en desenvolupament infantil s'han unit per a instar a YouTube i a la seva corporació mare, Google, a adoptar mesures més estrictes per protegir els nens de l'augment de vídeos de baixa qualitat, generats per IA, sovint anomenats "AI slop". Dirigit pel grup de defensa Fairplay, aquest recurs col·lectiu planteja serioses preocupacions sobre com aquest contingut afecta els joves espectadors. Els grups avisen que aquests vídeos generats per IA distorsionen la realitat, abrumen els processos d'aprenentatge dels nens i captiven la seva atenció de manera perjudicial, amb potencials efectes negatius sobre el seu desenvolupament i benestar. En una carta exhaustiva dirigida al CEO de YouTube, Neal Mohan, i al CEO de Google, Sundar Pichai, Fairplay exposa els riscos que plantegen aquests vídeos i exhorta els gegants tecnològics a aplicar polítiques estrictes. La carta sol·licita específicament que YouTube senyal·li clarament tot el contingut generat per IA per garantir la transparència tant pels espectadors com pels pares. A més, exigeix una prohibició total d’aquest tipus de contingut dins de YouTube Kids, el servei de la plataforma dedicat a audiències més joves, i demana a YouTube que proporcioni eines als pares per bloquejar completament els vídeos generats per IA. Els signants de la carta representen una àmplia gamma d’organitzacions influents dedicades al benestar i l’educació dels nens. Entre elles hi ha la Federació d’Docents Nord-Americana i l’Associació Nord-americana de Consell, totes dues defensores de fa molts anys de protegir i millorar els entorns d’aprenentatge dels infants. Aquest esforç forma part de l’estratègia més àmplia de Fairplay per fomentar experiències digitals més segures per als nens, que també inclou una petició pública que ha recopilat un ampli suport. YouTube reconeix els reptes que planteja el contingut generat per IA dirigit als nens, afirmant que restringeix aquest tipus de vídeos en YouTube Kids i posant èmfasi en el seu compromís amb la transparència senyalitzant el contingut rellevant.

No obstant això, els crítics assenyalen que aquestes mesures són insuficients, especialment perquè els nens molt petits—que constitueixen un segment important de l’audiència—moltes vegades no poden comprendre o interpretar de manera eficaç els advertiments del contingut. Aquest debat continuat ocorre en un context de major supervisió reguladora i preocupació pública pel impacte de les plataformes digitals en els nens. Recentment, una sentència judicial va determinar que el disseny de YouTube fomenta conductes addictives en els nens, cosa que ha intensificat les demandes de regulació més estricta i major responsabilitat corporativa. A més, la inversió de Google en Animaj, un estudi d’animació amb IA, que arriba a un milió de dòlars, ha generat polèmica, ja que molts l’interpreten com una contradictoriament contradictòria davant les preocupacions pel contingut generat per IA a YouTube. Davant la pressió creixent, YouTube ha traspassat a situar la lluita contra l’"AI slop" com una de les seves prioritats per al 2026, indicant reconeixement del problema i suggerint passos imminents per reduir el contingut de mala qualitat generat per IA. No obstant això, els grups d’advocats i els experts continuen vigilant, subratllant la necessitat urgent d’accions decidides per protegir els infants de materials digitals potencialment nocivos. El diàleg entre defensors del desenvolupament infantil i proveïdors de tecnologia posa en evidència un repte crucial de l’era digital: trobar un balanç entre innovació i responsabilitat. A mesura que les tecnologies d’IA evolucionen i s’integren en el contingut d’entreteniment i educatiu, la seva protecció dels públics vulnerables—especialment els nens—continua essent una preocupació essencial. La crida col·lectiva de més de 200 organitzacions subratlla amb força que el benestar de les futures generacions ha de ser central en el desplegament i la gestió d’aquestes plataformes i serveis impulsats per IA.