Nedavno izvješće istraživačkog karaktera New York Timesa izazvalo je sve veće zabrinutosti oko sadržaja generiranog umjetnom inteligencijom, posebno u vezi s djecom i njihovim digitalnim medijskim interakcijama. Studija otkriva zabrinjavajuće primjere gdje sadržaj izrađen pomoću AI prikazuje likove kako se upuštaju u opasne radnje, poput ulaska u promet ili zanemarivanja osnovnih sigurnosnih mjera. Nadalje, izvještaj otkriva sklonost AI-a za stvaranje lažnog edukativnog sadržaja — fenomen poznat kao “halucinacije AI-a”. Te halucinacije zbunjuju granicu između stvarnosti i fikcije, stvarajući nadrealne i uznemirujuće slike koje mogu navesti gledatelje, osobito lako impressionabilnu djecu, da ih prihvate kao istinite. Razvojna ranjivost djece je značajna, jer često ovise o naznakama od pouzdanih odraslih, poput učitelja ili policajaca. Kada naiđu na figure generirane pomoću AI koje izgledaju autoritativno ili obrazovno, djeca često prihvaćaju te informacije kao točne i pouzdane. Ta urođena vjera čini ih posebno podložnima štetnim posljedicama konzumiranja netočnog ili opasnog digitalnog sadržaja. Platforme poput YouTube dodatno kompliciraju ovu problematiku. Te platforme daju prioritet sadržaju koji potiče angažman — mjerenu klikovima, pregledima i vremenom gledanja — iznad točnosti ili sigurnosti. Kao rezultat toga, videozapisi s senzacionalnim, obmanjujućim ili čak opasnim materijalom često dobivaju veću vidljivost i preporuke, bez obzira na njihovu istinitost ili prikladnost za mlade gledatelje. Takav opasan video koji postiže snažan angažman može nadalje širiti dezinformacije i poticati štetne radnje među publikom. Roditelji se već bore s upravljanjem vremena koje njihova djeca provode pred ekranima i s kvalitetom sadržaja.

Privlačnost digitalnih medija često pruža kratki predah — “Samo 15 minuta, ” kažu mnogi roditelji — no i ovaj kratki period može izložiti djecu obmanjujućem, uznemirujućem ili nesigurnom sadržaju. Porast prisutnosti sadržaja koji je generiran umjetnom inteligencijom dodaje još jedan sloj rizika, zahtijevajući povećanu budnost i digitalnu pismenost od strane roditelja i djece. Ovaj rastući problem s AI sadržajem zahtijeva hitne tehnološke i regulatorne mjere. Stručnjaci ističu potrebu za dizajnom AI sustava koji naglašavaju točnost, pouzdanost i sadržaj prikladan za djecu, umjesto samo za razinu angažmana. Osim toga, digitalne platforme moraju poboljšati svoje procese moderiranja i provjere sadržaja kako bi zaštitile mlade publike od obmanjujućeg ili opasnog sadržaja generiranog umjetnom inteligencijom. Osim tehnoloških rješenja, od ključne je važnosti edukacija. Roditelji, edukatori i njegovatelji trebali bi surađivati kako bi unaprijedili kritičko razmišljanje i digitalnu pismenost djece od malena. Učenje djece da preispituju informacije, prepoznaju vjerodostojne izvore i razumiju ograničenja AI-a može im pomoći da sigurnije navigiraju složenim digitalnim okruženjem. Potencijal umjetne inteligencije za stvaranje novih oblika medija je ogroman, ali kako ističe izvještaj New York Timesa, ta moć nosi i odgovornost. Zaštita razvojnog zdravlja djece u svijetu gdje dominira AI zahtijeva zajedničke napore tehnologijskih razvojnih timova, digitalnih platformi, obitelji i zakonodavaca. Dok ne budu uvedene sveobuhvatne mjere, roditelji moraju ostati budni, aktivno nadzirati korištenje sadržaja od strane svoje djece i poticati otvoreni razgovor o online sadržajima. Za detaljnije informacije, preporučuje se konzultirati originalno izvješće i diskusiju na tomsguide. com, koji detaljno istražuju kako sadržaj generiran umjetnom inteligencijom utječe na dječje digitalno iskustvo te pružaju smjernice za roditelje suočene s ovom novom pojavom.