Nedávná investigativní zpráva deníku The New York Times vyvolává rostoucí obavy ohledně obsahu generovaného umělou inteligencí, zejména co se týče dětí a jejich interakcí s digitálními médii. Studie odhaluje znepokojující příklady, kde materiál vytvořený AI ukazuje postavy zapojené do rizikových chování, například vstupování do dopravy nebo opomíjení základních bezpečnostních opatření. Navíc zpráva odhaluje tendenci AI vytvářet falečný vzdělávací obsah – jev známý jako „halucinace AI“. Tyto halucinace rozmazávají hranici mezi realitou a fikcí, vytvářejí surrealistické a znepokojivé obrázky, které mohou zmást diváky, především děti, které jsou snadno ovlivnitelné. Vývojová zranitelnost dětí je značná, neboť často závisí na podnětech od důvěryhodných dospělých, například učitelů nebo policistů. Když se setkají s obrázky nebo postavami vytvořenými AI, které působí autoritativně nebo vzdělaně, mají tendenci přijímat informace jako pravdivé a spolehlivé. Tato vrozená důvěra je činí obzvlášť náchylnými k negativním dopadům konzumace nepřesného nebo nebezpečného digitálního obsahu. Platformy jako YouTube tento problém ještě zhoršují. Tyto platformy upřednostňují obsah, který zvyšuje zapojení uživatelů – měřeno počtem kliknutí, zhlédnutí a délkou sledování – před přesností nebo bezpečností. V důsledku toho videa obsahující senzacechtivý, zavádějící nebo dokonce nebezpečný materiál často získávají vyšší viditelnost a doporučení, bez ohledu na jejich pravdivost či vhodnost pro mladé diváky. Takže nebezpečné video, které dosáhne velké sledovanosti, může šířit dezinformace a podporovat škodlivé chování mezi diváky. Rodiče se již nyní potýkají s řízením času stráveného dětmi u obrazovek a s kvalitou obsahu.

Pokušení digitálních médií často představuje krátkou úlevu – „Dej mi jen 15 minut, “ říkávají mnozí rodiče – ale i tento krátký čas může vystavit děti zavádějícímu, znepokojivému nebo nebezpečnému obsahu. Rostoucí přítomnost obsahu generovaného umělou inteligencí přidává další vrstvu rizika, která vyžaduje větší ostražitost a mediální gramotnost jak od rodičů, tak od dětí. Tato narůstající krize s obsahem AI volá po naléhavých technologických a regulačních opatřeních. Odborníci zdůrazňují potřebu navrhovat systémy AI, jež kladou důraz na přesnost, spolehlivost a vhodnost pro děti spíše než jen na metriky zapojení. Navíc musí digitální platformy zlepšit svá opatření pro moderování a kontrolu obsahu, aby ochránily mladé publikum před zavádějícím nebo nebezpečným obsahem vytvořeným AI. Kromě technických řešení hraje klíčovou roli vzdělávání. Rodiče, pedagogové a pečovatelé by měli spolupracovat na rozvoji kritického myšlení a mediální gramotnosti dětí od útlého věku. Vybavit děti schopností zpochybňovat informace, rozpoznávat důvěryhodné zdroje a chápat limity AI jim umožní bezpečně se orientovat v složité digitální krajině. Potenciál umělé inteligence k tvorbě nových forem médií je obrovský, ale jak upozorňuje zpráva The New York Times, tato moc nese i odpovědnost. Ochrana vývojové pohody dětí v době ovlivněné AI vyžaduje kolektivní úsilí technologických tvůrců, digitálních platforem, rodin a politiků. Do té doby musí rodiče zůstat ostražití, aktivně dohlížet na používání médií svými dětmi a podporovat otevřenou diskusi o online obsahu. Pro podrobnější informace můžete nahlédnout do původní zprávy a diskuse na webu tomsguide. com, který podrobně zkoumá, jak obsah vytvářený AI ovlivňuje digitální zkušenosti dětí, a nabízí rady rodičům čelícím tomuto novému výzvám.