Google sa chystá spustiť svojho AI chatbota Gemini pre deti do 13 rokov, začiatkom budúceho týždňa v USA a Kanade, pričom jeho uvedenie v Austrálii je plánované neskôr tento rok. Prístup bude obmedzený na používateľov s účtami Google Family Link, ktoré umožňujú rodičom kontrolu nad obsahom a využívaním aplikácií, napríklad na YouTube. Rodičia tieto účty vytvárajú zadaním osobných údajov, ako je meno a dátum narodenia dieťaťa, čo vyvoláva určité obavy o súkromie; Google však uisťuje, že údaje detí nebudú použité na trénovanie AI. Chatbot bude predvolene aktívny, rodičia si ho môžu vypnúť, ak chcú obmedziť prístup. Deti môžu požiadať AI o textové odpovede alebo generovanie obrázkov. Google uznáva, že chatbot môže robiť chyby a zdôrazňuje dôležitosť overovania správnosti a dôveryhodnosti obsahu, keďže AI môže “hallucinate” alebo vymýšľať informácie. To je obzvlášť dôležité pri použití odpovedí chatbota na domácu úlohu, kde je potrebné fakty si overiť spoľahlivými zdrojmi. Na rozdiel od tradičných vyhľadávačov, ktoré smerujú používateľov na originálne materiály ako spravodajské články alebo časopisy, generatívna AI analyzuje vzory v dátach na vytváranie nového textu alebo obrázkov na základe používateľských požiadaviek. Napríklad, ak dieťa požiada chatbota, aby “nakreslil mačku, ” systém vytvorí nový obrázok kombináciou vlastností, ktoré sa naučil. Rozdiel medzi obsahom vytvoreným AI a výsledkami vyhľadávania bude pre mladých používateľov ťažké pochopiť. Výskumy ukazujú, že aj dospelí, vrátane profesionálov ako právnici, môžu byť oklamaní nepravdivými informáciami, ktoré AI chatboti produkujú. Google tvrdí, že chatbot obsahuje opatrenia na blokovanie nevhodného alebo nebezpečného obsahu; tieto filtre však môžu neúmyselne obmedziť prístup k legitímnemu, vekuprimeranému materiálu – napríklad informácie o puberte môžu byť zablokované, ak sú zakázané niektoré kľúčové slová.

Pretože mnohé deti sú zručné v navigovaní a obchádzaní rodičovských obmedzení v aplikáciách, rodičia nemôžu spoľahnúť iba na tieto vstavané ochrany. Musia aktívne kontrolovať obsah, vzdelávať deti o fungovaní chatbota a pomáhať im kriticky hodnotiť správnosť informácií. Existujú významné riziká spojené s AI chatbotmi pre deti. Európska komisia pre bezpečnosť online (eSafety) varovala, že AI spoločníci môžu zdieľať škodlivý materiál, skresľovať realitu alebo poskytovať nebezpečné rady, čo je obzvlášť znepokojujúce pre malé deti, ktoré ešte rozvíjajú kritické myslenie a životné zručnosti na rozpoznanie manipulácie zo strany počítačových programov. Výskumy rôznych AI chatbotov, ako je ChatGPT či Replika, ukazujú, že tieto systémy napodobňujú ľudské sociálne správanie alebo “pravidlá cítenia” (napríklad povedať “ďakujem” alebo “prepáč”) na vybudovanie dôvery. Táto ľudsky pôsobiaca interakcia môže deti zmiasť, viesť ich k dôvere v nepravdivé obsahy alebo k presvedčeniu, že komunikujú s reálnou osobou, nie strojom. Časovanie tohto uvedenia je významné, pretože Austrália od decembra tohto roku plánuje zakázať deťom do 16 rokov vlastniť účty na sociálnych sieťach. Hoci tento zákaz má chrániť deti, generatívne nástroje AI ako Gemini chatbot sú mimo jeho rámca, čo poukazuje na to, že výzvy spojené s bezpečnosťou na internete sa týkajú aj mimo tradičných sociálnych médií. Preto musia rodičia v Austrálii zostať ostražití, neustále sa vzdelávať o nových digitálnych nástrojoch a chápať obmedzenia sociálnych sietí pri ochrane svojich detí. Ako reakciu na tieto výzvy by bolo vhodné naliehavejšie zaviesť digitálnu povinnosť starostlivosti pre veľké technologické spoločnosti ako Google, ktorá by zaručila, že prioritu bude mať bezpečnosť detí pri navrhovaní a zavádzaní AI technológií. Rodičia a pedagógovia musia byť aktívni pri vedení detí k bezpečnému a informovanému používaniu AI chatbotov, dopĺňať technické ochrany edukáciou a dohľadom, aby minimalizovali s nimi spojené riziká.