Google plánuje spustit svého AI chatbota Gemini pro děti do 13 let, a to již příští týden v USA a Kanadě, s vydáním v Austrálii později tohoto roku. Přístup bude omezen na uživatele s účty Google Family Link, které umožňují rodičům kontrolovat obsah a používání aplikací, například na YouTube. Rodiče tyto účty vytvářejí poskytnutím osobních údajů, jako je jméno a datum narození dítěte, což vzbuzuje některé obavy o soukromí; Google však ujišťuje, že data dětí nebudou použita k tréninku AI. Chatbot bude standardně aktivní, rodiče ho mohou vypnout, pokud chtějí omezit přístup. Děti mohou AI požádat o textové odpovědi nebo generování obrázků. Google uznává, že chatbot může chybovat, a zdůrazňuje důležitost posouzení přesnosti a důvěryhodnosti jeho obsahu, protože AI může „hallucinat“ nebo vymýšlet informace. To je obzvlášť důležité, když děti používají odpovědi chatbota pro domácí úkoly, což vyžaduje ověření faktů z důvěryhodných zdrojů. Na rozdíl od tradičních vyhledávačů, které uživatele odkazují na původní materiály, jako jsou novinové články nebo časopisy, generativní AI analyzuje vzory v datech, aby vytvořila nový text nebo obrázek na základě uživatelských pokynů. Například když dítě požádá chatbota „namaluj mi kočku“, systém vytvoří nový obrázek kombinací kočičích znaků, které se naučil. Porozumění rozdílu mezi obsahem generovaným AI a výsledky vyhledávání bude pro mladé uživatele náročné. Výzkumy ukazují, že i dospělí, včetně odborníků jako právníci, se mohou nechat zmást falešnými informacemi, které AI chatboti produkují. Google tvrdí, že chatbot obsahuje opatření k blokování nevhodného nebo nebezpečného obsahu; nicméně takové filtry mohou neúmyslně omezit přístup k legitimním, vhodným materiálům pro děti – například informace o pubertě mohou být blokovány, pokud jsou zakázána určitá klíčová slova.

Vzhledem k tomu, že mnohé děti jsou zručné v navigaci a obcházení omezení v aplikacích, rodiče se nemohou spoléhat pouze na tato vestavěná ochranná opatření. Měli by aktivně kontrolovat obsah, vzdělávat své děti o fungování chatbota a pomáhat jim kriticky posoudit přesnost informací. Existují významná rizika spojená s AI chatboti pro děti. eSafety Komise varovala, že AI společníci mohou sdílet škodlivé materiály, zkreslovat realitu nebo radit nebezpečné věci, což je obzvlášť znepokojující pro malé děti, které teprve rozvíjejí kritické myšlení a životní dovednosti k rozpoznání manipulace počítačových programů. Výzkumy různých AI chatbotů, jako jsou ChatGPT a Replika, ukazují, že tyto systémy napodobují lidské sociální chování nebo „pravidla cítění“ (například říkají „děkuji“ nebo „omlouvám se“), aby si vybudovaly důvěru. Tato lidsky působící interakce může dětské uživatele zmást a vést je k důvěře v falešný obsah nebo přesvědčení, že komunikují s opravdovou osobou, nikoliv s strojem. Časové načasování této rozesílky je významné, protože Austrálie plánuje od začátku prosince tohoto roku zakázat dětem do 16 let vlastnictví účtů na sociálních sítích. Ačkoliv tento zákaz má chránit děti, generativní nástroje AI, jako je Gemini, spadají mimo jeho rámec, což ukazuje, že výzvy online bezpečnosti přesahují tradiční sociální platformy. Rodiče v Austrálii tak musí zůstat bdělí, neustále se vzdělávat o nově vznikajících digitálních nástrojích a rozvíjet porozumění omezením sociálních sítí při ochraně svých dětí. V reakci na tyto vývojové vstupy by bylo rozumné neprodleně zavést digitální povinnost pečovat o děti u velkých technologických firem jako Google, aby se zajistilo, že děti jsou při vývoji a nasazení AI technologií vnímány jako priorita. Rodiče a vzdělavatelé musí být aktivní při vedení dětí ke bezpečnému a informovanému používání AI chatbotů, kombinovat technická opatření s vzděláváním a dohledem, aby se minimalizovala související rizika.