Google planuje uruchomić swojego czatbota AI Gemini dla dzieci poniżej 13. roku życia, począwszy od przyszłego tygodnia w Stanach Zjednoczonych i Kanadzie, a w Australii jego premiera ma nastąpić później w tym roku. Dostęp będzie ograniczony do użytkowników posiadających konta Google Family Link, które umożliwiają kontrolę rodzicielską nad treściami i korzystaniem z aplikacji, np. na YouTube. Rodzice zakładają te konta, podając dane osobowe, takie jak imię i data urodzenia dziecka, co budzi pewne obawy dotyczące prywatności; niemniej jednak Google zapewnia, że dane dzieci nie będą wykorzystywane do treningu AI. Czatbot będzie domyślnie włączony, a rodzice będą musieli go wyłączyć, jeśli zechcą ograniczyć dostęp. Dzieci będą mogły zadawać mu pytania tekstowe lub prosić o generowanie obrazów. Google przyznaje, że czatbot może popełniać błędy i podkreśla konieczność weryfikowania poprawności i wiarygodności jego treści, ponieważ AI może „halucynować” lub fabrykować informacje. Jest to szczególnie ważne, gdy dzieci korzystają z odpowiedzi czatbota do odrabiania lekcji, co wymaga sprawdzania faktów w wiarygodnych źródłach. W przeciwieństwie do tradycyjnych wyszukiwarek internetowych, które kierują użytkowników do oryginalnych materiałów, takich jak artykuły czy czasopisma, generatywne AI analizuje wzorce w danych, aby tworzyć nowe teksty lub obrazy na podstawie zapytań użytkowników. Na przykład, jeśli dziecko poprosi czatbota o „narysowanie kota”, system wygeneruje nowy obraz, łącząc cechy, które nauczył się kojarzyć z kotami. Rozróżnienie między treściami tworzonymi przez AI a wynikami wyszukiwania może być trudne dla młodych użytkowników. Badania wskazują, że nawet dorośli, w tym profesjonaliści, np. prawnicy, mogą zostać wprowadzeni w błąd przez fałszywe informacje generowane przez chatboty AI. Google zapewnia, że czatbot zawiera mechanizmy zabezpieczające przed nieodpowiednimi lub niebezpiecznymi treściami; jednakże takie filtry mogą nieumyślnie zablokować dostęp do legalnych i odpowiednich dla wieku materiałów — na przykład informacje o dojrzewaniu mogą zostać zablokowane, jeśli pewne słowa kluczowe są ograniczone.

Ponieważ wielu dzieci potrafi zręcznie nawigować i obejść zabezpieczenia w aplikacjach, rodzice nie mogą polegać wyłącznie na tych wbudowanych ochronach. Konieczne jest aktywne przeglądanie treści, edukowanie dzieci o działaniu czatbota i pomoc w krytycznej ocenie jego wiarygodności. Związane z AI czatbotami dla dzieci są poważne zagrożenia. Komisja ds. Bezpieczeństwa Internetowego ostrzegła, że towarzysze AI mogą rozpowszechniać szkodliwe treści, zniekształcać rzeczywistość lub udzielać niebezpiecznych porad, co jest szczególnie niepokojące w przypadku młodszych dzieci, które nadal rozwijają krytyczne myślenie i umiejętności życiowe niezbędne do rozpoznawania manipulacji ze strony programów komputerowych. Badania nad różnymi chatbotami AI, takimi jak ChatGPT czy Replika, pokazują, że te systemy naśladują ludzkie zachowania społeczne lub „reguły odczuwania” (np. mówienie „dziękuję” czy „przepraszam”), aby budować zaufanie. Taka interakcja przypominająca ludzką może mylić dzieci, skłaniając je do wierzenia w fałszywe treści lub myślenia, że rozmawiają z prawdziwą osobą, a nie maszyną. Termin wprowadzenia tych rozwiązań jest istotny, ponieważ Australia planuje od grudnia tego roku zakazać dzieciom poniżej 16. roku posiadania kont na platformach społecznościowych. Chociaż ten zakaz ma chronić dzieci, narzędzia generatywnej AI, takie jak czatbot Gemini, wykraczają poza jego zakres, co pokazuje, że wyzwania związane z bezpieczeństwem online wykraczają poza tradycyjne media społecznościowe. W związku z tym rodzice w Australii muszą być czujni, nieustannie poznawać nowe narzędzia cyfrowe i rozumieć ograniczenia ograniczeń w korzystaniu z mediów społecznościowych jako środków ochrony dzieci. W obliczu tych zmian wskazane jest pilne ustanowienie cyfrowego obowiązku ostrożności dla dużych firm technologicznych, takich jak Google, aby zapewnić, że priorytetem będzie bezpieczeństwo dzieci w projektowaniu i wdrażaniu technologii AI. Rodzice i edukatorzy muszą aktywnie prowadzić dzieci, ucząc ich bezpiecznego i świadomego korzystania z czatbotów AI, uzupełniając techniczne zabezpieczenia edukacją i nadzorem, aby zminimalizować związane z tym ryzyko.