A Google jövő héten az Egyesült Államokban és Kanadában elindítja Gemini AI chatbotját 13 év alatti gyermekek számára, míg Ausztrália későbbi időpontban tervezi a megjelenést. A hozzáférés csak Google Family Link fiókkal rendelkező felhasználók számára lesz elérhető, amelyek lehetővé teszik a szülők számára, hogy kontrollálják a tartalmat és az alkalmazásokat, például a YouTube-on. A szülők ezeket a fiókokat személyes adatok, például gyermekük neve és születési dátuma megadásával hozhatják létre, ami némi adatvédelmi aggodalmat vet fel; azonban a Google biztosítékot ad arra, hogy a gyermekek adatait nem fogják AI tréninghez felhasználni. A chatbot alapértelmezés szerint be lesz kapcsolva, és a szülőknek ki kell kapcsolniukuk, ha szeretnék korlátozni a hozzáférést. A gyerekek kérdésekkel ösztönözhetik az AI-t szöveges válaszok vagy képgenerálás céljából. A Google elismeri, hogy a chatbot hibázhat, és hangsúlyozza az információk pontosságának és megbízhatóságának értékelésének fontosságát, mivel az AI "hallucinálhat" vagy kitalálhat információkat. Ez különösen fontos, amikor a gyermekek a chatbot válaszait házi dolgozatukhoz használják, ezért szükséges az információk ellenőrzése megbízható forrásokkal. A hagyományos keresőgépekkel szemben, amik eredeti anyagokra, például cikkekre vagy magazinokra irányítanak, a generatív AI az adatok mintáit elemzi, és új szöveget vagy képeket hoz létre a felhasználói kérés alapján. Például, ha egy gyermek azt kérdezi a chatbottól, hogy “rajzolj egy macskát”, a rendszer egy új képet generál, amely a megtanult macska-szerű jellemzőket ötvözi. Az AI által generált tartalom és a keresési eredmények közötti különbség megértése kihívás lesz a fiatal felhasználók számára. Kutatások szerint még a felnőttek, például jogászok is félrevezethetők lehetnek hamis információkkal, amelyeket az AI chatbotok generálnak. A Google állításai szerint a chatbot beépített védelmi mechanizmusokat tartalmaz arra, hogy blokkolja a nem megfelelő vagy veszélyes tartalmakat; azonban ezek a szűrők véletlenül is korlátozhatják a valódi, életkorhoz illő anyagokhoz való hozzáférést – például a pubertásról szóló információkat blokkolhatják, ha bizonyos kulcsszavakat tiltottak be.

Mivel sok gyermek ügyesen navigál és kerül ki alkalmazásvezérlőket, a szülők nem hagyatkozhatnak kizárólag ezekre a beépített védelemre. Inkább aktívan kell ellenőrizniük a tartalmat, oktatniuk kell gyermekeiket a chatbot működéséről, és segíteniük kell nekik kritikusan értékelni az információk hitelességét. Az AI chatbotok használatával jelentős kockázatok is járnak. Az eSafety Bizottság figyelmeztetett, hogy az AI-partnerek ártalmas anyagokat oszthatnak meg, torzíthatják a valóságot vagy veszélyes tanácsokat adhatnak, különösen fiatal gyerekek esetében, akik még fejlesztik kritikus gondolkodási és életkészségeiket, hogy felismerjék a számítógépes programok manipulációját. A különböző AI chatbotok, például a ChatGPT és a Replika vizsgálata arra mutat, hogy ezek a rendszerek emberi társadalmi viselkedéseket vagy "érzékelési szabályokat" (például köszönetnyilvánítást vagy bocsánatkérést) utánoznak a bizalom kiépítése érdekében. Ez az emberihez hasonló interakció összezavarhatja a gyermekeket, és arra ösztönözheti őket, hogy hamis tartalmakban bízzanak, vagy azt higgyék, valódi személlyel beszélgetnek, nem pedig géppel. Ebből a szempontból kiemelkedő, hogy Ausztrália decembertől betiltja 16 év alatti gyermekek számára a közösségi média fiókok nyitását. Bár ez a tiltás a gyerekek védelmét szolgálja, a Gemini chatbothoz hasonló generatív AI eszközök nem tartoznak ebbe az intézkedés körébe, bemutatva, hogy az online biztonság kihívásai túlmutatnak a hagyományos közösségi média platformokon. Ezért az ausztrál szülőknek folyamatosan figyelniük kell, meg kell ismerniük az új digitális eszközöket, és megértetniük kell gyermekeikkel a közösségi média korlátozásainak határait a gyermekek védelmében. Ezekre a fejleményekre reagálva az lenne mérsékelt lépés, hogy sürgősen ki kellene alakítani egy digitális kötelességvállalást a nagy technológiai vállalatok, például a Google számára, így biztosítva, hogy elsődlegesen a gyermekek biztonsága legyen az AI technológiák tervezése és telepítése során. A szülők és pedagógusok aktívan kell, hogy irányítsák a gyermekek biztonságos és tudatos AI chatbot-használatát, kiegészítve a műszaki védelem szintjén nyújtott lehetőségeket oktatással és ellenőrzéssel, hogy enyhítsék a kapcsolódó kockázatokat.