Гугл ќе ја лансира својата AI чатабот Gemini за деца под 13 години, започнувајќи од следната недела во САД и Канада, а издавањето во Австралија е закажано за подоцна оваа година. Пристапот ќе биде ограничен за корисници со налози преку Google Family Link, што им овозможува родителски контроли врз содржината и користењето на апликации, како на пример на YouTube. Родителите создаваат вакви налози со давање лични податоци како името на детето и датумот на раѓање, што повлекува некои прашања за приватноста; сепак, Гугл уверува дека податоците на децата нема да се користат за тренирање на AI. Чатабот ќе биде вклучен по подразбирање, при што родителите ќе можат да го оневозможат ако сакаат да го ограничат пристапот. Децата можат да побараат од AI одговори во текст или генерирање на слики. Гугл признава дека чатаботот може да произведе грешки и нагласува колку е важно да се процени точноста и веродостојноста на неговите содржини, бидејќи AI може да „илустрира“ или да измисли информации. Ова е особено важно кога децата користат одговори од чатаботот за домашно, што бара проверка на фактите со сигурни извори. За разлика од традиционалните пребарувачи, кои ги насочуваат корисниците кон оригинални материјали како вести или часописи, генеративниот AI анализира шаблони во податоците за да создаде нов текст или слики врз основа на корисничките побарувања. На пример, ако дете побара од чатаботот да „црта маче“, системот ќе генерира нова слика комбинирајќи карактеристики на маче кое го „учел“. Разбирањето на разликата меѓу содржини создадени од AI и резултати од пребарување ќе биде предизвик за малите корисници. Истражувањата покажуваат дека дури и возрасните, вклучувајќи и професионалци како адвокати, можат да бидат измамени од лажни информации што ги создаваат AI чатаботите. Гугл тврди дека чатаботот има заштитни механизми за блокирање на неподобна или несигурна содржина; сепак, таквите филтри можат да го ограничат пристапот до легитимни, соодветни за возраста материјали – на пример, информации за пубертет може да бидат блокирани ако одредени клучни зборови се ограничени.

Бидејќи многу деца се вешти во навигација и заобиколување на контролите на апликадите, родителите не можат да се потпраат само на вградени заштити. Наместо тоа, треба активно да го прегледуваат содржината, да ги образуваат децата за функционирањето на чатаботот и да им помагаат да ја оценат точноста на информациите. Постојат значајни ризици поврзани со AI чатаботите за деца. Комисијата за безбедност на Интернет предупреди дека партнерите со AI може да споделуваат штетна содржина, да ја измешаат реалноста или да даваат опасни совети, што е особено загрижувачко за малите деца кои сеуште развиваат критичко мислење и животни вештини за препознавање манипулација од страна на компјутерски програми. Истражувањата за различни AI чатаботи како ChatGPT и Replika покажуваат дека овие системи имитираат човечки социјални однесувања или „правила за чувствување“ (како на пример извинување или благодарност) за градење на доверба. Ова човечко-инспирирано однесување може да ги збунува децата, нудејќи им доверба во лажни содржини или убедувајќи ги дека комуницираат со вистинска личност наместо со машина. Времето на оваа иницијатива е значајно, бидејќи Австралија планира да ја забрани можноста деца под 16 години да имаат профили на социјални мрежи од декември оваа година. Иако оваа забрана има за цел да ги заштити децата, алатките за генеративен AI како чатаботот Gemini се надвор од нејзиниот опфат, што ја покажува дилемата дека предизвиците на безбедноста онлајн се пошироки од традиционалните платформи за социјални медиуми. Затоа, австралиските родители мора да останат внимателни, да учат за новите дигитални алатки и да ја разберат границата на ограничувањата во социјалните мрежи за заштита на своите деца. Како одговор на овие случувања, би било паметно итно да се воспостави дигитална должност на гигантските технолошки компании како Гугл, осигурувајќи дека тие ги претпочитаат интересите на децата при дизајнот и употребата на AI технологиите. Родителите и наставниците мора да бидат активни водеачи, да ги насочуваат децата во безбедната и информирана употреба на AI чатаботите, комбинирајќи технички заштити со образование и возраст, за да се ублажат ризиците поврзани со нив.