Google sprema lansiranje svojeg AI chatbota Gemini za djecu mlađu od 13 godina, početkom sljedećeg tjedna u SAD-u i Kanadi, dok je izdanje u Australiji planirano za kasnije ove godine. Pristup će biti ograničen na korisnike s Google Family Link računima, koji omogućuju roditeljski nadzor nad sadržajem i korištenjem aplikacija, poput YouTubea. Roditelji kreiraju te račune unosom osobnih podataka, poput imena i datuma rođenja djeteta, što izaziva određene zabrinutosti oko privatnosti; međutim, Google jamči da se podaci djece neće koristiti za obuku AI-a. Chatbot će biti postavljen kao zadani, a roditelji ga mogu isključiti ako žele ograničiti pristup. Djeca mogu tražiti od AI da im generira tekstualne odgovore ili slike. Google priznaje da chatbot može praviti pogreške i ističe važnost procjene točnosti i pouzdanosti njegovog sadržaja, jer AI može “hallucinat” ili izmišljati informacije. To je osobito važno kada djeca koriste odgovore chatbota za domaću zadaću, pa je potrebno provjeriti činjenice kod pouzdanih izvora. Za razliku od tradicionalnih tražilica koje korisnicima preusmjeravaju na originalne materijale poput novinskih članaka ili časopisa, generativni AI analizira obrasce u podacima kako bi stvorio novi tekst ili slike na temelju korisničkih upita. Na primjer, ako dijete zatraži od chatbota da “nacrtaj mačku, ” sustav generira novu sliku kombinirajući elemente koje je naučio o mačkama. Razlikovanje između sadržaja generiranog od AI-a i rezultata pretraživanja bit će izazovno za mlade korisnike. Istraživanja pokazuju da čak i odrasli, uključujući stručnjake poput odvjetnika, mogu biti zavedeni lažno prikazanim informacijama od AI chatbota. Google tvrdi da je chatbot opremljen mjerama zaštite za blokiranje neprimjerenog ili opasnog sadržaja; međutim, takvi filteri mogu nenamjerno ograničiti pristup legitimnim, dobnim sadržajima – primjerice, informacije o pubertetu mogu biti blokirane ako su određene ključne riječi zabranjene.

S obzirom na to da mnogi mlađi korisnici vješto zaobilaze kontrolu nad aplikacijama, roditelji ne mogu osloniti samo na ove ugrađene zaštite. Umjesto toga, potrebno je aktivno pregledavati sadržaj, edukacija djece o načinu rada chatbota i pomaganje u kritičkoj procjeni točnosti informacija. Postoje značajne opasnosti od AI chatbota za djecu. eSafety komisija upozorava da AI suputnici mogu dijeliti štetne sadržaje, iskriviti stvarnost ili davati opasne savjete, što je osobito zabrinjavajuće za malu djecu koja još razvijaju kritičko mišljenje i životne vještine za prepoznavanje manipulacija od strane računalnih programa. Istraživanja raznih AI chatbota poput ChatGPT-a i Replika pokazuju da ti sustavi imitiraju ljudsko društveno ponašanje ili “pravila osjećaja” (kao što je zahvaljivanje ili isprika) kako bi izgradili povjerenje. Ova ljudskopodobna interakcija može zbuniti djecu, navodeći ih da vjeruju lažnim sadržajima ili da misle da komuniciraju s pravom osobom, a ne s strojem. Vrijeme ovog pokretanja je zato posebno važno jer Australija planira od prosinca ove godine zabraniti djeci mlađoj od 16 godina vođenje računa na društvenim mrežama. Iako ta zabrana ima za cilj zaštitu djece, alati za generativnu AI poput Gemini chatbota nisu obuhvaćeni, što ilustrira da izazovi online sigurnosti nadilaze tradicionalne platforme društvenih mreža. Stoga, australski roditelji moraju ostati budni, stalno se informirati o novim digitalnim alatima i razumjeti granice zaštite putem društvenih mreža u očuvanju sigurnosti svoje djece. Kao odgovor na ove promjene, bilo bi razumno hitno uspostaviti digitalnu dužnost brige za velikane tehnološke industrije poput Googlea, osiguravajući da prioritet bude sigurnost djece u dizajnu i primjeni AI tehnologija. Roditelji i edukatori trebaju biti proaktivni u vođenju djece prema sigurno i informirano korištenje AI chatbota, nadopunjujući tehničke zaštite edukacijom i nadzorom kako bi se smanjile povezane opasnosti.