Google namerava da lansira svoj Gemini AI chatbot za decu ispod 13 godina, počevši od sledeće nedelje u SAD i Kanadi, dok je izdavanje u Australiji planirano za kasnije ove godine. Pristup će biti ograničen na korisnike sa Google Family Link nalogom, koji omogućava roditeljsku kontrolu nad sadržajem i upotrebom aplikacija, poput YouTube-a. Roditelji kreiraju ove naloge pružanjem ličnih podataka, poput imena i datuma rođenja deteta, što izaziva određene zabrinutosti u pogledu privatnosti; međutim, Google tvrdi da podaci dece neće biti korišćeni za obuku veštačke inteligencije. Chatboti će biti uključeni po defaultu, a roditelji mogu da ih isključuju ukoliko žele da ograniče pristup. Deca mogu tražiti od AI tekstualne odgovore ili generisanje slika. Google priznaje da chatbot može praviti greške i ističe važnost procene tačnosti i poverenja u sadržaj, jer AI može “hallucionisati” ili izmišljati informacije. Ovo je posebno važno kada deca koriste odgovore chatbota za domaće zadatke, pa je potreban proveru činjenica preko pouzdanih izvora. Za razliku od tradicionalnih pretraživača, koji vode do originalnih sadržaja poput vesti ili časopisa, generativna veštačka inteligencija analizira obrasce u podacima kako bi kreirala novi tekst ili slike na osnovu korisničkih upita. Na primer, ako dete zatraži od chatbota da “nacrtaja mačku, ” sistem će generisati novu sliku kombinovanjem karakteristika koje je naučio o mačkama. Razlikovanje između AI-generisanog sadržaja i rezultata pretrage biće izazov za mlade korisnike. Istraživanja pokazuju da čak i odrasli, uključujući i profesionalce poput advokata, mogu biti zavedeni lažnim informacijama koje proizvodi AI chatbot. Google tvrdi da chatbot sadrži zaštite za blokiranje neprikladnog ili nesigurnog sadržaja; međutim, takvi filteri mogu nenamerno da ograniče pristup legitimnim, uzrastu prikladnim materijalima — na primer, informacije o pubertetu mogu biti blokirane ukoliko su određene ključne reči ograničene.

Pošto su mnogi roditelji vešti u pretraživanju i zaobilaženju zaštita u aplikacijama, oni ne mogu osloniti samo na ove ugrađene mere. Umesto toga, moraju aktivno da proveravaju sadržaj, edukuju decu o načinu rada chatbota i da im pomognu kritički da procene tačnost informacija. Postoje i značajni rizici povezani sa AI chatbotovima za decu. Komisija za bezbednost na internetu upozorila je da AI pratioci mogu deliti štetne sadržaje, iskrivljavati stvarnost ili davati opasne savete, što je posebno zabrinjavajuće za malu decu koja još uvek razvijaju kritičko mišljenje i životne veštine za prepoznavanje manipulacija od strane računarskih programa. Istraživanja o raznim AI chatbotovima poput ChatGPT i Replika pokazuju da ovi sistemi oponašaju ljudske društvene ponašanja ili “pravila osećanja” (kao što je zahvaljivanje ili izvinjavanje) kako bi izgradili poverenje. Takva ljudskopodobna interakcija može zbuniti decu, navodeći ih da veruju lažnim sadržajima ili da misle kako razgovaraju s pravom osobom, a ne sa mašinom. Vreme ovog lansiranja je značajno, jer Australija planira da od decembra ove godine zabrani deci mlađoj od 16 godina da imaju naloge na društvenim mrežama. Iako ova zabrana ima za cilja zaštitu dece, generativni alati veštačke inteligencije poput Gemini chatbot-a nisu obuhvaćeni, što pokazuje da izazovi u bezbednosti na mreži idu dalje od tradicionalnih platformi društvenih mreža. Stoga, australijski roditelji moraju ostati pažljivi, neprestano se upoznavati sa novim digitalnim alatima i razumeti granice ograničavanja pristupa na društvenim mrežama u zaštiti svoje dece. Kao odgovor na ove promene, bilo bi pametno hitno uspostaviti digitalnu obavezu brige za velike tehnološke kompanije poput Google-a, osiguravajući da prioritet bude zaštita dece u dizajnu i primeni AI tehnologija. Roditelji i edukatori moraju biti proaktivni u vođenju dece kroz sigurnu i informisanu upotrebu AI chatbotova, dopunjujući tehničke zaštite obrazovanjem i nadzorom kako bi se smanjili povezani rizici.