Google planira pokrenuti svoj Gemini AI chatbota za djecu mlađu od 13 godina početkom sljedeće sedmice u SAD-u i Kanadi, dok je izlazak u Australiji planiran za kasnije ove godine. Pristup će biti ograničen na korisnike s Google Family Link računima, koji omogućavaju roditeljsku kontrolu nad sadržajem i upotrebom aplikacija, poput YouTubea. Roditelji kreiraju te račune pružanjem ličnih podataka poput imena i datuma rođenja djeteta, što izaziva određene zabrinutosti u vezi s privatnošću; međutim, Google uvjerava da podaci djece neće biti korišteni za obuku AI sistema. Chatbot će biti automatski aktiviran, a roditelji ga mogu isključiti ako žele da ograniče pristup. Djeca mogu tražiti od AI tekstualne odgovore ili generiranje slika. Google priznaje da chatbot može praviti greške i naglašava važnost procjene tačnosti i pouzdanosti sadržaja, jer AI može “hallucinating” ili izmišljati informacije. Ovo je posebno važno kada djeca koriste odgovore chatbota za zadatke, pa je potrebno provjeriti informacije putem pouzdanih izvora. Za razliku od tradicionalnih pretraživača, koji vode korisnike do originalnih materijala poput vijesti ili časopisa, generativni AI analizira obrasce u podacima da bi kreirao novi tekst ili slike na temelju korisničkih zahtjeva. Na primjer, ako dijete zatraži od chatbota da “nacrtaju mačku, ” sistem će generirati novu sliku kombinovanjem karakteristika koje je naučio o mačkama. Razumijevanje razlike između sadržaja generisanog od AI i rezultata pretrage biće izazov za mlađe korisnike. Istraživanja pokazuju da čak i odrasli, uključujući profesionalce poput advokata, mogu biti zavedeni lažnim informacijama koje proizvode AI chatboti. Google tvrdi da chatbot sadrži zaštite za blokiranje neprikladnog ili opasnog sadržaja; međutim, takvi filteri mogu namjerno ili nenamjerno blokirati pristup legitimnim i prikladnim sadržajima za djecu — na primjer, informacije o pubertetu mogu biti blokirane ako su određene riječi ili ključne riječi ograničene.

S obzirom na to da mnogi mališani dobro snalaze se u zaobilaženju i upravljanju kontrolama aplikacija, roditelji ne mogu osloniti samo na ove zaštite. Umjesto toga, moraju aktivno pregledavati sadržaj, obučiti djecu kako da kritički procjenjuju informacije i edukovati ih o načinu rada chatbota. Postoje značajne opasnosti povezane sa AI chatbotima za djecu. Komisija za sigurnost na internetu (eSafety) upozorava da AI saputnici mogu dijeliti štetne materijale, dezinformisati ili davati opasne savjete, što je posebno zabrinjavajuće za mlađu djecu koja još razvijaju kritičko razmišljanje i životne vještine za prepoznavanje manipulacija putem računarskih programa. Istraživanja o raznim AI chatbotima poput ChatGPT i Replika pokazuju da ovi sistemi oponašaju ljudsko društveno ponašanje ili “pravila osjećanja” (kao što je izgovaranje “hvala” ili “izvinjavam se”) kako bi izgradili povjerenje. Ova ljudska interakcija može zbuniti djecu, navodeći ih da vjeruju lažnim sadržajima ili misle da komuniciraju sa stvarnom osobom, a ne sa strojem. Timing ovog pokretanja je značajan jer Australija planira zabraniti djeci mlađoj od 16 godina da imaju naloge na društvenim mrežama počevši od decembra ove godine. Iako ovakva zabrana ima za cilj zaštitu djece, alati za generativnu AI poput Gemini chatbota nisu obuhvaćeni tim zakonskim ograničenjima, čime se pokazuje da izazovi vezani za sigurnost na internetu prevazilaze tradicionalne platforme društvenih mreža. Stoga, australijski roditelji moraju ostati budni, kontinuirano pratiti nove digitalne alate i razumjeti granice ograničenja na društvenim mrežama u zaštiti svoje djece. U odgovoru na ove događaje, bilo bi razumno hitno uspostaviti digitalni etički okvir o brizi za velike tehnološke kompanije poput Googlea, osiguravajući da prioritet poklanjaju sigurnosti djece u dizajniranju i primjeni AI tehnologija. Roditelji i nastavnici moraju biti aktivni u vođenju djece prema sigurnom i informisanom korištenju AI chatbota, dopunjavajući tehničke zaštite edukacijom i nadzorom kako bi smanjili rizike povezane s ovim tehnologijama.