Google namerava začeti z razvojem svojega AI klepetalnika Gemini za otroke, mlajše od 13 let, že naslednji teden v Združenih državah in Kanadi, poznejši izid v Avstraliji je načrtovan za konec leta. Dostop bo omejen na uporabnike z računi Google Family Link, ki omogočajo starševski nadzor nad vsebino in uporabo aplikacij, na primer na YouTubu. Starši ustvarijo te račune z vnosom osebnih podatkov, kot so ime otroka in datum rojstva, kar odpira vprašanja glede zasebnosti; Google pa zagotavlja, da podatkov otrok ne bo uporabljal za treniranje umetne inteligence. Klepetalnik bo privzeto omogočen, starši pa lahko onemogočijo njegovo delovanje, če želijo omejiti dostop. Otroci lahko AI pozovejo k pisanju besedilnih odgovorov ali ustvarjanju slik. Google priznava, da lahko klepetalnik naredi napake, in poudarja pomembnost preverjanja točnosti in zanesljivosti njegovih vsebin, saj umetna inteligenca lahko “halucinira” ali izmišlja informacije. To je še posebej pomembno, ko otroci uporabljajo odgovore klepetalnika za naloge, zato je priporočljivo preverjati dejstva z zanesljivimi viri. Za različno od klasičnih iskalnikov, ki uporabnike usmerjajo na originalne vsebine, kot so novice ali revije, generativna umetna inteligenca analizira vzorce v podatkih, da ustvari nove besedila ali slike na podlagi uporabniških zahtev. Na primer, če otrok zahteva od klepetalnika, naj nariše mačko, sistem ustvari novo sliko z združevanjem lastnosti, ki jih je spoznal za mačje. Razumevanje razlike med vsebinami, ustvarjenimi s pomočjo AI, in iskalnimi rezultati bo za mlajše uporabnike izziv. Raziskave kažejo, da tudi odrasli, vključno s strokovnjaki, kot so odvetniki, lahko zavedeni s lažnimi informacijami, ki jih proizvedejo klepetalniki. Google trdi, da je klepetalnik opremljen z varnostnimi ukrepi za zavrnitev neprimernih ali nevarnih vsebin; vendar te filtre lahko tudi nenamerneje omejijo dostop do legitimnih, starostno ustreznih vsebin – na primer informacije o puberteti so lahko blokirane zaradi določenih ključnih besed.

Ker so mnogi otroci vešči obhajanja in prehajanja omejitev v aplikacijah, starši ne morejo zanašati zgolj na vgrajene zaščite. Namesto tega morajo aktivno preverjati vsebine, poučevati otroke o delovanju klepetalnika in jim pomagati kritično ocenjevati točnost informacij. Obstajajo pomembna tveganja, povezana z AI klepetalniki za otroke. Komisija za varstvo otrokovih pravic je opozorila, da lahko AI spremljevalci delijo škodljive vsebine, zavajajo o resničnosti ali dajejo nevarne nasvete, kar je še posebej zaskrbljujoče za mlajše otroke, še zlasti tiste, ki še razvijajo kritično mišljenje ter življenjske veščine za prepoznavanje manipulacij s strani računalniških programov. Raziskave o različnih AI klepetalnikih, kot so ChatGPT in Replika, kažejo, da ti sistemi posnemajo človeške socialne vedenje ali “pravila čustev” (na primer izraze hvaležnosti ali opravičila) za vzpostavitev zaupanja. Takšna človeško podobna interakcija lahko otrokom zmede, da jim povrnejo zaupanje v lažne vsebine ali verjamejo, da komunicirajo z resnično osebo, namesto s strojem. Časovni okvir te uvajanja je pomemben, saj Avstralija načrtuje odmor za mlajše od 16 let pred uporabo socialnih medijev, ki začne veljati že decembra letos. Medtem ko ta ukrep ščiti otroke, uporaba generativnih orodij umetne inteligence, kot je klepetalnik Gemini, presega njegov obseg, kar kaže, da varnostne izzive pri spletu povzročajo tudi druge platforme poleg tradicionalnih socialnih medijev. Zato morajo starši v Avstraliji ostati pozorni, nenehno spremljati novice o razvoju digitalnih orodij ter razumeti meje omejitev socialnih medijev pri zaščiti svojih otrok. V luči teh razvojnih dogodkov bi bilo modro hitro vzpostaviti digitalno dolžnost skrbnosti za velike tehnološke družbe, kot je Google, ki kažejo, da je njihova prioriteta varnost otrok pri načrtovanju in uvajanju AI tehnologij. Starši in vzgojitelji morajo biti proaktivni pri usmerjanju otrok k varni in informirani uporabi AI klepetalnikov, k čemur je treba dodati tako tehnične varnostne ukrepe kot tudi vzgojno-izobraževalno delo ter nadzor za zmanjševanje tveganj, ki jih ti sistemi prinašajo.