Google plaanib järgmisel nädalal USA-s ja Kanadas lansseerida oma Gemini tehisintellekti vestlusbotit, mis on mõeldud alla 13-aastastele lastele, ning Austraaliasse jõuab see hiljem sel aastal. Jaccess on piiratud Google Family Link kontode kasutajate jaoks, mis võimaldavad vanematel kontrollida sisu ja rakenduste kasutamist, näiteks YouTube’is. Vanemad loovad need kontod, esitades isikuandmeid nagu lapse nimi ja sünnikuupäev, mis tekitab mõningaid privaatsusprobleeme; Google kinnitab siiski, et laste andmeid ei kasutata AI koolitamiseks. Vestlusbotit aktiveeritakse vaikimisi ning vanemad peavad selle välja lülitama, kui soovivad piirata juurdepääsu. Lapsed saavad AI-d kutsuda üles vastama tekstiliselt või genereerima pilte. Google tunnistab, et vestlusbot võib teha vigu ning rõhutab, kui oluline on hinnata selle sisu täpsust ja usaldusväärsust, sest AI võib “hallutsineerida” või väljamõelda teavet. See on eriti oluline, kui lapsed kasutavad vestlusbotist saadud vastuseid kodutööde jaoks, nõudes faktide kontrollimist usaldusväärsete allikate abil. Erinevalt traditsioonilistest otsimootoritest, mis juhatavad kasutajaid algmaterjalidele nagu uudisartiklid või ajakirjad, analüüsib generatiivne AI andmepatte ning loob uue teksti või pildi kasutaja juhiste põhjal. Näiteks, kui laps palub vestlusrobotil “joonista kass, ” genereerib süsteem uue pildi, ühendades kassilaadsed tunnused, mida ta on õppinud. Noorte kasutajate jaoks on keeruline mõista vahet AI poolt loodud sisu ja otsingutulemustel põhineva sisu vahel. Uuringud näitavad, et isegi täiskasvanud, sealhulgas juristid, võivad ränki eksitada AI vestlusrobotite poolt toodetud valeinformatsioon. Google väidab, et vestlusrobot sisaldab kaitsemehhanisme sobimatu või ohtliku sisu blokeerimiseks; siiski võivad sellised filtrid tahtmatult piirata juurdepääsu legitiimsele, eale sobivale materjalile—näiteks võib puberteedist rääkiv info olla bloki all, kui teatud märksõnad on piiratud.

Kuna paljud lapsed oskavad nutikalt rakenduste kontrollmehhanisme vältida, ei saa vanemad pelgalt sellest sisseehitatud kaitseest sõltuda. Selle asemel peavad nad aktiivselt kontrollima sisu, harima lapsi vestlusroboti toimimise kohta ning aitama neil kriitiliselt hinnata teabe täpsust. AI vestlusrobotite kasutamisel lastel on olulisi riske. Ehtehooldusameti (eSafety Commission) on hoiatanud, et tehisintellekti kaaslased võivad jagada kahjulikku materjali, moonutada reaalsust või anda ohtlikke nõuandeid, mis on eriti murettekitav nooremate laste jaoks, kelle kriitiline mõtlemine ja eluks vajalikud oskused on alles kujunemisel ning kes võivad manipuleerimist küberprogrammide poolt märkamata jätta. Uuringud selliste AI botidega nagu ChatGPT ja Replika näitavad, et need süsteemid jäljendavad inimese sotsiaalseid käitumismustreid või “tunde korda” (nagu “aitäh” või “vabandan”), et luua usaldus. See inimesele sarnane suhtlus võib lapsi segadusse ajada, viies nad usaldama valet sisu või uskuma, et nad suhtlevad tegeliku inimesega, mitte masinaga. Selle lansseerimise aeg on märkimisväärne, kuna Austraalia plaanib alates detsembrist keelata alla 16-aastastel lastel sotsiaalmeediakanalites kontode omamise. Kuigi see keeld on suunatud laste kaitsmisele, jääb generatiivsete AI-tööriistade, nagu Gemini vestlusrobot, reguleerimisalasse välja, mis näitab, et veebiturvalisuse probleemid ulatuvad kaugemale traditsioonilistest sotsiaalmeedia platvormidest. Seetõttu peavad austraalia vanemad olema valvsad, püsivalt uurima uusi digitaalseid tööriistu ning mõistma sotsiaalmeedia piiranguid oma laste kaitsmisel. Nendes arengutes oleks mõistlik kiiresti kehtestada digitaalne hoolivus ja vastutus suurettevõtetele nagu Google, tagamaks, et laste ohutus on nende disaini ja tehnoloogiate kasutuse keskmes. Vanemad ja haridustöötajad peavad olema aktiivsed, juhendades lapsi AI vestlusrobotite ohutul ja teadlikul kasutamisel, kombineerides tehnilised kaitsemehhanismid hariduse ja järelevalvega ning minimeerides nende riskide mõju.