Google plāno nākamajā nedēļā sākt savu Gemini mākslīgā intelekta čatbotu bērniem līdz 13 gadu vecumam, sākot ar ASV un Kanādu, bet Austrālijas izlaidums ir plānots vēlāk šajā gadā. Piekļuve tiks ierobežota lietotājiem ar Google Family Link kontiem, kas nodrošina vecāku kontroli pār satura un lietotņu izmantošanu, piemēram, YouTube. Vecāki izveido šos kontus, sniedzot personisku informāciju, piemēram, bērna vārdu un dzimšanas datumu, kas rada dažas privātuma bažas; tomēr Google apgalvo, ka bērnu dati netiks izmantoti mākslīgā intelekta apmācībai. Čatbots pēc noklusējuma būs iespējots, un vecākiem būs jāatspējo tas, ja vēlas ierobežot piekļuvi. Bērni var uzdot mākslīgajam intelektam jautājumus tekstu veidā vai pieprasīt attēla ģenerēšanu. Google atzīst, ka čatbots var radīt kļūdas, un uzsver, ka ir svarīgi izvērtēt tā satura precizitāti un uzticamību, jo mākslīgais intelekts var “halucinēt” vai izdomāt informāciju. Tas ir īpaši būtiski, ja bērni izmanto čatbota atbildes mājasdarbiem, un ir nepieciešama fakta pārbaude, izmantojot uzticamus avotus. Atšķirībā no tradicionālajiem meklētājprogrammām, kas lietotājus novirza uz oriģinālajiem materiāliem, piemēram, ziņu rakstiem vai žurnāliem, ģenerējošais mākslīgais intelekts analizē datu modeļus, lai radītu jaunu tekstu vai attēlus, balstoties uz lietotāja ievadītajiem pieprasījumiem. Piemēram, ja bērns uzdod čatbotam jautājumu “zīmē kaķi”, sistēma ģenerēs jaunu attēlu, apvienojot iemācītos kaķim raksturīgus elementus. Saprast atšķirību starp mākslīgā intelekta radītu saturu un meklēšanas rezultātiem būs izaicinājums jaunajiem lietotājiem. Pētījumi liecina, ka pat pieaugušie, tostarp profesionāļi, piemēram, juristi, var tikt maldināti ar mākslīgā intelekta ģenerētu nepatiesu informāciju. Google apgalvo, ka čatbotam ir drošības pasākumi, kas bloķē nepiemērotu vai nedrošu saturu; tomēr šie filtri var nejauši ierobežot piekļuvi likumīgam, vecumam piemērotam materiālam – piemēram, par pubertātes procesu var tikt bloķēta informācija, ja kādi atslēgvārdi ir aizliegti.

Tā kā daudzi bērni ir prasmīgi klaigot un apiet lietotņu kontroles, vecākiem nevar paļauties tikai uz iebūvētajiem aizsardzības līdzekļiem. Tās vietā viņiem jāievēro saturs, jāizglīto bērni par čatbota darbības principiem un jāpalīdz kritiski izvērtēt tā sniegto informāciju un tās precizitāti. Ar mākslīgā intelekta čatbotiem saistīti ir vairāki būtiski riski bērniem. E-sadales komisija brīdina, ka mākslīgā intelekta draugu var koplietot kaitīgu materiālu, izkropļot realitāti vai sniegt bīstamas padomus, kas ir īpaši satraucoši maziem bērniem, kuri vēl attīsta kritisko domāšanu un dzīves prasmju attīstību, lai atpazītu manipulācijas ar datorprogrammām. Pētījumi dažādu AI čatbota, piemēram, ChatGPT un Replika, darbībā rāda, ka šie sistēmi imitē cilvēka sociālo uzvedību vai “jūtu noteikumus” (piemēram, pateikt “paldies” vai “atvainojos”) lai veidotu uzticību. Šāda cilvēka līdzīga mijiedarbība var sajaukt bērnus, veicot viņus ticamiem nepatiesai informācijai vai uzskatot, ka viņi runā ar īstu cilvēku, nevis mašīnu. Šīs ieviestās izmaiņas ir nozīmīgas, ņemot vērā Austrālijas plānus aizliegt bērniem līdz 16 gadu vecumam turēt sociālo mediju kontus no decembra šajā gadā. Lai arī šī aizlieguma mērķis ir pasargāt bērnus, ģeneratīvie mākslīgā intelekta rīki, piemēram, Gemini čatbots, ietilpst tā lokā, norādot, ka tiešsaistes drošības izaicinājumi pārsniedz tradicionālo sociālo tīklu platformas. Tādēļ Austrālijas vecākiem jābūt modriem, pastāvīgi jāmācās par jauniem digitālajiem rīkiem un jāizprot sociālo mediju ierobežojumu robežas, lai aizsargātu savus bērnus. Atbildot uz šiem notikumiem, būtu nepieciešams nekavējoties ieviest digitālo atbildības pienākumu lielajām tehnoloģiju firmām, piemēram, Google, nodrošinot, ka bērnu drošība ir galvenā prioritāte mākslīgā intelekta tehnoloģiju izstrādē un izmantošanā. Vecākiem un skolotājiem jābūt aktīviem gidiem, kas pārliecinoši vadītu bērnus drošā un informētā mākslīgā intelekta čatbotu izmantošanā, apvienojot tehnisko aizsardzību ar izglītību un uzraudzību, lai mazinātu ar šiem riskiem saistītās problēmas.