Google ætla að setja á markað Gemini gervigreindar spjallmenni fyrir börn yngri en 13 ára, sem byrjað verður að kynna í Bandaríkjunum og Kananda næsta vecka, með útgáfu í Ástralíu á þessu ári. Aðgangur verður takmarkaður við notendur með Google Family Link reikninga, sem gerir foreldrum kleift að hafa eftirlit með efni og forritanotkun, eins og á YouTube. Foreldrar búa til þessa reikninga með því að gefa upp persónuupplýsingar eins og nafn barnsins og fæðingardag, sem vekur ýmsar persónuverndartengdar áhyggjur; Google lýsir hins vegar yfir að gögn barna verði ekki notuð til þjálfunar á AI. Spjallmennið verður virkt sjálfkrafa, og foreldrar þurfa að slökkva á því ef þeir vilja takmarka aðgang. Börn geta notað spjallmennið til að biðja um textaviðbrögð eða myndagerð. Google viðurkennir að spjallmennið geti myndað villur og leggur áherslu á mikilvægi þess að skoða réttmæti og áreiðanleika efnisins þar sem AI getur „geimlað“ eða fundið upp upplýsingar. Þetta er sérstaklega mikilvægt þegar börn nota svör frá spjallmenni við heimavinnu, og þarf að staðfesta upplýsingarnar með traustum heimildum. Ólíkt hefðbundnum leitarvélum, sem vísa notendum á upprunaleg gögn eins og fréttagreinar eða tímarit, býr framleiðandi AI til nýtt efni út frá mynstri í gögnum eftir beiðni notanda. Til dæmis, ef barn biður spjallmennið að „teikna kött, “ myndar kerfið nýja mynd með því að blanda saman köttlíki einkennum það hefur lært. Að greina á milli efnis sem AI hefur búið til og þeirra sem eru sótt úr leit verður áskorun fyrir yngri notendur. Rannsóknir sýna að jafnvel fullorðnir, þar á meðal sérfræðingar eins og lögfræðingar, geta verið blekktir af röngum upplýsingum sem AI spjallmenni framleiða. Google halda því fram að spjallmennið hafi ráðstafanir til að koma í veg fyrir óviðeigandi eða hættulegt efni; þó gætu slíkar síur óvart takmarkað aðgang að lögmætum og aldurstengdum efnisgerðum—til dæmis gæti upplýsingar um kynþroskann verið blokkerað ef ákveðin leitarorð eru takmörkuð.

Vegna þess að mörg börn eru góð í að komast framhjá forritaeftirliti og finna leiðir til að komast hjá takmörkum, geta foreldre því ekki treyst eingöngu á innbyggð öryggistæki. Þess í stað þurfa þeir að endurskoða efnið reglulega, fræða börnin sín um hvernig spjallmennið virkar og byggja á gagnrýnni hugsun til að meta hvort efnið sé áreiðanlegt. Áhætta sem tengist AI spjallmenni fyrir börn er mikil. Eftirlitsstofnun um öryggi á netinu hefur varað við því að samstarfsaðilar AI geta deilt skaðlegu efni, breytt raunveruleikanum eða gefið hættulegar ráðleggingar, sem er sérstaklega áhyggjuefni fyrir ungt fólk sem er enn að móta mikilvæga gagnrýna hugsun og lífsviðhorf til að takast á við misskilning og áhrif tölvuforrita. Rannsóknir á slíku AI, eins og ChatGPT og Replika, sýna að þessi kerfi líkja eftir mannlegum félagslegum hegðum eða „tilfinningareglum“ (svo sem þökk, afsökun eða leikur) til að byggja traust. Þetta mannlega viðmót getur ruglað börn, sem geta treyst röngum upplýsingum eða haldið að þau tali við raunverulegan einstakling frekar en vél. Tímamörk þessa kynningar eru merkileg, þar sem Ástralía ætlar að banna börnum yngri en 16 ára að eiga aðgang að samfélagsmiðlum frá því í desember á þessu ári. Þó að þetta bann hafi það markmið að vernda börn, falla framleiðslutæki eins og Gemini spjallmennið ekki undir það, sem sýnir að vandamál í netvǫrðu dregst áfram út fyrir hefðbundin samfélagsmiðla. Þess vegna verða foreldrar í Ástralíu að vera stöðugt vakandi, læra um nýjan stafrænan tækniheim og skilja takmarkanir samfélagsmiðla til að verja börnin sín. Sem viðbrögð við þessari þróun væri ábyrgara að setja skjótt á laggirnar stafrænt ábyrgðarhlutverk fyrir stórar tæknifyrirtæki eins og Google, til að tryggja að öryggi barna verði ávallt í forgangi við hönnun og útgáfu AI tækni. Foreldrar og kennarar verða að vera virkir í að leiðbeina börnum um örugga og upplýsta notkun AI spjallmenna, með því að blanda tækniöryggi við menntun og eftirlit til að draga úr áhættunum.