Google er klar til å lansere sin Gemini AI-chatbot for barn under 13 år, med oppstart neste uke i USA og Canada, mens utgivelsen i Australia er planlagt senere i år. Tilgangen vil være begrenset til brukere med Google Family Link-kontoer, som gjør foreldrene i stand til å kontrollere innhold og app-bruk, for eksempel på YouTube. Foreldre oppretter disse kontoene ved å oppgi personopplysninger som barnets navn og fødselsdato, noe som vekker noen personvernbekymringer; men Google forsikrer om at barns data ikke vil bli brukt til AI- trening. Chatboten vil være aktiv som standard, og foreldre må deaktivere den dersom de ønsker å begrense tilgangen. Barn kan be AI-en om tekstsvar eller om generering av bilder. Google erkjenner at chatboten kan produsere feil og understreker viktigheten av å vurdere nøyaktigheten og påliteligheten til innholdet, siden AI kan “hallusinerer” eller fabrikere informasjon. Dette er spesielt kritisk når barn bruker chatbotens svar til lekser, og det er nødvendig med faktasjekk fra pålitelige kilder. I motsetning til tradisjonelle søkemotorer, som leder brukere til originale materialer som nyhetsartikler eller magasiner, analyserer generativ AI mønstre i data for å skape nytt tekstinnhold eller bilder basert på brukerens spørsmål. For eksempel, hvis et barn ber chatboten «tegne en katt», genererer systemet et nytt bilde ved å kombinere kattelignende trekk det har lært. Å forstå forskjellen mellom AI-generert innhold og hentede søkeresultater vil være utfordrende for unge brukere. Forskning viser at selv voksne, inkludert profesjonelle som advokater, kan bli villedet av feilaktig informasjon produsert av AI-chatboter. Google hevder at chatboten inkluderer beskyttelsesmekanismer for å blokkere upassende eller farlig innhold; likevel kan slike filter uforvarende begrense tilgangen til legitimt, alderspassende materiale – for eksempel kan informasjon om puberteten bli blokkert hvis visse nøkkelord er begrenset.

Siden mange barn er dyktige til å navigere og omgå appkontroller, kan foreldre ikke bare stole på disse innebygde beskyttelsene. De må i stedet aktivt gjennomgå innholdet, lære barna om hvordan chatboten fungerer, og hjelpe dem med å vurdere nøyaktigheten av informasjonen kritisk. Det er betydelige risikoer forbundet med AI-chatboter for barn. E-sikkerhetskommisjonen har advart om at AI-selskaper kan dele skadelig materiale, forvrenge virkeligheten eller gi farlig råd, noe som er spesielt bekymringsfullt for små barn som fortsatt utvikler kritisk tenkning og livsferdigheter for å oppdage manipulasjon av dataprogrammer. Forskning på ulike AI-chatboter som ChatGPT og Replika viser at disse systemene etterligner menneskelige sosial atferd eller «følelsesregler» (som å si «takk» eller «beklager») for å bygge tillit. Denne menneskelige liknende interaksjonen kan forvirre barn, som kan stole på feilaktig innhold eller tro at de snakker med en ekte person i stedet for en maskin. Tidslinjen for denne utrullingen er bemerkningsverdig, da Australia planlegger å forby barn under 16 år å ha kontoer på sosiale medier fra desember i år. Mens dette forbudet har som mål å beskytte barn, faller verktøy som Gemini’s chatbot utenfor rammeverket, noe som viser at utfordringene med online sikkerhet strekker seg utover tradisjonelle sosiale medier. Derfor må australske foreldre være årvåkne, kontinuerlig sette seg inn i nye digitale verktøy og forstå grensene for sosiale medie-restriksjoner når det gjelder å beskytte barna. Som svar på disse utviklingene bør det bidra til å raskt etablere et digitalt omsorgsansvar for store teknologiselskaper som Google, slik at de prioriterer barns sikkerhet i utformingen og bruken av AI-teknologi. Foreldre og lærere må være proaktive i å veilede barna i trygg og informert bruk av AI-chatboter, og supplere tekniske tiltak med opplæring og tilsyn for å redusere de tilknyttede risikoene.