Google er klar til at lancere sin Gemini AI-chatbot for børn under 13 år med start næste uge i USA og Canada, mens den australske lancering er planlagt til senere på året. Adgangen vil være begrænset til brugere med Google Family Link-konti, som giver forældre kontrol over indhold og app-brug, for eksempel på YouTube. Forældre opretter disse konti ved at give personlige oplysninger som barnets navn og fødselsdato, hvilket rejser nogle privacy-krav; dog forsikrer Google, at børns data ikke vil blive brugt til AI-træning. Chatbotten vil være aktiveret som standard, hvilket kræver, at forældre deaktiverer den, hvis de ønsker at begrænse adgangen. Børn kan bede AI'en om tekstsvar eller billedgenerering. Google erkender, at chatbotten kan lave fejl og understreger vigtigheden af at vurdere indholdets nøjagtighed og pålidelighed, da AI kan “hallucinerer” eller opfinde oplysninger. Dette er særligt vigtigt, når børn bruger chatbot-svar til lektier, hvilket kræver faktatjek hos pålidelige kilder. I modsætning til traditionelle søgemaskiner, der henviser til originale materialer som nyhedsartikler eller magasiner, analyserer generativ AI mønstre i data for at skabe nyt tekst- eller billedindhold baseret på brugerinput. For eksempel, hvis et barn beder chatbotten om at “tegne en kat, ” genererer systemet et nyt billede ved at kombinere kat-lignende træk, det har lært. Forståelsen af forskellen mellem AI-genereret indhold og søgninger vil være udfordrende for unge brugere. Forskning viser, at selv voksne, herunder professionelle som advokater, kan blive vildledt af falske oplysninger produceret af AI-chatbots. Google påstår, at chatbotten indeholder foranstaltninger til at blokere upassende eller farligt indhold; dog kan sådanne filtre uforvarende begrænse adgangen til legitime og alderssvarende materialer – eksempelvis kan information om pubertet blive blokeret, hvis visse keywords er begrænset.

Da mange børn er dygtige til at navigere i og omgå app-kontroller, kan forældre ikke blot stole på disse indbyggede beskyttelser. I stedet skal de aktivt gennemgå indhold, undervise deres børn om, hvordan chatbotten fungerer, og hjælpe dem med kritisk at vurdere informations nøjagtighed. Der er væsentlige risici forbundet med AI-chatbots til børn. ESafety-Kommissionen har advaret om, at AI-selskaber kan dele skadeligt materiale, forvrænge virkeligheden eller give farlig rådgivning, hvilket er særligt bekymrende for små børn, der stadig udvikler kritisk tænkning og livsfærdigheder til at identificere manipulation via computerprogrammer. Forskning i AI-chatbots som ChatGPT og Replika viser, at disse systemer efterligner menneskelige sociale adfærdsmønstre eller “følelsesregler” (som at sige “tak” eller “undskyld”) for at opbygge tillid. Denne menneskelige udgave af interaktionen kan forvirre børn og få dem til at stole på falsk indhold eller tro, de taler med en ægte person i stedet for en maskine. Tidsrammen for denne lancering er bemærkelsesværdig, da Australien planlægger at forbyde børn under 16 år at have sociale mediekonti fra december i år. Selvom dette forbud har til formål at beskytte børn, falder generative AI-værktøjer som Geminis chatbot uden for denne ramme, hvilket viser, at udfordringer med online-sikkerhed strækker sig ud over traditionelle sociale medieplatforme. Derfor skal australske forældre forblive årvågne, løbende sætte sig ind i nye digitale værktøjer og forstå begrænsningerne i sociale medieregler for at beskytte deres børn. Som reaktion på disse udviklinger vil det være klogt hurtigt at etablere en digital samvittighedspligt for større teknologivirksomheder som Google, som sikrer, at de prioriterer børns sikkerhed i design og implementering af AI-teknologier. Forældre og undervisere skal være aktive i at vejlede børn i sikker og informeret brug af AI-chatbots, hvilket bør supplere tekniske foranstaltninger med uddannelse og tilsyn for at mindske de tilknyttede risici.