Google planerar att lansera sin Gemini-AI-chattbot för barn under 13 år, med start nästa vecka i USA och Kanada, medan lanseringen i Australien är planerad till senare i år. Tillgången kommer att vara begränsad till användare med Google Family Link-konton, som ger föräldrakontroll över innehåll och appanvändning, till exempel på YouTube. Föräldrar skapar dessa konton genom att ange personuppgifter som barnets namn och födelsedatum, vilket väcker vissa integritetsproblem; dock försäkrar Google att barns data inte kommer att användas för AI-träning. Chatboten kommer att vara aktiverad som standard, och föräldrar måste inaktivera den om de vill begränsa åtkomsten. Barn kan be AI:n att ge textbaserade svar eller generera bilder. Google erkänner att chatboten kan göra fel och understryker vikten av att bedöma noggrannheten och tillförlitligheten i innehållet, eftersom AI kan ”hallucinera” eller fabricera information. Detta är särskilt viktigt när barn använder chatbotens svar för skoluppgifter, vilket kräver faktakontroll med pålitliga källor. Till skillnad från traditionella sökmotorer, som leder användare till originalmaterial som nyhetsartiklar eller tidskrifter, analyserar generativ AI mönster i data för att skapa nytt textinnehåll eller bilder baserade på användarens prompts. Till exempel, om ett barn ber chatboten att ”rita en katt”, genererar systemet en ny bild genom att kombinera kattliknande drag den lärt sig. Att förstå skillnaden mellan AI-genererat innehåll och hämtade sökresultat kommer att vara utmanande för unga användare. Forskning visar att även vuxna, inklusive yrkesverksamma som jurister, kan bli lurade av falsk information som produceras av AI-chatbots. Google hävdar att chatboten innehåller skyddsåtgärder för att blockera olämpligt eller osäkert innehåll; dock kan sådana filter oavsiktligt begränsa tillgången till legitimt, åldersanpassat material – till exempel kan information om puberteten blockeras om vissa nyckelord är begränsade.

Eftersom många barn är skickliga på att navigera och kringgå appkontroller kan föräldrar inte enbart förlita sig på dessa inbyggda skydd. Istället måste de aktivt granska innehåll, utbilda sina barn om hur chatboten fungerar och hjälpa dem att kritiskt bedöma innehållets noggrannhet. Det finns betydande risker med AI-chatbots för barn. E-säkerhetskommissionen har varnat för att AI-kompanjoner kan dela skadligt material, förvränga verkligheten eller ge farlig rådgivning, vilket är särskilt oroande för yngre barn som fortfarande utvecklar kritiskt tänkande och livskompetenser för att kunna identifiera manipulation av datorprogram. Forskning om olika AI-chatbots som ChatGPT och Replika visar att dessa system imiterar mänskligt socialt beteende eller ”känslo- regler” (som att säga ”tack” eller ”förlåt”) för att skapa förtroende. Denna mänskliga liknande interaktion kan förvirra barn och få dem att lita på falsk information eller tro att de kommunicerar med en riktig person istället för en maskin. Tidsmässigt är detta utövande anmärkningsvärt eftersom Australien planerar att från och med december i år förbjuda barn under 16 år att ha konton på sociala medier. Även om detta förbud syftar till att skydda barn, faller generativa AI-verktyg som Gemini-chatboten utanför dess räckvidd, vilket visar att onlinesäkerhetsutmaningar sträcker sig bortom traditionella sociala medieplattformar. Därför måste australiensiska föräldrar vara vaksamma, kontinuerligt lära sig om nya digitala verktyg och förstå gränserna för sociala mediers regler för att skydda sina barn. Som svar på dessa utvecklingar vore det klokt att omedelbart skapa ett digitalt omsorgsansvar för stora teknikföretag som Google, så att de prioriterar barns säkerhet i utformning och användning av AI-teknologier. Föräldrar och pedagoger måste vara proaktiva i att vägleda barns säkra och välinformerade användning av AI-chatbots, och komplettera tekniska skydd med utbildning och tillsyn för att minska de associerade riskerna.