Google aikoo lanseerata Gemini AI -keskustelijansa alle 13-vuotiaille lapsille ensi viikosta lähtien Yhdysvalloissa ja Kanadassa, ja Australian julkaisu ajoittuu myöhempään tämän vuoden. Käyttö on rajoitettu Google Family Link -tunnuksilla varustettuihin käyttäjiin, jotka mahdollistavat vanhempien valvonnan sisällöistä ja sovellusten käytöstä, kuten YouTubessa. Vanhemmat luovat nämä tilit antamalla henkilökohtaisia tietoja, kuten lapsen nimen ja syntymäajan, mikä herättää yksityisyyteen liittyviä huolia; Google kuitenkin varmistaa, että lasten tietoja ei käytetä tekoälyn kouluttamiseen. Keskustelija on oletuksena käyttövalmis, jolloin vanhemmat voivat halutessaan ottaa sen pois päältä rajoittaakseen pääsyä. Lapset voivat pyytää tekoälyä vastaamaan tekstimuodossa tai luomaan kuvia. Google myöntää, että keskustelija voi tehdä virheitä ja korostaa sisällön oikeellisuuden ja luotettavuuden arvioimisen tärkeyttä, sillä tekoäly voi “hallusinoida” tai keksiä tietoa. Tämä on erityisen tärkeää silloin, kun lapset käyttävät keskustelijan vastauksia kotitehtäviensä tekoon, jolloin faktantarkistus luotettavista lähteistä on välttämätöntä. Perinteisten hakukoneiden, jotka ohjaavat käyttäjät alkuperäisiin materiaaleihin, kuten uutisartikkeleihin tai lehtiin, sijaan generatiivinen tekoäly analysoi datassa havaittuja kaavoja luodakseen uutta tekstiä tai kuvia käyttäjän pyynnöstä. Esimerkiksi, jos lapsi pyytää “piirrä kissa”, järjestelmä luo uuden kuvan yhdistämällä oppimiaan kissan kaltaisia piirteitä. Tämän eron ymmärtäminen tekoälyn luomien sisältöjen ja haun tulosten välillä on haastavaa nuorille käyttäjille. Tutkimukset osoittavat, että jopa aikuiset, kuten asianajajat, voivat erehtyä tekoälyn tuottamasta väärästä tiedosta. Google väittää, että keskustelijassa on turvallisuusmekanismeja estämään sopimattoman tai vaarallisen sisällön näkymistä; kuitenkin tällaiset suodattimet voivat vahingossa rajoittaa myös laillista, ikään liittyvää materiaalia—esimerkiksi puberteettiin liittyvä tieto saattaa estyä, jos tietyt avainsanat on rajattu.

Koska monet lapset ovat taitavia ohittamaan ja ohjaamaan sovellusten suojaustoimia, vanhempien ei voi täysin luottaa näihin sisäänrakennettuihin suojausmekanismeihin. Sen sijaan heidän tulisi aktiivisesti tarkistaa sisältöjä, opettaa lapsia keskustelijan toiminnasta ja auttaa heitä kriittisesti arvioimaan tiedon paikkansapitävyyttä. AI-keskustelijoihin liittyy merkittäviä riskejä lapsille. eSafety-komissio on varoittanut, että tekoälykumppanit voivat jakaa vahingollista materiaalia, vääristää todellisuutta tai antaa vaarallisia neuvoja, mikä on erityisen huolestuttavaa nuorille lapsille, jotka ovat vasta kehittymässä kriittisen ajattelun ja elämänhallintataitojen osalta manipuloinnin tunnistamiseksi. Tutkimukset eri tekoälypohjaisista keskustelijoista, kuten ChatGPT ja Replika, osoittavat, että nämä järjestelmät jäljittelevät inhimillisiä sosiaalisia käyttäytymisiä tai “tunteiden sääntöjä” (esimerkiksi kiitoksen tai pahoittelun ilmaisua) rakentaakseen luottamusta. Tämä ihmisenkaltaisuus saattaa hämmentää lapsia ja johtaa siihen, että he luottavat vääriin tietoihin tai uskovat, että ovat vuorovaikutuksessa oikean ihmisen kanssa eikä koneen kanssa. Julkaisun ajankohta on merkittävä, sillä Australia aikoo kieltää alle 16-vuotiaiden lasten sosiaalisen median tilit vuoden lopussa, joulukuussa. Vaikka tämä kielto pyrkii suojaamaan lapsia, generatiiviset tekoälytyökalut kuten Gemini eivät kuulu sen piiriin, mikä osoittaa, että verkkoturvallisuuden haasteet ulottuvat perinteisten some-palveluiden ulkopuolelle. Tämän vuoksi australian vanhemmat joutuvat pysymään valveutuneina, pysymään ajan tasalla uusista digitaalisista työkaluista ja ymmärtämään, että sosiaalisen median rajoitukset eivät yksin riitä suojelemaan lapsia. Näiden kehityssuuntien valossa olisi tärkeää nopeasti luoda suurille teknologiayrityksille, kuten Googlelle, digitaalinen vastuullisuusvelvoite, joka varmistaisi lasten turvallisuuden tekoälyteknologioiden suunnittelussa ja käytössä. Vanhempien ja opettajien tulisi olla aktiivisesti mukana ohjaamassa lasten turvallista ja tietoista tekoälykeskustelijoiden käyttöä, yhdistäen tekniset suojakeinot opetukseen ja valvontaan näihin riskeihin varautumiseksi.