Google si prepara a lanciare il suo chatbot AI Gemini per bambini sotto i 13 anni, a partire dalla prossima settimana negli Stati Uniti e in Canada, con il debutto in Australia previsto per più avanti quest’anno. L’accesso sarà limitato agli utenti con account Google Family Link, che permettono ai genitori di controllare contenuti e uso delle app, come su YouTube. I genitori creano questi account fornendo dati personali come il nome e la data di nascita del bambino, suscitando alcune preoccupazioni sulla privacy; tuttavia, Google garantisce che i dati dei bambini non saranno utilizzati per l’addestramento dell’AI. Il chatbot sarà attivo di default, e i genitori dovranno disattivarlo se vogliono limitare l’accesso. I bambini potranno chiedere all’AI risposte testuali o la generazione di immagini. Google riconosce che il chatbot può commettere errori e sottolinea l’importanza di verificare l’accuratezza e l’affidabilità dei suoi contenuti, poiché l’AI può “allucinare” o inventare informazioni. Questo è particolarmente cruciale quando i bambini usano le risposte del chatbot per i compiti, rendendo necessaria una verifica dei fatti tramite fonti affidabili. A differenza dei motori di ricerca tradizionali, che indirizzano gli utenti a materiali originali come articoli di giornale o riviste, l’AI generativa analizza schemi nei dati per creare nuovo testo o immagini sulla base degli input degli utenti. Ad esempio, se un bambino chiede al chatbot di “disegnare un gatto, ” il sistema genera un’immagine nuova combinando le caratteristiche del gatto che ha appreso. Comprendere la differenza tra contenuti generati dall’AI e risultati di ricerca recuperati sarà una sfida per i giovani utenti. Da studi emerge che anche gli adulti, tra cui professionisti come avvocati, possono essere ingannati da informazioni false prodotte dai chatbot AI. Google afferma che il chatbot include misure di sicurezza per bloccare contenuti inappropriati o pericolosi; tuttavia, tali filtri potrebbero involontariamente limitare l’accesso a materiali legittimi e adatti ai minori – ad esempio, potrebbero bloccare informazioni sulla pubertà se alcune parole chiave sono restringe.

Poiché molti bambini sono abili nel navigare e aggirare le restrizioni delle app, i genitori non possono fare affidamento solo su queste protezioni integrate. Devono invece sorvegliare attivamente i contenuti, educare i loro figli sul funzionamento del chatbot e aiutarli a valutare criticamente la precisione delle informazioni. Vi sono rischi significativi associati ai chatbot AI per i bambini. La Commissione per la sicurezza online ha avvertito che i compagni AI possono condividere materiale dannoso, distorcere la realtà o fornire consigli pericolosi, una preoccupazione speciale per i più piccoli che sono ancora in fase di sviluppo del pensiero critico e delle competenze di vita per riconoscere manipolazioni da parte di programmi informatici. Ricerca su vari chatbot come ChatGPT e Replika mostra che questi sistemi imitano comportamenti sociali umani o “regole di sentimenti” (come dire “grazie” o “scusa”) per costruire fiducia. Questo tipo di interazione umana può confondere i bambini, portandoli ad fidarsi di contenuti falsi o a credere di interagire con una persona reale invece che con una macchina. Il timing di questa introduzione è importante, poiché l’Australia prevede di vietare ai minori di 16 anni di possedere account sui social media a partire da dicembre di quest’anno. Mentre questo divieto mira a proteggere i bambini, strumenti di AI generativa come il chatbot Gemini non rientrano nel suo ambito, dimostrando che le sfide sulla sicurezza online vanno oltre le piattaforme social tradizionali. Di conseguenza, i genitori australiani devono rimanere vigili, imparare continuamente sui nuovi strumenti digitali e comprendere i limiti delle restrizioni sui social media nel proteggere i loro figli. In risposta a questi sviluppi, sarebbe opportuno istituire con urgenza un dovere di cura digitale per le grandi aziende tecnologiche come Google, garantendo che pongano la sicurezza dei bambini al centro del design e del deployment delle tecnologie AI. Genitori ed educatori devono essere proattivi nel guidare un uso sicuro e informato degli chatbot AI, integrando misure tecniche con l’educazione e la supervisione per mitigare i rischi associati.