Google urmează să lanseze chatbotul AI Gemini pentru copii sub 13 ani, începând de săptămâna viitoare în SUA și Canada, iar lansarea în Australia este programată pentru sfârșitul anului. Accesul va fi restricționat celor cu conturi Google Family Link, care permit control parental asupra conținutului și utilizării aplicațiilor, cum ar fi pe YouTube. Părinții creează aceste conturi furnizând date personale precum numele și data nașterii ale copilului, ceea ce ridică anumite probleme de confidențialitate; totuși, Google asigură că datele copiilor nu vor fi utilizate pentru instruirea AI-ului. Chatbotul va fi activ implicit, părinții având posibilitatea să îl dezactiveze dacă doresc să limiteze accesul. Copiii pot solicita AI-ului răspunsuri în text sau generare de imagini. Google recunoaște că chatbotul poate produce erori și subliniază importanța evaluării acurateței și credibilității conținutului său, deoarece AI-ul poate “halucina” sau inventa informații. Acest lucru este deosebit de critic atunci când copiii utilizează răspunsurile chatbotului pentru teme, fiind necesară verificarea faptelor cu surse de încredere. Spre deosebire de motoarele de căutare tradiționale, care redirecționează utilizatorii către materiale originale precum articole de știri sau reviste, AI-ul generativ analizează modele din date pentru a crea texte sau imagini noi, bazate pe sugestiile utilizatorilor. De exemplu, dacă un copil îi cere chatbotului să “deseneze o pisică”, sistemul va genera o imagine nouă, combinând trăsături asemănătoare cu cele ale unei pisici pe care le-a învățat. Înțelegerea diferenței dintre conținutul generat de AI și rezultatele din căutările obișnuite va fi dificilă pentru tineri utilizatori. Cercetările arată că chiar și adulții, inclusiv profesioniști precum avocații, pot fi induși în eroare de informații false produse de chatboți AI. Google afirmă că chatbotul include măsuri de protecție pentru a bloca conținutul inadecvat sau periculos; totuși, aceste filtre pot restricționa accidental accesul la materiale legitime și adecvate pentru vârsta, cum ar fi informații despre pubertate, dacă anumite cuvinte cheie sunt restricționate.

Deoarece mulți copii sunt pricepuți în navigarea și ocolirea controlului aplicațiilor, părinții nu pot avea încredere exclusiv în aceste protecții încorporate. Ei trebuie să revizuiască activ conținutul, să educe copiii despre modul de funcționare al chatbotului și să îi ajute să evalueze critic acuratețea informațiilor. Există riscuri semnificative legate de chatboții AI pentru copii. Comisia pentru siguranța online (eSafety) a avertizat că partenerii AI pot distribui materiale dăunătoare, pot distorsiona realitatea sau pot oferi sfaturi periculoase, fapt deosebit de îngrijorător pentru copiii mici, aflați încă în procesul de dezvoltare a gândirii critice și a abilităților de a identifica manipularea digitală. Cercetările asupra diferiților chatboți AI, precum ChatGPT și Replika, arată că aceste sisteme imită comportamente sociale umane sau “reguli ale sentimentelor” (ca spunerea “mulțumesc” sau “scuze”) pentru a câștiga încrederea. Această interacțiune uman-like poate confunda copiii, determinându-i să aibă încredere în conținut fals sau să creadă că interacționează cu o persoană reală, nu cu o mașină. Momentul acestei lansări este notabil, deoarece Australia intenționează să interzică copiilor sub 16 ani deținerea de conturi pe platforme de socializare începând cu decembrie acest an. Deși această interdicție are ca scop protejarea copiilor, instrumentele AI generative precum chatbotul Gemini sunt în afara domeniului său, ilustrând faptul că provocările legate de siguranța online depășesc platformele tradiționale de social media. Prin urmare, părinții australieni trebuie să fie vigilenți, să se informeze continuu despre noile instrumente digitale și să înțeleagă limitele restricțiilor de social media în protejarea copiilor lor. Ca răspuns la aceste evoluții, ar fi prudent să se instituie urgent o responsabilitate digitală pentru marile companii tech precum Google, asigurându-se că prioritatea lor este siguranța copilului în proiectarea și implementarea tehnologiilor AI. Părinții și educatorii trebuie să fie proactivi, ghidând utilizarea sigură și informată a chatboților AI de către copii, completând măsurile tehnice cu educație și supraveghere pentru a reduce riscurile asociate.