Google është gati të lançojë chatbot-in e saj të AI Gemini për fëmijët nën moshën 13 vjeç, duke filluar javën tjetër në SHBA dhe Kanada, me lançimin në Australi të planifikuar për të ardhmen brenda këtij viti. Qasja do të jetë e kufizuar për ata përdorues me llogari Google Family Link, të cilat lejojnë kontroll prindëror mbi përmbajtjen dhe përdorimin e aplikacioneve, si në YouTube. Prindërit krijojnë këto llogari duke siguruar detaje personale si emri i fëmijës dhe data e lindjes, çka ngre disa çështje privacy; megjithatë, Google siguron se të dhënat e fëmijëve nuk do të përdoren për trajnimin e AI-së. Chatbot-i do të jetë i aktivizuar në mënyrë parazgjedhje, duke kërkuar prindërit të fikë atë nëse dëshirojnë të kufizojnë qasjen. Fëmijët mund të kërkojnë nga AI të përgjigjet me tekste ose të gjenerojë imazhe. Google pranon që chatbot-i mund të prodhojë gabime dhe thekson rëndësinë e vlerësimit të saktësisë dhe besueshmërisë së përmbajtjes së tij pasi AI mund të “hallucinojë” ose të fabrikojë informacione. Kjo është veçanërisht kritike kur fëmijët përdorin përgjigjet e chatbot-it për mësime, duke kërkuar kontroll faktesh me burime të besueshme. Ndërsa motorët tradicionalë të kërkimit drejtojnë përdoruesit tek materiale origjinale si artikuj lajmesh ose revista, AI gjenerative analizojnë modelet në të dhëna për të krijuar tekste ose imazhe të reja bazuar në kërkesat e përdoruesit. Për shembull, nëse një fëmijë kërkon nga chatbot-i të “vizatojë një mace, ” sistemi gjeneron një imazh të ri duke bashkëjetuar veçoritë e macës që ka mësuar. Kuptimi i ndryshimit ndërmjet përmbajtjes së gjeneruar nga AI dhe rezultateve të kërkimit të rikuperuara do të jetë sfidë për përdoruesit e vegjël. Hulumtimet tregojnë se edhe të rritur, duke përfshirë profesionistë si avokatët, mund të mashtrohen nga informacione false të prodhuara nga chatbot-ët AI. Google pretendon se chatbot-i përfshin masa mbrojtëse për të bllokuar përmbajtje të papërshtatshme ose të pasigurt; megjithatë, këto filtra mund të kufizojnë gjithashtu në mënyrë të padrejtë qasjen në materiale legjitime dhe të përshtatshme për moshën—për shembull, informacioni për pubertetin mund të bllokohet nëse disa fjalë kyçe janë të ndaluara.

Dhe shumë fëmijë janë të aftë të navigojnë dhe të kalojnë kufijtë e kontrollit të aplikacioneve, ndaj prindërit nuk mund të mbështeten vetëm tek këto masa të integruara. Duhet të rishikojnë përmbajtjen në mënyrë aktive, të edukojnë fëmijët rreth mënyrës së funksionimit të chatbot-it dhe t’i ndihmojnë ata të vlerësojnë kritikisht saktësinë e informacionit. Ka rreziqe të konsiderueshme lidhur me chatbot-ët me AI për fëmijët. Komisioni i Sigurisë Kibernetike ka paralajmëruar se shokët inteligjentë me AI mund të ndajnë material të dëmshëm, të deformojnë realitetin ose të ofrojnë këshilla të rrezikshme, gjë që është veçanërisht shqetësuese për fëmijët e vegjël që po zhvillojnë mendimin kritik dhe aftësitë e jetës për të identifikuar manipulimet nga programet kompjuterike. Hulumtimet mbi chatbot-ët si ChatGPT dhe Replika tregojnë se këto sisteme imitimit të sjelljes sociale njerëzore ose “rregullat e ndjenjave” (si të thuash “faleminderit” ose “më fal”) për të ndërtuar besnikëri. Këto ndërveprime të ngjashme me njerëzit mund t’i mashtrojnë fëmijët, duke i bërë ata të besojnë tek përmbajtja e gabuar ose të mendojnë se po ndërveprojnë me një person të vërtetë, jo me një makinë. Koha e lançimit është e rëndësishme pasi Australia planifikon të ndalojë fëmijët nën 16 vjeç të kalohet në rrjete sociale duke filluar nga dhjetori i këtij viti. Ndërsa ky ndalim ka për qëllim të mbrojë fëmijët, mjetet e krijimit të AI si chatbot-i Gemini nuk përfshihen në këtë ligj, duke treguar se sfidat e sigurisë në internet nuk kufizohen vetëm në platformat tradicionale sociale. Prandaj, prindërit australianë duhet të mbeten vigjilentë, vazhdimisht të mësojnë për mjetet digjitale që po shfaqen dhe të kuptojnë kufijtë e ndalimeve në rrjet për të mbrojtur fëmijët e tyre. Si përgjigje ndaj zhvillimeve të tilla, do të ishte e mençur të krijohet menjëherë një detyrim digital i kujdesit për kompanitë e mëdha teknologjike si Google, duke siguruar që ata të japin prioritet për sigurinë e fëmijëve gjatë dizenjimit dhe përdorimit të teknologjive të AI-së. Prindërit dhe mësuesit duhet të jenë aktivë në udhëzimin e përdorimit të sigurt dhe të informuar të chatbot-ëve me AI, duke kombinuar masat teknike me edukimin dhe mbikëqyrjen për të zvogëluar rreziqet që lidhen me to.