Google келесі аптадан бастап АҚШ пен Канаданың оқушылары үшін жасөспірімдерге арналған Gemini AI чатботын іске қосуға дайындалып жатыр, ал Австралияның шығарылымы жыл соңына дейін жоспарланған. Қол жеткізу тек Google Family Link аккаунттары бар пайдаланушыларға шектеулі болады, ол ата-аналық бақылау жүргізуге мүмкіндік береді, мысалы, YouTube сияқты қолданбалар мен мазмұнды басқару үшін. Ата-аналар бұл аккаунттарды баланың аты мен туған күнін көрсетіп құрады, бұл жеке құпиялылық мәселелерін туындатады; дегенмен, Google балалардың деректерін жасанды интеллекттің оқытуына пайдаланбайтындығына уәде береді. Чатбот әдепкі бойынша іске қосылған, ал ата-аналар қажет болған жағдайда оны өшіре алады. Балалар AI-ден мәтіндік жауаптар немесе сурет generation сұрай алады. Google жасанды интеллекттің қателіктер жіберуі мүмкіндігін мойындайды және оның мазмұнының дәлдігі мен сенімділігін бағалау маңызды екенін айтады, өйткені AI «галлюцинация» немесе жалған ақпарат жасауға қабілетті. Бұл әсіресе балалар үй жұмысында чатботтың жауаптарын пайдалана отырып, фактілерді тексеру қажеттілігімен байланысты өте маңызды. Дәстүрлі іздеу жүйелерінен айырмашылығы, олар пайдаланушыны жаңалықтар мақалалары немесе журналдарға бағыттаса, генеративті AI деректердегі үлгілерді талдап, қолданушының сұранысына сәйкес жаңа мәтін немесе сурет жасайды. Мысалы, егер бала чатботтан «мысық суретін салшы» деп сұраса, жүйе үйренген мысыққа тән ерекшеліктерді біріктіріп жаңа сурет жасайды. AI-генерацияланған мазмұн мен нақты іздеу нәтижелерінің айырмашылығын түсіну жас балалар үшін қиын болуы мүмкін. Зерттеулер көрсеткендей, тіпті ересектер, соның ішінде заңгерлер сияқты мамандар да AI-чатботтар жасаған жалған ақпаратқа алдануы ықтимал. Google қауіпсіздік шаралары ретінде этикалық немесе қауіпті контентті блоктайтын сүзгілерді қосқанын мәлімдеді, бірақ мұндай сүзгілер кейде заңды әрі жасөспірімдерге лайық ақпаратты, мысалы, жыныстық жетілу туралы мәліметтерді де бұғаттап қоюы мүмкін.

Көптеген балалар қолданбалардағы бақылауды айналып өтіп, оларды меңгеруді білетіндіктен, ата-аналар тек бұл қорғаныс шараларына сенбеуі керек. Олар мазмұнды белсенді түрде қарап, балаларына чатбот қалай жұмыс істейтінін түсіндіріп, ақпараттың дәлдігін сыни тұрғыдан бағалауға үйретулері қажет. Балалар үшін AI чатботтарының қауіптері маңызды. eSafety комиссиясы жасөспірімдердің зиянды материалдармен бөлісуі, шындықты бұрмалау және қауіпті кеңестер беру қаупін ескертті, әсіресе жас балалар үшін маңызды, өйткені олар манипуляцияны анықтау үшін критикалық ойлау және өмірлік дағдыларды қалыптастыруда қиындықтарға тап болады. ChatGPT және Replika сияқты түрлі AI-чатботтарға жүргізілген зерттеулер бұл жүйелердің адамның әлеуметтік мінез-құлқын қайталауға немесе « сезу ережелерін » (мысалы, «рақмет» немесе «кешіріңіз» деп айту) еліктеуге бейім екенін көрсетеді. Мұндай адамға ұқсас әрекеттер балаларды шатастырып, жалған ақпаратты сенуге немесе олар шалынғанына сенімді болуына әкелуі мүмкін. Бұл бастама жылдың желтоқсанында Австралия 16 жасқа толмаған балаларға әлеуметтік медиа аккаунттарын ұстауға тыйым салатын жоспарларымен сәйкес келеді. Бұл тыйым балаларды қорғау мақсатында болса да, Gemini сияқты генеративті жасанды интеллект құралдары бұл шектеулердің тысында қалып отыр, яғни онлайн қауіпсіздік мәселелері дәстүрлі әлеуметтік медиа платформаларынан аспайды. Сондықтан австралиялық ата-аналар үнемі жаңарып отырған сандық құралдар туралы білімдерін жетілдіріп, балаларының қауіпсіздігін қамтамасыз ету үшін әлеуметтік медиа шектеулерінің шекараларын түсінуі керек. Бұл жағдайға жауап ретінде, Google сияқты ірі технологиялық компанияларға баланың қауіпсіздігін ескеретін сандық қамқорлық міндетін жедел түрде енгізу маңызды. Ата-аналар мен мұғалімдер AI чатботтарын қолдануда қауіпсіздік пен ақпараттылыққа ерекше көңіл бөлу арқылы, техникалық қорғау шараларын толықтырып, оқыту мен бақылауды күшейтуі қажет, бұл барлық қауіптерді азайтуға көмектеседі.