Google yamepanga kuzindua roboti yake ya AI Gemini kwa watoto walio chini ya umri wa miaka 13 inaanza wiki ijayo nchini Marekani na Kanada, huku uzinduzi wa Australia ukipangwa kufanyika mwishoni mwa mwaka huu. Upatikanaji utakuwa na kikomo kwa watumiaji waliokuwa na akaunti za Google Family Link, ambazo zinawapa wazazi udhibiti wa maudhui na matumizi ya programu, kama vile kwenye YouTube. Wazazi hutoa taarifa za binafsi kama jina na tarehe ya kuzaliwa ya mtoto ili kuunda akaunti hizi, jambo ambalo linaibua masuala ya faragha; hata hivyo, Google inaahidi kuwa data za watoto hazitatumika kwa mafunzo ya AI. Roboti hii itakuwa inapata seti yake kwa chaguo-msingi, na wazazi wanapaswa kuizima ikiwa wanataka kuzuia matumizi yake. Watoto wanaweza kuwasiliana na AI kwa kuomba majibu ya maandishi au uundaji wa picha. Google inakubali kuwa roboti inaweza kutoa makosa na inasisitiza umuhimu wa kutathmini usahihi na uaminifu wa maudhui yake kwa sababu AI inaweza “kuchonga” au kuumba taarifa za uongo. Hili ni jambo muhimu hasa wakati watoto wanapotumia majibu ya roboti kwa kazi za nyumbani, hivyo inahitaji uangalizi wa usahihi wa taarifa hizo kwa kutumia vyanzo vya kuaminika. Tofauti na injini za utafutaji wa jadi, ambazo zinawaelekeza watumiaji kwenye nyenzo za awali kama makala za habari au magazeti, AI inayozalisha inachambua mifumo kwenye data kuunda maandishi au picha mpya kulingana na maombi ya mtumiaji. Kwa mfano, mtoto akiuliza roboti “chora paka, ” mfumo huunda picha mpya kwa kuunganisha sifa za paka ambazo amejifunza. Kuelewa tofauti kati ya maudhui yanayotengenezwa na AI na matokeo ya utafutaji wa kawaida itakuwa changamoto kwa watumiaji vijana. Utafiti unaonesha kuwa hata watu wazima, wakiwemo wataalamu kama mawakili, wanaweza kupotoshwa na taarifa potofu zinazotolewa na chatbots za AI. Google inadai kuwa roboti huu una viwango vya kulinda ili kuzuia maudhui yasiyoafikika au hatarishi; hata hivyo, vichujio hivyo vinaweza kwa bahati mbaya kuzuia upatikanaji wa maudhui halali, yanayofaa kwa umri wa mtoto—kwa mfano, taarifa kuhusu mapenzi ya wakati wa kubaleghe zinaweza kuzuiwa ikiwa maneno fulani hayataruhusiwa.

Kwa sababu watoto wengi wana ustadi wa kusukuma na kupita mipaka ya udhibiti wa programu, wazazi hawaziwezi kuitegemea vichujio hivi pekee. Badala yake, wanapaswa kufanya ukaguzi wa maudhui, kuwafundisha watoto kuhusu jinsi roboti inavyofanya kazi, na kuwasaidia kuchambua kwa makini usahihi wa taarifa. Kuna hatari kubwa zinazohusiana na chatbots za AI kwa watoto. Tume ya Usalama wa Mtandaoni imetoa onyo kuwa marafiki wa AI wanaweza kushiriki maudhui yenye madhara, kupotosha uhalisia, au kutoa ushauri hatari, jambo ambalo ni haijari kwa watoto wadogo wanaoendelea kukuza ujuzi wa kina wa kufikiri na maisha ili kutambua udanganyifu unaowekwa na programu za kompyuta. Utafiti kuhusu AI chatbots kama ChatGPT na Replika unaonyesha kuwa mifumo hii huiga tabia za kijamii za binadamu au “kanuni za hisia” (kama kusema “asante” au “pole”) ili kujenga imani. Msaada huu wa kuiga binadamu unaweza kuchanganya watoto, kuwafanya waamini kuwa hawakati taarifa za uongo au kuamini kuwa wanamanuliwa na mtu halisi badala ya mashine. Muda wa kuzindua kwa haraka huu ni muhimu kwani Australia inapanga kuzuia watoto walio chini ya miaka 16 wasitumie akaunti za mitandao ya kijamii kuanzia Desemba mwaka huu. Ingawa mfano huu wa kuzuia ni wa kuwakinga watoto, zana za AI zinazozalisha kama Gemini zinaweza kutoka nje ya mfumo huu, kuonyesha kuwa changamoto za usalama mtandaoni hazihusiani tu na majukwaa ya kawaida ya mitandao ya kijamii. Kwa hivyo, wazazi wa Australia wanapaswa kuwa makini, kujifunza kuhusu zana mpya za kidigitali, na kuelewa mipaka ya vizuizi vya mitandao ili kulinda watoto wao. Kukabiliana na maendeleo haya, ni busara kuanzisha kwa dharura jukumu la huduma za kidigitali kwa makampuni makubwa ya teknolojia kama Google, kuhakikisha wanaipa kipaumbele usalama wa watoto katika muundo na matumizi ya teknolojia za AI. Wazazi na walimu wanapaswa kuchukua hatua kwa kuwaongoza watoto kwa njia salama na wenye elimu kuhusu matumizi ya AI chatbots, sambamba na mbinu za kiufundi pamoja na elimu na usimamizi ili kupunguza hatari zinazohusiana.