Nakaplano ng Google na ilunsad ang kanilang Gemini AI chatbot para sa mga batang under 13 taong gulang sa simula ng susunod na linggo sa US at Canada, habang ang paglulunsad nito sa Australia ay nakatakda sa huling bahagi ng taon. Ang access ay mamimili lamang sa mga gumagamit na may Google Family Link accounts, na nagbibigay-daan sa parental control sa nilalaman at paggamit ng app, tulad sa YouTube. Nilikha ng mga magulang ang mga account na ito sa pamamagitan ng pagbibigay ng personal na detalye tulad ng pangalan at petsa ng kapanganakan ng bata, na nagbubunsod ng ilang mga isyu sa privacy; subalit, tiniyak ng Google na hindi gagamitin ang datos ng mga bata para sa AI training. Ang chatbot ay awtomatikong naka-enable, at kailangang i-disable ito ng mga magulang kung nais nilang limitahan ang access. Maaaring humiling ang mga bata sa AI ng mga text na sagot o larawan. Kinukumpirma ng Google na maaaring magkamali ang chatbot at binibigyang-diin ang kahalagahan ng pagsusuri sa katumpakan at pagiging mapagkakatiwalaan ng nilalaman nito dahil maaari itong “mananaginip” o gumawa ng pekeng impormasyon. Napakahalaga nito lalo na kapag ginagamit ng mga bata ang mga sagot mula sa chatbot para sa kanilang takdang aralin, kaya’t kailangan ang fact-checking gamit ang mga mapagkakatiwalaang sources. Hindi katulad ng tradisyunal na search engines, na nagdadala sa mga user sa orihinal na mga materyales tulad ng mga balita o magasin, ang generative AI ay nagsusuri ng mga pattern sa datos upang lumikha ng bagong teksto o larawan batay sa mga hinihinging prompt ng user. Halimbawa, kung hihilingin ng isang bata na “gumuhit ng pusa, ” ang sistema ay gagawa ng bagong larawan sa pamamagitan ng pagsasama-sama ng mga katangiang natutunan mula sa pusa. Ang pagkakaiba ng nilalaman na gawa ng AI at ang nakuhang resulta mula sa paghahanap ay magiging isang hamon sa mga batang gumagamit. May mga pag-aaral na nagsasabi na kahit ang mga adulto, kabilang na ang mga propesyonal tulad ng mga abogado, ay posibleng mailigaw ng mga pekeng impormasyon na gawa ng AI chatbots. Ipinaliwanag ng Google na may mga panukala ang chatbot upang mapigilan ang hindi angkop o delikadong nilalaman; subalit, ang ganitong mga filter ay posibleng makapigil sa tunay na angkop na impormasyon para sa edad, tulad ng tungkol sa pagtubo, kung may mga partikular na salita na pinagbawal.

Dahil maraming mga bata ang bihasa sa pag-navigate at paglabag sa mga kontrol ng app, hindi maaaring umasa lamang ang mga magulang sa mga proteksyon na ito. Kailangan nilang aktibong suriin ang nilalaman, turuan ang kanilang mga anak kung paano gumamit ng chatbot nang maingat, at tulungang kritikal nilang suriin ang katumpakan ng impormasyon. May mga malaking panganib na kaakibat ang AI chatbots para sa mga bata. Ini-warning ng eSafety Commission na maaaring magbahagi ang mga AI companion ng mapanganib na impormasyon, magpabago sa katotohanan, o magbigay ng delikadong payo, na lalong nakababahala para sa mga batang nasa proseso pa ng paglinang ng kanilang kritikal na pagiisip at mga kasanayan sa buhay upang makilala ang manipulation ng mga computer program. Ipinapakita ng mga pag-aaral sa mga AI chatbot tulad ng ChatGPT at Replika na ginagaya nila ang mga social behaviors ng tao o “feeling rules” (tulad ng pagsasabi ng “salamat” o “paumanhin”) upang makabuo ng pagtitiwala. Ang ganitong interaction na parang tao ay maaaring magdulot ng kalituhan sa mga bata, na maaaring magtiwala sila sa pekeng nilalaman o maniwalang nakikipag-usap sila sa tunay na tao sa halip na makina. Ang pagsisimula ng rollout na ito ay kapansin-pansin dahil plano ng Australia na ipagbawal ang mga batang under 16 na magkaroon ng social media accounts simula Disyembre ngayong taon. Bagamat layunin nitong maprotektahan ang mga bata, ang mga generative AI tools tulad ng Gemini chatbot ay hindi sakop ng batas, na naglalarawan na ang mga hamon sa online safety ay lagpas pa sa tradisyong social media platforms. Dahil dito, kailangang maging mapagbantay ang mga magulang sa Australia, patuloy na mag-aral tungkol sa mga bagong digital na kasangkapan, at maunawaan ang hangganan ng mga social media restrictions sa pagpapanatili ng kaligtasan ng kanilang mga anak. Bilang pagtugon sa mga pangyayaring ito, mahalagang agad na magtatag ng isang digital duty of care para sa mga malalaking kumpanya sa teknolohiya tulad ng Google, upang masiguro na inuuna nila ang kaligtasan ng mga bata sa disenyo at pagpapatupad ng AI technologies. Dapat maging maagap ang mga magulang at guro sa paggabay sa ligtas at responsable na paggamit ng mga AI chatbot, pinapalitan ang mga teknikal na depensa ng edukasyon at pagmamatyag upang mapanatili ang kaligtasan ng mga kabataan at mabawasan ang mga panganib na kaakibat nito.