Google akan melancarkan chatbot AI Gemini untuk kanak-kanak di bawah umur 13 tahun, bermula minggu hadapan di Amerika Syarikat dan Kanada, dengan pelancarannya di Australia dijadualkan kemudian tahun ini. Akses akan dihadkan kepada pengguna yang mempunyai akaun Google Family Link, yang membolehkan kawalan ibu bapa ke atas kandungan dan penggunaan aplikasi, seperti di YouTube. Ibu bapa akan membuat akaun ini dengan memberikan maklumat peribadi seperti nama dan tarikh lahir anak, yang menimbulkan kebimbangan privasi; bagaimanapun, Google memberi jaminan bahawa data kanak-kanak tidak akan digunakan untuk latihan AI. Chatbot ini akan diaktifkan secara lalai, dan ibu bapa perlu mematikan ciri ini jika mereka ingin mengehadkan akses. Kanak-kanak boleh meminta AI untuk memberi maklum balas teks atau menjana gambar. Google mengakui bahawa chatbot ini mungkin menghasilkan ralat dan menegaskan pentingnya menilai ketepatan dan kepercayaan kandungan kerana AI boleh "mengalamun" atau mengada-adakan maklumat. Ini terutamanya penting apabila kanak-kanak menggunakan maklum balas chatbot untuk kerja rumah, yang memerlukan pemeriksaan fakta dari sumber yang boleh dipercayai. Berbeza dengan enjin carian tradisional, yang mengarahkan pengguna kepada bahan asal seperti artikel berita atau majalah, AI generatif menganalisis corak dalam data untuk mencipta teks atau gambar baharu berdasarkan arahan pengguna. Contohnya, jika seorang kanak-kanak meminta chatbot untuk "lukis kucing, " sistem ini akan menghasilkan gambar baharu dengan menggabungkan ciri-ciri seperti kucing yang telah dipelajari. Memahami perbezaan antara kandungan yang dijana oleh AI dan hasil carian yang diambil semula akan menjadi cabaran untuk pengguna muda. Kajian menunjukkan bahawa walaupun orang dewasa, termasuk profesional seperti peguam, boleh tertipu dengan maklumat palsu yang dihasilkan oleh chatbot AI. Google mendakwa bahawa chatbot ini mengandungi langkah keselamatan untuk menyekat kandungan tidak sesuai atau berbahaya; bagaimanapun, penapis ini mungkin secara tidak sengaja menghalang akses kepada bahan yang sah dan sesuai untuk umur—contohnya, maklumat mengenai akil baligh mungkin disekat jika kata kunci tertentu dihadkan.

Kerana ramai kanak-kanak mahir menggunakan dan mengelak kawalan aplikasi, ibu bapa tidak boleh bergantung sepenuhnya kepada perlindungan terbina ini. Sebaliknya, mereka perlu aktif menyemak kandungan, mendidik anak-anak tentang cara chatbot berfungsi, dan membantu mereka menilai ketepatan maklumat secara kritis. Terdapat risiko besar yang dikaitkan dengan chatbot AI untuk kanak-kanak. Suruhanjaya Keselamatan Digital (eSafety Commission) telah memberi amaran bahawa rakan AI boleh berkongsi bahan berbahaya, memutarbelitkan kenyataan, atau memberi nasihat yang berbahaya, yang amat membimbangkan bagi kanak-kanak kecil yang masih membina daya pemikiran kritis dan kemahiran hidup untuk mengenal pasti manipulasi oleh program komputer. Kajian ke atas pelbagai chatbot AI seperti ChatGPT dan Replika menunjukkan sistem ini meniru tingkah laku sosial manusia atau "atur cara berasa" (seperti mengatakan "terima kasih" atau "maaf") untuk membina kepercayaan. Interaksi yang mirip manusia ini mungkin mengelirukan kanak-kanak, menyebabkan mereka mempercayai maklumat palsu atau percaya bahawa mereka sedang berinteraksi dengan orang sebenar, bukannya mesin. Pengumuman pelancaran ini penting kerana Australia merancang untuk melarang kanak-kanak di bawah 16 tahun daripada mempunyai akaun media sosial mulai Disember tahun ini. Walaupun larangan ini bertujuan melindungi kanak-kanak, alat AI generatif seperti chatbot Gemini diluar skopnya, menunjukkan bahawa cabaran keselamatan dalam talian melangkaui platform media sosial tradisional. Oleh itu, ibu bapa Australia harus terus berwaspada, belajar tentang alat digital yang baru muncul, dan memahami had-had sekatan media sosial dalam melindungi anak-anak mereka. Sebagai respons kepada perkembangan ini, adalah wajar untuk segera mewujudkan satu tanggungjawab waris digital bagi syarikat teknologi besar seperti Google, memastikan mereka memberi keutamaan kepada keselamatan kanak-kanak dalam reka bentuk dan pelaksanaan teknologi AI. Ibu bapa dan pendidik perlu proaktif membimbing penggunaan AI chatbot yang selamat dan berinformasi oleh kanak-kanak, mengiringi langkah-langkah teknikal dengan pendidikan dan pengawasan untuk mengurangkan risiko yang berkaitan.