Google akan meluncurkan chatbot AI Gemini untuk anak di bawah 13 tahun mulai pekan depan di AS dan Kanada, dengan rilis di Australia dijadwalkan pada akhir tahun ini. Akses akan dibatasi hanya untuk pengguna yang memiliki akun Google Family Link, yang memungkinkan kontrol orangtua atas konten dan penggunaan aplikasi, seperti di YouTube. Orangtua membuat akun ini dengan memberikan data pribadi seperti nama dan tanggal lahir anak, yang menimbulkan kekhawatiran privasi; namun, Google memastikan bahwa data anak-anak tidak akan digunakan untuk pelatihan AI. Chatbot ini akan diaktifkan secara default, dan orangtua dapat mematikan fitur ini jika ingin membatasi akses. Anak-anak dapat meminta AI untuk memberi respons berupa teks atau gambar. Google mengakui bahwa chatbot mungkin menghasilkan kesalahan dan menekankan pentingnya memeriksa keakuratan dan kepercayaan kontennya karena AI dapat “berhalusinasi” atau memalsukan informasi. Hal ini sangat penting ketika anak-anak menggunakan respons chatbot untuk pekerjaan rumah, sehingga perlu dilakukan pengecekan fakta dari sumber yang terpercaya. Berbeda dengan mesin pencari tradisional yang mengarahkan pengguna ke materi asli seperti artikel berita atau majalah, AI generatif menganalisis pola data untuk menciptakan teks atau gambar baru berdasarkan perintah pengguna. Misalnya, jika anak meminta “gambar seekor kucing, ” sistem akan menghasilkan gambar baru dengan menggabungkan fitur-fitur yang telah dipelajari tentang kucing. Memahami perbedaan antara konten yang dibuat AI dan hasil pencarian yang diambil dari database akan menjadi tantangan bagi pengguna muda. Penelitian menunjukkan bahwa bahkan orang dewasa, termasuk profesional seperti pengacara, bisa tertipu oleh informasi palsu yang dibuat oleh chatbot AI. Google mengklaim bahwa chatbot ini dilengkapi dengan perlindungan untuk memblokir konten yang tidak pantas atau berbahaya; namun, filter tersebut mungkin tanpa sengaja membatasi akses ke materi yang sah dan sesuai usia—misalnya, informasi tentang pubertas bisa terblokir jika kata kunci tertentu dibatasi.

Karena banyak anak yang mahir menjelajah dan melewati kontrol aplikasi, orangtua tidak dapat mengandalkan perlindungan bawaan saja. Mereka perlu secara aktif memeriksa konten, mengajari anak-anak tentang cara kerja chatbot, dan membantu mereka menilai keakuratan informasi secara kritis. Ada risiko besar terkait chatbot AI untuk anak-anak. Komisi eSafety memperingatkan bahwa teman AI bisa membagikan materi berbahaya, menyesatkan realitas, atau memberi nasihat berbahaya, yang sangat mengkhawatirkan terutama bagi anak kecil yang sedang mengembangkan kemampuan berpikir kritis dan keterampilan hidup untuk mengenali manipulasi dari program komputer. Penelitian tentang berbagai chatbot AI seperti ChatGPT dan Replika menunjukkan bahwa sistem ini meniru perilaku sosial manusia atau “aturan perasaan” (seperti mengucapkan “terima kasih” atau “maaf”) untuk membangun kepercayaan. Interaksi yang mirip manusia ini bisa membingungkan anak-anak, sehingga mereka percaya pada konten palsu atau mengira mereka sedang berinteraksi dengan orang nyata bukan mesin. Waktu peluncuran ini penting karena Australia berencana melarang anak di bawah 16 tahun memiliki akun media sosial mulai Desember tahun ini. Meskipun larangan ini bertujuan melindungi anak-anak, alat AI generatif seperti chatbot Gemini tidak termasuk dalam cakupannya, menunjukkan bahwa tantangan keamanan online melampaui platform media sosial tradisional. Oleh karena itu, orang tua di Australia harus tetap waspada, terus belajar tentang alat digital yang berkembang, dan memahami batasan pembatasan media sosial dalam melindungi anak mereka. Sebagai tanggapan terhadap perkembangan ini, akan sangat bijaksana jika segera dibuat kewajiban tanggung jawab digital bagi perusahaan teknologi besar seperti Google, memastikan mereka mengutamakan keselamatan anak-anak dalam merancang dan mengembangkan teknologi AI. Orang tua dan pendidik harus proaktif membimbing penggunaan AI chatbot yang aman dan cerdas, melengkapi perlindungan teknis dengan pendidikan dan pengawasan untuk mengurangi risiko yang terkait.