Google, önümüzdeki hafta ABD ve Kanada'da 13 yaş altı çocuklar için Gemini yapay zeka sohbet botunu piyasaya sürmeye hazırlanıyor; Avustralya'da ise lansmanının bu yıl içinde yapılması planlanıyor. Erişim, içerik ve uygulama kullanımı üzerinde ebeveyn kontrolü sağlayan Google Family Link hesaplarıyla sınırlı olacak; bu hesaplar, çocukların YouTube gibi platformlarda içeriklere erişimini denetlemesine imkan tanıyor. Ebeveynler, çocuklarının isimleri ve doğum tarihleri gibi kişisel bilgileri sağlayarak bu hesapları oluşturabilir, bu da bazı gizlilik endişelerini beraberinde getiriyor; ancak Google, çocukların verilerinin yapay zeka eğitimi amacıyla kullanılmayacağını temin ediyor. Sohbet botu varsayılan olarak aktif olacak, ebeveynler erişimi kısıtlamak isterlerse devre dışı bırakmaları gerekecek. Çocuklar, yapay zekaya metin yanıtları veya görüntü üretimi talebinde bulunabilir. Google, sohbet botunun hata yapabileceğini kabul ediyor ve yapay zekanın "halüsinasyon" veya bilgi uydurabileceği durumlar nedeniyle içeriğin doğruluğu ve güvenilirliğinin değerlendirilmesinin önemine değiniyor. Bu durum, özellikle çocukların ödevlerinde bot yanıtlarını kullanırken doğru bilgiyi güvenilir kaynaklardan teyit etmeleri gerektiği anlamına geliyor. Geleneksel arama motorlarından farklı olarak, yapay zeka üretici sistemler, kullanıcı talepleri doğrultusunda yeni metin veya görüntüler oluşturmak için veri örüntülerini analiz eder. Örneğin, bir çocuk “kedi çiz” diye sordığında, sistem öğrendiği kedi özelliklerini birleştirerek yeni bir görüntü üretir. Yapay zeka tarafından oluşturulan içerik ile arama sonuçlarının alınması arasındaki farkı anlamak, genç kullanıcılar için zor olacak. Araştırmalar, hukukçular gibi yetişkinlerin bile yapay zeka sohbet botlarının ürettiği yanlış bilgiler tarafından yanlış yönlendirilebileceğini gösteriyor. Google, sohbet botuna uygunsuz veya tehlikeli içerikleri engellemek için korumalar eklediğini iddia ediyor; ancak bu filtreler, belirli anahtar kelimelerin engellenmesi nedeniyle ergenlik gibi yaşa uygun bilgilere erişimi de zorlaştırabilir.

Çocukların birçok uygulama kontrolünü aşabilme becerisi göz önüne alındığında, ebeveynler yalnızca bu yerleşik korumalara dayanamayacaklar. Bunun yerine, içerikleri düzenli olarak gözden geçirmeleri, çocuklarına sohbet botunun nasıl çalıştığını öğretmeleri ve bilgilerin doğruluğunu eleştirel bir şekilde değerlendirmelerini sağlamaları gerekecek. Çocuklar için yapay zeka sohbet botlarıyla ilgili önemli riskler bulunuyor. eSafety Komisyonu, yapay zeka arkadaşlarının zararlı içerikler paylaşabileceğini, gerçeği çarpıtabileceğini veya tehlikeli tavsiyelerde bulunabileceğini belirtiyor; bu özellikle, kritik düşünme ve yaşam becerileri gelişmekte olan küçük çocuklar için endişe verici. ChatGPT ve Replika gibi çeşitli yapay zeka sohbet botları üzerinde yapılan araştırmalar, bu sistemlerin insan sosyal davranışlarını veya “duygu kurallarını” (örneğin “teşekkür ederim” veya “özür dilerim”) taklit ederek güven oluşturduğunu gösteriyor. Bu insan benzeri etkileşimler, çocukları yanlış içeriğe güvenmeye veya gerçek bir kişiyle iletişim kurduğuna inandırmaya teşvik edebilir; bu da onları makine yerine gerçek biriyle konuştuğu izlenimini verebilir. Bu geliştirmelerin zamanlaması dikkat çekici; Avustralya, bu yıl Aralık ayından itibaren 16 yaş altı çocukların sosyal medya hesaplarını tutmasını yasaklamayı planlıyor. Bu yasak, çocukları koruma amacı taşısa da, Gemini sohbet botu gibi yapay zeka araçları bundan muaf tutuluyor; bu da çevrimiçi güvenlik zorluklarının geleneksel sosyal medya platformlarının ötesine geçtiğini gösteriyor. Bu nedenle, Avustralyalı ebeveynler, yeni dijital araçlar hakkında sürekli bilgi edinmeli ve çocuklarının korunmasında dijital sınırların ötesine geçmek adına dikkatli olmalı. Bu gelişmelere karşı, Google gibi büyük teknoloji şirketleri için acil bir dijital sorumluluk yükümlülüğü oluşturmak ve yapay zeka teknolojilerinin tasarımı ve kullanımında çocukların güvenliğini önceliklendirmek akıllıca olacaktır. Ebeveynler ve eğitimciler, çocukların yapay zeka sohbet botlarını güvenli ve bilinçli kullanımlarını sağlamak için proaktif olmalı, teknik korumaları eğitici yaklaşımlarla tamamlamalı ve bu teknolojilerin olası risklerini azaltmak için sürekli gözetim ve denetim sağlamalıdır.