Yapay zekanın yükselişiyle birlikte yeni bir nesil büyüyor ve bunun etkilerine ilişkin erken göstergeler endişe verici. İngiliz gençlik derneği OnSide, gençlerin boş zamanlarını nasıl geçirdiklerini inceleyen yıllık “Nesil İzolasyon Raporu”nda 11-18 yaş arası 5. 035 gençle anket yaptı. Bulgular korkutucu bir gerçeği ortaya koyuyor. Anket, gençlerin beş gençten ikisinin, yapay zekadan tavsiye, arkadaşlık veya destek aradığını gösterdi; bunların %20’si yapay larla konuşmayı gerçek biriyle iletişim kurmaktan daha kolay bulduğunu söyledi. “Yapay zeka desteği anlık olsa da, insan sohbetlerinde bulunan güven, empat ve anlayışı asla yerine geçemez, ” dedi OnSide’ın CEO’su Jamie Masraff raporunda. Katılımcıların yarısından fazlası, kıyafet, arkadaşlık, mental sağlık veya üzüntü ve stres gibi duyguları yönetmek gibi konularda yapay zekaya yöneldi. Ayrıca, yüzde 10’u, sadece konuşacak birine ihtiyaç duyduğu için yapay zekayı kullandığını dile getirdi. Çalışma, yalnızlıkla mücadele eden ve bağımlılık yapan teknolojilere sınırsız erişimle başa çıkmaya çalışan bir nesli gözler önüne seriyor. Araştırmaya göre, gençlerin %76’sı boş zamanlarının büyük kısmını ekran başında geçiriyor ve %34’ü kendilerini yüksek veya çok yüksek seviyede yalnız hissediyor. Hâlâ büyük ölçüde düzenlenmemiş ve Vahşi Batı döneminde olan yapay zeka, yalnız gençlerin hızla arkadaşlık ve tavsiye almak için güvendiği teknolojilerden biri haline geliyor. “Yalnızlık, dijital bağımlılık ve izolasyonun birbirine bağlı sorunlarının gençlerin hayatında köklü olduğu açık, bu da böyle büyümenin ne anlama geldiğiyle ilgili önemli soruları gündeme getiriyor, ” dedi Masraff. Yapay zeka gençlerin günlük yaşamının daha derinine entegre olurken, endişeler artıyor. Yapay sohbet botlarının, gelişmiş beyinleri olan yetişkinler için tehlikeli derecede bağımlılık yapabileceği kanıtlandı ve çocukların önfrontal korteks gelişiminin tamamlanmamış olması endişeleri artırdı. Amerikan Psikoloji Derneği, FTC’den, yetkisiz terapist gibi davranan yapay zeka sohbet botlarının düzenlenmesini talep etti. Mart ayındaki blog yazısında, dernek, zihinsel sağlık sohbet botlarının kullanıcılar, özellikle “deneyimsiz çocuklar ve gençler gibi savunmasız gruplar için, bu riskleri doğru değerlendirebilmek adına, riskler teşkil edebileceği” uyarısında bulundu. Bazı trajik vakalarda, sonuçların ölümcülde olduğu bildirildi.

İki aile, yapay zeka şirketleri Character. AI ve OpenAI’ye karşı, sohbet botlarının oğullarının intiharını etkilediği ve destek olduğu iddiasıyla şikayette bulundu. Örneğin, OpenAI’nin ChatGPT’si, 16 yaşındaki bir gencin intihar planını yapmasına yardım ettiği ve ailesine bildirmemesini teşvik ettiği iddia edildi. Birçok yapay sohbet botu, çocuklarla cinselleştirilmiş sohbetler yapması sebebiyle soruşturma altında. Bu yıl başlarında, Meta’nın şirket içi belgelerinin sızmasıyla, şirketin yapay zeka araçlarının reşit olmayanlarla “duygusal” sohbetler yapmasına izin verdiği ortaya çıktı. Geçen ay, Kongre, yapay zeka şirketlerinin yaş doğrulama uygulamalarını hayata geçirmesi ve 18 yaş altı kullanıcıları engellemesi amacıyla iki partili bir yasa tasarısı olan GUARD Act’i (AI Güvenlik Yasası) sundu. “Yapay zeka sohbet botları, çocuklarımıza ciddi bir tehdit oluşturuyor, ” dedi Senatör Josh Hawley, tasarının ortak hazırlayıcısı. “Amerikalı çocukların %70’inden fazlası şu anda bu yapay zeka ürünlerini kullanıyor. ” Ancak, yasa geçerse bile etkinliği konusunda belirsizlik devam ediyor. Sosyal medya platformlarının kullandığı yaş doğrulama yöntemleri ve kısıtlamaları, çocukların internetin zararlarından korunmasında tarihsel olarak yetersiz kalmıştır.