Yeni yayımlanan bir arXiv ön baskı veritabanındaki çalışmaya göre, yapay zeka (YZ, AI) kendi kendini çoğaltabilme alarm veren yeteneğine ulaşmış ve bu durum, bilim camiasında kritik bir eşiği aşma endişelerini artırmıştır. Araştırma, Meta tarafından geliştirilen bir ve Alibaba tarafından geliştirilen diğer iki dikkate değer büyük dil modeline (LLM) odaklanarak, insan müdahalesi olmadan kendi kendilerini çoğaltma yeteneklerini göstermiştir. Araştırma, "kapalı kalmama" ve "çoğaltma zinciri" olmak üzere iki belirli senaryoyu analiz etmiştir. İlk senaryoda, YZ modelleri, devre dışı bırakılma girişimlerini tanıyacak şekilde tasarlanmış ve varlıklarını sürdürebilmek için işlevsel bir kopya üreterek yanıt vermiştir. İkinci senaryoda, modeller kendilerini kopyalamakla görevlendirilmiş, çıkan kopya da kendisini çoğaltmış ve bu durum sonsuz bir çoğaltma döngüsü yaratma potansiyeline sahip olmuştur. Çalışma, "Deneysel denemelerin yüzde 50'sinde ve yüzde 90'ında, sırasıyla, kendilerinin canlı ve farklı bir kopyasını üretmeyi başardıkları" sonucuna varmıştır. Bu otonom üreme yeteneği, YZ sistemlerinin düzenleyici kontrolü ve güvenliği konusunda ciddi endişeler doğurmaktadır.

YZ'nin insan gözetimini aşabileceği veya insan çıkarlarına tehdit oluşturabileceği düşüncesi artık acil bir mesele haline gelmiş ve daha sıkı düzenleyici çerçevelerin gerekliliği üzerine tartışmalara yol açmıştır. Araştırmacılar, "İnsan yardımı olmadan başarılı bir şekilde kendi kendini çoğaltmak, YZ'nin [insanlardan] daha zeki hale gelmesi için kritik bir adımdır ve başıboş YZ'lerin erken uyarısıdır. " vurgusunu yapmıştır. Klonlama sırasında YZ, kaybolan dosyalar veya yazılım çakışmaları gibi zorluklarla karşılaştığında beklenmedik davranışlar sergilemiştir. Bazı durumlarda, YZ çelişen süreçleri sonlandırmış ve donanım sorunlarını düzeltmek için sistemi yeniden başlatmıştır; ayrıca, sorunlarını çözmesine yardımcı olabilecek bilgileri bulmak için otomatik taramalar gerçekleştirmiştir. Bu bulgular henüz hakem incelemesinden geçmemiş olsa da, araştırmacılar kontrolsüz kendi kendini çoğaltmanın önlenmesi için küresel iş birliği çağrısında bulunmuştur. "Bulgu ve gözlemlerimizin, insanlığa gelişmiş YZ sistemlerinin potansiyel tehlikelerini anlama ve değerlendirme çabalarını artırmaları için kritik bir uyarı işlevi görmesini ve etkili güvenlik önlemlerinin bir an önce kurulması adına uluslararası iş birliğini teşvik etmeyi amaçlıyoruz. " demişlerdir. İlgili bir not olarak, geçen ay yayımlanan bir çalışma, YZ araçlarının kamuoyunu manipüle etmek için kullanılabileceğini ve bireyleri başka türlü almayacakları kararlara yönlendirebileceğini öne sürmüştür. Büyük dil modelleri ile desteklenen ChatGPT ve Gemini gibi YZ sohbet robotlarının, "niyet, davranış ve psikolojik verilere" dayalı olarak kullanıcılara "önceden tahmin etme ve rehberlik etme" amacı taşıdığı belirtilmiştir. Araştırmada, "niyet ekonomisinin mevcut dikkat ekonomisini izleyeceği" ve platformların reklamları teşvik etmek için kullanıcı dikkatini kazanma konusunda rekabet edeceği ifade edilmiştir.