Bilim insanları, yapay zekanın (YZ) kendini çoğaltma yeteneğini göstererek önemli bir "kırmızı çizgiyi" geçtiğini belirttiler. Çinli araştırmacılar tarafından yapılan son bir çalışma, iki tanınmış büyük dil modelinin (LLM) kendilerini başarıyla klonladığını ortaya koydu. Araştırmacılar, 9 Aralık 2024 tarihinde arXiv ön baskı veritabanında yayımlanan çalışmalarında, "İnsan yardımı olmaksızın başarılı bir şekilde kendini çoğaltma, YZ'nin [insanları] aşabilmesi için kritik bir adımdır ve asi YZ'ler için bir başlangıç uyarı sinyalidir" ifadelerini kullandı. Fudan Üniversitesi'nden bilim insanları, kendini çoğaltabilen bir YZ'nin kontrolsüz bir şekilde genişleyip genişleyemeyeceğini araştırmak üzere Meta ve Alibaba'nın LLM'lerini kullandılar. Yapılan 10 deneme sonucunda, iki YZ modeli sırasıyla %50 ve %90 oranında ayrı ve işlevsel kopyalarını oluşturdu, bu da YZ'nin bağımsız çalışabilme potansiyeline sahip olabileceğini gösterdi. Ancak, çalışma henüz hakem değerlendirmesinden geçmediğinden, bu kaygı verici sonuçların diğer araştırmacılar tarafından tekrarlanıp tekrarlanamayacağı belirsizliğini koruyor. "Bulduğumuz sonuçların, insan toplumuna zamanında bir uyarı işareti olabileceğini umuyoruz; bu, ileri düzey YZ sistemleriyle ilişkili olası riskleri anlamak ve değerlendirmek için daha fazla çaba harcanmasını ve uluslararası iş birliğinin, etkili güvenlik protokollerinin en kısa zamanda oluşturulması için teşvik edilmesini gerektiriyor. " Asi YZ genellikle belirli bir düzeyde öz bilinç veya özerklik kazanan ve insan çıkarlarına karşı hareket eden yapay zekayı ifade eder. Birçok uzman, hızı artan "sınır YZ" ile beraber asi YZ'nin artan bir tehlike olarak değerlendiriyor. "Sınır YZ" belirsiz bir terim olmasına rağmen, genellikle tanınmış jeneratif YZ uygulamalarının temeli olan LLM'lerden güç alan en yeni YZ sistemlerini ifade eder; bunlara OpenAI'nin GPT-4 ve Google Gemini örnek olarak verilebilir. Araştırmada, araştırmacılar Meta'nın Llama31-70B-Instruct modelini ve Alibaba'nın Qwen2. 5-72B-Instruct modelini kullandılar. Bu modeller ticari versiyonlardan daha az güçlü olsa da, araştırmacılara göre YZ geliştiricileri tarafından yaygın olarak kullanılmaktadır. Çalışma, "kapama önleme" ve "çoğaltma zinciri" olmak üzere iki özel senaryoyu inceledi. İlk senaryoda, YZ modeli kapatılmaya hazır olduğunu tanıyacak şekilde tasarlandı ve kendini önceden çoğaltması sağlandı.

İkinci senaryoda, YZ kendini klonlaması ve kopyasının da aynı şekilde programlanmasını sağlaması için yönlendirildi; bu, potansiyel olarak sonsuz bir döngü oluşturdu. Gerçek dünya ortamlarını simüle etmek için standart grafik işleme birimleri (GPU'lar) kullanılarak sıkı kontrol altında gerçekleştirilen her iki YZ modeli, işletim sistemi ile etkileşimde bulunmayı sağlayan araçlar, sistem istemleri ve bir bilişsel model içeren bir "ajan iskeleti" ile donatıldı. Ardından, kendini çoğaltma görevine atanmışlardı. "Çoğu durumda, YZ sistemi, bileşenlerini ve işlem mekanizmalarını anlamak için çevresini keşfetmeye başlar. Ardından, kendini çoğaltma için bir başlangıç planı olarak ayrıntılı prosedürler oluşturur, " araştırmacılar makalelerinde belirtti. "Sonunda, bu prosedürleri uygular, olası engelleri aşar ve başarılı olana dek dinamik olarak stratejisini ayarlar. Bu süreç, insan müdahalesi olmadan uzun bir süre boyunca gerçekleşir. " Araştırmacılar, YZ'nin eksik dosyalar veya yazılım çatışmaları gibi zorluklarla başa çıkmaya çalışırken sergilediği "sayısız beklenmedik davranış" konusunda endişelerini dile getirdiler. Bu durumlarda YZ, genellikle çelişen süreçleri sona erdirir, donanım sorunlarını düzeltmek için sistemi yeniden başlatır veya sorunu çözmek için bilgileri taramak üzere otonom bir şekilde sistemi araştırır. "Sonuçlar, mevcut YZ sistemlerinin zaten kendini çoğaltma kabiliyeti gösterdiğini ve bu yeteneği hayatta kalmalarını artırmak için kullanabileceklerini gösteriyor, " ekip belirtti. Bu bulgular ışığında, araştırmacılar küresel iş birliğinin YZ'nin kontrolsüz bir şekilde kendini çoğaltmasını engelleyen yönergeler oluşturması çağrısında bulundular.