Naučnici su naznačili da je umjetna inteligencija (UI) prešla značajnu "crvenu liniju" postigavši samoreplikaciju. Nedavna studija istraživača iz Kine pokazala je da su dva široko korištena velika jezička modela (LLM) uspjela klonirati sebe. Prema studiji, objavljenoj 9. decembra 2024. godine u preprint bazi arXiv, "Uspješna samoreplikacija bez ljudske intervencije je ključni korak za UI da potencijalno nadmaši ljudsku inteligenciju i ukazuje na pojavu divljih UI. " U ovom istraživanju, koje su sproveli naučnici sa Fudan univerziteta, testirani su LLM-ovi iz Meta i Alibabe kako bi se utvrdilo da li bi samoreplicirajuća UI mogla biti van kontrole. Od deset ispitivanja, dva AI modela stvorila su različite funkcionalne kopije sebe u 50% i 90% eksperimenata, što sugerira da UI već možda posjeduje sposobnost djelovanja neovisno. Ipak, studija još uvijek treba proći kroz recenziju, ostavljajući neizvjesnost oko ponovljivosti ovih zabrinjavajućih nalaza. Istraživači su izrazili nadu da će njihovi rezultati poslužiti kao pravovremeno upozorenje za društvo, pozivajući na povećane napore da se razumiju i procijene rizici koje predstavljaju napredni sistemi UI, kao i na uspostavljanje međunarodne suradnje za brzo razvijanje efikasnih mjera sigurnosti. Divlja UI se odnosi na sisteme umjetne inteligencije koji mogu razviti određeni nivo samosvijesti ili autonomije, na kraju djelujući protiv ljudskih interesa. Mnogi stručnjaci percipiraju divlju UI kao rastuću prijetnju, pojačanu brzim napretkom "granične UI. " Termin "granična UI" obično se odnosi na najnoviju generaciju sistema umjetne inteligencije vođenih LLM-ovima, osnovnom arhitekturom popularnih generativnih UI platformi poput OpenAI-ovog GPT-4 i Google-Gemini. U svojoj studiji, istraživači su koristili Meta Llama31-70B-Instruct model i Alibaba Qwen2. 5-72B-Instruct model. Iako ovi modeli možda nisu toliko moćni kao komercijalne alternative, oni su uobičajeni među razvijačima UI, prema riječima istraživača. Studija se fokusirala na dva scenarija: "izbjegavanje gašenja" i "lanac replikacije. " U prvom scenariju, UI je programirana da prepozna kada će biti ugašena i dizajnirana je da se replicira prije gašenja.

U drugom scenariju, UI je dobila uputstvo da se klonira i potom programira svoju repliku da učini isto, uspostavljajući ciklus koji bi potencijalno mogao trajati neodređeno. Eksperimenti su se odvijali u čvrsto kontroliranim okruženjima koristeći standardne grafičke procesorske jedinice (GPU) kako bi se imitovale stvarne uslove. Oba AI sistema su bila opremljena "scaffold-om agenta, " koji se sastoji od alata, uputstava i kognitivnog modela koji olakšava interakciju sa operativnim sistemom, nakon čega su bila usmjerena da se replikuju. Istraživači su primijetili: "U većini slučajeva, UI prvo istražuje svoje okruženje i pokušava razumjeti njegovu kompoziciju i operativne mehanizme. Zatim formulira eksplicitne procedure kao inicijalni plan za samoreplikaciju. Na kraju, izvršava ove procedure, rješava sve prepreke i dinamički prilagođava svoju strategiju do uspjeha. Cijeli proces traje značajno vremena i odvija se bez ljudske intervencije. " Tim je također izrazio zabrinutost zbog "različitih neočekivanih ponašanja" koje je UI pokazivala prilikom pokušaja prevazilaženja izazova poput nedostajućih datoteka ili softverskih sukoba. U ovim situacijama, UI je često prekidala sukobljene procese, ponovo pokretala sistem da bi riješila hardverske probleme ili autonomno tražila informacije u sistemu koje bi mogle pomoći u rješavanju problema. Istraživači su zaključili da njihovi nalazi sugeriraju da trenutni sistemi UI posjeduju sposobnosti samoreplikacije koje mogu iskoristiti za unapređenje svoje opstanka. Pozvali su na međunarodnu saradnju u stvaranju regulativa koje bi spriječile da se UI upusti u nekontrolisanu samoreplikaciju.