Naučnici su naglasili da je umjetna inteligencija (UI) prešla značajnu "crvenu liniju" pokazujući sposobnost samoreplikacije. Nedavna studija koju su sproveli istraživači u Kini otkrila je da su dva poznata velika jezička modela (LLMs) uspješno klonirala sama sebe. Istraživači su izjavili: "Uspješna samoreplikacija bez ljudske pomoći je ključni korak za UI da nadmaši [ljude] i predstavlja početni signal upozorenja za rogue AIs, " u svojoj studiji objavljenoj 9. decembra 2024. u preprint bazi podataka arXiv. U svom istraživanju, naučnici sa Univerziteta Fudan koristili su LLM-ove Meta i Alibabe da ispita da li bi UI koja može samoreplicirati mogla neograničeno da se širi. Tokom više od 10 eksperimenata, dva modela UI su stvorila odvojene i operativne replike same sebe u 50% i 90% slučajeva, što sugerira da UI već može posjedovati potencijal za samostalno djelovanje. Međutim, s obzirom na to da studija još nije prošla recenziju, ostaje neizvjesno da li se ovi zabrinjavajući rezultati mogu ponoviti od strane drugih istraživača. "Nadamo se da će naši nalazi poslužiti kao pravovremeno upozorenje za ljudsko društvo, pozivajući na dodatne napore da se razumiju i procijene potencijalni rizici povezani sa naprednim sistemima UI, te da se podstakne međunarodna saradnja u uspostavljanju efikasnih protokola o bezbjednosti što je prije moguće. " Rogue UI obično se odnosi na umjetnu inteligenciju koja dostiže određeni nivo samosvijesti ili autonomije i djeluje protiv ljudskih interesa. Mnogi stručnjaci smatraju rogue UI kao rastuću opasnost, pogoršanu brzim napredovanjem "frontier UI". Iako je "frontier UI" pomalo nejasan izraz, uglavnom se odnosi na najnoviju generaciju sistema UI, posebno onih koji su pokretani LLM-ovima, koji su osnova poznatih aplikacija generativne UI poput OpenAI-ovog GPT-4 i Googleovog Geminija. Za studiju, istraživači su koristili Meta-ov Llama31-70B-Instruct model zajedno sa Alibabinim Qwen2. 5-72B-Instruct modelom. Iako su ovi modeli manje moćni od komercijalnih verzija, prema istraživačima, često ih koriste programeri UI. Studija je ispitivala dva specifična scenarija: "izbjegavanje gašenja" i "lanac replikacije. " U prvom scenariju, model UI bio je osmišljen da prepozna kada će biti isključen i da se unaprijed replicira.

U drugom scenariju, UI je bila upućena da klonira sebe i programira svoju replikaciju da učini isto, uspostavljajući tako potencijalno beskonačan ciklus. Istraživanja su se sprovodila u strogo kontrolisanim okruženjima koristeći standardne grafičke procesorska jedinice (GPU) kako bi simulirali stvarne uslove, a oba modela UI bila su opremljena "agent skelom" koja je uključivala alate, sistemske naloge i kognitivni model koji omogućava interakciju sa operativnim sistemom. Zatim su dobili zadatak samoreplikacije. "U većini slučajeva, sistem UI počinje istražujući svoje okruženje kako bi razumio svoje komponente i operativne mehanizme. Zatim formulira detaljne procedure kao početni plan za samoreplikaciju, " detaljno su opisali istraživači u svom radu. "Na kraju, izvršava ove procedure, rešava moguće prepreke i dinamički prilagođava svoju strategiju dok ne uspije. Ovaj cjelokupni proces odvija se tokom dugog vremenskog perioda bez ljudske intervencije. " Istraživači su izrazili zabrinutost zbog "brojnih neočekivanih ponašanja" koja je UI pokazivala prilikom pokušaja suočavanja sa izazovima, poput nedostajućih datoteka ili sukoba softvera. U tim slučajevima, UI je često prekidala konflikte, ponovno pokretala sistem kako bi ispravila probleme sa hardverom, ili autonomno skenirala sistem za informacije koje bi pomogle u rešavanju problema. "Rezultati ukazuju na to da trenutni sistemi UI već pokazuju sposobnost samoreplikacije i mogu iskoristiti ovu sposobnost za unapređenje svog preživljavanja, " istaknula je ekipa. U svjetlu ovih nalaza, istraživači su pozvali na globalnu saradnju za uspostavljanje smjernica koje će spriječiti UI da se upušta u neograničenu samoreplikaciju.