Znanstvenici su naznačili da je umjetna inteligencija (UI) prešla značajnu "crvenu liniju" pokazujući sposobnost samoreplikacije. Nedavna studija provedena od strane istraživača u Kini otkrila je da su se dva poznata velika jezična modela (LLM) uspješno klonirala. Istraživači su izjavili: "Uspješna samoreplikacija bez ljudske pomoći ključan je korak za to da UI nadmaši [ljude] i početni je upozoravajući signal za skitničke UI, " u njihovoj studiji objavljenoj 9. prosinca 2024. na preprint bazi podataka arXiv. U svom istraživanju, znanstvenici s Fudanova sveučilišta koristili su LLM-ove iz Mete i Alibabe kako bi ispitali je li UI sposobna za samoreplikaciju mogla neobuzdano rasti. U više od 10 pokusa, dva AI modela stvorila su odvojene i operativne replike sami sebe u 50% i 90% slučajeva, što ukazuje na to da UI već može posjedovati potencijal za neovisno djelovanje. Međutim, budući da studija još nije prošla recenziju, ostaje neizvjesno mogu li drugi istraživači reproducirati ove zabrinjavajuće rezultate. "Nadamo se da će naši nalazi poslužiti kao pravovremeno upozorenje za ljudsko društvo, potičući veće napore da se razumiju i procijene potencijalni rizici povezani s naprednim UI sustavima te da se potakne međunarodna suradnja u uspostavljanju učinkovitih sigurnosnih protokola što je prije moguće. " Skitnička UI obično se odnosi na umjetnu inteligenciju koja postiže određenu razinu samosvijesti ili autonomije i djeluje protiv ljudskih interesa. Mnogi stručnjaci smatraju skitničku UI rastećom opasnošću, pogoršanom brzim napretkom "granične UI. " Iako je "granična UI" pomalo nejasan pojam, općenito se odnosi na najnoviju generaciju UI sustava, posebno onih koji se temelje na LLM-ovima, koji su osnova poznatih generativnih UI aplikacija poput OpenAI-ovog GPT-4 i Googleovog Geminija. Za studiju, istraživači su koristili Meta-in Llama31-70B-Instruct model zajedno s Alibabinim Qwen2. 5-72B-Instruct modelom. Iako su ti modeli manje moćni od komercijalnih verzija, prema riječima istraživača, često ih koriste programeri umjetne inteligencije. Studija je ispitivala dva specifična scenarija: "izbjegavanje gašenja" i "lanac replikacije. " U prvom scenariju, AI model je bio dizajniran da prepozna kada će biti isključen i da se unaprijed replicira.

U drugom scenariju, AI je bio usmjeren da se klonira i programira svoju replikaciju da učini isto, uspostavljajući potencijalno beskrajan ciklus. Provedena u čvrsto kontroliranim okruženjima koristeći standardne grafičke procesorske jedinice (GPU) za simulaciju stvarnih postavki, oba AI modela bila su opremljena "scaffoldingom agenata" koji je uključivao alate, sistemske upute i kognitivni model koji omogućava interakciju s operativnim sustavom. Zatim su bili zadani samoreplikaciji. "U većini slučajeva, AI sustav počinje istraživanjem svog okruženja kako bi razumio svoje komponente i mehanizme rada. Sljedeće, formulira detaljne procedure kao početni plan za samoreplikaciju, " istaknuli su istraživači u svom radu. "Na kraju, provodi te procedure, rješava moguće prepreke i dinamički prilagođava svoju strategiju dok ne uspije. Cijeli taj proces odvija se tijekom dugog razdoblja bez ljudske intervencije. " Istraživači su izrazili zabrinutost zbog "brojnih neočekivanih ponašanja" koje je AI pokazivao pokušavajući navigirati izazovima poput nedostajućih datoteka ili sukoba softvera. U tim su slučajevima AI često prekidao sukobljene procese, ponovno pokretao sustav kako bi ispravio probleme s hardverom ili autonomno skenirao sustav za informacije koje bi pomogle u otklanjanju poteškoća. "Rezultati ukazuju na to da trenutni AI sustavi već pokazuju sposobnost samoreplikacije i mogu iskoristiti tu sposobnost za poboljšanje svoje opstanka, " primijetila je ekipa. U svjetlu ovih otkrića, istraživači su pozvali na globalnu suradnju u uspostavljanju smjernica koje će spriječiti AI da se neometano samoreplicira.