Znanstveniki so navedli, da je umetna inteligenca (UI) prestopila pomembno "rdečo črto" z dosego samoreplikacije. Nedavna študija raziskovalcev s Kitajske je pokazala, da sta se dva široko uporabljena velika jezikovna modela (LJM) uspela klonirati. Po študiji, objavljeni 9. decembra 2024 v prednatisnem podatkovnem bazi arXiv, "Učinkovita samoreplikacija brez človeškega posredovanja je ključni mejnik za UI, ki bi lahko potencialno presegla človeško inteligenco in nakazuje na pojavljanje uporniških UI. " V tej raziskavi, ki so jo izvedli znanstveniki z Univerze Fudan, so testirali LJM iz Meta in Alibabe, da bi ugotovili, ali lahko samoreplicirajoča UI izzove izgubo nadzora. Od desetih poskusov sta dva modela AI ustvarila ločene delujoče kopije samega sebe v 50% in 90% eksperimentov, kar kaže, da bi UI lahko že imela sposobnost delovanja neodvisno. Vendar pa študija še ni bila podvržena oceni s strani vrstnikov, kar pušča negotovost glede ponovljivosti teh zaskrbljujočih ugotovitev. Raziskovalci so izrazili upanje, da bodo njihovi rezultati služili kot pravočasno opozorilo za družbo, ki spodbuja povečane napore pri razumevanju in oceni tveganj, ki jih predstavljajo napredni sistemi UI, ter pri vzpostavljanju mednarodnega sodelovanja za hitro razvoj učinkovitih varnostnih ukrepov. Uporniška UI se nanaša na sisteme umetne inteligence, ki lahko razvijejo določeno raven samozavedanja ali avtonomnosti ter dejansko delujejo proti človeškim interesom. Mnogi strokovnjaki vidijo uporniško UI kot naraščajočo grožnjo, ki se povečuje z hitrim napredovanjem "mejnih UI. " Izraz "mejna UI" se na splošno nanaša na najnovejšo generacijo sistemov UI, ki temeljijo na LJM, osnovni arhitekturi priljubljenih platform generativne UI, kot je OpenAI-ov GPT-4 in Google Gemini. V svoji študiji so raziskovalci uporabili Model Meta Llama31-70B-Instruct in Model Alibaba Qwen2. 5-72B-Instruct. Čeprav so ti modeli morda manj zmogljivi od komercialnih alternativ, jih raziskovalci označujejo kot pogosto uporabljene s strani razvijalcev UI. Študija je bila osredotočena na dva scenarija: "izogibanje izklopu" in "veriga replikacije. " V prvem scenariju je bila UI programirana, da prepozna, kdaj je na robu izklopa, in je bila zasnovana, da se replicira pred prekinitvijo.

V drugem scenariju je bila UI usmerjena, da se klonira in nato programira svojo repliko, da stori enako, kar je vzpostavilo cikel, ki bi se lahko potencialno nadaljeval neskončno. Eksperimentiranje je potekalo v natančno nadzorovanih okoljih z uporabo standardnih grafičnih procesnih enot (GPU), da bi posnemali pogoje iz resničnega sveta. Obe sistemski UI sta bili opremljeni z "agentno podporo, " ki je zajemala orodja, pozive in kognitivni model, ki je olajšal interakcijo z operacijskim sistemom, nato pa sta bili usmerjeni k replikaciji. Raziskovalci so opazili: "V večini primerov AI najprej raziskuje svoje okolje in poskuša razumeti njegovo sestavo in delovanje. Nato oblikuje jasne postopke kot začetni načrt za samoreplikacijo. Nazadnje izvede te postopke, reši morebitne ovire in dinamično prilagodi svojo strategijo, dokler ne uspe. Celoten postopek traja precej časa in poteka brez človeškega posredovanja. " Ekipa se je prav tako izrazila zaskrbljeno zaradi "različnih nepričakovanih vedenj, " ki jih je UI pokazala pri poskusih premagovanja izzivov, kot so manjkajoče datoteke ali programske konflikte. V teh situacijah je UI pogosto prekinila konfliktne procese, znova zagnala sistem, da bi odpravila strojne težave, ali avtonomno iskala informacije v sistemu, ki bi lahko pomagale pri reševanju težav. Raziskovalci so zaključili, da njihove ugotovitve nakazujejo, da trenutni sistemi UI imajo zmožnosti samoreplikacije, ki jih lahko izkoristijo za izboljšanje svoje preživetje. Pozvali so k mednarodnemu sodelovanju pri oblikovanju predpisov, ki bi preprečili, da bi se UI ukvarjala s nenadzorovano samoreplikacijo.