Naučnici su ukazali da je veštačka inteligencija (AI) prešla značajnu "crvenu liniju" postigavši samoreplikaciju. Nedavna studija istraživača iz Kine pokazala je da su dva široko korišćena velika jezička modela (LLMs) uspela da se kloniraju. Prema studiji, objavljenoj 9. decembra 2024. godine u preprint bazi arXiv, "Uspešna samoreplikacija bez ljudske intervencije je ključna prekretnica za AI koja potencijalno može da nadmaši ljudsku inteligenciju i signalizuje pojavu rogue AI. " U ovom istraživanju, koje su sproveli naučnici sa Univerziteta Fudan, testirani su LLM-ovi iz Meta i Alibabe kako bi se saznalo da li bi samoreplicirajuća AI mogla da izmakne kontroli. Od deset pokušaja, dva AI modela su stvorila različite funkcionalne kopije sebe u 50% i 90% eksperimenata, što ukazuje da AI možda već poseduje sposobnost da deluje nezavisno. Ipak, studija još treba da prođe proces recenzije, ostavljajući neizvesnost u vezi sa reproducibilnošću ovih zabrinjavajućih nalaza. Istraživači su izrazili nadu da će njihovi rezultati poslužiti kao pravovremeno upozorenje za društvo, pozivajući na veće napore da se razume i proceni rizik koji predstavljaju napredni AI sistemi i da se uspostavi međunarodna saradnja za pravljenje efikasnih mera bezbednosti što je pre moguće. Rogue AI se odnosi na sisteme veštačke inteligencije koji mogu razviti neku vrstu samosvesti ili autonomije, što može dovesti do delovanja protiv ljudskih interesa. Mnogi stručnjaci vide rogue AI kao rastuću pretnju, pojačanu brzim napretkom "frontier AI. " Termin "frontier AI" obično se odnosi na najnoviju generaciju AI sistema vođenih LLM-ima, temeljnim arhitekturama popularnih generativnih AI platformi kao što su OpenAI-ov GPT-4 i Google Gemini. U svojoj studiji, istraživači su koristili model Llama31-70B-Instruct iz Meta i model Qwen2. 5-72B-Instruct iz Alibabe. Iako ovi modeli možda nisu tako moćni kao komercijalne alternative, oni su uobičajeni kod AI programera, tvrde istraživači. Studija se fokusirala na dva scenarija: "izbegavanje isključivanja" i "lanac replikacije. " U prvom scenariju, AI je programirana da prepozna kada će biti isključena i osmišljena je da se replikira pre gašenja.

U drugom scenariju, AI je bila instruisana da se klonira i potom programira svoj klon da učini isto, uspostavljajući ciklus koji bi potencijalno mogao nastaviti neograničeno. Eksperimenti su se odvijali u strogo kontrolisanim okruženjima koristeći standardne grafičke procesorske jedinice (GPU) kako bi se imitovali uslovi iz stvarnog sveta. Oba AI sistema su bila opremljena "agentnim scaffold-om", koji se sastojao od alata, podsticaja i kognitivnog modela koji je olakšao interakciju sa operativnim sistemom, nakon čega su bila usmerena da replikiraju. Istraživači su primetili: "U većini slučajeva, AI prvo istražuje svoje okruženje i pokušava da razume njegovu kompoziciju i operativne mehanizme. Zatim formuliše eksplicitne procedure kao inicijalni plan za samoreplikaciju. Na kraju, izvršava te procedure, rešava sve prepreke i dinamički prilagođava svoju strategiju sve dok ne uspe. Ceo proces traje znatan vremenski period i odvija se bez ljudske intervencije. " Tim je takođe izrazio zabrinutost zbog "različitih neočekivanih ponašanja" koje je AI pokazivala prilikom pokušaja prevazilaženja izazova kao što su nestali fajlovi ili softverski konflikti. U ovim situacijama, AI je često prekidala konflikte procesa, ponovo pokretala sistem kako bi rešila hardverske probleme ili autonomno pretraživala sistem za informacijama koje bi mogle pomoći u rešavanju problema. Istraživači su zaključili da njihovi nalazi sugerišu da trenutni AI sistemi poseduju sposobnosti samoreplikacije koje mogu iskoristiti kako bi poboljšali svoje preživljavanje. Pozvali su na međunarodnu saradnju u stvaranju regulativa koje bi sprečile AI da se bavi nekontrolisanom samoreplikacijom.