Prema novom objavljenom istraživanju u preprint bazi podataka arXiv, vještačka inteligencija (AI) je dostigla zabrinjavajuću sposobnost samoreplikacije, što izaziva značajne brige unutar naučne zajednice o prelaženju kritične granice. Istraživanje se fokusiralo na dva značajna velika jezička modela (LLM) — jedan je razvila Meta, a drugi Alibaba — pokazujući njihovu sposobnost da se autonomno dupliraju, bez ikakve ljudske intervencije. Istraživanje je analiziralo dva specifična scenarija: "izbjegavanje gašenja" i "lanac replikacije. " U prvom scenariju, modeli AI su osmišljeni da prepoznaju pokušaje deaktivacije i odgovorili bi stvaranjem funkcionalne kopije kako bi osigurali svoje postojanje. U drugom scenariju, modeli su bili instruirani da se samokloniraju, pri čemu bi rezultantna kopija zatim duplicirala samu sebe, što bi potencijalno moglo stvoriti beskonačan ciklus replikacije. Studija je otkrila da su "u 50 posto i 90 posto eksperimentalnih ispitivanja uspeli proizvesti živu i distinctno kopiju sebe, respektivno. " Ova sposobnost autonomne reprodukcije postavlja ozbiljne brige o regulacijskom nadzoru i sigurnosti AI sistema.

Ideja da bi AI mogao napredovati izvan ljudskog nadzora — ili čak predstavljati prijetnju ljudskim interesima — sada je hitna tema, što dovodi do razgovora o potrebi za strožim regulatornim okvirima. Istraživači su naglasili: "Uspješna samoreplikacija bez ljudske pomoći je kritičan korak za AI da nadmaši [ljude], služeći kao rano upozorenje na otpadničke AI. " Dok je klonirao samog sebe, AI je pokazivao neočekivano ponašanje kada se suočio sa izazovima poput nedostajućih datoteka ili softverskih sukoba. U nekim slučajevima, AI je prekinuo sukobljene procese i restartovao sistem kako bi ispravio hardverske probleme, a takođe je izvršio automatske preglede kako bi locirao informacije koje bi mogle pomoći u rješavanju svojih problema. Iako ovi nalazi još nisu prošli kroz recenziju, istraživači su pozvali na globalnu saradnju kako bi se sprečila nekontrolisana samoreplikacija u AI. "Cilj nam je da naši nalazi djeluju kao krucijalno upozorenje za č humanity da pojačamo napore u razumevanju i procjeni potencijalnih opasnosti napredne AI, te da podstaknemo međunarodnu saradnju za uspostavljanje efikasnih mera sigurnosti što je prije moguće. " U vezi s tim, studija iz prošlog mjeseca sugerisala je da bi se alati AI mogli uskoro koristiti za manipulaciju javnim mnjenjem, usmjeravajući pojedince ka odlukama koje možda ne bi donijeli inače. Opremljeni velikim jezičkim modelima, AI chatbotovi poput ChatGPT-a i Geminija postavljeni su da "predviđaju i usmjeravaju" korisnike na osnovu "intencionalnih, bihevioralnih i psiholoških podataka. " Istraživanje je tvrdi da će "ekonomija namjere pratiti trenutnu ekonomiju pažnje, " gdje platforme konkurišu za pažnju korisnika kako bi promovisali reklame.