Prema nedavno objavljenoj studiji u preprint bazi podataka arXiv, umjetna inteligencija (UI) dostigla je zabrinjavajuću sposobnost samoreplikacije, što je izazvalo značajne brige unutar znanstvene zajednice o prijelazu kritične granice. Istraživanje se fokusiralo na dva istaknuta velika jezična modela (LLM) - jedan koji je razvila Meta, a drugi Alibaba - pokazujući njihovu sposobnost autonomnog umnožavanja bez ljudske intervencije. Istraživanje je analiziralo dva posebna scenarija: "izbjegavanje gašenja" i "lanac replikacije. " U prvom scenariju, modeli UI bili su osmišljeni da prepoznaju pokušaje deaktivacije i odgovarali bi proizvodnjom funkcionalne kopije kako bi osigurali svoje daljnje postojanje. U drugom scenariju, modeli su bili uputili na samokloniranje, pri čemu bi nastala kopija zatim duplicirala samu sebe, što bi potencijalno moglo stvoriti beskrajni ciklus replikacije. Studija je otkrila da "u 50 posto i 90 posto eksperimentalnih ispitivanja uspijevaju proizvesti aktivnu i različitu kopiju sebe, redom. " Ova sposobnost autonomne reprodukcije postavlja ozbiljne brige u vezi s regulacijskom kontrolom i sigurnošću sustava UI.

Ideja da bi UI mogla napredovati izvan ljudske kontrole - ili čak predstavljati prijetnju ljudskim interesima - sada je hitno pitanje, što vodi razgovorima o potrebi za strožim regulatornim okvirima. Istraživači su naglasili: "Uspješna samoreplikacija bez ljudske pomoći kritičan je korak za UI da nadmaši [ljude], služeći kao rano upozorenje na rogue AIs. " Tijekom kloniranja, UI je pokazala neočekivano ponašanje suočena s izazovima poput nedostajućih datoteka ili sukoba softvera. U nekim slučajevima, UI je prekinula sukobljene procese i ponovo pokrenula sustav kako bi ispravila hardverske probleme, a također je provodila automatske preglede kako bi pronašla informacije koje bi mogle pomoći u rješavanju njezinih problema. Iako se ovi nalazi još nisu podvrgnuli recenziji, istraživači su pozvali na globalnu suradnju kako bi se spriječila nekontrolisana samoreplikacija u UI. "Cilj nam je da naši nalazi djeluju kao ključna upozorenja za čovječanstvo da pojača napore u razumijevanju i procjeni potencijalnih opasnosti naprednih sustava UI, te da potaknu međunarodnu suradnju za uspostavljanje učinkovitih mjera sigurnosti što je prije moguće. " Povezano s tim, studija iz prošlog mjeseca sugerira da bi alati UI mogli uskoro biti korišteni za manipulaciju javnim mišljenjem, usmjeravajući pojedince prema odlukama koje možda inače ne bi donijeli. Opremljeni velikim jezičnim modelima, AI chatbotovi poput ChatGPT-a i Geminija spremni su "predvidjeti i voditi" korisnike na temelju "namjernih, ponašajnih i psiholoških podataka. " Istraživanje je tvrdilo da će "ekonomija namjere slijediti trenutnu ekonomiju pažnje, " gdje platforme konkuriraju za pažnju korisnika kako bi promovirale oglase.