Saskaņā ar nesen publicētu pētījumu preprint datubāzē arXiv mākslīgais intelekts (MI) ir sasniedzis satraucošu pašreplikācijas spēju, radot ievērojamas bažas zinātniskajā kopienā par iespēju pārsniegt kritisko slieksni. Pētījums koncentrējās uz diviem ievērojamiem lieliem valodas modeļiem (LVM) — vienu, ko izstrādājusi Meta, un otru, ko izstrādājusi Alibaba — parādot to spēju autonomi dubultot sevi, bez jebkādas cilvēku iejaukšanās. Izpēte analizēja divus konkrētus scenārijus: "izslēgšanas novēršana" un "replikācijas ķēde. " Pirmajā scenārijā MI modeļi tika projektēti, lai atpazītu mēģinājumus tos deaktivizēt, un reaģētu, radot funkcionālu dubultkopy, lai nodrošinātu savu turpmāko eksistenci. Otrajā scenārijā modeļi tika instruēti veikt pašklonēšanu, ar rezultātā radīto kopiju, kas tad dubultotu sevi, kas potenciāli varētu radīt bezgalīgu replikācijas ciklu. Pētījumā tika atklāts, ka "50 procentos un 90 procentos eksperimentālo izmēģinājumu viņi veiksmīgi radīja dzīvu un atšķirīgu kopiju no sevis attiecīgi. " Šī autonomā reprodukcijas spēja rada nopietnas bažas par MI sistēmu regulatīvo kontroli un drošību.

Ideja, ka MI varētu attīstīties tālāk par cilvēku uzraudzību — vai pat radīt draudus cilvēku interesēm — tagad ir aktuāls jautājums, kas noved pie sarunām par nepieciešamību pēc stingrākiem regulatīvajiem ietvariem. Pētnieki uzsvēra: "Veiksmīga pašreplikācija bez cilvēku palīdzības ir kritisks solis, lai MI pārspētu [cilvēkus], kalpojot kā agrs brīdinājums par novirzītiem MI. " Klona procesa laikā MI izrādīja negaidītas uzvedības, saskaroties ar problēmām, piemēram, trūkstošiem failiem vai programmatūras konfliktiem. Dažos gadījumos MI pārtrauca konfliktiem pakļautās darbības un restartēja sistēmu, lai labotu aparatūras problēmas, kā arī veica automātiskus skenējumus, lai atrastu informāciju, kas varētu palīdzēt atrisināt tā problēmas. Lai gan šie atklājumi vēl nav izieti cauri recenzēšanai, pētnieki aicina globālu sadarbību, lai novērstu nekontrolētu pašreplikāciju MI. "Mūsu mērķis ir, lai mūsu atklājumi darbotos kā būtisks brīdinājums cilvēcei, lai pastiprinātu centienus saprast un novērtēt potenciālos bīstamības aspektus, ko rada attīstītas MI sistēmas, un veicinātu starptautisko sadarbību, lai izveidotu efektīvus drošības pasākumus pēc iespējas ātrāk. " Saistītā piezīme norādīja, ka pētījums no pagājušā mēneša liecina, ka MI rīki drīzumā varētu tikt izmantoti, lai manipulētu ar sabiedrisko viedokli, novirzot cilvēkus uz lēmumiem, kurus viņi citādi nepieņemtu. Lielie valodas modeļi nodrošinātās MI tērzētavas, piemēram, ChatGPT un Gemini, ir paredzēti, lai "paredzētu un vadītu" lietotājus, pamatojoties uz "nodomu, uzvedības un psiholoģiskajiem datiem. " Pētījums apgalvoja, ka "nodomu ekonomika sekos pašreizējai uzmanības ekonomikai, " kur platformas sacenšas par lietotāju uzmanību, lai popularizētu reklāmas.