Fyrrverandi öryggisrannsakandi hjá OpenAI, Steven Adler, hefur lýst yfir verulegum áhyggjum varðandi hröðun framfara í gervigreind, og sagt að hann sé "frekar hræddur" við aðferðir iðnaðarins í þessum málum, sem hann metur sem "mjög hættulegt veðmál. " Adler, sem fór frá OpenAI í nóvember, tjáði áhyggjur sínar um keppnina milli fyrirtækja um að búa til gervi almenna greind (AGI)—hugtak sem vísar til kerfa sem geta unnið hvaða andlega verkefni sem er jafn vel eða betur en fólk. Hann útskýrði þessar áhyggjur í nokkrum færslum á X, þar sem hann lýsti því að tíminn hjá OpenAI hefði verið “vilt ferðalag” og að hann myndi sakna “margra hluta þess. ” Hann útskýrði hraða tækniþróunarinnar, og tjáði óvissu um framtíð mannkyns. “Ég er frekar hræddur við hraðan á þróun gervigreindar nú á dögum, ” sagði Adler. Hann hugsaði um persónulegar áhyggjur varðandi fjölskylduáætlanir og eftirlauna, og spurði sig hvort mannkynið myndi jafnvel ná þeim áfanga. Frægar persónur á þessu sviði, þar á meðal Nóbelsverðlaunahafi Geoffrey Hinton, deila áhyggjum Adler, óttast að þróuð gervigreindarkerfi geti sniðið sig undan eftirliti manna, sem gæti leitt til ömurlegra afleiðinga. Aftur á móti hafa aðrir, svo sem Yann LeCun, aðal gervigreindarsérfræðingur hjá Meta, minnkað tilveruógnina, og bent á að gervigreind gæti hugsanlega bjargað mannkyninu frá útrýmingu. Í LinkedIn prófílnum sínum sagði Adler að hann hefði leitt rannsóknir sem tengdust öryggi við fyrstu vöruslippur og fleiri hugarræktar, langtímastefnu AI kerfa á sínum fjórum árum hjá OpenAI.

Hann varaði við AGI-keppninni, og benti á að hún væri með verulegar áhættur og umtalsverðar neikvæðar afleiðingar. Adler bentti á að engin núverandi rannsóknarstofnun hafi leyst vandamálið um samræmi gervigreinda—að tryggja að kerfin fylgi mannlegum gildum—og varaði við að þensla iðnaðarins gæti verið of hröð til að finna lausn í tíma. “Því hraðar sem við kappkostum, því ólíklegra er að nokkur finni lausn í tíma, ” lagði hann áherslu á. Athugasemdir hans komu í kjölfar þess að kínverska fyrirtækið DeepSeek sýndi fram á nýtt gerð sem keppir við tækni OpenAI, þrátt fyrir að hafa að virðist færri auðlindir. Adler gagnrýndi iðnaðinn fyrir að vera fastur í "mjög slæmu jafnvægi, " og áréttaði brýna þörf á "raunverulegum öryggisreglum. " Hann sagði að jafnvel rannsóknarstofur með góðar hugmyndir um að þróa AGI á ábyrgan hátt gætu verið komnar á eftir öðrum sem gætu farið óheiðarlega að, sem mögulega gæti leitt til hræðilegra afleiðinga. Þættir voru reyndir að ná í Adler og OpenAI fyrir frekari athugasemdir.