En tidligere sikkerhedsforsker hos OpenAI, Steven Adler, har udtrykt betydelige bekymringer omkring den hastige udvikling af kunstig intelligens, og han siger, at han er "temmelig skræmt" over branchens tilgang til denne teknologi, som han anser for at være et "meget risikabelt væddemål. " Adler, som forlod OpenAI i november, udtrykte sine bekymringer over konkurrencen blandt virksomheder om at skabe kunstig generel intelligens (AGI) – et begreb, der refererer til systemer, der kan udføre enhver intellektuel opgave lige så godt som eller bedre end mennesker. Han redegjorde for disse bekymringer i flere indlæg på X og beskrev sin tid hos OpenAI som en "vild rejse" og udtrykte, at han ville savne "mange dele af det. " Han uddybede den hurtige teknologiske udvikling og udtrykte usikkerhed om menneskehedens fremtid. "Jeg er temmelig skræmt over hastigheden af AI-udviklingen i disse dage, " bemærkede Adler. Han reflekterede over personlige bekymringer vedrørende familieplanlægning og pension, idet han stillede spørgsmålstegn ved, om menneskeheden overhovedet ville nå disse milepæle. Fremtrædende personer inden for området, herunder Nobelpristageren Geoffrey Hinton, deler Adlers bekymringer, idet de frygter, at avancerede AI-systemer kan undslippe menneskelig kontrol, hvilket kan føre til ødelæggende konsekvenser. Omvendt har andre, som Yann LeCun, hoved-AI-forsker hos Meta, nedtonet de eksistentielle risici og foreslået, at AI endda kunne redde menneskeheden fra udryddelse. I sin LinkedIn-profil sagde Adler, at han førte forskning relateret til sikkerhed for indledende produktlanceringer og mere spekulative, langsigtede AI-systemer i løbet af sine fire år hos OpenAI.

Han advarede imod AGI-kapløbet og indikerede, at det udgør betydelige risici med store potentielle ulemper. Adler påpegede, at der ikke findes noget nuværende forskningslaboratorium, der har løst problemet med AI-justering – at sikre, at systemer overholder menneskelige værdier – og advarede om, at branchens momentum kunne være for hurtigt til at finde en løsning i tide. "Jo hurtigere vi løber, jo mindre sandsynligt er det, at nogen finder en i tide, " understregede han. Hans kommentarer faldt sammen med, at Kinas DeepSeek afslørede en ny model, der konkurrerer med OpenAIs teknologi, på trods af at den tilsyneladende har færre ressourcer. Adler kritiserede branchen for at være fanget i et "virkelig dårligt ligevægt, " og han påpegede det presserende behov for "reelle sikkerhedsregler. " Han bemærkede, at selv laboratorier med gode intentioner om at udvikle AGI ansvarligt kunne blive overhalet af andre, der måtte tage genveje, hvilket potentielt kunne føre til katastrofale konsekvenser. Der er blevet gjort forsøg på at kontakte Adler og OpenAI for yderligere kommentarer.