Un antic investigador en seguretat d'OpenAI, Steven Adler, ha expressat preocupacions significatives sobre l'avanç ràpid de la intel·ligència artificial, afirmant que està "molt aterrit" per l'enfocament de la indústria cap a aquesta tecnologia, que considera una "aposta molt arriscada". Adler, qui va abandonar OpenAI al novembre, va articular les seves inquietuds sobre la cursa entre les empreses per crear intel·ligència artificial general (AGI), un concepte que es refereix a sistemes que poden realitzar qualsevol tasca intel·lectual amb tant o millor rendiment que els humans. Va detallar aquestes preocupacions en diverses publicacions a X, descrivint el seu temps a OpenAI com una “excursió salvatge” i expressant que en echava de menys “moltes parts”. Va ampliar sobre el ràpid ritme del desenvolupament tecnològic, expressant incertesa sobre el futur de la humanitat. “Estic bastant aterrit pel ritme del desenvolupament d'IA en aquests dies, ” va comentar Adler. Va reflexionar sobre les seves preocupacions personals relacionades amb la planificació familiar i la jubilació, preguntant-se si la humanitat arribaria a aquestes fites. Figures prominents al camp, com el premi Nobel Geoffrey Hinton, comparteixen les preocupacions d'Adler, tement que els sistemes d'IA avançats puguin evadir la supervisió humana, conduint a resultats devastadors. En canvi, altres, com Yann LeCun, científic en cap d'IA a Meta, han minimitzat els riscos existencials, suggerint que la IA podria potencialment salvar la humanitat de l'extinció. Al seu perfil de LinkedIn, Adler va afirmar que va liderar investigacions relacionades amb la seguretat per a llançaments inicials de productes i més sistemes d'IA especulatius a llarg termini durant els seus quatre anys a OpenAI.

Va advertir contra la cursa cap a l'AGI, indicant que representa riscos significatius amb potencials desavantatges substancials. Adler va assenyalar que cap laboratori de recerca actual ha resolt el problema de l'alineament de la IA—assegurant-se que els sistemes s'adhereixin als valors humans—i va advertir que l'ímpetu de la indústria podria ser massa ràpid per permetre trobar una solució a temps. “Com més ràpid corrim, menys probable és que ningú trobi una (solució) a temps, ” va subratllar. Els seus comentaris van coincidir amb l'anunci de DeepSeek de la Xina, que va revelar un nou model que competeix amb la tecnologia d'OpenAI, malgrat tenir aparentment menys recursos. Adler va criticar la indústria per estar atrapada en un "equilibri realment dolent", afirmant la necessitat urgent de "regulacions de seguretat real". Va comentar que fins i tot els laboratoris amb bones intencions per desenvolupar AGI de manera responsable podrien ser superats per altres que podrien prendre desviacions, potencialment conduint a resultats desastrosos. S'han fet intents de contactar amb Adler i OpenAI per a més comentaris.