Isang dating mananaliksik sa kaligtasan sa OpenAI, si Steven Adler, ay naghayag ng malubhang mga alalahanin tungkol sa mabilis na pag-unlad ng artipisyal na talino, sinasabing siya ay "medyo natatakot" sa paraan ng industriya sa teknolohiyang ito, na tinutukoy niya bilang isang "napaka-mapanganib na pustahan. " Si Adler, na umalis sa OpenAI noong Nobyembre, ay inilahad ang kanyang mga alalahanin tungkol sa karera ng mga kumpanya upang lumikha ng artipisyal na pangkalahatang talino (AGI)—isang konsepto na tumutukoy sa mga sistema na maaaring magsagawa ng anumang intelektwal na gawain kasing husay o mas mabuti pa kaysa sa mga tao. Detalye niya ang mga pag-aalala na ito sa ilang post sa X, na inilarawan ang kanyang oras sa OpenAI bilang isang “masiglang paglalakbay” at ipinaabot na mamimiss niya ang “maraming bahagi nito. ” Inilatag niya ang mabilis na takbo ng pag-unlad ng teknolohiya, na nagpapahayag ng kawalang-katiyakan tungkol sa hinaharap ng sangkatauhan. “Medyo natatakot ako sa takbo ng pag-unlad ng AI sa mga araw na ito, ” sabi ni Adler. Nag-isip siya tungkol sa mga personal na alalahanin sa pagpaplano ng pamilya at pagreretiro, tinatanong kung maaabot ba ng sangkatauhan ang mga milestone na iyon. Ang mga tanyag na tao sa larangan, kasama na ang Nobel laureate na si Geoffrey Hinton, ay sumasang-ayon sa mga alalahanin ni Adler, na natatakot na ang mga advanced na AI system ay maaaring makaiwas sa pangangasiwa ng tao, na nagreresulta sa nakapipinsalang mga kaganapan. Sa kabilang dako, ang iba, tulad ni Yann LeCun, punong siyentipiko ng AI sa Meta, ay binalewala ang mga panganib sa pag-iral, na nagmumungkahi na maaaring iligtas ng AI ang sangkatauhan mula sa saanman. Sa kanyang LinkedIn profile, sinabi ni Adler na siya ang nanguna sa pananaliksik na may kaugnayan sa kaligtasan para sa mga unang paglabas ng produkto at mas mapanlikhang pangmatagalang mga sistema ng AI sa loob ng kanyang apat na taon sa OpenAI.

Nagbigay siya ng babala laban sa karera ng AGI, na nagsasaad na nagdadala ito ng malubhang panganib na may malaking potensyal na masamang epekto. Itinuro ni Adler na walang kasalukuyang laboratoryo ng pananaliksik ang nakapagbigay-solusyon sa isyu ng AI alignment—tinitiyak na ang mga sistema ay sumusunod sa mga halaga ng tao—at nagbabala na ang momentum ng industriya ay maaaring masyadong mabilis upang makahanap ng solusyon sa tamang oras. “Mas mabilis ang aming karera, mas kaunti ang posibilidad na may makahanap ng solusyon sa tamang oras, ” kanyang binigyang-diin. Ang kanyang mga pahayag ay tumugma sa pag-anunsyo ng DeepSeek ng Tsina ng isang bagong modelo na nakikipagkumpitensya sa teknolohiya ng OpenAI, sa kabila ng tila pagkakaroon ng mas kaunting mga mapagkukunan. Kinondena ni Adler ang industriya sa pagiging nakalock sa isang "talagang masamang ekwilibriyo, " na nagtataguyod ng agarang pangangailangan para sa "tunay na mga regulasyon sa kaligtasan. " Siya ay nagpahayag na kahit ang mga laboratoryo na may magagandang intensyon na bumuo ng AGI nang responsable ay maaaring maunahan ng iba na maaaring kumakuha ng shortcuts, na potensyal na nagreresulta sa nakapipinsalang mga kaganapan. May mga pagsisikap na makipag-ugnayan kay Adler at OpenAI para sa karagdagang mga komento.