Podjetja za umetno inteligenco so spodbudili, naj ponovno izračunajo varnostne ocene, ki so obeležile prvi jedrski test Roberta Oppenheimera, preden so začela sproščati izjemno močne sisteme. Max Tegmark, ugleden strokovnjak za varnost AI, je razkril, da je izpeljal izračune, podobne tistim, ki jih je opravil ameriški fizik Arthur Compton pred testom Trinity. Tegmark je ugotovil, da obstaja 90-odstotno verjetnost, da bi zelo napredna umetna inteligenca lahko predstavljala eksistencialno nevarnost. Država ZDA je leta 1945 nadaljevala s testom Trinity po zagotovilih, da je majhno verjetnost, da bo jedrska bomba sprožila atmosfero in ogrozila človeštvo. V članku, ki ga je napisal Tegmark s tremi študenti z MIT-a, priporočajo izračun “Comptonove konstante, ” ki je opredeljena kot verjetnost, da se vsesplošna AI izmakne nadzoru človeka. Compton je v intervjuju iz leta 1959 z ameriško pisateljico Pearl Buck povedal, da je odobril test po ocenah možnosti, da bi se jedrska reakcija preveč razplamtela, na “skoraj manj kot tri milijone proti ena. ” Tegmark je opozoril, da morajo podjetja za umetno inteligenco prevzeti odgovornost za natančno določitev, ali bo umetna superinteligenca (ASI) – teoretični sistem, ki presega človeško inteligenco na vseh področjih – ušla nadzoru človeka. “Podjetja, ki gradijo superinteligenco, morajo izračunati Comptonovo konstanto, verjetnost, da nad njo izgubimo nadzor, ” je dejal.

“Ni zadostno reči ‘počutimo se dobro z njo. ’ Morajo izračunati odstotek. ” Tegmark je predlagal, da bi soglasje o Comptonovi konstanti, pridobljeno od več podjetij, ustvarilo “politično voljo” za vzpostavitev svetovnih standardov varnosti AI. Kot profesor fizike in raziskovalec na MIT-u je Tegmark soustanovil Inštitut za prihodnost življenja, neprofitno organizacijo, ki promovira varno razvoj AI. Inštitut je leta 2023 objavil odprto pismo, v katerem je pozval k prehodu v razvoju močnih AI. Pismo je podpisalo več kot 33. 000 posameznikov, vključno z Elonom Muskom – enim od prvih podpornikov inštituta – ter soustanoviteljem podjetja Apple Stevom Wozniakom. Pismo, izdano nekaj mesecev po izdaji ChatGPT, ki je napovedal novo obdobje razvoja AI, je opozarjalo, da so raziskovalni centri za AI ujeti v “neobvladljiv tekmovalni boj” za nameščanje “še močnejših digitalnih umov, ” katerih noben nihče ne more “razumeti, predvideti ali zanesljivo nadzorovati. ” Tegmark je za Guardian povedal, da je skupina strokovnjakov za AI – med njimi tudi tehnološki industrijski strokovnjaki, predstavniki agencij za varnost, podprtih s strani države, in akademiki – razvijala nov pristop za varen razvoj AI. Poročilo Singapurskega soglasja o prioritetah raziskav na področju globalne varnosti AI, ki ga je pripravil Tegmark skupaj z vodilnim računalniškim znanstvenikom Yoshui Bengiom in sodelavci iz vodilnih podjetij za AI, kot sta OpenAI in Google DeepMind, je opredelilo tri ključna raziskovalna področja: razvoj metod za merjenje vpliva trenutnih in prihodnjih sistemov AI; določitev želenega vedenja AI in oblikovanje sistemov za njegovo doseganje; ter upravljanje in nadzor nad vedenjem AI. Glede na poročilo je Tegmark izpostavil, da je pobuda za varen razvoj AI ponovno pridobila zagon po nedavni državnem vrhu o AI v Parizu, kjer je ameriški podpredsednik JD Vance zavrnil skrbi glede varnosti in dejal, da “ne bo zmagal prihodnost AI s skrbmi za varnost. ” Rekel je: “Res se zdi, da se je temnota iz Pariza razkadila in je mednarodno sodelovanje ponovno oživelo. ”