Kompanije za umjetnu inteligenciju ohrabrene su da repliciraju sigurnosne proračune koji su informisali Robertu Oppenheimeru prvu nuklearnu probu prije nego što puste ultra-moćne sisteme. Max Tegmark, istaknuta osoba u oblasti sigurnosti AI-ja, otkrio je da je izračunao slične proračune onima koje je izvršio američki fizičar Arthur Compton prije Trinity testiranja. Tegmark je otkrio da postoji 90% vjerovatnoće da bi visokorazvijena AI mogla predstavljati egzistencijalni rizik. Američka vlada nastavila je s Trinity testom 1945. nakon što su im donesene garancije da je šansa da atomsku bombu izazove požar u atmosferi i prijeti čovječanstvu gotovo nemoguća. U radu kojeg su napisali Tegmark i troje njegovih studenata sa MIT-a, oni preporučuju izračunavanje "Comptonove konstante", definirane kao vjerovatnoća da se svemoćna AI izbaci iz ljudske kontrole. Compton je, u intervjuu iz 1959. godine za američku spisateljicu Pearl Buck, izjavio da je odobrio test nakon što je procijenio šanse za nepredvidivi fuzijski reakciju na "nešto manje" od jednu u tri miliona. Tegmark je tvrdio da kompanije za AI moraju preuzeti odgovornost za pažljivo određivanje hoće li će SzAI – teorijski sustav koji premašuje ljudsku inteligenciju u svim domenama – izbjeći ljudski nadzor. „Kompanije koje grade superinteligenciju moraju izračunati Comptonovu konstantu, vjerovatnoću da ćemo izgubiti kontrolu nad njom“, kazao je.

„Nije dovoljno reći ‘osjećamo se dobro’. Moraju izračunati postotak. “ Tegmark je predložio da bi konsenzus o Comptonovoj konstantni, izveden od više firmi, mogao generirati „političku volju“ za uspostavljanje globalnih standarda sigurnosti AI-ja. Kao profesor fizike i istraživač AI-ja na MIT-u, Tegmark je suosnivač Instituta za budućnost života (Future of Life Institute), neprofitne organizacije koja promoviše siguran razvoj AI-ja. Institut je 2023. godine objavio otvoreno pismo u kojem poziva na pauzu u razvoju moćnih AI-ja. Pismo je potpisalo više od 33. 000 osoba, uključujući Elona Muska – ranijeg podržavaoca tog instituta – te suosnivača Apple-a Steva Wozniaka. Pismo, objavljeno nekoliko mjeseci nakon izlaska ChatGPT-a, koji je najavio novo doba razvoja AI-ja, upozoravalo je da su laboratorije za AI uključene u “izvan kontrole trku” za uvođenje “ipak moćnijeg digitalnog uma” kojeg niko ne može “razumjeti, predvidjeti niti pouzdano kontrolisati. ” Tegmark je za Guardian rekao dok je grupa stručnjaka za AI – uključujući profesionalce iz tehnološke industrije, predstavnike državnih sigurnosnih agencija i akademike – razrađivala novi pristup za siguran razvoj AI-ja. Izvještaj o “Konsenzusu Singapura o prioritetima istraživanja za globalnu sigurnost AI-ja, ” kojeg su sastavili Tegmark, vodeći računarstveni naučnik Yoshua Bengio i osoblje iz vodećih AI kompanija poput OpenAI i Google DeepMind, istakao je tri ključna područja istraživanja: razvijanje metoda za mjerenje utjecaja trenutnih i budućih AI sustava, specificiranje željenog ponašanja AI i projektiranje sustava za postizanje toga, te upravljanje i kontrolu ponašanja AI-ja. Referirajući na izvještaj, Tegmark je napomenuo da je inicijativa za siguran razvoj AI-ja ponovno dobila zamah nakon nedavnog vladinog summita o AI-u u Parizu, gdje je američki potpredsjednik JD Vance odbacio zabrinutost zbog sigurnosti, izjavivši da "budućnost AI-ja neće biti određena briganjem o sigurnosti. " Tegmark je rekao: „Zaista se čini da je tama s Pariškog summita razvedrena i da je međunarodna saradnja ponovo uzela maha. “