Kompanije za veštačku inteligenciju podsticana je da replikaju sigurnosne proračune koji su informisali Roberta Oppenheimera tokom njegovog prvog nuklearnog testa pre puštanja ultra moćnih sistema. Max Tegmark, istaknuta ličnost u oblasti sigurnosti veštačke inteligencije, otkrio je da je izveo slične proračune kao i američki fizičar Arthur Compton pre testiranja Trinity. Tegmark je zaključio da postoji 90% šanse da veoma napredna veštačka inteligencija može predstavljati egzistencijalni rizik. Vlada Sjedinjenih Država nastavila je sa testiranjem Trinity 1945. godine nakon što su imeli uveravanja da je mogućnost da atomska bomba izazove sagorevanje atmosfere i preti čovečanstvu gotovo nikakva. U radu koji su napisali Tegmark i troje njegovih studenata sa MIT-a, preporučili su da se izračuna „Komptonova konstanta“, definisana kao verovatnoća da se moćna veštačka inteligencija izmakne ljudskoj kontroli. Compton je, u intervjuu iz 1959. godine za američku pisca Pearl Buck, izjavio da je odobrio test nakon procene da su šanse da dođe do nekontrolisane fuzione reakcije „nekoliko manje“ od jedne od tri miliona. Tegmark je tvrdio da kompanije za AI moraju preuzeti odgovornost za precizno utvrđivanje da li će veštačka supersvesnost (ASI)—teorijski sistem koji nadmašuje ljudsku inteligenciju u svim domenima—pobeći ljudskom nadzoru. „Kompanije koje grade super inteligenciju moraju izračunati Komptonovu konstantu, verovatnoću da izgubimo kontrolu nad njom“, rekao je. „Nije dovoljno samo reći ‘osećamo se sigurno’.

Moraju izračunati procent. “ Tegmark je predložio da bi konsenzus o Komptonovoj konstanti, dobijen od više kompanija, stvorio „političku volju“ za uspostavljanje globalnih standarda za sigurnost AI. Kao profesor fizičke nauke i istraživač veštačke inteligencije na MIT-u, Tegmark je suosnivač Instituta za budućnost života, neprofitne organizacije koja promoviše siguran razvoj AI. Institut je 2023. godine objavio otvoreno pismo u kojem poziva na pauzu u razvoju moćnih AI. Pismo je potpisalo preko 33. 000 osoba, uključujući Elona Muska—ranu podršku tog instituta—i Steva Voznjaka, suosnivača Apple-a. To pismo, objavljeno mesecima nakon izlaska ChatGPT-a, koji je označio novu eru u razvoju AI, upozoravalo je da se istraživački labosi za veštačku inteligenciju nalaze u „nekontrolisanoj trci“ za razvoj „sve moćnijih digitalnih umova“ koje niko ne može „razumeti, predvideti ili pouzdano kontrolisati“. Tegmark je za Gardijan izjavio dok je grupa stručnjaka za veštačku inteligenciju—uključujući profesionalce iz tehnološke industrije, predstavnike agencija za sigurnost sa podrškom države i akademike—razvijala novi pristup bezbednom razvoju AI. Izveštaj „SARBINSKA KOALICIJA O PRIORITETIMA ISTRAŽIVANJA BEZBEDNOSTI GLOBALNE VEŠTAČKE INTELIGENCIJE“, koji su pripremili Tegmark, vodeći komputerista Yoshua Bengio i osoblje iz vodećih firmi za AI kao što su OpenAI i Google DeepMind, identifikovao je tri ključne oblasti istraživanja: razvijanje metoda za merenje uticaja trenutnih i budućih AI sistema; specificiranje željenog ponašanja AI i dizajniranje sistema koji to postiž. i upravljanje i kontrolu ponašanja AI. Pozivajući se na izveštaj, Tegmark je primetio da je težnja za sigurnijim razvojem AI ponovo dobila akceleraciju nakon nedavnog samita vlada o AI u Parizu, gde je američki potpredsednik JD Vance odbacio zabrinutosti za sigurnost, navodeći da „budućnost AI neće biti pobedjena preteranim brige o sigurnosti. “ Tegmark je rekao: „Zaista se oseća da je tama iz Pariza popustila i da je međunarodna saradnja ponovo ojačala. “