Mesterséges intelligencia vállalatokat arra ösztönöztek, hogy másolják azokat a biztonsági számításokat, amelyek alapján meghozták Robert Oppenheimer első nukleáris tesztjének döntéseit, mielőtt ultra-erős rendszereket bocsátanak piacra. Max Tegmark, az MI-biztonság egyik kiemelkedő alakja, elárulta, hogy olyan számításokat végzett, amelyeket az amerikai fizikus, Arthur Compton végzett a Trinity-tesztnél. Tegmark szerint 90%-os valószínűséggel egy rendkívül fejlett mesterséges intelligencia exisztenciális kockázatot jelenthet. Az Egyesült Államok kormányának 1945-ben folytatta a Trinity-tesztet, miután biztosítékokat kapott arra, hogy az atomfegyver légkörbe gyulladásának és az emberiség fenyegetésének esélye elhanyagolható. Egy, Tegmark és három MIT-es hallgató által írt dokumentumban azt javasolják, hogy számítsák ki a „Compton-állandót, ” amit annak a valószínűségét jelent, hogy egy mindenható MI kiszökik az emberi irányításból. Compton egy 1959-es interjúban Pearl Buck amerikai írónővel kijelentette, hogy a teszt jóváhagyásakor a megkerülhetetlen összegzés szerint a gyorsuló magfúziós reakció esélye „kicsit kevesebb” mint három millióhoz egyhez volt. Tegmark azon érvel, hogy az MI-cégeknek felelősséget kell vállalniuk azon gondos számítások elvégzéséért, amelyek megmutatják, hogy az Akadémiai Superintelligencia (ASI) – egy elméleti rendszer, amely minden területen felülmúlza az emberi intelligenciát – elkerüli-e az emberi felügyeletet. „A vállalatok, amelyek szuperintelligenciát építenek, meg kell számítsák a Compton-állandót, vagyis annak a valószínűségét, hogy elveszítjük az irányítást felette” – mondta. „Nem elég azt mondani, hogy ‘jó érzésünk van róla’.

Kiszámítási százalékot kell adniuk. ” Tegmark szerint a több cég által közösen meghatározott összegzés a Compton-állandóról politikai akaratot generálna a globális MI-biztonsági szabványok kialakításához. Fizikus professzorként és MI-kutatóként az MIT-nél Tegmark társalapítója a Future of Life Institute nevű non-profit szervezetnek, amely a biztonságos MI-fejlesztést népszerűsíti. A szervezet 2023-ban nyílt levélben szólította fel a világot az erős MI-k kifejlesztésének felfüggesztésére. A levelet több mint 33 000 személy írta alá, köztük Elon Musk – a szervezet egyik korai támogatói – és Steve Wozniak, az Apple társalapítója. A levél, amelyet néhány hónappal a ChatGPT megjelenése után adtak ki, amely egy új korszakot hirdetett az MI fejlesztésében, figyelmeztetett, hogy MI-laboratóriumok egy „kifutó pályán” versenyeznek „egyre erősebb digitális elméket” kifejlesztve, amelyeket senki sem „ért, nem jósol, vagy megbízhatóan irányítani” nem lehet. Tegmark a Guardian-nak adott interjúban beszélt, miközben egy csoport MI-szakértő—köztük technológiai iparági szakemberek, állami biztonsági ügynökségek képviselői és egyetemek kutatói—egy új, biztonságos MI-fejlesztési megközelítésen dolgoznak. A Tegmark, Yoshua Bengio vezető számítástechnikus és az OpenAI, Google DeepMind által is támogatott szervezetek által készített Singapore Consensus on Global AI Safety Research Priorities című jelentés három fő kutatási területet határozott meg: módszerek kidolgozását a jelenlegi és jövőbeni MI-rendszerek hatásának mérésére; a kívánt MI-viselkedés pontos megfogalmazását és rendszerek tervezését annak eléréséhez; valamint az MI-viselkedés kezelést és irányítást. A jelentésre utalva Tegmark megjegyezte, hogy a biztonságos MI-fejlesztés iránti mozgalom lendületet kapott a közelmúlt franciaországi kormányzati MI-kongresszus után, ahol JD Vance amerikai alelnök elutasította a biztonsági aggályokat, mondván, hogy az MI jövője „nem fog a biztonság miatti kétségbeesésen múlni. ” Tegmark így fogalmazott: „Úgy érzem, hogy a párizsi hangulat lecsillapodott, és az nemzetközi együttműködés ismét berobbant. ”