Hinihikayat ang mga kumpanya ng artipisyal na intelihensiya na gayahin ang mga kalkulasyon sa kaligtasan na nagsilbing batayan ng unang nuclear test ni Robert Oppenheimer bago ilabas ang sobrang makapangyarihang mga sistema. Ibinunyag ni Max Tegmark, isang kilalang personalidad sa larangan ng AI safety, na nagsagawa siya ng mga kalkulasyon na katulad ng ginawa ng Amerikanong pisiko na si Arthur Compton bago ang Trinity test. Nalaman ni Tegmark na may 90% na posibilidad na ang isang napaka-advance na AI ay maaaring magdulot ng existential na panganib. Nagpatuloy ang gobyerno ng US sa Trinity test noong 1945 matapos matiyak na ang tsansa na ang isang atomic bomb ay magpaliwanag ng atmospera at makahadlang sa sangkatauhan ay napakababa. Sa isang papel na isinulat ni Tegmark at ng tatlong estudyante niya mula sa MIT, inirerekomenda nilang kalkulahin ang “Compton constant, ” na tinutukoy bilang ang probabilidad na isang makapangyarihang AI ay makakatakas sa kontrol ng tao. Sa isang panayam noong 1959, sinabi ni Compton na pinahintulutan niya ang pagsusubok matapos tantiyahin na ang tsansa ng isang runaway fusion reaction ay “medyo mas mababa” sa isang sa tatlong milyon. Iginiit ni Tegmark na kailangang tumanggap ng responsibilidad ang mga kumpanya ng AI na maingat na tukuyin kung ang Artificial Super Intelligence (ASI)—isang teoretikal na sistema na lagpas sa katalinuhan ng tao sa lahat ng larangan—ay makakatakas sa panghuhusga ng tao. “Ang mga kumpanyang gumagawa ng super-intelligence ay kailangang kalkulahin ang Compton constant, ang probabilidad na mawala tayo sa kontrol dito, ” ani niya.

“Hindi sapat ang magsabing ‘feeling namin ay okay na. ’ Kailangan nilang kwentahin ang porsyento. ” Iminungkahi ni Tegmark na ang pagkakaroon ng pagkakasundo ukol sa Compton constant na nagmula sa maraming kumpanya ay maaaring magbigay-daan sa “politikal na kagustuhan” na magtatag ng pandaigdigang pamantayan sa kaligtasan ng AI. Bilang isang propesor sa pisika at mananaliksik sa AI sa MIT, kasabay niyang itinatag ang Future of Life Institute, isang non-profit na organisasyon na nagpo-promote ng ligtas na pag-unlad ng AI. Noong 2023, naglathala ang instituto ng isang bukas na liham na nananawagan ng pansamantalang tigil sa paggawa ng mabibigat na AI. Mahigit 33, 000 ang bumili ng pirma, kabilang na si Elon Musk—isang maagang tagasuporta ng instituto—and si Steve Wozniak, co-founder ng Apple. Ang liham na inilabas ilang buwan pagkatapos ilabas ang ChatGPT, na nagpasimula ng isang bagong yugto sa AI development, ay nagbanta na ang mga laboratoryo ng AI ay kasali sa isang “pagka-range out of control na karera” upang mag-deploy ng “mas makapangyarihang digital na isipan” na walang makaintindi, makapaghula, o makontrol nang maaasahan. Nakipag-usap si Tegmark sa The Guardian habang ang isang grupo ng mga ekspertong AI—kabilang ang mga propesyonal sa industriya ng teknolohiya, mga kinatawan mula sa mga ahensya ng kaligtasan na suportado ng estado, at mga akademiko—ay nagsusulong ng isang bagong pamamaraan para sa ligtas na pag-develop ng AI. Ang report na Singapore Consensus on Global AI Safety Research Priorities, na isinagawa ni Tegmark, kasama si Yoshua Bengio, isang nangungunang computer scientist, at mga kawani mula sa mga nangungunang kumpanya ng AI tulad ng OpenAI at Google DeepMind, ay naglalahad ng tatlong pangunahing larangan ng pananaliksik: ang paglinang ng mga paraan upang masukat ang epekto ng kasalukuyan at hinaharap na mga sistema ng AI; ang pagtukoy ng kanais-nais na asal ng AI at ang disenyo ng mga sistemang makakaabot nito; at ang pamamahala at pagkontrol sa asal ng AI. Tungkol sa report, ipinunto ni Tegmark na muling nagkaroon ng momentum ang pagsusulong ng ligtas na AI development matapos ang kamakailang pandaigdigang AI summit sa Paris, kung saan binatikos ni US Vice-President JD Vance ang mga pag-aalala sa kaligtasan, habang sinabing ang kinabukasan ng AI “ay hindi mapapanalunan sa pag-iyak-iyak tungkol sa kaligtasan. ” Sabi ni Tegmark: “Pakiramdam ko, malaya na mula sa usok at ulap sa Paris at muling nagsimula ang pandaigdigang pagtutulungan. ”