Attīstības uzņēmumi ar Mākslīgā Intelekta tehnoloģijām tiek iedrošināti atdarināt drošības aprēķinus, kas informēja Balstad Oppenhemera pirmā kodolatestā, pirms palaist ultra jaudīgās sistēmas. Max Tegmarks, ievērojams AI drošības eksperts, atklāja, ka viņš ir veicis līdzīgus aprēķinus, kādus veica amerikāņu fiziķis Arturs Komtons pirms Trinity testa. Tegmarks konstatēja 90% iespēju, ka ļoti attīstīta AI var radīt eksistenciālu risku. Amerikas valdība 1945. gadā turpināja Trinity testu pēc tam, kad tika droši apliecināts, ka atoma ieroču aizdedzināšana atmosfērā un draudi cilvēcei ir praktiski nenozīmīgi. Tegmark un trīs viņa MIT studentu autors rakstā iesaka aprēķināt “Komtona konstantu, ” kas definēta kā iespēja, ka pilnībā jaudīga AI izbēgs no cilvēka kontroles. Komtons 1959. gada intervijā ar amerikāņu rakstnieci Pērlo Bak, teica, ka viņš bija apstiprinājis testu pēc tam, kad novērtēja iespēju, ka neizbēgams fūsijas reakcijas uzliesmojums ir “ nedaudz mazāks” par vienu uz trīs miljoniem. Tegmarks uzsvēra, ka AI uzņēmumi ir atbildīgi par rūpīgu aprēķinu veikšanu, vai Mākslīgā Superinteliģence (ASI)— teorētiska sistēma, kas pārspēj cilvēka intelektu visās jomās—izbēgs no cilvēka uzraudzības. “Uzņēmumiem, kas izstrādā superinteliģenci, ir jāaprēķina Komtona konstante, tas ir, iespēja, ka mēs zaudēsim kontroli pār to, ” viņš teica. “Nav pietiekami vien teikt ‘mēs jūtamies lepni par to’.

Viņiem jāveic procents. ” Tegmarks ieteica, ka konsensa izveide par Komtona konstantu, ko nosaka vairākas firmas, radīs “politisko gribu” izveidot globālus AI drošības standartus. Kā MIT fizikas un AI pētnieks, Tegmarks ir kopā ar citiem dibinājis “Nākotnes Dzīves Institūtu” (Future of Life Institute), nevalstisku organizāciju, kas popularizē drošu AI attīstību. 2023. gadā institūts publicēja atvērtu vēstuli, kas aicina uz pārtraukšanu jaudīgu AI izstrādē. To parakstījuši vairāk nekā 33 000 cilvēku, tostarp Elons Masks— agrākais institūta atbalstītājs— un Apple līdzīpašnieks Stīvs Vozņiaks. Vēstule, kas tika izteikta dažu mēnešu laikā pēc ChatGPT izlaišanas, kas noteica jauna AI attīstības ēras sākumu, brīdināja, ka AI laboratorijas ir iesaistītas “kontroles zaudēšanas sacīkstēs, ” mēģinot izplatīt “vienmēr jaudīgākas digitālas prātu sistēmas, ” kuras neviens neuzskata, neprognozē vai droši kontrolē. Tegmarks runāja ar “Gardianu, ” kad AI ekspertu grupa— tostarp tehnoloģiju industrijas profesionāļi, valsts atbalstīti drošības aģentūru pārstāvji un akadēmiķi— izstrādāja jaunu pieeju drošākai AI attīstībai. Tegmarks piedalījās Singapūras Kopējās AI drošības pētījumu prioritāšu ziņojuma izstrādē, ko kopā ar citiem veidoja galvenais datorzinātnieks Jošua Bengio un vadoši AI uzņēmumi, piemēram, OpenAI un Google DeepMind. Ziņojumā izvirzīti trīs galvenie pētījumu virzieni: attīstīt metodes, kas mēra pašreizējo un nākotnes AI sistēmu ietekmi; noteikt vēlamo AI uzvedību un izstrādāt sistēmas, kas to sasniedz; un vadīt un kontrolēt AI uzvedību. Attiecībā uz ziņojumu, Tegmarks atzīmēja, ka drošā AI attīstības veicināšana ir atguvusi spēku pēc nesenās valdības AI samita Parīzē, kuras laikā ASV viceprezidents Dž. D. Vance noraidīja drošības bažas, apgalvojot, ka AI nākotne “nespēlēs rokā turošos rūpju par drošību. ” Tegmarks teica: “Tiešām šķiet, ka Parižas drūmums ir mazinājies, un starptautiskā sadarbība ir atgriezusies ar jaudīgu spēku. ”