Tehisintellekti ettevõtteid on innustatud kordama ohutuse arvutusi, mis informeerisid Robert Oppenheimeri esimese tuumakatsetuse eel, enne ultra-olematu võimsusega süsteemide avaldamist. Tuntud tehisintellekti ohutuse ekspert Max Tegmark avalikustas, et ta on teinud arvutusi, mis sarnanevad USA füüsiku Arthuri Comptoni Trinity-testi eel tehtuga. Tegmark leidis 90% tõenäosuse, et väga arenenud tehisintellekt võib avaldada eksistentsiaalset ohtu. USA valitsus jätkas Trinity-testi 1945. aastal pärast kindlustunnet, et aatompommi õnnetu atmosfääri süttimine ja inimkonna ohustamine on äärmiselt vähetõenäoline. Tegmarki ja kolme MITi õpilase koostatud artiklis soovitatakse arvutada “Comptoni konstant”, mis on määratletud kui tõenäosus, et vägev tehisintellekt pääseb inimese kontrolli alt. Compton, Clintoni intervjuus 1959. aastal, märkis, et ta heakskiitis testi pärast seda, kui ta hinnanguliselt oli dünaamilise fusioonireaktsiooni jooksma mineku võimalus “mõnevõrra vähem” kui kolm miljonit üksteise järel. Tegmark väitis, et tehisintellekti ettevõtted peavad võtma vastutuse hoolikalt määratleda, kas Tehisülesene Tehisintellekti (ASI)—teoreetiline süsteem, mis ületab inimintelligentsi kõigis valdkondades—võib vältida inimjärelevalvet. “Superintelligentsi ehitavad ettevõtted peavad arvutama Comptoni konstant, tõenäosuse, et me kaotame selle üle kontrolli, ” ütles ta.

“Piisab, kui öelda ‘me tunneme end sellega hästi’. Nad peavad arvutama protsendi. ” Tegmarki sõnul looks kokkulepe Comptoni konstantist, mis põhineb mitme ettevõtte ühisel arvutamisel, “poliitilise taotluse”, et kehtestada globaalsed tehisintellekti ohutuse standardid. Füüsika ja tehisintellekti uurijana MITis asutas Tegmark koos Käesoleva Elu Instituudi, mittetulundusorganisatsiooni, mis edendab ohutut tehisintellekti arengut. 2023. aastal avaldas instituut avatud kirja, mis kutsus üles peatama võimsate tehisintellektide loomise. Selles kirjas olid osalenud üle 33 000 inimese, sh Elon Musk—varasem organisatsiooni toetaja—and Applei kaasasutaja Steve Wozniak. Kirja, mis avaldati mõni kuu pärast ChatGPT release’it ja millel on ettekujutus uue AI arenguperioodi algusest, hoiatati, et AI laborid on hõivatud “kontrolli alt väljuva võiduajamisega”, kasutades “üha võimsamaid digitaalseid vaime”, mida keegi “ei suuda mõista, ette näha ega usaldusväärselt kontrollida. ” Tegmark rääkis Guardianile, kui AI ekspertide(rühma) koosseisus—seal olid tehnoloogianõustajad, riiklikud ohutuseeskirjade ameti esindajad ning akadeemikud—arendatakse välja uus lähenemisviis AI ohutuks arenguks. Tegmarki koostatud Singapuri kokkulepe globaalse AI ohutusuuringute prioriteetide kohta, mille koostasid juhtivad arvutiteadlased Yoshua Bengio ja OpenAI ning Google DeepMind spetsialistid, rõhutas kolme olulist uurimisvaldkonda: olemasolevate ja tulevaste AI süsteemide mõju mõõtmise meetodite väljatöötamist; soovitud AI käitumise määratlemist ja selle saavutamiseks süsteemide kujundamist; ning AI käitumise juhtimist ja kontrolli. Viidates raportile, märkis Tegmark, et ohutu AI arengu tõuge on pärast hiljutist valitsuste AI tippkohtumist Pariisis taas tugevnenud, kus USA asepresident JD Vance eemaldas ohutuseelarvamusi, öeldes, et AI tulevik “ei saa olla lahendatud käsi-ratastega ohutuse üle spekuleerimisega. ” Tegmark lisas: “Tõesti tundub, et Pariisis tõusnud pilved on hajumas ning rahvusvaheline koostöö on taas hoogu sisse saanud. ”