Tölvufjölmiðlafyrirtæki hafa verið hvött til að endurbyggja öryggisklucur sem gáfu upp byggingargrundvöll fyrir fyrsta kjarnorkusprengju Robert Oppenheimer áður en þau slepptu úr sér mjög stafrænamáttugan kerfi. Max Tegmark, virtur maður í öryggi gervigreindar, játaði að hann hefði gert svipaðar útreikningar og bandaríski eðlisfræðingurinn Arthur Compton hafði gert fyrir Trinity-prófið. Tegmark taldi að 90% líkur væru á því að mjög háþróuð gervigreind gæti skapað útsetningarrisiko. Bandaríska ríkisstjórnin hélt áfram með Trinity-prófið árið 1945 eftir að hafa fengið fullvissu um að líkur á því að kjarnaknúin sprengja kveiki í andrúmslofti og ógni mannkyninu væru nánast engar. Í grein sem Tegmark og þrír nemendur hans við MIT rituðu, mæla þeir með því að reikna út „Compton stöðulinn“, sem skilgreindur er sem líkur á því að öflug gervigreind komist úr stjórn manna. Compton sagði í viðtali árið 1959 við bandaríska rithöfundinn Pearl Buck að hann hefði samþykkt prófið eftir að hafa metið líkur á því að sundurliðun á samrunaæxli myndi fara fram á „lítið minna“ en einn á þrjá milljónir. Tegmark taldi að gervigreindarfyrirtæki þyrftu að axla ábyrgð á því að skipuleggja nákvæmlega hvort Alþjóðleg Super Intelligence (ASI)—kerfi sem gæti yfirstað mannlega greind í öllum sviðum—myndu komast undan mannaeftirliti. „Fyrirtækin sem byggja ofur-gervigreind þurfa að reikna út Compton stöðulinn, líkur á því að við missum stjórn á henni, “ sagði hann. „Það dugir ekki að segja ‘við finnum fyrir því gott, ’ þeir verða að reikna hlutfallið. “ Tegmark setti fram þá hugmynd að samstaða um Compton stöðulinn, byggð á niðurstöðum margra fyrirtækja, myndi skapa „stjórnmálalegan vilja“ til að setja alþjóðlegar öryggisstaðla fyrir gervigreind. Sem prófessor í eðlisfræði og rannsóknarmaður í gervigreind við MIT, söfnuðust Tegmark meðstofnendur The Future of Life Institute, en þessi félagasamtök eru ekki hagnaðargróður. Markmið þeirra er að stuðla að öruggri þróun gervigreindar.

Árið 2023 gaf félagið út opna bréfarsendu þar sem farið var fram á pásu við þróun með stærri og öflugri gervigreindakerfi. Yfir 33. 000 einstaklingar styðjuðu bréfið, þar á meðal Elon Musk—sem var einn af fyrstu stuðningsmönnum félagsins—og Steve Wozniak, samþykkjandi risavíð að stuðla að ábyrgu þróunarstarfi. Bréfið, sem var gefið út nokkrum mánuðum eftir að ChatGPT var kynnt, sem merki um nýtt tímabil í þróun gervigreindar, varaði við því að rannsóknarstofur væru í „út úr stjórn“ keppni um að koma á markað „öflugri stafrænum hugum“ sem enginn gæti „skilið, spáð fyrir um eða treyst á. “ Tegmark ræddi við The Guardian um þessar þróunar, en hópur sérfræðinga í gervigreind, þar á meðal tækni- og öryggisfulltrúar, þróunaraðilar og fræðimenn, var þá að vinna að nýrri nálgun fyrir örugga þróun AI. Skýrsla sem heitir Singapore Consensus on Global AI Safety Research Priorities, sem Tegmark, framúrskarandi tölvunarfræðingurinn Yoshua Bengio og starfsfólk frá forstáðar AI-fyrirtækjum eins og OpenAI og Google DeepMind, voru að móta, lýsti þremur sérstakri áherslu á rannsóknir: að þróa aðferðir til að mæla áhrif núverandi og komandi AI-kerfa; að skilgreina æskilega hegðun AI og hanna kerfi til að ná henni; og að stýra og hafa stjórn á hegðun AI. Vinsamlegast vísað til skýrslunnar, tók Tegmark fram að sú bylgja öryggisríkis sem hafði vaxið á ný eftir ríkisstjórnarfundinum í París, þar sem varnarmálanefnd Bandaríkjanna, var það varla óhugsandi að Forystu-tilmæli eða öryggisskuldbindingar væru að koma í veg fyrir að þróun gervigreindar færi út úr lagi. Tegmark sagði: „Það er eins og að því að slaka á út frá París hafi lítið komið fram. Alþjóðleg samvinna hefur) komið aftur í gang. “