Kompani të inteligjencës artificiale janë inkurajuar të ripërpunojnë llogaritjet e sigurisë që informuan testin e parë bërthamor të Robert Oppenheimer-it para se të lëshojnë sisteme jashtëzakonisht të fuqishme. Max Tegmark, një figurë e njohur në sigurinë e AI-së, zbuli se kishte bërë llogaritje të ngjashme me ato të fizikantit amerikan Arthur Compton përpara testit të Trinity-s. Tegmark gjeti një probabilitet prej 90% që një AI shumë i përparuar mund të paraqesë rrezik ekzistencial. Qeveria e SHBA-së vazhdoi me testin Trinity në vitin 1945 pasi mori siguri se rreziku i ndezjes së bombës atomike në atmosferë dhe kërcënimi për njerëzimin ishte shumë i vogël. Në një letër të shkruar nga Tegmark dhe tre studentë të MIT, ata rekomandojnë të bëjnë llogaritjen e “ constants së Comptonit, ” e cila përcaktohet si probabiliteti që një AI gjithëfuqishme të largohet nga kontrolli i njeriut. Compton, në një intervistë të vitit 1959 me shkrimtaren amerikane Pearl Buck, deklaroi se kishte miratuar testin pasi kishte vlerësuar shanset për një reaksion fusion të arratisur që ishte “ pak më i vogël” se një në tre milionë. Tegmark argumentoi se kompanitë e AI-së duhet të marrin përgjegjësinë për të përcaktuar me kujdes nëse Super Inteligjenca Artificiale (ASI)—një sistem teorik që kapërcen inteligjencën njerëzore në të gjitha fusha—do të shmangë mbikëqyrjen njerëzore. “Kompanitë që ndërtojnë super-iturje duhet të llogarisin konstantën e Compton-it, probabilitetin që ne ta humbasim kontrollin mbi atë, ” tha ai.

“Është e pamjaftueshme të thuhet ‘ne ndjehemi mirë për të. ’ Ata duhet të llogarisin përqindjen. ” Tegmark sugjeroi që një konsensus mbi konstantën e Compton-it i nxjerrë nga shumë kompani të krijojë “vullnet politik” për të vendosur standarde globale për sigurinë e AI-së. Si profesor fizikë dhe hulumtues i AI-së në MIT, Tegmark bashkëtheu Institutin e së Ardhmes së Jetës, një organizatë jofitimprurëse që promovon zhvillimin e sigurt të AI-së. Instituti publikoi një letër të hapur në vitin 2023 duke kërkuar që të bëhet një ndalim për krijimin e AI-ve të fuqishme. Mbi 33, 000 individë nënshkruan letrën, përfshirë Elon Musk—një mbështetës i hershëm i institutit—dhe bashkëthemeluesin e Apple Steve Wozniak. Letra, e lëshuar disa muaj pas publikimit të ChatGPT-së që shënoi një epokë të re në zhvillimin e AI-së, paralajmëronte se laboratorët e AI-së ishin duke hyrë në një “garë jashtë kontrollit” për të përdorur “tru huaj digital” gjithnjë e më të fuqishëm, të cilët askush nuk mund ta “kuptojë, parashikojë, ose kontrollojë me siguri. ” Tegmark foli për Guardian-in ndërsa një grup ekspertësh të AI-së— përfshirë profesionistë të industrisë teknologjike, përfaqësues të agjencive të sigurisë të mbështetura nga shteti dhe akademikë—po zhvillonin një qasje të re për zhvillimin e sigurt të AI-së. Raporti “Konsensusi Singaporian mbi Prioritetet e Hulumtimit Global për Sigurinë e AI-së, ” i prodhuar nga Tegmark, shkencëtari kryesor i kompjuterëve Yoshua Bengio, dhe stafi nga ndërmarrje të mëdha të AI-së si OpenAI dhe Google DeepMind, përmblodhi tre fusha kryesore të hulumtimit: zhvillimin e metodave për matjen e ndikimit të sistemeve aktuale dhe të ardhshme të AI-së; përcaktimin e sjelljes së dëshiruar të AI-së dhe krijimin e sistemeve për ta arritur atë; dhe menaxhimin dhe kontrollin e sjelljes së AI-së. Duke iu përgjigjur raporteve, Tegmark tha se nxitja për zhvillimin e sigurt të AI-së kishte rifilluar pas samitit të fundit qeveritar për AI në Paris, ku zëvendës-presidenti i SHBA-së, JD Vance, hodhi poshtë shqetësimet për sigurinë, duke thënë se e ardhmja e AI-së “nuk do të fitohet duke u merakosur për sigurinë. ” Tegmark shtoi: “Më duket se trishtimi nga Parisi është zhdukur dhe bashkëpunimi ndërkombëtar është kthyer fuqishëm. ”