Компанії, що займаються штучним інтелектом, отримали заохочення до відтворення розрахунків безпеки, які інформували про перший ядерний тест Роберта Оппенгаймера, перед випуском надпотужних систем. Макс Тегмарк, видатна фігура в галузі безпеки ШІ, зізнався, що він провів розрахунки, подібні до тих, що здійснив американський фізик Артур Комpton перед тестом Трінті. Тегмарк встановив, що ймовірність того, що високорозвинений штучний інтелект може становити існуючу загрозу, становить 90%. Уряд США у 1945 році продовжив тест Трінті після запевнень, що ймовірність того, що атомна бомба підпалить атмосферу і загрожуватиме людству, є знівельовано малою. У статті, написаній Тегмарком і трьома його студентами з MIT, рекомендується обчислити «Константу Комтона», яка визначається як ймовірність того, що всесильний штучний інтелект втече з-під людського контролю. Комтон у 1959 році під час інтерв'ю з американською письменницею Перл Бак заявив, що схвалив тест після оцінки шансів на втечу реакції синтезу «більш-менш менше» ніж один до трьох мільйонів. Тегмарк стверджує, що компанії, що розробляють суперінтелект, мають нести відповідальність за ретельне визначення того, чи ЗСІ—теоретична система, яка перевершує людський розум у всіх сферах—втече з-під контролю людини. «Компанії, які створюють суперінтелект, повинні обчислити константу Комтона, ймовірність того, що ми втратимо контроль над нею», — заявив він. «Немає достатньо просто казати «ми почуваємося добре».

Вони повинні обчислити відсоток. » Тегмарк запропонував, що консенсус щодо константи Комтона, отриманий від кількох компаній, сприятиме створенню «політичної волі» для встановлення глобальних стандартів безпеки штучного інтелекту. Як професор фізики та дослідник ШІ у MIT, Тегмарк співзаснував Інститут майбутнього життя — неприбуткову організацію, що просуває безпечний розвиток ШІ. У 2023 році інститут опублікував відкритого листа із закликом призупинити створення потужних ШІ. Під листом підписалися понад 33 000 осіб, зокрема Ілон Маск — один із ранніх прихильників інституту — та співзасновник Apple Стів Возняк. Цей лист, випущений через кілька місяців після релізу ChatGPT, який відкрив нову еру розвитку ШІ, застеріг, що лабораторії штучного інтелекту беруть участь у «виході з-під контролю гонці» щодо розгортання «все більш потужних цифрових розумів», яких ніхто не може «зрозуміти, передбачити або надійно контролювати». Тегмарк прокоментував у газеті Guardian, що разом з групою експертів у галузі ШІ — включаючи фахівців галузі технологій, представників державних агентств безпеки і вчених — розробляється новий підхід до безпечного розвитку ШІ. Звіт «Консенсус Сінгапуру щодо пріоритетів досліджень глобальної безпеки ШІ», підготовлений Тегмарком, провідним комп'ютерним вченим Йошуа Бенгіо та працівниками провідних компаній із ШІ, таких як OpenAI та Google DeepMind, окреслює три ключові напрями досліджень: розробка методів виміру впливу поточних та майбутніх систем ШІ; визначення бажаної поведінки ШІ та розробка систем для її досягнення; та управління і контроль поведінки ШІ. Згадавши про цей звіт, Тегмарк зазначив, що рух за безпечний розвиток ШІ отримав новий поштовх після нещодавнього урядового саміту з ШІ у Парижі, де віцепрезидент США Джейден Ванс заперечував занепокоєння щодо безпеки, заявляючи, що майбутнє ШІ «не буде вирішено безтурботністю щодо безпеки». Тегмарк сказав: «Дійсно відчутно, що похмурість із Парижа пройшла, і міжнародна співпраця знову набрала сили».