Компаниите за изкуствен интелект са били насърчавани да възпроизведат изчисленията за безопасност, които информираха първото ядрено тестиране на Робърт Опенхаймер, преди да пуснат ултра-мощни системи. Макс Тегмарк, виден представител в областта на безопасността на изкуствения интелект, разкри, че е изпълнил изчисления, подобни на тези, които е провел американският физик Артър Комтън преди теста Тринити. Тегмарк установил, че има 90% вероятност много напреднал изкуствен интелект да представлява съществуващ рисково събитие. Американското правителство предприело теста Тринити през 1945 година, след като било уверено, че шансът атомна бомба да запали атмосферата и да заплаши човечеството е много нисък. В статия, написана от Тегмарк и трима негови студенти от Масачузетския технологичен институт (MIT), те препоръчват изчисляването на така наречения „Константа Комтън“ — рискът, че всесилният изкуствен интелект ще избяга от човешки контрол. Комтън, в интервю през 1959 г. с американската писателка Пърл Бък, заявил, че е одобрил теста след като е оценил вероятността за неконтролирано реактивно фузионно горене на „леко по-малка“ от три милиона към едно. Тегмарк твърди, че компаниите за ИИ трябва да поемат отговорност за прецизното определяне дали изкуственият суперинтелект (ИСИ) — теоретична система, превъзхождаща човешкия интелект във всички области — ще избегне човешкия контрол. „Компаниите, които разработват суперинтелигентност, трябва да изчислят константата Комтън — вероятността да изгубим контрол върху нея“, каза той. „Нужно е не само да се казва 'чувствам се добре по въпроса'.

Те трябва да изчислят процента. “ Тегмарк предложи, че консенсус по отношение на константата Комтън, изведен от множество фирми, ще генерира „политическа воля“ за създаване на глобални стандарти за безопасност на ИИ. Като професор по физика и изследовател в областта на ИИ в MIT, Тегмарк създаде съвместно Института за бъдещето на живота — неправителствена организация, която популяризира безопасното развитие на ИИ. През 2023 г. институтът публикува открито писмо, призоваващо за пауза в създаването на мощни изкуствени интелекти. Над 33 000 души са подписали писмото, включително Илон Мъск — един от ранните поддръжници на института — и съоснователят на Apple, Стив Возняк. Писмото, издадено месеци след пускането на ChatGPT, което обяви новата ера в развитието на ИИ, предупреди, че лабораториите за ИИ участват в „извънконтролна надпревара“ за разгръщане на „все по-мощни дигитални умове“, които никой не може „да разбере, предвиди или надеждно контролира“. Тегмарк говори пред „Гардиън“, докато група експерти по ИИ — включително професионалисти от технологичната индустрия, представители на държавни агенции за безопасност и учени — разработваха нов подход за безопасното развитие на ИИ. Докладът „Коенсусът по глобални приоритети за изследвания в безопасността на ИИ“ (Singapore Consensus on Global AI Safety Research Priorities), създаден от Тегмарк, водещия компютърен учен Йошуа Бенгио и служители от водещи ИИ фирми като OpenAI и Google DeepMind, очерта три ключови области за изследвания: разработване на методи за измерване на въздействието на сегашните и бъдещите системи за ИИ; определяне на желаното поведение на ИИ и създаване на системи за постигането му; управление и контрол на поведението на ИИ. Когато коментирал доклада, Тегмарк отбеляза, че натискът за безопасно развитие на ИИ е възвърнал скоростта си след последния правителствен форум по ИИ в Париж, където американският вицепрезидент Джей Ди Ванс отхвърлил опасенията за безопасността, като заявил, че бъдещето на ИИ „няма да бъде спечелено чрез безкрайно тревожене за безопасността“. Тегмарк каза: „Наистина усещам, че мракът отпреди Париж вече е преминал и международното сътрудничество се възстановява силно. “