Жасанды интеллект компаниялары Роберт Оppenхаймердің алғашқы ядролық сынағынан бұрын қауіпсіздік есептеуін қайталап жасауға ынталандырылды, ол жүйелер бұрын-соңды болмаған қуаттылыққа ие болмас бұрын. Жасанды интеллект қауіпсіздігінің көрнекті тұлғасы Макс Тегмарк АҚШ физигі Артур Камптон жүргізген Trinity сынағынан бұрын жүргізілген есептеулер тәрізді есептеулер жасағанын айтты. Тегмарк жоғары дамыған жасанды интеллект өмірлік қауіп төндіру ықтималдығы 90% екендігін анықтаған. АҚШ үкіметі 1945 жылы Trinity сынағын жалғастырды, оның қауіпсіздік кепілдіктері бойынша атмосфераны тұтандырып, адамзатқа қауіп төндіретін атом бомбасының ықтималдығы өте төмен деп сендірілді. Тегмарк пен оның MIT студенттерінен тұратын үш әріптесінің мақаласында олар «Камптон тұрақтысы» деп аталатын ұғымды есептеуді ұсынады, ол — барлық күшті жасанды интеллект адамның бақылауынан шығу ықтималдығы ретінде анықталады. Камптон 1959 жылы АҚШ жазушысы Перк Болмен сұхбатында, ол сынақты мақұлдағанын айтты, себебі ол «үш миллионға бірден төмен» жоғалу ықтималдығын бағалаған. Тегмарк жасанды интеллект компанияларынан барлық салаларда адам интеллектінен асып түсетін, Әлеуметтік Жасанды Жүйенің (АШЖ) бақылауынан шығу ықтималдығын мұқият анықтауға жауапкершілік алу керек екенін дәлелдеді. «Жасанды зияткерліктің жоғары деңгейін құрып жатқан компаниялар Камптон тұрақтысын есептеу керек, яғни бақылаудан шығу ықтималдығын есептеу керек», — деді ол. «Біз оны «біз мұны жақсы сезінеміз» деп айтумен шектелуге болмайды.

Олар пайызы мен пайызын есептеуі тиіс». Тегмарк бірнеше компанияның Камптон тұрақтысы бойынша ортақ пікірі жасасса, ол «саяси ынта-жігерді» ынталандырып, жаһандық жасанды интеллект қауіпсіздігі стандарттарын орнатуға алып келетінін ұсынды. MIT физика және жасанды интеллект зерттеушісі ретінде, Тегмарк «Өмірдің болашағы институтын» құрды, ол — қауіпсіз жасанды интеллект дамуын қолдайтын коммерциялық емес ұйым. 2023 жылы институт ашық хат жариялап, қуатты жасанды интеллект жасалынуын тоқтатуды сұрады. Бұл хатқа 33 000-дан астам адам қол қойды, оның ішінде институттың алғашқы қолдаушыларының бірі Илон Маск және Apple-дің негізін қалаушы Стив Возняк болды. ChatGPT-дің шығуынан бірнеше ай кейін жарияланған бұл хат, жасанды интеллект зертханалары “қадағалай алмайтын, бақылауы қиын, әрі қауіпті түрде күшейтілген цифрлық сананың аулақта жүру” үшін бәсекеге түскенін ескертті. Тегмарк Guardian-пен әңгімесінде, жаңа тәсілді әзірлеп жатқан жасанды интеллект саласындағы мамандар — технология саласындағы кәсіпкерлер, мемлекеттік қауіпсіздік агенттіктерінің өкілдері және академиктер, жасанды интеллект қауіпсіздігін қамтамасыз ету үшін — айтып берді. Тегмарк ұсынған Singapore Consensus on Global AI Safety Research Priorities баяндамасы үш негізгі зерттеу саласын анықтады: қазіргі және болашақ жасанды интеллект жүйелерінің әсерін өлшейтін әдістерді дамыту; қажетті жасанды интеллект мінез-құлқын белгілеу және оны жүзеге асыратын жүйелерді жобалау; жасанды интеллект мінез-құлқын басқару мен бақылау. Баяндаманы қарастыра отырып, Тегмарк жақында Париждегі үкіметтік жасанды интеллект саммитінен кейін қауіпсіз жасанды интеллект дамыту ынтасының қайта оралғанын атап өтті, онда АҚШ вице-президенті ЖД Вэнс қауіпсіздік мәселелерін менсінбеуге шақырды, ол «қауіпсіздікке алаңдаушылықпен айналысу арқылы жеңіске жетуге болмайды» деді. Тегмарк: «Париждегі бұл күмән сейілді ме, әлде халықаралық ынтымақтастық қайта жанданды ма, ол жақсы сезіледі», — деп атап көрсетті.