Keinotekoälyyrityksiä on kannustettu toistamaan turvallisuuslaskelmia, jotka vaikuttivat Robert Oppenheimerin ensimmäisen ydinasekokeen tarkasteluun ennen erittäin voimakkaiden järjestelmien vapauttamista. Max Tegmark, merkittävä tekoälytutkija ja -turvallisuuden asiantuntija, paljasti tehneensä laskelmia, jotka muistuttivat Yhdysvaltain fyysikko Arthur Comptonin Trinity-testin yhteydessä tekemää tutkimusta. Tegmarkin mukaan 90 prosentin todennäköisyydellä kehittynyt tekoäly voisi muodostaa eksistentiaalisen uhan. Yhdysvaltain hallitus jatkoi Trinity-koetta vuonna 1945 vakuutusten jälkeen, että mahdollisuus, että atombombi sytyttäisi ilmakehän ja uhkaisi ihmiskuntaa, oli häviävän pieni. Tegmarkin ja hänen kolmen MIT:n opiskelijan kirjoittamassa paperissa he suosittelevat “Compton-vakion” laskemista. Siinä määritellään todennäköisyydeksi, että kaikkivoipa tekoäly pääsee ihmisen kontrollista. Comptonin mukaan, hän kertoi vuonna 1959 USAn kirjoittaja Pearl Buckille antamassaan haastattelussa, että hän oli hyväksynyt kokeen arvioidessaan, että pakoaivoharhaista fuusioreaktiota oli “ hieman alle kolme miljoonaa” mahdollisuutta. Tegmark väitti, että tekoälyyritysten on otettava vastuu määrätietoisesti siitä, arvioivatko he, että Tekoäly-yli-Äly (ASI) – teoreettinen järjestelmä, joka ylittää ihmisen älykkyyden kaikilla alueilla – välttää ihmisvalvonnan. “Super-älykkyyttä rakentavien yritysten on laskettava Compton-vakio, todennäköisyys, että menetämme siitä kontrollin, ” hän sanoi.

“Pelkkä se, että sanot ‘meillä on hyvä tuntuma’, ei riitä. Heidän on laskettava prosenttiosuus. ” Tegmark ehdotti, että useiden yritysten yhteinen laskelma Compton-vakiosta synnyttäisi “poliittisen tahdon” luoda globaaleja tekoälyn turvallisuusstandardeja. Fysiikan professorina ja tekoälytutkijana MIT:ssä Tegmark oli myös yksi Future of Life Institute -järjestön perustajista, voittoa tavoittelemattomassa instituutiossa, joka edistää turvallista tekoälyn kehitystä. Vuonna 2023 järjestö julkaisi avoimen kirjeen, jossa kehotettiin pysäyttämään voimakkaiden tekoälyiden luominen. Kirjeen allekirjoitti yli 33 000 ihmistä, mukaan lukien Elon Musk – järjestön varhainen tukija – ja Apple:n perustaja Steve Wozniak. Kirje julkaistiin kuukausia ChatGPT:n julkaisun jälkeen, joka toi mukanaan uuden aikakauden tekoälytutkimuksessa, ja varoitti, että tekoälylaboratoriot olivat mukana “ hallitsemattomassa kilpailussa” kehittää “yhä voimakkaampia digitaalisia älyjä”, joita kukaan ei “ymmärrä, osaa ennustaa tai luotettavasti hallita”. Tegmark puhui Guardianille sen jälkeen, kun AI-asiantuntijoiden ryhmä – johon kuului teknologia-alan ammattilaisia, turvallisuusviranomaisten edustajia ja akateemisia – kehitti uutta lähestymistapaa tekoälyn turvalliseen kehitykseen. Tegmarkin tuottama Singaporen globaalin tekoälytutkimuksen prioriteettiraportti, johon osallistuivat johtavat tietojenkäsittelyn tutkijat, kuten Yoshua Bengio, sekä johtavien tekoälyyritysten, kuten OpenAI:n ja Google DeepMindin, edustajia, esitteli kolme keskeistä tutkimusaluetta: keinoja nykyisten ja tulevien tekoälyjärjestelmien vaikutuksen mittaamiseen; toivottavan tekoälykäyttäytymisen määrittelyn ja järjestelmien suunnittelun tavoitteiden saavuttamiseksi; sekä tekoälyn käyttäytymisen hallinnan ja kontrollin. Viitaten raporttiin, Tegmark totesi, että turvallisen tekoälyn kehittämisen pyrkimykset olivat saaneet uutta vauhtia juuri Pariisin hallitusten AI-huippukokouksen jälkeen, jossa Yhdysvaltain varapresidentti JD Vance torjui turvallisuushuolen: hän totesi, että tekoälyn tulevaisuus “ei tule ratkaistuksi sormien rutistuksella turvallisuuden ympärillä”. Tegmark sanoi: “Tuntuu kuin Pariisin synkkyys olisi helpottanut ja kansainvälinen yhteistyö olisi palannut takaisin vauhdilla. ”