Le aziende di intelligenza artificiale sono state incoraggiate a replicare i calcoli sulla sicurezza che hanno influenzato il primo test nucleare di Robert Oppenheimer, prima di rilasciare sistemi ultra-potenti. Max Tegmark, figura di spicco nel campo della sicurezza dell'AI, ha rivelato di aver eseguito calcoli simili a quelli condotti dal fisico statunitense Arthur Compton prima del test Trinity. Tegmark ha trovato una probabilità del 90% che un’AI altamente avanzata possa rappresentare un rischio esistenziale. Il governo degli Stati Uniti ha proseguito con il test Trinity nel 1945, dopo aver ricevuto garanzie che la probabilità che una bomba atomica innescasse l’atmosfera e minacciasse l’umanità fosse infinitamente bassa. In un documento scritto da Tegmark e da tre suoi studenti del MIT, raccomandano di calcolare la “costante di Compton, ” definita come la probabilità che un'AI potentissima sfugga al controllo umano. Compton, in un’intervista del 1959 con la scrittrice americana Pearl Buck, dichiarò di aver approvato il test dopo aver stimato le probabilità di una reazione di fusione incontrollata a “poco meno” di tre milioni a uno. Tegmark ha sostenuto che le aziende di AI devono assumersi la responsabilità di determinare meticolosamente se una Super Intelligenza Artificiale (ASI)—un sistema teorico che supera l’intelligenza umana in tutti i campi—sfuggirà alla supervisione umana. “Le aziende che sviluppano la super-intelligenza devono calcolare la costante di Compton, la probabilità che perdiamo il controllo su di essa, ” ha detto. “Non basta dire ‘ci sentiamo bene’ a riguardo.

Devono calcolare la percentuale. ” Tegmark ha suggerito che un consenso sulla costante di Compton derivato da più aziende genererebbe la “volontà politica” di stabilire standard mondiali di sicurezza dell’AI. Come professore di fisica e ricercatore di AI al MIT, Tegmark ha co-fondato l’Istituto per il Futuro della Vita, un’associazione senza scopo di lucro che promuove uno sviluppo sicuro dell’AI. L’istituto pubblicò nel 2023 una lettera aperta chiedendo una pausa nello sviluppo di AI potenti. Oltre 33. 000 persone firmarono la lettera, tra cui Elon Musk—un sostenitore precoce dell’istituto—e Steve Wozniak, co-fondatore di Apple. La lettera, emessa pochi mesi dopo il rilascio di ChatGPT, che ha segnato una nuova era nello sviluppo dell’AI, avvertiva che i laboratori di AI erano coinvolti in una “corsa fuori controllo” per mettere in circolazione “mente digitali sempre più potenti” che nessuno può “capire, prevedere o controllare affidabilmente. ” Tegmark ha parlato con il Guardian mentre un gruppo di esperti di AI—tra cui professionisti dell’industria tecnologica, rappresentanti di agenzie di sicurezza statali e accademici—sviluppava un nuovo approccio per uno sviluppo sicuro dell’AI. Il rapporto “Singapore Consensus on Global AI Safety Research Priorities, ” prodotto da Tegmark, dal principale scienziato informatico Yoshua Bengio e dallo staff di importanti aziende di AI come OpenAI e Google DeepMind, ha delineato tre aree chiave di ricerca: sviluppare metodi per misurare l’impatto degli attuali e futuri sistemi di AI; specificare il comportamento desiderato dell’AI e progettare sistemi per realizzarlo; e gestire e controllare il comportamento dell’AI. Riferendosi al rapporto, Tegmark ha osservato che la spinta verso uno sviluppo sicuro dell’AI aveva ripreso slancio dopo il recente vertice governativo sull’AI a Parigi, dove il Vicepresidente degli Stati Uniti JD Vance ha dismissato le preoccupazioni sulla sicurezza, affermando che il futuro dell’AI “non si vincerà con l’ansia sulla sicurezza. ” Tegmark ha detto: “Sembra davvero che l’umore cupo di Parigi si sia dissolto e che la collaborazione internazionale sia tornata a pieno regime. ”