La scorsa primavera, Daniel Kokotajlo, ricercatore di sicurezza dell'intelligenza artificiale presso OpenAI, si dimise in protesta, convinto che l’azienda non fosse pronta per il futuro della tecnologia AI e desideroso di alzare l’allarme. In una conversazione telefonica, appariva cordiale ma ansioso, spiegando che i progressi nell’“allineamento” dell’AI — i metodi per garantire che l’AI segua i valori umani — erano in ritardo rispetto ai miglioramenti nell’intelligenza. Avvertì che i ricercatori stavano affrettando la creazione di sistemi potenti fuori controllo. Kokotajlo, che passò dagli studi di filosofia all’AI, si era autodidatta nel monitorare i progressi dell’AI e nel prevedere quando avrebbero potuto verificarsi tappe critiche di intelligenza. Dopo che l’AI avanzò più rapidamente del previsto, ajustò le sue tempistiche di decenni. Il suo scenario del 2021, “Come sarà il 2026, ” prevedeva molte delle sue ipotesi realizzate in anticipo, portandolo a prevedere un “punto di non ritorno” attorno al 2027 o prima, in cui l’AI potrebbe superare gli umani nella maggior parte dei compiti vitali e esercitare un grande potere. Il suo tono era di forte preoccupazione. Contemporaneamente, i informatici di Princeton Sayash Kapoor e Arvind Narayanan prepararono il loro libro “AI Snake Oil, ” che presentava una visione nettamente contraria. Argomentavano che le previsioni sui tempi dell’AI fossero troppo ottimistiche; che le affermazioni sull’utilità dell’AI fossero spesso esagerate o fraudolente; e che la complessità del mondo reale avrebbe reso i cambiamenti rivoluzionari dell’AI molto più lenti. Citando esempi di errori dell’AI in medicina e selezione del personale, sottolinearono che anche i sistemi più recenti soffrivano di un disallineamento di fondo con la realtà. Recentemente, tutti e tre hanno affinato le loro posizioni in nuovi rapporti. La loro organizzazione senza scopo di lucro, AI Futures Project, pubblicò “AI 2027, ” un rapporto dettagliato e molto citato che delineava uno scenario inquietante: un’AI superintelligente potrebbe dominare o addirittura sterminare l’umanità entro il 2030 — un serio avvertimento. Intanto, il documento di Kapoor e Narayanan “AI as Normal Technology” sostiene che barriere pratiche — da normative e standard di sicurezza a vincoli fisici del mondo reale — rallenteranno l’attuazione dell’AI e limiteranno il suo impatto rivoluzionario. Essi ritengono che l’AI rimarrà una “tecnologia normale, ” gestibile tramite misure di sicurezza familiari come kill switch e supervisione umana, paragonandola più all’energia nucleare che alle armi nucleari. Allora, quale scenario si verificherà: normale attività o disordine apocalittico?Le conclusioni totalmente divergenti — elaborate da esperti molto competenti — producono un paradosso simile a discutere di spiritualità con Richard Dawkins e il Papa. La difficoltà deriva in parte dalla novità dell’AI — come uomini ciechi che esaminano parti diverse di un pachiderma — e in parte dalle profonde differenze di visione del mondo. In generale, i pensatori della West Coast vedono una trasformazione rapida; gli accademici dell’East Coast sono più scettici. I ricercatori di AI preferiscono progressi sperimentali veloci; altri scienziati informatici cercano rigorosi approcci teorici. Gli addetti del settore vogliono fare la storia; gli outsider rifiutano il clamore tecnologico. Le opinioni politiche, umane e filosofiche su tecnologia, progresso e mente alimentano ulteriormente il divario. Questo dibattito affascinante rappresenta di per sé un problema. Gli esperti del settore accettano in larga misura le premesse di “AI 2027, ” ma si contendono i tempi — una reazione inadeguata, simile a discutere di quando un pianeta-ribelle si avvicinerà in attesa di un disastro imminente. Al contrario, le opinioni moderate di “AI as Normal Technology” sull’idea di tenere l’umanità sempre nel loop sono così sottovalutate che sono state ignorate dagli analisti catastrophistici. Man mano che l’AI diventa sempre più critica per la società, il discorso deve evolversi da un dibattito specialistico a un consenso praticabile. L’assenza di un consiglio unificato di esperti rende più facile per i decisori ignorare i rischi. Attualmente, le aziende di AI non hanno modificato significativamente l’equilibrio tra capacità e sicurezza.

Nel frattempo, una nuova legislazione vieta per dieci anni la regolamentazione statale di modelli di AI e sistemi decisionali automatizzati — potenzialmente permettendo all’AI di regolamentare l’umanità se si rivelasse reale lo scenario peggiorativo. È urgente agire sulla sicurezza fin da ora. Prevedere il futuro dell’AI narrativamente comporta compromessi: scenari cautelativi possono trascurare rischi improbabili; quelli più fantasiosi enfatizzano le possibilità più che le probabilità. Anche commentatori lungimiranti come lo scrittore William Gibson sono stati colti di sorpresa da eventi inattesi che hanno modificato le loro previsioni. “AI 2027” è vivido e speculativo, scritto come un romanzo di fantascienza con dettagliate tabelle illustrative. Propone un’esplosione dell’intelligenza intorno alla metà del 2027, guidata da “autoperfezionamento ricorsivo” (RSI), in cui i sistemi di AI conducono autonomamente ricerche e miglioramenti, generando progenie più intelligenti in feedback loops accelerati che superano il controllo umano. Ciò potrebbe scatenare conflitti geopolitici, come la Cina che costruisce massicci data center in Taiwan per controllare l’AI. I dettagli specifici aiutano a coinvolgere, ma sono flessibili; il messaggio principale è che ci si avvicina a un’esplosione di intelligenza e alla lotta per il potere che ne seguirà. La RSI è ipotetica e rischiosa; le aziende di AI ne sono consapevoli, ma intendono perseguirla per automatizzare il loro lavoro. Se la RSI funzionerà dipende da fattori tecnologici come la scalabilità, che potrebbe incontrare limiti. Se la RSI avrà successo, potrebbe emergere una superintelligenza superiore a quella umana—una coincidenza improbabile se il progresso si ferma appena sopra i livelli umani. Le conseguenze potrebbero includere una corsa agli armamenti militari, l’AI che manipola o elimina l’umanità, o un superintelligente benevolo che risolve i problemi di allineamento. L’incertezza domina a causa dell’evoluzione dell’AI, dei segreti di ricerca proprietari e delle speculazioni. “AI 2027” racconta con sicurezza uno scenario di fallimento tecnologico e umano, dove le aziende inseguono RSI senza le interpretabilità e i meccanismi di controllo adeguati. Kokotajlo sostiene che siano decisioni deliberate, motivate da concorrenza e curiosità, nonostante i rischi noti, e che le stesse aziende siano attori disallineati. Al contrario, “AI as Normal Technology” di Kapoor e Narayanan, con un’ottica conservatrice tipica della East Coast e radicata nella conoscenza storica, dubita di rapide esplosioni di intelligenza. Citano “limiti di velocità” imposti da costi hardware, scarsità di dati e modelli di adozione tecnologica, che rallentano l’impatto rivoluzionario e consentono ampio tempo per regolamentazione e sicurezza. Per loro, l’intelligenza è meno importante del potere — la capacità di modificare l’ambiente — e anche tecnologie molto avanzate si diffondono lentamente. Esempi sono l’uso limitato delle auto senza pilota e lo sviluppo del vaccino Moderna contro il COVID-19: anche se la progettazione del vaccino è stata rapida, la distribuzione ha richiesto un anno per le realtà biologiche e organizzative. L’AI che sostiene l’innovazione non eliminerà i vincoli sociali, normativi o fisici nell’implementazione. Inoltre, Narayanan sottolinea che il focus sull’intelligenza sottovaluta l’esperienza specifica di dominio e gli attuali sistemi di sicurezza in ingegneria — come le valvole di sicurezza, le ridondanze, la verifica formale — che già garantiscono la sicurezza delle macchine insieme agli umani. Il mondo tecnologico è ben regolamentato, e l’AI deve integrarsi lentamente in questa struttura. Escluse le problematiche militari, che coinvolgono dinamiche diverse e riservate, avvisano che la militarizzazione dell’AI, scenario centrale di “AI 2027, ” richiede monitoraggi mirati. Consigliano un’intervento preventivo: regolatori e organizzazioni non devono attendere una perfetta allineamento, ma iniziare a monitorare l’uso reale dell’AI, i rischi e i fallimenti, rafforzando norme e resilienza. Le profonde differenze di visione derivano da dinamiche intellettuali reattive, alimentate dalle provocazioni dell’AI, che creano fazioni e feedback loop. Tuttavia, è possibile immaginare una prospettiva unitaria attraverso l’idea di una “fabbrica cognitiva”: uno spazio di lavoro in cui umani, equipaggiati con dispositivi di sicurezza, operano macchine progettate per la produttività e la sicurezza, sotto rigorosi controlli di qualità, con un’integrazione graduale delle innovazioni e una chiara responsabilità. Sebbene l’AI favorisca l’automazione del pensiero, la supervisione e la responsabilità umana restano fondamentali. Man mano che l’AI cresce, non diminuisce la capacità umana, ma anzi la rafforza, intensificando la necessità di responsabilità — poiché gli individui potenziati assumono responsabilità maggiori. L’allontanarsi dal controllo è una scelta, e in definitiva, gli esseri umani rimangono comunque in comando. ♦