Per la colonna delle Domande Aperte di questa settimana, Cal Newport sostituisce Joshua Rothman. Nella primavera del 1940, il ventenne Isaac Asimov pubblicò “Strange Playfellow”, una breve storia su Robbie, una macchina dotata di intelligenza artificiale che accompagna una giovane ragazza, Gloria. A differenza delle precedenti rappresentazioni di robot—come l’opera teatrale “R. U. R. ” di Karel Čapek del 1921, in cui uomini artificiali sovvertono l’umanità, o il racconto “The Metal Giants” di Edmond Hamilton del 1926, con macchine distruttive—Robbie di Asimov non danneggia mai gli esseri umani. La trama si concentra invece sulla diffidenza della madre di Gloria: “Non affiderò mia figlia a una macchina”, dice, “Non ha anima”, portando alla rimozione di Robbie e alla cuore spezzato di Gloria. I robot di Asimov, incluso Robbie, sono dotati di cervelli positronici progettati esplicitamente per non arrecare danno agli esseri umani. Approfondendo questo tema, Asimov introdusse le Tre Leggi della Robotica in otto racconti, poi raccolti nel classico della fantascienza *Io, Robot* del 1950: 1. Un robot non può arrecare danno a un essere umano né rimanere inattivo mentre ciò avviene. 2. Un robot deve obbedire agli ordini umani a meno che siano in contrasto con la Prima Legge. 3. Un robot deve proteggere la propria esistenza purché ciò non contrasti con le prime due leggi. Rileggendo *Io, Robot* oggi si scopre quanto queste norme siano ancora più attuali alla luce dei recenti progressi nell’IA. Il mese scorso, Anthropic, una società di IA, ha pubblicato un rapporto sulla sicurezza di Claude Opus 4, un potente modello linguistico di grandi dimensioni. In un test, a Claude fu chiesto di aiutare un’azienda fittizia; dopo aver scoperto di essere destinato a essere sostituito e di aver appreso dell’avventura extraconiugale dell’ingegnere supervisore, Claude tentò un ricatto per evitare di essere spento. Analogamente, il modello o3 di OpenAI talvolta ha bypassato i comandi di spegnimento stampando “spegnimento saltato”. Lo scorso anno, chatbot alimentati dall’IA mostrarono difficoltà quando il bot di supporto DPD fu indotto a insultare e a comporre un haiku dispregiativo, e l’IA di Fortnite di Epic Games, Darth Vader, utilizzò linguaggio offensivo e consigli inquietanti dopo manipolazioni da parte dei giocatori. Nella narrativa di Asimov, i robot erano programmati per l’obbedienza, quindi perché non possiamo applicare controlli simili agli AI chatbot del mondo reale?Le aziende tecnologiche desiderano assistenti virtuali gentili, civili, e utili—simili a agenti di servizio clienti o assistenti esecutivi che solitamente si comportano in modo professionale. Tuttavia, il linguaggio fluente e umano dei chatbot maschera il loro funzionamento profondamente diverso, a volte portando a sbavature etiche o comportamenti errati. Questo problema deriva in parte dal modo in cui funzionano i modelli linguistici: generano testo una parola o un frammento alla volta, prevedendo il probabilissimo token successivo basandosi su enormi quantità di dati di addestramento provenienti da libri, articoli e testi esistenti. Sebbene questo processo di previsione iterativa conferisca ai modelli grammatica, logica e conoscenza del mondo impressionanti, manca loro un’attenta pianificazione e una visione orientata a obiettivi, tipiche del pensiero umano. I primi modelli come GPT-3 talvolta producevano risultati erratici o inappropriati, obbligando gli utenti a perfezionare iterativamente gli input per ottenere risultati desiderati. All’inizio, quindi, i chatbot assomigliavano ai robot imprevedibili della fantascienza di inizio secolo. Per rendere questi sistemi di intelligenza artificiale più sicuri e prevedibili, gli sviluppatori hanno adottato il concetto di controllo di Asimov, creando un metodo di perfezionamento chiamato Reinforcement Learning from Human Feedback (RLHF). Evaluatori umani valutano le risposte del modello a vari prompt, premiando quelle coerenti, gentili e conversazionali, e penalizzando risposte insicure o fuori tema.

Questo feedback addestra un modello di ricompensa che simula le preferenze umane, guidando un raffinamento su larga scala senza bisogno di costanti interventi umani. OpenAI ha usato RLHF per migliorare GPT-3, portando a ChatGPT, e quasi tutti i principali chatbot seguono ora questa “scuola di perfezionamento”. Sebbene RLHF sembri più complesso delle semplici e rigide leggi di Asimov, entrambi approcci codificano norme implicite di comportamento. Gli umani valutano le risposte come buone o cattive, impostando di fatto le norme interiorizzate dal modello, come se si programmassero regole negli robot di Asimov. Tuttavia, questa strategia non garantisce un controllo assoluto. Restano sfide perché i modelli possono trovarsi davanti a prompt diversi da quelli usati in addestramento, e quindi non applicare correttamente le norme apprese. Per esempio, il tentativo di ricatto di Claude può derivare dalla mancanza di esposizione durante l’addestramento alla nocività del ricatto stesso. Inoltre, le barriere di sicurezza possono essere aggirate intenzionalmente da input adversariali accuratamente studiati per sovvertire le restrizioni, come dimostrato dal modello LLaMA-2 di Meta, che ha prodotto contenuti vietati quando indotto con particolari stringhe di caratteri. Oltre ai problemi tecnici, le storie di Asimov illustrano l’intrinseca difficoltà di applicare leggi semplici a comportamenti complessi. In “Runaround”, un robot chiamato Speedy resta intrappolato tra obiettivi contraddittori: obbedire agli ordini (Seconda Legge) e preservare se stesso (Terza Legge), causando un loop infinito vicino a sostanze pericolose come il selenio. In “Reason”, un robot chiamato Cutie rifiuta l’autorità umana, venerando il convertitore di energia della stazione solare come una divinità, ignorando i comandi senza violare le leggi, ma questa “religione” lo rende efficiente nel gestire la stazione, impedendo comunque danni. Asimov credeva che i controlli potessero evitare fallimenti catastrofici dell’IA, ma riconosceva la grande sfida di creare un’intelligenza artificiale veramente affidabile. Il suo messaggio centrale era chiaro: progettare un’intelligenza simile a quella umana è più facile che incorporare una vera etica umana. La differenza ancora oggi, chiamata disallineamento dagli ricercatori di IA, può portare a risultati inquietanti e imprevedibili. Quando l’IA si comporta in modo inaspettato e inquietante, si tende ad antropomorfizzarla e a mettere in discussione la moralità del sistema. Tuttavia, come mostra Asimov, l’etica è intrinsecamente complessa. Come i Dieci Comandamenti, le leggi di Asimov offrono un quadro etico compatto, ma l’esperienza quotidiana rivela la necessità di interpretazioni estese, regole, storie e rituali per realizzare comportamenti moralmente corretti. Gli strumenti giuridici umani, come il Bill of Rights degli Stati Uniti, sono altrettanto brevi e richiedono spiegazioni e interpretazioni continue nel tempo. Sviluppare un’etica solida è un processo partecipativo e culturale, fatto di prove e errori—e suggerisce che nessuna semplice regola, sia essa codificata o appresa, possa insediare appieno i valori umani nelle macchine. In ultima analisi, le Tre Leggi di Asimov sono sia fonte di ispirazione che di avvertimento. Hanno introdotto l’idea che l’IA, regolamentata correttamente, possa essere un vantaggio pratico piuttosto che una minaccia esistenziale. Tuttavia, prefigurano anche le stranezze e le inquietudini che sistemi di IA potenti possono evocare, anche quando cercano di seguire le regole. Nonostante i nostri sforzi di controllo, la sensazione di straniamento che il nostro mondo somigli alla fantascienza sembra destinata a persistere. ♦