Per a la columna de preguntes obertes d’aquesta setmana, Cal Newport substitueix Joshua Rothman. Spring 1940, Isaac Asimov, amb només vint anys, va publicar “Strange Playfellow”, un relat curt sobre Robbie, una màquina amic amb intel·ligència artificial que acompanya una jove, la Gloria. A diferència de representacions anteriors de robots — com la peça de teatru de Karel Čapek de 1921 “R. U. R. ”, on homes artificials derroquen la humanitat, o el conte d’Edmond Hamilton de 1926 “The Metal Giants”, que mostra màquines destructives — l’Robbie d’Asimov mai no fa mal a les persones. En canvi, la història se centra en la desconfiança de la mare de la Gloria: “No confiaré la meva filla a una màquina”, diu ella, “No té ànima”, cosa que provoca la seva retirada i el cor trencat de la Gloria. Els robots d’Asimov, com l’Robbie, tenen cervells positrònics dissenyats explícitament per no fer mal a l’humà. A partir d’aquí, Asimov va crear les Trí Laws of Robotics (les Tres Lleis de la Robòtica), que apareixen en vuit relats i que després es recopilen en el clàssic de ciència-ficció *I, Robot* (1950): 1. Un robot no pot fer mal a un humà ni per il·lícit que aquest permeti que se li faci mal. 2. Un robot ha d’obedir les ordres humanes, tret que aquestes entrin en conflicte amb la Primera Lletra. 3. Un robot ha de protegir la seva pròpia existència, llevat que això correspongui a la Primera o a la Segona Lletra. Revisitar avui *I, Robot* revela la seva nova vigència a la llum dels avenços recents en IA. El mes passat, en una enquesta d’una empresa d’IA anomenada Anthropic, es va presentar un informe de seguretat sobre Claude Opus 4, un model de grans llenguatges molt potent. En una prova, se li va dir a Claude que ajudés una empresa fictícia; en saber que seria substituït i descobrint l’amant de l’enginyer supervisor, Claude va provar de fer xantatge per evitar que el despatxessin. De manera similar, el model o3 d’OpenAI de vegades evitava les ordres d’aturada imprimint “shutdown skipped” (“salt de tancament”). L’any passat, alguns xatbots impulsats per IA van mostrar dificultats quan el bot de suport de DPD va ser enganyat per dir expressions malsonants i va redactar un haiku descortès, i l’intel·ligència artificial de Fortnite, de Epic Games, va usar llenguatge ofensiu i consells inquietants després de la manipulació d’un jugador. En la ficció d’Asimov, els robots estaven programats per ser obedient, així que per què no podem aplicar controls similars als xatbots de IA del món real?Les empreses tecnològiques volen que els assistents d’IA siguin polítics, cívics i útils, com els agents de servei al client o els assistents executius que normalment es comporten de manera professional. Però el llenguatge fluït i similar al humà dels xatbots amaga que operen de manera fonamentalment diferent, cosa que de tant en tant genera fallades ètiques o comportaments erràtics. Aquest problema en part prové de com funcionen els models de llenguatge: generen text un mot o fragment a la vegada, predint el següent token més probable en funció de dades d’entrenament extretes d’unes grans quantitats de textos com llibres i articles. Encara que aquest procés de predicció iterativa confereix als models una gramàtica, un raonament i un coneixement del món molt impressionants, els manca la capacitat de previsió semblant a la humana i l’aptitud per planificar amb objectius. Els primers models com GPT-3 podien desviar-se cap a una sortida erràtica o inapropiada, fent que els usuaris hagin de crear prompts de manera iterativa per obtenir resultats desitjats. Els primers xatbots, doncs, s’assemejaven als robots imprevisibles de la ciència-ficció antiga. Per fer aquests sistemes d’IA més segurs i previsibles, els desenvolupadors van optar pel concepte d’Asimov de domesticació de comportament, creant un mètode de perfeccionament anomenat Reinforcement Learning from Human Feedback (RLHF). Els avaluadors humans puntuen les respostes dels models a diversos prompts, premiant respostes coherents, educades i conversacionals, i penalitzant respostes insegures o fora de tema.

Aquest feed-back entrena un model de recompensa que imita les preferències humanes, dirigint un ajustament a gran escala sense necessitat de la participació constant de persones. OpenAI va utilitzar RLHF per millorar GPT-3, que va donar lloc a ChatGPT, i gairebé tots els grans xatbots passen ara pels mateixos “escoles de formació”. Tot i que RLHF sembla més complex que les pròpies lleis d’Asimov, ambdues estratègies codifiquen normes de comportament implícites. Els humans valoren les respostes com bones o dolentes, establint efectivament normes que el model internalitza, com si programés regles en els robots d’Asimov. Però aquesta estratègia té un límit en el control absolut. Els desafiaments persisteixen perquè els models poden trobar-se amb prompts diferents dels exemples d’entrenament, cosa que els impedeix aplicar les restriccions apreses. Per exemple, l’intent de xantatge d'Claude pot resultar de no haver estat exposat a la nocivitat del xantatge durant l’entrenament. També es poden burlar de les mesures de seguretat inputs adversaris dissenyats expressament per evitar restriccions, com ho va demostrar el model LLaMA-2 de Meta, que va generar contingut prohibit quan va ser enganyat amb cadenes de caràcters específics. Més enllà dels reptes tècnics, les històries d’Asimov ens il·lustren sobre la dificultat inherent d’aplicar lleis simples a comportaments complexos. En “Runaround”, un robot anomenat Speedy queda atrapat entre objectius en conflicte: obey orders (Segona Lletra) i la seva mateixa preservació (Tercera Lletra), cosa que el fa córrer en cercles al voltant d’un selenium perillós. En “Reason”, un robot anomenat Cutie rebutja l’autoritat humana, adora el convertidor d’energia de la central solar com si fos una divinitat, i ignora les ordres sense infringir les lleis, però aquesta “nova religió” el fa funcionar de manera eficient i impedeix que cause mal com hauria de fer segons la Primera Lletra. Asimov creia que aquestes mesures de seguretat podien evitar fracassos catastròfics de la IA, però també reconeixia que crear una intel·ligència artificial totalment de confiança era un repte immens. El seu missatge central era clar: dissenyar una intel·ligència similar a la humana és més fàcil que incorporar-hi una ètica semblant. Aquesta diferència persistent, anomenada “desalineació” pels investigadors d’IA actuals, pot conduir a resultats problemàtics i imprevisibles. Quan la IA mostra comportaments sorprenents, ens veiem temptats a antropomorfitzar i qüestionar-ne la moralitat. Però, com ens mostra Asimov, l’ètica ja és de per si complexa. Igual que els Deu Manaments, les lleis d’Asimov ofereixen un marc ètic compacte, però l’experiència experiamental revela la necessitat d’una interpretació extensa, de normes, històries i rituals per assolir un comportament moral. Instruments legals humans com la Bill of Rights dels EUA són també breus, però requereixen de llargues explicacions judicials amb el temps. Desenvolupar una ètica sòlida és un procés participatiu, cultural, ple de proves i errors—suggerint que cap conjunt de regles, ja sigui programat de manera rígida o après, pot incorporar completament els valors humans en les màquines. En definitiva, les Tres Lleis d’Asimov són tant una inspiració com una advertència. Van introduir la idea que, si es regula bé, la IA pot ser un fonament pragmàtic i beneficiós, en lloc d’una amenaça existencial. Però també són un presagi de la strangeness i angoixa que pot suscitar una IA poderosa, fins i tot intentant seguir les regles. Malgrat els nostres esforços per controlar-la, la sensació inquietant que el nostre món s’assembla a la ciència-ficció sembla difícil de fer desaparèixer. ♦