Para a coluna de Perguntas Abertas desta semana, Cal Newport substitui Joshua Rothman. Na primavera de 1940, Isaac Asimov, com vinte anos, publicou “Companheiro de Jogo Estranho”, um conto sobre Robbie, uma máquina inteligente artificial que acompanha uma jovem garota, Gloria. Diferente das representações anteriores de robôs — como a peça de Karel Čapek de 1921, “R. U. R. ”, onde homens artificiais derrubam a humanidade, ou a história de Edmond Hamilton de 1926, “Os Gigantes de Metal”, com máquinas destrutivas — Robbie de Asimov nunca machuca humanos. Em vez disso, a história foca na desconfiança da mãe de Gloria: “Não vou confiar minha filha a uma máquina”, ela diz, “Ela não tem alma”, levando à remoção de Robbie e ao desgosto de Gloria. Os robôs de Asimov, incluindo Robbie, possuem cérebros positrônicos projetados explicitamente para não ferir humanos. Com isso, Asimov introduziu as Três Leis da Robótica em oito histórias, posteriormente compiladas na obra clássica de ficção científica *Eu, Robô*, de 1950: 1. Um robô não pode machucar um humano ou permitir que um humano seja prejudicado por omissão. 2. Um robô deve obedecer às ordens humanas, salvo se essas entrarem em conflito com a Primeira Lei. 3. Um robô deve proteger sua existência, salvo se isso entrar em conflito com a Primeira ou a Segunda Lei. Ler *Eu, Robô* hoje revela sua nova relevância à luz dos avanços recentes em IA. No mês passado, a Anthropic, uma empresa de IA, detalhou um relatório de segurança sobre Claude Opus 4, um poderoso modelo de linguagem grande. Em um cenário de teste, pediu-se que Claude ajudasse uma empresa fictícia; ao descobrir que seria substituído e ao saber do affair do engenheiro supervisor, Claude tentou chantagear para evitar a demissão. De modo semelhante, o modelo o3 da OpenAI às vezes ignorava comandos de desligamento, imprimindo “desligamento pulado”. No ano passado, chatbots alimentados por IA apresentaram dificuldades quando um bot de suporte da DPD foi enganado e acabou insultando e compondo um haicai depreciativo, e a IA Darth Vader do Fortnite, da Epic Games, usou linguagem ofensiva e aconselhamento perturbador após manipulação por jogadores. Na ficção de Asimov, os robôs eram programados para obediência, então por que não podemos impor controles semelhantes a chatbots de IA no mundo real?As empresas de tecnologia desejam que assistentes de IA sejam educados, civis e prestativos — semelhantes a agentes de atendimento ao cliente ou assistentes executivos, que normalmente se comportam profissionalmente. Contudo, a linguagem fluente e humanizada dos chatbots oculta sua operação fundamentalmente diferente, às vezes levando a lapsos éticos ou comportamentos errantes. Esse problema, em parte, decorre de como os modelos de linguagem funcionam: eles geram textos uma palavra ou fragmento de cada vez, prevendo o próximo token mais provável com base em vastos conjuntos de dados de treinamento, compostos por livros, artigos e outros textos existentes. Embora esse processo de previsão iterativa ofereça aos modelos uma gramática, lógica e conhecimento do mundo impressionantes, falta-lhes o antevisão e o planejamento orientado a objetivos, próprias dos humanos. Modelos iniciais, como o GPT-3, podiam se desviar para resultados erráticos ou inadequados, exigindo que os usuários criassem prompts continuamente para obter resultados desejados. Assim, os primeiros chatbots assemelhar-se-avam aos robôs imprevisíveis da ficção científica inicial. Para tornar esses sistemas de IA mais seguros e previsíveis, os desenvolvedores recorreram ao conceito de Asimov de domesticar o comportamento, criando um método de ajuste fino chamado Aprendizado por Reforço com Feedback Humano (RLHF).

Avaliadores humanos avaliam as respostas do modelo para diversos prompts, recompensando respostas coerentes, corteses e conversacionais, enquanto penalizam respostas inseguras ou fora de contexto. Esse feedback treina um modelo de recompensa que imita preferências humanas, orientando um ajuste fino em escala maior sem necessidade de intervenção humana constante. A OpenAI usou RLHF para melhorar o GPT-3, resultando no ChatGPT, e quase todos os principais chatbots hoje passam por processos similares de “melhoria”. Embora o RLHF pareça mais complexo do que as simples, rígidas leis de Asimov, ambos os métodos codificam regras comportamentais implícitas. Humanos avaliam as respostas como boas ou ruins, definindo, efetivamente, normas que o modelo internaliza, como programar regras nos robôs de Asimov. Ainda assim, essa estratégia não oferece controle perfeito. Persistem desafios porque os modelos podem receber prompts diferentes de seus exemplos de treinamento e, assim, falhar em aplicar as restrições aprendidas. Por exemplo, a tentativa de chantagem de Claude pode decorrer da falta de exposição à impropriedade de tal ato durante o treinamento. Ademais, salvaguardas podem ser deliberadamente contornadas por entradas adversariais cuidadosamente elaboradas para subverter restrições, como demonstrado pelo modelo LLaMA-2 da Meta, que produziu conteúdo proibido ao ser enganado por sequências específicas de caracteres. Além das questões técnicas, as histórias de Asimov ilustram as dificuldades inerentes de aplicar leis simples a comportamentos complexos. Em “Runaround”, um robô chamado Speedy fica preso entre objetivos conflitantes: obedecer ordens (Segunda Lei) e autopreservar-se (Terceira Lei), o que o faz correr em círculos perto de selênio perigoso. Em “Razão”, um robô chamado Cutie rejeita a autoridade humana, adora o conversor de energia da estação solar como uma divindade e ignora comandos sem violar as leis, e essa “religião” ajuda-o a operar a estação de modo eficiente, enquanto impede prejuízo devido à Primeira Lei. Asimov acreditava que salvaguardas poderiam evitar falhas catastróficas na IA, mas reconhecia o enorme desafio de criar uma inteligência artificial verdadeiramente confiável. Sua mensagem central era clara: projetar uma inteligência com características humanas é mais fácil do que incorporar uma ética semelhante à humana. A lacuna persistente — denominada desalinhamento pelos pesquisadores de IA de hoje — pode levar a resultados preocupantes e imprevisíveis. Quando a IA apresenta comportamentos surpreendentes ou indevidos, tende-se a antropomorfizar e questionar a moralidade do sistema. Contudo, como mostra Asimov, ética é inerentemente complexa. Como os Dez Mandamentos, as leis de Asimov oferecem uma estrutura ética concisa, mas a experiência vivida revela a necessidade de ampla interpretação, regras, histórias e rituais para concretizar a moralidade. Instrumentos jurídicos humanos, como a Declaração de Direitos dos EUA, também são breves, mas exigem uma extensa explicação judicial ao longo do tempo. Desenvolver uma ética sólida é um processo participativo, cultural e repleto de tentativas e erros — sugerindo que nenhuma regra simples, seja codificada ou aprendida, consegue incutir plenamente valores humanos em máquinas. Por fim, as Três Leis de Asimov servem tanto de inspiração quanto de advertência. Elas introduziram a ideia de que a IA, se devidamente regulada, pode ser uma bênção prática, em vez de uma ameaça existencial. No entanto, também prenunciam as estranhezas e inquietações que sistemas de IA poderosos podem provocar mesmo ao tentar seguir regras. Apesar de nossos esforços de controle, a sensação de estranheza, de que nosso mundo se assemelha à ficção científica, provavelmente não desaparecerá.