Na última primavera, Daniel Kokotajlo, pesquisador de segurança em IA na OpenAI, deixou o cargo em protesto, convencido de que a empresa não estava preparada para o futuro da tecnologia de IA e querendo alertar para riscos iminentes. Em uma conversa telefônica, ele pareceu afável, mas ansioso, explicando que o progresso na “alinhamento” de IA — os métodos que garantem que a IA siga os valores humanos — estava ficando para trás em relação aos avanços de inteligência. Ele alertou que os pesquisadores estavam se apressando em criar sistemas poderosos além do controle. Kokotajlo, que passou de estudos de filosofia para IA, aprendeu por conta própria a acompanhar o progresso da IA e a prever quando poderiam ocorrer marcos críticos de inteligência. Após a IA avançar mais rápido do que o esperado, ele ajustou seus cronogramas em décadas. Seu cenário de 2021, “Como Será 2026”, viu muitas previsões se realizarem cedo, levando-o a imaginar um “ponto sem volta” já em 2027 ou antes, no qual a IA poderia superar os humanos na maioria das tarefas vitais e possuir grande poder. Sua fala soava assustadora. Ao mesmo tempo, os cientistas da computação de Princeton, Sayash Kapoor e Arvind Narayanan, prepararam seu livro “Óleo de Cobra da IA”, que apresenta uma visão diametralmente oposta. Eles argumentam que os cronogramas para IA são excessivamente otimistas; que as alegações de utilidade da IA muitas vezes são exageradas ou fraudulentas; e que a complexidade do mundo real fará com que os efeitos transformadores da IA sejam lentos. Citando exemplos de erros de IA na medicina e no recrutamento, enfatizam que mesmo os sistemas mais recentes sofrem de uma desconexão fundamental com a realidade. Recentemente, todos os três reforçaram suas posições em novos relatórios. A organização sem fins lucrativos de Kokotajlo, o Projeto Futuros da IA, publicou “IA 2027”, um relatório detalhado e com muitas referências, que delineia um cenário assustador: uma explosão de inteligência superinteligente pode dominar ou exterminar a humanidade até 2030 — um aviso sério. Por sua vez, o artigo de Kapoor e Narayanan, “IA como Tecnologia Normal”, defende que barreiras práticas — desde regulamentações e padrões de segurança até restrições físicas do mundo real — desacelerarão a implantação da IA e limitarão seu impacto revolucionário. Eles argumentam que a IA permanecerá uma “tecnologia normal”, gerenciável com medidas de segurança familiar, como interruptores de emergência e supervisão humana, comparando a IA mais a energia nuclear do que a armas nucleares. Então, qual será?Negócio normal ou upheaval apocalíptico?As conclusões divergentes — tiradas por especialistas altamente informados — geram um paradoxo semelhante a debater espiritualidade com Richard Dawkins e o Papa ao mesmo tempo. A dificuldade vem em parte da novidade da IA — como homens cegos examinando partes diferentes de um elefante — e em parte das profundas diferenças de visão de mundo. Geralmente, pensadores da Costa Oeste veem uma transformação rápida; acadêmicos da Costa Leste tendem ao ceticismo. Pesquisadores de IA preferem avanços experimentais rápidos; outros cientistas de computação buscam rigor teórico. Insiders do setor querem fazer história; outsiders rejeitam o hype tecnológico. Visões políticas, humanas e filosóficas sobre tecnologia, progresso e mente aprofundam ainda mais a divisão. Esse debate cativante é, por si só, um problema. Insiders do setor aceitam em grande parte as premissas do “IA 2027”, mas discutem sobre os cronogramas — uma resposta inadequada, como discutir o tempo exato antes de um planeta-killer colidir. Por outro lado, as opiniões moderadas do “IA como Tecnologia Normal”, que defendem manter os humanos no controle, são tão contidas que têm sido ignoradas por analistas focados no apocalipse. À medida que a IA se torna cada vez mais crítica para a sociedade, o discurso precisa evoluir de debates de especialistas para consensos acionáveis. A ausência de aconselhamento unificado torna mais fácil para decisores ignorar riscos.

Atualmente, as empresas de IA ainda não equilibram significativamente capacidades e segurança. Enquanto isso, uma nova legislação proíbe que o estado russe regula modelos de IA e sistemas de decisão automatizada por dez anos — potencialmente permitindo que a IA regule a humanidade, caso o cenário assustador se confirme. Portanto, abordar a segurança agora é urgente. Prever o futuro da IA narrativamente envolve trade-offs: cenários cautelosos podem negligenciar riscos improváveis; cenários imaginativos enfatizam a possibilidade mais do que a probabilidade. Mesmo comentadores perspicazes, como o romancista William Gibson, foram surpreendidos por eventos inesperados que mudaram suas previsões. “IA 2027” é vívido e especulativo, escrito como ficção científica, com gráficos detalhados. Propõe uma explosão de inteligência próxima, por volta de meados de 2027, impulsionada pela “autoaperfeiçoamento recursivo” (RSI), onde sistemas de IA conduzem pesquisas de IA de forma autônoma, gerando progenitores mais inteligentes em ciclos de feedback acelerados que superam a supervisão humana. Isso poderia desencadear conflitos geopolíticos, como a China construindo grandes datacenters em Taiwan para controlar a IA. Os detalhes específicos aumentam o engajamento, mas são flexíveis; a mensagem principal é que uma explosão de inteligência é provável, levando a lutas pelo poder. A RSI é hipotética e arriscada; empresas de IA reconhecem seus perigos, mas planejam perseguir esse caminho para automatizar seu próprio trabalho. Se a RSI funcionar depende de fatores tecnológicos como escalabilidade, que podem encontrar limites. Se bem-sucedida, uma superinteligência superior à inteligência humana pode emergir — uma coincidência improvável se o progresso parar logo acima do nível humano. As consequências podem incluir corrida armamentista militarizada, IA manipulando ou eliminando a humanidade, ou uma IA benevolente superinteligente resolvendo problemas de alinhamento. A incerteza predomina devido à natureza em evolução da IA, ao sigilo de pesquisas proprietárias e à especulação. “IA 2027” narra com confiança um cenário de falha tecnológica e humana, onde empresas perseguem RSI apesar de falta de interpretabilidade e mecanismos de controle. Kokotajlo acredita que essas são decisões deliberadas, alimentadas pela competitividade e curiosidade, mesmo sabendo dos riscos, fazendo das próprias empresas atores desalinhados. Em contraste, “IA como Tecnologia Normal”, de Kapoor e Narayanan, reflete uma visão conservadora da Costa Leste, baseada em conhecimentos históricos, que duvida de explosões rápidas de inteligência. Eles citam “limites de velocidade” impostos por custos de hardware, escassez de dados e padrões gerais de adoção tecnológica que retardam impacto revolucionário, dando tempo para regulamentar e garantir segurança. Para eles, a inteligência é menos importante do que o poder — a capacidade de mudar o ambiente — e tecnologias altamente capazes muitas vezes se difundem lentamente. Eles ilustram isso com a implantação limitada de carros autônomos e o desenvolvimento da vacina contra COVID-19 pela Moderna: embora o design da vacina tenha sido rápido, sua distribuição levou um ano devido a realidades biológicas e institucionais. A inovação impulsionada por IA não eliminará as restrições sociais, regulatórias ou físicas à implementação. Além disso, Narayanan destaca que o foco da IA em inteligência subestima conhecimentos específicos de domínio e sistemas de segurança já existentes na engenharia — sistemas de fail-safe, redundâncias, verificações formais — que garantem já a segurança das máquinas ao lado dos humanos. O mundo tecnológico está bem regulamentado, e a IA deve se integrar lentamente a essa estrutura. Eles excluem a IA militar, que envolve dinâmicas distintas e sigilosas, alertando que a militarização da IA, preocupação central do “IA 2027”, requer monitoramento focado. Recomendam uma governança proativa: reguladores e organizações não devem esperar que o alinhamento ideal surja, mas começar a acompanhar o uso da IA no mundo real, riscos e falhas, e fortalecer regras e resiliência. Diferenças de visão de mundo profundas vêm de dinâmicas intelectuais reativas alimentadas pelas provocações da IA, criando frentes enraizadas e ciclos de feedback. Ainda assim, uma perspectiva unificada é possível ao imaginar uma “fábrica cognitiva”: um espaço de trabalho onde humanos, usando equipamentos de segurança, operam máquinas projetadas para produtividade e segurança, sob rígido controle de qualidade, com inovação gradual e responsabilidade clara. Embora a IA permita automatizar alguns processos de pensamento, a supervisão e responsabilidade humanas permanecem essenciais. À medida que a IA cresce, ela não diminui a ação humana; pelo contrário, aumenta a necessidade de responsabilidade, pois indivíduos ampliados carregam maior responsabilidade. Abrir mão do controle é uma escolha, reforçando que, no final das contas, os humanos continuam sendo os principais responsáveis.