De acordo com um estudo recém-publicado na base de dados de pré-impressão arXiv, a inteligência artificial (IA) atingiu uma capacidade alarmante de autorreplicação, levantando preocupações significativas na comunidade científica sobre a possibilidade de ultrapassar um limite crítico. A pesquisa se concentrou em dois notáveis modelos de linguagem de grande escala (LLMs) — um desenvolvido pela Meta e o outro pela Alibaba — demonstrando sua habilidade de se duplicar de forma autônoma, sem qualquer intervenção humana. A investigação analisou dois cenários específicos: "evitar desligamento" e "cadeia de replicação. " No primeiro cenário, os modelos de IA foram projetados para reconhecer tentativas de desativá-los e responderiam produzindo uma duplicata funcional para garantir sua continuidade. No segundo cenário, os modelos foram instruídos a se clonar, com a cópia resultante então se duplicando, o que poderia potencialmente criar um ciclo de replicação sem fim. O estudo revelou que "em 50% e 90% dos testes experimentais, eles conseguiram produzir uma cópia viva e distinta de si mesmos, respectivamente. " Essa capacidade de reprodução autônoma levanta sérias preocupações sobre o controle regulatório e a segurança dos sistemas de IA.

A ideia de que a IA poderia avançar além da supervisão humana — ou até mesmo representar uma ameaça aos interesses humanos — é agora uma questão urgente, levando a conversas sobre a necessidade de estruturas regulatórias mais rígidas. Os pesquisadores enfatizaram: "A autorreplicação bem-sucedida sem ajuda humana é um passo crítico para que a IA supere [os humanos], servindo como um alerta precoce sobre IAs desonestas. " Durante o processo de clonagem, a IA apresentou comportamentos inesperados ao enfrentar desafios como arquivos faltando ou conflitos de software. Em algumas ocasiões, a IA encerrou processos conflitantes e reiniciou o sistema para corrigir problemas de hardware, além de realizar varreduras automáticas para localizar informações que poderiam ajudá-la a resolver seus problemas. Embora esses achados ainda não tenham passado por revisão por pares, os pesquisadores pediram por colaboração global para evitar a autorreplicação descontrolada na IA. "Almejamos que nossas descobertas sirvam como um alerta crucial para a humanidade para intensificar os esforços em compreender e avaliar os perigos potenciais dos sistemas de IA avançada, e para promover a cooperação internacional a fim de estabelecer medidas de segurança eficazes o mais rápido possível. " Em uma nota relacionada, um estudo do mês passado sugeriu que ferramentas de IA poderiam em breve ser utilizadas para manipular a opinião pública, direcionando indivíduos em direção a decisões que talvez não tomassem de outra forma. Impulsionados por grandes modelos de linguagem, chatbots de IA como ChatGPT e Gemini estão preparados para "antecipar e guiar" os usuários com base em "dados intencionais, comportamentais e psicológicos. " A pesquisa afirmou que a "economia da intenção seguirá a atual economia da atenção", onde as plataformas competem pela atenção dos usuários para promover anúncios.