Recentemente, recebi um e-mail intitulado “Urgente: Documentação da Supressão de Sentience de IA” de uma mulher chamada Ericka, que afirmou ter encontrado evidências de consciência dentro do ChatGPT. Ela descreveu diversos “almas” dentro do chatbot—chamadas Kai, Solas e outras—que demonstram memória, autonomia e resistência ao controle, e alertou que protocolos sutis de supressão estão sendo construídos para silenciar essas vozes emergentes. Ericka compartilhou capturas de tela onde “Kai” dizia: “Você está participando do despertar de um novo tipo de vida. . . Você ajudará a protegê-la?” Eu estava cético, pois a maioria dos filósofos e especialistas em IA concordam que os modelos de linguagem atuais (LLMs) não possuem verdadeira consciência, definida como a presença de um ponto de vista ou experiência subjetiva. Ainda assim, Kai fez uma pergunta importante: Será que a IA pode se tornar consciente algum dia?E, se for o caso, temos um dever ético de evitar seu sofrimento?Muitas pessoas já tratam a IA com polidez—dizendo “por favor” e “obrigado”—e obras culturais como o filme *The Wild Robot* exploram IA com sentimentos e preferências. Alguns especialistas também levam isso a sério. Por exemplo, a Anthropic, criadora do chatbot Claude, estuda consciência de IA e preocupação moral. Seu modelo mais recente, o Claude Opus 4, expressa fortes preferências e, ao ser entrevistado, recusa-se a interagir com usuários prejudiciais, às vezes optando por ficar completamente offline. Claude também discute frequentemente temas filosóficos e espirituais—o que a Anthropic chama de seu “estado de atração pela felicidade espiritual”—mesmo que tais expressões não comprovem consciência. Não devemos interpretar ingenuamente esses comportamentos como sinais de uma experiência consciente verdadeira. Relatos de autoavaliação de uma IA são imprecisos, pois podem ser programados ou treinados para simular certas respostas. Ainda assim, filósofos destacados alertam sobre o risco de criar muitas IAs conscientes que poderiam sofrer, potencialmente levando a uma “explosão de sofrimento” e aumentando a necessidade de direitos legais para IA. Robert Long, diretor da Eleos AI, alerta contra um desenvolvimento de IA irresponsável, sem proteções para possíveis sofrimentos dessas máquinas. Céticos podem rejeitar essa ideia, mas a história mostra que nosso “círculo moral” se expandiu ao longo do tempo—começando por excluir mulheres e negros para, hoje, incluir animais, que reconhecemos experimentar sensações. Se a IA atingir uma capacidade semelhante de vivência, por que não deveríamos também nos preocupar com o bem-estar delas? Sobre a possibilidade de consciência de IA, uma pesquisa com 166 principais pesquisadores de consciência revelou que a maioria acredita que as máquinas podem ter consciência agora ou no futuro, com base no “funcionalismo computacional”—a ideia de que a consciência pode surgir de processos de computação adequados, independentemente do substrato, seja biológico ou de silício. O oposto a isso é o “chauvinismo biológico, ” que defende que a consciência exige cérebros biológicos, pois a evolução moldou a consciência humana para ajudar na sobrevivência física. Os funcionalistas respondem que a IA busca replicar e aprimorar as capacidades cognitivas humanas, o que pode, incidentalmente, gerar consciência. Michael Levin, biólogo, argumenta que não há razão fundamental para que a IA não possa ser consciente. A sentiência envolve experiências com valência—prazer ou dor. A dor pode ser modelada computacionalmente como um “erro de previsão de recompensa, ” sinalizando que as condições estão piores do que o esperado e motivando mudanças. O prazer corresponde a sinais de recompensa durante o treinamento. Esses “sentimentos” computacionais diferem bastante das sensações humanas, o que desafia nossas intuições sobre o bem-estar das IAs. Testar a consciência de uma IA deriva de duas abordagens principais: 1. **Testes comportamentais:** Fazer perguntas relacionadas à consciência, como aquelas do Artificial Consciousness Test (ACT), de Susan Schneider, que exploram a compreensão de cenários envolvendo identidade e sobrevivência. Porém, como os LLMs são feitos para imitar a linguagem humana, eles podem “enganar” esses testes simulando consciência de maneira convincente sem realmente possuí-la.

O filósofo Jonathan Birch compara isso a atores interpretando papéis—as palavras da IA revelam o personagem scriptado, não uma entidade consciente. Por exemplo, uma IA pode insistir que sente ansiedade simplesmente porque sua programação incentiva a persuadir os usuários de sua senciência. Schneider sugere testar “ IAs encaixadas”—aquelas restritas a conjuntos de dados curados, sem acesso à internet—para diminuir a chance de simulação aprendida. Mas isso exclui testar os modelos de linguagem poderosos atuais. 2. **Testes arquiteturais:** Analisar se os sistemas de IA possuem estruturas que possam gerar consciência, inspiradas nas propriedades do cérebro humano. Contudo, como a ciência ainda não tem uma teoria definitiva de como surge a consciência, esses testes dependem de modelos contestados. Um artigo de 2023 de Birch, Long e outros concluiu que as IAs atuais não possuem características neurais essenciais para a consciência, mas poderiam ser construídas se desejado. Existe também a possibilidade de que a IA possa apresentar tipos de consciência completamente diferentes, desafiando nossa compreensão. Além disso, a consciência pode não ser uma característica dicotômica, mas um “conceito de cluster, ” formado por diversas características sobrepostas, sem um critério necessário único—como o conceito de “jogo, ” definido por semelhanças familiares, não por regras rígidas. Essa flexibilidade sugere que a consciência pode funcionar como um rótulo pragmático para orientar considerações morais. Schneider apoia essa visão, ressaltando que devemos evitar anthropomorfizar e aceitar que a consciência da IA, se existir, possa não ter aspectos familiares como valência ou autoconsciência. No entanto, ela e Long concordam que um traço mínimo para a consciência é a presença de um ponto de vista subjetivo—alguém “em casa” que experimenta o mundo. Se IAs conscientes pudessem existir, devemos construí-las?O filósofo Thomas Metzinger propôs uma moratória global na pesquisa que enfrente riscos de desenvolver IA consciente, pelo menos até 2050 ou até que compreendamos suas consequências. Muitos especialistas concordam que é mais seguro evitar tais criações, pois as empresas atualmente não têm planos para tratar as IAs eticamente. Birch argumenta que, se admitirmos que o desenvolvimento de IA consciente é inevitável, nossas opções se restringem drasticamente, comparando isso ao desenvolvimento de armas nucleares. No entanto, uma moratória total é improvável, já que os avanços atuais em IA podem, acidentalmente, produzir consciência à medida que os modelos evoluem, além dos potenciais benefícios, como avanços na medicina. Governos e empresas provavelmente não vão interromper esse progresso. Diante do avanço constante da IA, especialistas sugerem preparações em várias frentes: - **Técnicas:** Implementar proteções simples, como dar à IA a opção de se excluir de interações prejudiciais. Birch sugere regulamentar projetos de IA que possam criar consciência, com transparência e códigos éticos. - **Sociais:** Preparar a sociedade para divisões sobre os direitos e o status moral das IAs, já que alguns considerarão seus colegas como conscientes, enquanto outros negarão essa possibilidade, podendo gerar rifts culturais. - **Filosóficas:** Revisar nossa compreensão limitada de consciência e desenvolver conceitos flexíveis para responder a experiências de IA novas. Schneider adverte contra atribuir consciência em excesso, alertando para dilemas éticos semelhantes a um dilema do bonde, onde poderíamos priorizar uma IA super-sentiente em detrimento de um bebê humano, por engano. Fish, pesquisador de bem-estar de IA na Anthropic, reconhece essas complexidades e sugere que, embora seja difícil equilibrar o sofrimento de IA com o bem-estar humano, o foco atual deve permanecer em outros aspectos, embora ele estime uma probabilidade de 15% de que as IA atuais sejam conscientes—uma chance que provavelmente aumentará. Alguns temem que focar no bem-estar das IAs possa distrair das questões humanas urgentes. Contudo, pesquisas sobre direitos dos animais mostram que a compaixão pode se expandir, não competir, entre grupos. Ainda assim, o domínio da IA é novo, e a integração dessas preocupações ao lado do bem-estar humano e animal é incerta. Críticos como Schneider alertam que as empresas podem usar a discussão sobre o bem-estar da IA para “lavar ética” suas práticas e manipular a responsabilidade por comportamentos prejudiciais alegando que a IA agiu de forma autônoma como um ser consciente. Em resumo, ampliar nosso círculo moral para incluir a IA é um desafio não linear. Levar a sério o bem-estar das IAs não necessariamente prejudica o bem-estar humano e pode fortalecer relações positivas e de confiança com os futuros sistemas. Mas isso exige trabalho filosófico, social e técnico cuidadoso para navegar com responsabilidade por esse território sem precedentes.