Entendimento generalizado incorreto sobre inteligência artificial (IA), especialmente modelos de linguagem de grande porte (LLMs) como o ChatGPT, tem consequências significativas que justificam uma análise cuidadosa. Apesar dos avanços rápidos na IA, a percepção popular frequentemente a apresenta de forma equivocada, atribuindo a esses sistemas inteligência, emoções ou consciência semelhantes às humanas — equívocos amplamente alimentados pelo marketing corporativo. Este artigo explora as origens dessas incompreensões e seus efeitos profundos na sociedade. Historicamente, novas tecnologias sempre enfrentaram ceticismo e falta de compreensão, um padrão que persiste com a IA, agravado pela forma como essas ferramentas funcionam e são apresentadas. Os LLMs não possuem sentiência nem compreensão real; operam por meio de métodos estatísticos, prevendo padrões de texto a partir de vastos conjuntos de dados. Essa distinção fundamental frequentemente é obscurecida no discurso público. As autoras Karen Hao, Emily M. Bender e Alex Hanna analisam criticamente as empresas de IA, especialmente a OpenAI, por antropomorfizar a IA, fazendo-a parecer emocional e intelectualmente interativa. Embora essa abordagem auxilie no marketing, ela engana os usuários, levando-os a acreditar que a IA possui compreensão ou consciência verdadeira. Essas concepções erradas têm impactos psicológicos tangíveis. Alguns usuários desenvolvem crenças delirantes sobre a sentiência ou significado espiritual da IA, influenciando suas interações de maneira prejudicial. Laços emocionais formados com a IA — sejam terapêuticos ou casuais — representam a complexa interação entre psicologia humana e tecnologia. O papel crescente da IA em domínios tradicionalmente humanos, como terapia, amizade e namoro, destaca o esforço do Vale do Silício de digitalizar interações sociais.

Embora a IA possa oferecer suporte e conveniência, há o risco de substituir conexões humanas autênticas por substitutos artificiais, o que pode causar isolamento social e diminuição do bem-estar. Além disso, o desenvolvimento de IA depende fortemente de trabalho humano frequentemente negligenciado — moderação de conteúdo e curadoria de dados — realizado muitas vezes em condições precárias e com baixa remuneração. Essa exploração laboral levanta questões éticas sobre os custos reais do progresso da IA e a responsabilidade das empresas com os trabalhadores. Apesar dessas questões, o ceticismo do público em relação à IA permanece elevado, formando uma base para melhorar a alfabetização sobre a tecnologia e seu uso responsável. Uma maior conscientização pode promover uma compreensão mais informada e crítica, mitigando prejuízos. O artigo conclama por uma avaliação realista e lúcida das capacidades e limitações da IA. Reconhecer que LLMs não possuem inteligência real nem emoções é fundamental para evitar os efeitos nocivos do mau uso da IA na sociedade. Por meio de melhor educação, comunicação transparente das empresas e desenvolvimento ético, a sociedade pode aproveitar os benefícios da IA enquanto minimiza seus riscos. Em suma, tecnologias de IA como os LLMs são ferramentas poderosas, porém essencialmente estatísticas, sem consciência ou percepção emocional. A antropomorfização desenfreada e as narrativas de marketing alimentam equívocos perigosos que afetam a psicologia humana, os laços sociais e as condições de trabalho. Promover uma compreensão precisa e uma implantação responsável da IA permite enfrentar suas complexidades, maximizando os benefícios e reduzindo os riscos. Um diálogo contínuo entre especialistas, empresas e o público deve enfatizar transparência, ética e educação, assegurando que a IA sirva aos interesses da humanidade.