Uma porta-aviões dos EUA destruída por mísseis iranianos. Bombas americanas abatendo uma usina nuclear. O Burj Khalifa consumido pelas chamas. Nenhum desses eventos realmente aconteceu, mas isso não impediu as pessoas de compartilharem vídeos falsos online. Desde os ataques de Trump no fim de semana contra o Irã, vídeos gerados por IA que mostram cenários completamente fabricados, mas realistas, têm se espalhado rapidamente pelo X e outras plataformas de mídia social. Por anos, o X (antigo Twitter) foi uma ferramenta vital para informações em tempo real durante notícias de última hora. No entanto, esse papel parece estar desaparecendo. Desde que Elon Musk assumiu, a confiabilidade da plataforma como fonte de notícias vem diminuindo constantemente. A moderação foi severamente enfraquecida, o algoritmo prioriza o engajamento em detrimento da precisão, e recursos foram desviados para a própria plataforma problemática de IA—o Grok. Já testemunhamos conteúdos de IA carregados de conotação política na plataforma, como um vídeo fabricado de Jake Paul em protestos no Irã. Mas os recentes ataques na Venezuela e agora no Irã desencadearam uma enxurrada de vídeos enganosos gerados por IA. As razões por trás desse conteúdo variam.

Alguns criadores parecem celebrar, usando IA para glorificar as ações militares de Trump e Netanyahu. Outros buscam semear dúvidas sobre o conflito, erodindo a confiança do público americano e contaminando o espaço de informações a ponto de a verdade se tornar incerta. Alarmantemente, o Grok—ferramenta nativa de IA do X—tem rotulado incorretamente vídeos gerados por IA como sendo autênticos. (Um porta-voz do X não respondeu imediatamente às solicitações de comentários, mas indicou postagens recentes da equipe de segurança da empresa. ) No mês passado, Arianna Coghill, da Mother Jones, conversou com o especialista em conteúdo de IA Jeremy Carrasco sobre essa questão. Carrasco considera o conteúdo falso preocupante, mas enfatiza que o maior dano está na forma como essa enxurrada de conteúdo de IA afeta nossa confiança em vídeos reais. Quando imagens falsas se tornam convincentes e difundidas, as pessoas começam a duvidar de tudo—inclusive de vídeos autênticos de eventos verdadeiros. Essa é a dura realidade que enfrentamos agora. Estar bem informado é mais importante do que nunca, mas, nesses tempos, exige cautela extra sobre o que se aceita como verdade—mesmo quando parece ter sido capturado diante dos seus olhos.