Um estudo recente da NewsGuard revelou deficiências notáveis em alguns dos principais chatbots de IA do mundo na detecção de vídeos gerados por inteligência artificial. A pesquisa mostrou que os principais agentes conversacionais de IA, incluindo o ChatGPT da OpenAI, o Grok da xAI e o Gemini do Google, frequentemente não conseguem reconhecer vídeos produzidos por inteligência artificial, especialmente quando esses vídeos não apresentam marcações claras. O estudo envolveu testes minuciosos das reações dos chatbots a vídeos produzidos por IA sem marcas d’água que indicassem sua natureza sintética. Os resultados foram surpreendentes: na maioria dos casos—variando de 78% a até 95%—os chatbots não identificaram corretamente os vídeos como sendo gerados por IA. Isso implica que, quando questionados sobre a origem desses vídeos, esses sistemas de IA muitas vezes os tratavam como conteúdo autêntico, criado por humanos, apesar de sua origem artificial. Mesmo quando marcas d’água estavam presentes para sinalizar que os vídeos eram de IA, dois dos três chatbots—ChatGPT e Grok—continuaram muitas vezes a falhar na detecção consistente desses indicadores. Eles classificaram incorretamente uma quantidade significativa de vídeos com marcas d’água, revelando fraquezas persistentes na capacidade atual de detecção de vídeos sintéticos por parte da IA conversacional. O Gemini do Google teve um desempenho um pouco melhor, mas também enfrentou dificuldades em certas condições de teste. Esses resultados são especialmente importantes considerando a crescente presença de conteúdo multimídia gerado por inteligência artificial online, o que desafia esforços de moderação de conteúdo, prevenção de desinformação e verificação da autenticidade de mídias digitais. A incapacidade dos chatbots de IA de detectar vídeos sintéticos de forma confiável levanta preocupações sobre o potencial de serem enganados ou de propagarem inadvertidamente material não verificado.

Especialistas em perícia digital e integridade da mídia destacam a necessidade urgente de aprimorar as técnicas de detecção para acompanhar os avanços na criação de vídeos por IA. Argumentam que melhorias são necessárias não apenas nos algoritmos dos chatbots, mas em todo o cenário mais amplo de ferramentas de verificação de conteúdo digital. Essa questão evidencia um desafio societal mais amplo na gestão e mitigação dos efeitos da mídia sintética—frequentemente chamada de deepfakes—que pode ser mal utilizada para desinformação, fraudes e para minar a confiança nas comunicações digitais. A pesquisa recomenda uma maior colaboração entre desenvolvedores de IA, profissionais de cibersegurança e órgãos reguladores para desenvolver marcas padrão e protocolos de detecção que possam ser adotados universalmente. Medidas como essas promoveriam a rotulagem transparente de conteúdos gerados por IA e capacitariam plataformas digitais a lidar com riscos relacionados a vídeos sintéticos. Além disso, a educação contínua de usuários e moderadores de conteúdo é vital para que possam reconhecer melhor conteúdos produzidos por IA, reduzindo assim os riscos de manipulação. Em resumo, o estudo da NewsGuard revela uma deficiência crítica na tecnologia de IA atual. À medida que os meios sintéticos se tornam mais complexos e acessíveis, aprimorar a capacidade dos chatbots de IA de identificar vídeos gerados por IA com precisão é fundamental para proteger a integridade da informação. Enfrentar esses desafios é fundamental para promover ambientes digitais confiáveis e garantir o uso responsável da inteligência artificial na criação e distribuição de mídia.