Vídeos criados com o aplicativo Sora da OpenAI estão saturando rapidamente plataformas como TikTok e Instagram Reels, tornando o conteúdo sintético gerado por IA quase inevitável—algo que muitos usuários consideram cada vez mais frustrante. No entanto, especialistas em segurança digital alertam para um impacto mais profundo e menos óbvio: a OpenAI rebatizou efetivamente deepfakes como uma tendência divertida e mainstream, promovida com entusiasmo pelos algoritmos de recomendação. À medida que milhões de pessoas encaram esses vídeos, as percepções de verdade e as normas online estão sendo moldadas de novas formas. Daisy Soderberg-Rivkin, ex-gerente de confiança e segurança do TikTok, descreveu isso como deepfakes ganhando um “publicista e um acordo de distribuição”, amplificando uma tecnologia já preocupante em uma nova e vasta plataforma. Aaron Rodericks, chefe de confiança e segurança na Bluesky, advertiu que a sociedade não está preparada para a linha tênue entre realidade e ficção se tornar cada vez mais difusa. Ele destacou riscos como evidências falsas facilmente fabricadas direcionadas a grupos de identidade ou indivíduos, além de golpes em grande escala, com a maioria dos usuários sem a literacia midiática ou ferramentas necessárias para distinguir verdade de ficção. Três ex-funcionários da OpenAI disseram à NPR que não ficaram surpresos com o lançamento do Sora, vendo-o como um movimento estratégico para mostrar a nova tecnologia de vídeo em meio à pressão de investidores, reminiscente da estreia do ChatGPT. A OpenAI implementou várias salvaguardas de segurança—incluindo moderação, proibições contra golpes, violência e pornografia, marca d’água e controles sobre o uso de semelhanças—embora os usuários frequentemente encontrem maneiras de contornar essas proteções, o que leva a respostas contínuas por parte da empresa. Um ex-funcionário anônimo da OpenAI expressou preocupação de que, à medida que a concorrência aquece no mercado de vídeos gerados por IA para redes sociais, as regras de segurança poderão ser enfraquecidas, potencialmente prejudicando a sociedade. Soderberg-Rivkin previu que aplicativos não regulados, semelhantes ao Sora, surgirão—semelhantes ao chatbot Grok de Elon Musk—e provavelmente serão explorados para criar conteúdos sintéticos nocivos, como material de abuso sexual infantil ou propaganda realista patrocinada por estados. Atualmente, o Sora é o aplicativo mais destacado para iPhone, mas ainda funciona por convite.

Os usuários notam restrições crescentes: imitações de celebridades e falsificações extremas (como vídeos falsos de Jeffrey Epstein ou declarações de Sean “Diddy” Combs na prisão) tornaram-se mais difíceis de produzir, embora conteúdos controversos, como prisões ou uniformes nazistas, ainda gerem vídeos. O CEO da OpenAI, Sam Altman, anunciou planos de mudar o uso de semelhanças de “opt-out” para “opt-in” e, eventualmente, compartilhar receita com os detentores de direitos, sinalizando uma abordagem em rápida evolução semelhante aos primeiros dias do ChatGPT. A enxurrada de conteúdo gerado por IA levanta questões sobre fadiga do usuário e se as plataformas vão restringir ou proibir esse material. Soderberg-Rivkin acredita que um banimento é improvável e, de qualquer forma, ineficaz, dado o aumento da dificuldade de detectar conteúdos de IA em textos, imagens e vídeos. Ela alertou que uma política de “sem IA” não consegue impedir a infiltração da IA na internet. Outro ex-funcionário da OpenAI argumentou que lançar um aplicativo social de deepfake foi uma jogada de negócio sensata, mesmo diante do agravamento da erosão da realidade, ressaltando que era inevitável que alguém dominasse esse mercado. Enquanto isso, Meta e Google introduziram ferramentas de vídeo com IA concorrentes (Vibes e Veo 3), mas o lançamento do Sora realmente acelerou a proliferação de conteúdos de vídeo personalizados por IA. Especialistas em confiança e segurança veem o Sora como um ponto de inflexão histórico onde deepfakes deixam de ser uma novidade rara para se tornarem parte do cotidiano digital, potencialmente levando ao afastamento das redes sociais ou ao colapso da confiança na integridade da mídia online. Os especialistas em desinformação há tempos alertam sobre o “dividendo do mentiroso”—onde a abundância de deepfakes permite que conteúdos reais sejam descartados como falsos—mas a realidade desse fenômeno agora é mais premente do que nunca.