Em um desenvolvimento importante que destaca os desafios que a inteligência artificial apresenta à indústria do entretenimento, centenas de vídeos de Bollywood gerados por IA foram removidos do YouTube após um relatório investigativo da Reuters. Esses vídeos, muitos com representações manipuladas e enganosas de supostos artistas famosos, geraram preocupação generalizada entre espectadores e profissionais do setor. Predominantemente, eles retratavam cenários românticos ou sexualmente sugestivos fabricados, usando imagens geradas por IA de atores famosos como Abhishek Bachchan e Aishwarya Rai Bachchan, acumulando mais de 16 milhões de visualizações e demonstrando o grande impacto desse tipo de conteúdo nas plataformas digitais. A controvérsia se intensificou à medida que esses vídeos manipulados por IA, criados com tecnologia avançada para produzir cenários altamente realistas, mas fictícios, se espalharam por vários canais do YouTube. Notavelmente, o canal agora excluído "AI Bollywood Ishq" publicou cerca de 259 desses vídeos. Um deles chamou atenção ao retratar uma cena romântica fabricada entre Salman Khan e Aishwarya Rai. Esses vídeos levantaram questões importantes sobre o uso indevido da tecnologia, consentimento, autenticidade e limites éticos na criação de conteúdo digital. Em resposta, Abhishek Bachchan e Aishwarya Rai Bachchan entraram com ações judiciais em Nova Delhi buscando detê-los da produção e distribuição desses vídeos não autorizados gerados por IA, que violam seus direitos e podem prejudicar suas reputações. A ação também questiona as políticas de moderação de conteúdo do YouTube, especialmente sua abordagem ao treinamento de IA e hospedagem de mídias manipuladas que enganam os espectadores.

Além disso, sua equipe jurídica está buscando uma indenização de US$ 450. 000 da Google e de outras plataformas digitais acusadas de explorar comercialmente mercadorias não autorizadas com a likeness dos Bachchans. O YouTube confirmou publicamente que o canal "AI Bollywood Ishq" foi removido por seu criador, reforçando seu compromisso com a aplicação de políticas contra conteúdos prejudiciais e enganosos e seus esforços contínuos para combater mídias manipuladas. No entanto, inúmeros vídeos semelhantes gerados por IA permanecem disponíveis na plataforma, evidenciando as dificuldades enfrentadas pelos moderadores de conteúdo em fiscalizar grandes volumes de material digital em tempo real. Esse incidente destaca um debate crescente e urgente sobre as implicações éticas e legais do conteúdo gerado por IA, especialmente relacionadas à propriedade intelectual e direitos pessoais. A capacidade da inteligência artificial de fabricar vídeos realistas retratando figuras públicas em narrativas falsas representa um desafio complexo para reguladores, empresas de tecnologia e indivíduos. Questões de consentimento, autenticidade e responsabilização agora estão no centro das discussões, à medida que os stakeholders confrontam as consequências de tecnologias emergentes que produzem mídia altamente convincente, mas totalmente fabricada. Especialistas e estudiosos jurídicos reforçam a necessidade de estruturas regulatórias sólidas que governem o uso de IA na criação de conteúdo — estruturas que equilibrem a inovação com a proteção dos direitos individuais e do interesse público. O caso dos Bachchans pode estabelecer precedentes legais importantes, definindo os limites da manipulação digital e as responsabilidades das plataformas. À medida que a indústria do entretenimento evolui junto com os rápidos avanços tecnológicos, a interseção entre IA e direitos de imagem de celebridades tende a se tornar um campo cada vez mais disputado. Essa controvérsia contínua serve como um alerta sobre o potencial mau uso da tecnologia de IA e destaca a necessidade crítica de desenvolver regulamentações abrangentes e diretrizes éticas para evitar danos não intencionais decorrentes da inovação digital.