En un desenvolupament important que destaca els desafiaments que la intel·ligència artificial planteja a la indústria de l'entreteniment, centenars de vídeos de Bollywood generats per IA van ser eliminats de YouTube després d’un informe investigatiu de Reuters. Aquests vídeos, molts d’ells amb representacions manipulades i enganyoses de personatges que semblaven celebritats, van despertar una àmplia preocupació entre els espectadors i professionals del sector. Principalment, mostraven escenes romàntiques o sexualment suggeridores fabricades mitjançant imatges generades per IA de famosos com Abhishek Bachchan i Aishwarya Rai Bachchan, que en conjunt van guanyar més de 16 milions de visualitzacions i demostraven l’ample impacte d’aquest tipus de contingut a les plataformes digitals. La controvèrsia es va intensificar quan aquests vídeos manipulats amb tecnologia avançada, capaços de crear escenaris molt realistes però completament i ficticis, es van difondre a diverses plataformes de YouTube. És especialment notable que el canal ara eliminat "AI Bollywood Ishq" va publicar unes 259 d’aquestes peces. Un d’ells va atraure una atenció especial per mostrar una escena romàntica fabricada entre Salman Khan i Aishwarya Rai. Aquests vídeos van plantejar importants qüestions sobre l’ús indegut de la tecnologia, el consentiment, l’autenticitat i els límits ètics en la creació de contingut digital. En resposta, Abhishek Bachchan i Aishwarya Rai Bachchan han interposat demandes a Nova Delhi buscant aturar la producció i distribució continuada d’aquests vídeos generats per IA no autoritzats que violen els seus drets i podrien danyar la seva reputació. La seva acció legal també qüestiona les polítiques de moderació de contingut de YouTube, especialment l’enfocament respecte a l’entrenament d’IA i l’allotjament de mitjans manipulats que confusingen els espectadors.

A més, el seu equip legal està reclamant una indemnització de 450. 000 dòlars a Google i altres plataformes digitals acusades d’explotar comercialment merchandise no autoritzat amb la imatge dels Bachchan. YouTube ha confirmat públicament que el canal "AI Bollywood Ishq" va ser eliminat pel seu creador, destacant el seu compromís de fer complir les polítiques contra contingut perjudicial i enganyós, així com els esforços per frenar mitjans manipulats. No obstant això, nombrosos vídeos similars generats per IA encara estan disponibles a la plataforma, posant de manifest les dificultats dels moderadors de contingut per controlar grans volums de material digital en temps real. Aquest incident reflecteix un debat creixent i urgent sobre les implicacions ètiques i legals del contingut generat per IA, especialment en relació amb la propietat intel·lectual i els drets personals. La capacitat de la intel·ligència artificial de fabricar vídeos realistes que representen persones públiques en narratives falses suposa un repte complex per a reguladors, companyies tecnològiques i individus. Les qüestions de consentiment, autencitat i responsabilitat són ara centrals, mentre els protagonistes han de fer front a les conseqüències de tecnologies emergents que poden produir mitjans molt convincents però completament ficticis. Experts i juristes subratllen la necessitat d’uns marcs reguladors forts que governin l’ús de la IA en la creació de contingut—marcs que equilibriïn la innovació amb la protecció dels drets individuals i l’interès públic. El cas dels Bachchan pot establir precedents legals importants per definir els límits de la manipulació digital i les responsabilitats de les plataformes. A mesura que la indústria de l’entreteniment evoluciona encara amb els ràpids avenços tecnològics, la intersecció entre la IA i els drets a la imatge de les celebritats serà un àmbit cada cop més disputat. Aquesta controvèrsia ongoing avisa dels possibles usos inadequats de la tecnologia de IA i destaca la necessitat crucial de desenvolupar regulacions i guies ètiques integrals per prevenir danys no desitjats derivats de la innovació digital.