Dans un développement majeur mettant en lumière les défis que pose l'intelligence artificielle à l'industrie du divertissement, des centaines de vidéos Bollywood générées par IA ont été supprimées de YouTube suite à un rapport d’enquête de Reuters. Ces vidéos, dont beaucoup présentent des portrayals manipulées et trompeuses de sosies de célébrités, ont suscité une inquiétude généralisée parmi les spectateurs et les professionnels du secteur. Principalement, elles représentaient des scénarios romantiques ou sexuellement suggestifs fabriqués à partir d’images générées par IA de célèbres acteurs comme Abhishek Bachchan et Aishwarya Rai Bachchan, accumulant collectivement plus de 16 millions de vues, illustrant l’impact considérable d’un tel contenu sur les plateformes numériques. La controverse s’est intensifiée lorsque ces vidéos manipulées par IA, créées avec une technologie avancée pour produire des scénarios très réalistes mais fictifs, se sont répandues sur diverses chaînes YouTube. Notamment, la chaîne désormais supprimée "AI Bollywood Ishq" y avait publié environ 259 de ces vidéos. L’une d’elles a retenu une attention particulière en représentant une scène romantique fictive entre Salman Khan et Aishwarya Rai. Ces vidéos ont soulevé des questions importantes concernant la mauvaise utilisation de la technologie, le consentement, l’authenticité et les limites éthiques dans la création de contenu numérique. En réponse, Abhishek Bachchan et Aishwarya Rai Bachchan ont déposé des poursuites à New Delhi afin d’arrêter la production et la diffusion continues de ces vidéos générées par IA non autorisées, qui violent leurs droits et pourraient ternir leur réputation. Leur action en justice remet également en question les politiques de modération de contenu de YouTube, notamment son approche de la formation à l’IA et de l’hébergement de médias manipulés pouvant induire en erreur les spectateurs.

De plus, leur équipe juridique réclame 450 000 dollars de dommages et intérêts auprès de Google et d’autres plateformes numériques accusées d’exploiter commercialement des marchandises non autorisées reproduisant l’image des Bachchan. YouTube a confirmé publiquement que la chaîne "AI Bollywood Ishq" avait été supprimée par son créateur, soulignant son engagement à appliquer ses politiques contre les contenus nuisibles et trompeurs, ainsi que ses efforts continus pour lutter contre les médias manipulés. Cependant, de nombreuses vidéos similaires générées par IA restent accessibles sur la plateforme, illustrant les difficultés auxquelles sont confrontés les modérateurs de contenu pour surveiller en temps réel de grands volumes de matériel numérique. Cet incident met en évidence un débat urgent et croissant sur les implications éthiques et juridiques du contenu généré par IA, notamment en ce qui concerne la propriété intellectuelle et les droits personnels. La capacité de l’intelligence artificielle à fabriquer des vidéos réalistes représentant des figures publiques dans des récits fallacieux constitue un défi complexe pour les régulateurs, les entreprises technologiques et les individus. Les questions de consentement, d’authenticité et de responsabilité deviennent centrales alors que les acteurs se confrontent aux conséquences des technologies émergentes qui produisent des médias hautement convaincants mais entièrement fictifs. Les experts et universitaires en droit soulignent la nécessité de cadres réglementaires solides encadrant l’utilisation de l’IA dans la création de contenu — des cadres qui concilient innovation et protection des droits individuels ainsi que de l’intérêt public. L’affaire des Bachchan pourrait établir des précédents juridiques importants définissant les limites de la manipulation numérique et les responsabilités des plateformes. Alors que l’industrie du divertissement évolue parallèlement aux avancées technologiques rapides, l’intersection entre l’IA et les droits à l’image des célébrités risque de devenir un domaine de plus en plus contesté. Cette controverse continue sert d’alerte sur le potentiel abus de la technologie IA et souligne le besoin urgent d’élaborer des réglementations et des lignes directrices éthiques complètes pour prévenir tout dommage involontaire engendré par l’innovation numérique.