Wielki przełom podkreślający wyzwania, jakie sztuczna inteligencja stawia dla przemysłu rozrywkowego, to usunięcie setek filmów Bollywood wygenerowanych przez AI z YouTube po raportach śledczych Reutersa. Te filmy, wiele z nich zawierających zmanipulowane i wprowadzające w błąd przedstawienia podobizn znanych osób, wywołały powszechne obawy wśród widzów i profesjonalistów z branży. W przeważającej większości ukazywały zmyślone scenariusze romantyczne lub seksualnie sugestywne, wykorzystując obrazy generowane przez AI znanych aktorów Abhisheka Bachchana i Aishwarya Rai Bachchan, które łącznie zgromadziły ponad 16 milionów wyświetleń i ukazują ogromny wpływ tego rodzaju treści na platformach cyfrowych. Kontrowersje nasiliły się, gdy te zmanipulowane filmy, tworzone za pomocą zaawansowanej technologii mającej na celu przedstawianie niezwykle realistycznych, lecz fikcyjnych scen, rozprzestrzeniały się na różnych kanałach YouTube. Na szczególną uwagę zasłużył usunięty już kanał "AI Bollywood Ishq", który opublikował około 259 takich filmów. Jeden z nich zwrócił szczególną uwagę, przedstawiając fikcyjną scenę romantyczną między Salmanem Khanem a Aishwarya Rai. Te filmy podnosiły istotne kwestie dotyczące nadużycia technologii, zgody, autentyczności i granic etycznych w tworzeniu treści cyfrowych. W odpowiedzi Abhishek Bachchan i Aishwarya Rai Bachchan złożyli pozwy w New Delhi, domagając się zaprzestania produkcji i dystrybucji tych nieautoryzowanych, wygenerowanych przez AI filmów naruszających ich prawa i mogących zaszkodzić ich reputacji. Ich działania prawne kwestionują także politykę moderacji treści YouTube, szczególnie w zakresie szkolenia AI i hostowania zmanipulowanych mediów wprowadzających widzów w błąd.

Dodatkowo ich zespół prawny domaga się od Google i innych platform cyfrowych odszkodowania w wysokości 450 000 dolarów, oskarżając je o komercyjne wykorzystywanie nieautoryzowanych produktów z podobiznami Bachchanów. YouTube publicznie potwierdziło, że kanał "AI Bollywood Ishq" został usunięty przez jego twórcę, podkreślając swoje zaangażowanie w egzekwowanie polityk przeciwko szkodliwym i wprowadzającym w błąd treściom oraz ciągłe wysiłki na rzecz ograniczania manipulowanych mediów. Niemniej jednak, na platformie wciąż dostępnych jest wiele podobnych filmów AI, co ujawnia trudności, z jakimi muszą zmagać się moderatorzy treści w kontrolowaniu dużych ilości materiałów cyfrowych w czasie rzeczywistym. Incydent ten podkreśla rosnącą i naglącą debatę na temat etycznych i prawnych implikacji treści tworzonych przez sztuczną inteligencję, szczególnie w zakresie własności intelektualnej i praw osobistych. Zdolność AI do fałszowania realistycznych filmów przedstawiających osoby publiczne w fałszywych narracjach stanowi skomplikowane wyzwanie dla regulatorów, firm technologicznych i samych jednostek. Problemy zgody, autentyczności i odpowiedzialności są teraz w centrum uwagi, ponieważ interesariusze stają przed konsekwencjami pojawiających się technologii, które produkują wysoce przekonujące, ale całkowicie fikcyjne media. Eksperci i prawnicy podkreślają potrzebę silnych ram regulacyjnych dotyczących wykorzystania AI w tworzeniu treści—ram, które będą równoważyć innowacje z ochroną praw jednostek i interesu publicznego. Sprawa Bachchanów może wyznaczyć ważne precedensy prawne, określając granice manipulacji cyfrowej i obowiązki platform. W miarę jak przemysł rozrywkowy rozwija się równolegle z szybkim postępem technologicznym, zatarcie granic pomiędzy AI a prawami do wizerunku gwiazd staje się obszarem coraz częstszych sporów. Ta trwająca kontrowersja służy jako ostrzeżenie przed potencjalnym nadużyciem technologii sztucznej inteligencji i podkreśla kluczową potrzebę opracowania kompleksowych regulacji i etycznych wytycznych, aby zapobiec niezamierzonym szkodom wynikającym z cyfrowych innowacji.