Trong một diễn biến quan trọng nhấn mạnh những thách thức mà trí tuệ nhân tạo đặt ra đối với ngành công nghiệp giải trí, hàng trăm video Bollywood do AI tạo ra đã bị xóa khỏi YouTube sau một báo cáo điều tra của Reuters. Những video này, phần lớn để lộ những diễn xuất đã bị chỉnh sửa và gây hiểu lầm về những người nổi tiếng giống nhau, đã khiến người xem và các chuyên gia trong ngành lo ngại rộng rãi. Chủ yếu chúng mô phỏng các cảnh tình cảm hoặc quan hệ tình dục gợi dục giả mạo sử dụng hình ảnh do AI tạo ra của các diễn viên nổi tiếng Abhishek Bachchan và Aishwarya Rai Bachchan, tổng cộng đạt hơn 16 triệu lượt xem và cho thấy tác động lớn của các nội dung như vậy trên các nền tảng kỹ thuật số. Cuộc tranh cãi càng trở nên gay gắt khi các video do AI chỉnh sửa này, được tạo ra bằng công nghệ tiên tiến để sản xuất ra các kịch bản chân thực nhưng giả mạo, lan rộng trên nhiều kênh YouTube khác nhau. Đặc biệt, kênh "AI Bollywood Ishq" đã bị xóa với khoảng 259 video như vậy. Một trong số đó thu hút sự chú ý đặc biệt khi mô tả một cảnh tình yêu giả tạo giữa Salman Khan và Aishwarya Rai. Những video này đặt ra nhiều vấn đề đáng kể liên quan đến việc sử dụng sai công nghệ, quyền riêng tư, tính xác thực và giới hạn đạo đức trong việc tạo dựng nội dung số. Đáp lại, Abhishek Bachchan và Aishwarya Rai Bachchan đã đâm đơn kiện tại New Delhi nhằm chấm dứt việc sản xuất và phát hành các video AI không được phép này xâm phạm quyền của họ và có thể làm tổn hại uy tín của họ. Hành động pháp lý của họ còn thách thức chính sách kiểm duyệt nội dung của YouTube, đặc biệt là cách nền tảng này đào tạo AI và lưu trữ các phương tiện bị chỉnh sửa gây hiểu lầm cho người xem.

Thêm vào đó, nhóm luật sư của họ đang đòi bồi thường 450. 000 đô la từ Google và các nền tảng kỹ thuật số khác bị cáo buộc khai thác thương mại các mặt hàng giả có hình ảnh của Bachchan một cách trái phép. YouTube đã công khai xác nhận rằng kênh "AI Bollywood Ishq" được chính người sáng tạo tự xóa bỏ, nhấn mạnh cam kết thực thi các chính sách chống nội dung có hại và gây hiểu lầm, cũng như nỗ lực kiểm soát các phương tiện bị chỉnh sửa. Tuy nhiên, nhiều video do AI tạo ra tương tự vẫn còn có mặt trên nền tảng này, nhấn mạnh những khó khăn mà các nhà kiểm duyệt nội dung phải đối mặt trong việc kiểm soát khối lượng lớn tài liệu kỹ thuật số trong thời gian thực. Sự việc này nhấn mạnh một cuộc tranh luận ngày càng cấp bách về những hậu quả đạo đức và pháp lý của nội dung do AI tạo ra, đặc biệt liên quan đến sở hữu trí tuệ và quyền cá nhân. Khả năng của trí tuệ nhân tạo làm giả các video chân thực về những nhân vật công chúng trong những câu chuyện sai lệch đặt ra một thử thách phức tạp cho các cơ quan quản lý, các công ty công nghệ và cá nhân. Các vấn đề về quyền tự do, tính xác thực và trách nhiệm pháp lý hiện trở thành trung tâm khi các bên liên quan đối mặt với hậu quả của các công nghệ mới nổi tạo ra các phương tiện rất thuyết phục nhưng hoàn toàn là giả mạo. Các chuyên gia và học giả pháp lý nhấn mạnh sự cần thiết của các khung pháp lý mạnh mẽ quản lý việc sử dụng AI trong sáng tạo nội dung—những khung pháp lý cân bằng giữa đổi mới và việc bảo vệ quyền lợi của cá nhân cùng lợi ích cộng đồng. Trường hợp của các Bachchan có thể đặt ra các tiền lệ pháp lý quan trọng xác định giới hạn của sự chỉnh sửa kỹ thuật số và trách nhiệm của nền tảng. Khi ngành giải trí tiến bộ cùng với những đột phá công nghệ nhanh chóng, mối quan hệ giữa AI và quyền hình ảnh của người nổi tiếng dự kiến sẽ trở thành một lĩnh vực ngày càng tranh cãi. Cuộc tranh cãi đang diễn ra này là một cảnh báo về tiềm năng lạm dụng công nghệ AI và làm nổi bật nhu cầu cấp thiết xây dựng các quy định và hướng dẫn đạo đức toàn diện nhằm ngăn chặn những hậu quả không mong muốn phát sinh từ đổi mới kỹ thuật số.