Важное событие, подчеркивающее вызовы, которые искусственный интеллект представляет для развлекательной индустрии: сотни видео из Болливуда, сгенерированные ИИ, были удалены с YouTube после расследовательского отчета агентства Reuters. Эти видео, многие из которых содержали манипулированные и вводящие в заблуждение изображения персонажей, похожих на знаменитостей, вызвали широкую обеспокоенность у зрителей и профессионалов отрасли. В основном они показывали сфальсифицированные романтические или сексуально намекающие сцены с использованием изображений известных актеров Абхишека Бхаккена и Ашвьарьи Рай Бхаккен, собравшее более 16 миллионов просмотров и демонстрирующее огромное влияние такого контента на цифровых платформах. Образовался шквал критики, поскольку эти видеоролики, созданные с помощью передовых технологий для генерации очень реалистичных, но вымышленных сцен, распространились по различным каналам на YouTube. Особенно выделялся удаленный канал "AI Bollywood Ishq", на котором было опубликовано около 259 таких видео. Одно из них привлекло особое внимание — оно изображало сфальсифицированную романтическую сцену между Салманом Кханом и Ашвьярьей Рай. Эти видео поставили под сомнение этичность использования технологий, вопросы согласия, подлинности и границ допустимого в создании цифрового контента. В ответ на это Абхишек Бхаккен и Ашвьарья Рай Бхаккен подали иски в Нью-Дели с требованием остановить производство и распространение этих несанкционированных видео, созданных с помощью ИИ, нарушающих их права и могущих повредить их репутации. Их юридическая инициатива также ставит под сомнение политику модерации контента на YouTube, особенно его подход к обучению ИИ и размещению манипулированных материалов, вводящих зрителей в заблуждение.

Кроме того, их команда добивается взыскания штрафа в размере 450 000 долларов с Google и других цифровых платформ, обвиняемых в коммерческой эксплуатации несанкционированных товаров с изображениями Бхаккенов. YouTube публично подтвердил, что канал "AI Bollywood Ishq" был удален его создателем, подчеркнув приверженность соблюдению политики против вредоносного и вводящего в заблуждение контента и продолжение усилий по борьбе с манипулированными медиа. Тем не менее, множество подобных видеороликов остается доступными на платформе, что подчеркивает сложности, с которыми сталкиваются модераторы контента при фильтрации большого объема цифровых материалов в реальном времени. Этот случай поднимает важный и неотложный вопрос этических и правовых последствий контента, созданного с помощью ИИ, особенно в сфере интеллектуальной собственности и личных прав. Способность искусственного интеллекта создавать реалистичные видео с изображениями публичных фигур, изображая ложные сценарии, представляет собой сложную проблему для регуляторов, технологических компаний и самих личностей. Вопросы согласия, подлинности и ответственности становятся центральными, поскольку все участники сталкиваются с последствиями новых технологий, способных производить убедительные, но полностью вымышленные медиа. Эксперты и юридические специалисты подчеркивают необходимость разработки сильных нормативных рамок по использованию ИИ в создании контента — таких, что балансируют инновации с защитой прав личности и общественными интересами. Дело Бхаккенов может стать важным прецедентом, определяющим границы цифровых манипуляций и ответственность платформ. По мере развития индустрии развлечений в условиях стремительных технологических изменений пересечение ИИ и прав знаменитостей становится все более спорной областью. Этот продолжающийся скандал служит предупреждением о возможных злоупотреблениях технологией ИИ и подчеркивает необходимость создания комплексных правил и этических руководств для предотвращения непредвиденных вредов, вызываемых цифровыми инновациями.