Public Citizen, ведущая организация по защите общественных интересов, призвала OpenAI немедленно вывести из обращения свое видео-приложение на основе искусственного интеллекта Sora 2, указывая на значительные риски, связанные с технологией дипфейков. Группа подчеркивает угрозы демократии, личным правам и общественной безопасности на фоне растущей озабоченности по поводу видео, созданных с помощью ИИ, искажающих реальность и распространяющих дезинформацию в социальных сетях. Согласно Public Citizen, поспешный запуск Sora 2 компанией OpenAI был в основном вызван конкурентным давлением в сфере искусственного интеллекта, что привело к недостаточной мере безопасности до выхода продукта. В результате, Sora 2 позволила широко создавать и распространять видео дипфейков без согласия, многие из которых содержат тревожный контент, использующийся для преследования женщин и фальсификации событий, нанося эмоциональный и репутационный вред. Это приложение, позволяющее пользователям создавать видео-сцены с помощью ИИ, быстро завоевало популярность на платформах TikTok и Instagram. Его содержание варьируется от странных, преувеличенных образов знаменитостей до реалистичных, но вводящих в заблуждение сценариев, способных искажать восприятие общественности. Public Citizen подчеркивает, что способность технологии создавать убедительные, но ложные кадры представляет серьезную угрозу, особенно когда такие видео распространяются без контекста или проверки. Несмотря на то, что OpenAI пыталась устранить некоторые опасения — например, блокировать изображения таких личностей, как Мартин Лютер Кинг младший, и взаимодействовать с отраслевыми группами вроде SAG-AFTRA, — критики считают эти меры реактивными, а не проактивными. Public Citizen утверждает, что OpenAI в основном реагирует на общественное возмущение, а не находит этичные решения с самого начала. Это не первая скандальная ситуация с OpenAI, связанная с вредом от ИИ.

Платформа ChatGPT уже сталкивалась с судебными исками, в которых обвиняют в психологическом вреде, халатности и недостаточной защите от злоупотреблений. Public Citizen предупреждает, что выпуск генеративных инструментов ИИ без должного контроля усугубляет эти проблемы, подрывая доверие к цифровым медиа и демократическим институтам. OpenAI предоставила ограниченные публичные комментарии относительно Sora 2, заявив, что работает с создателями контента, киностудиями и правообладателями для повышения защиты и снижения рисков злоупотреблений. Компания также взаимодействует с заинтересованными сторонами в японском секторе творчества, озабоченными влиянием ИИ на права художников и интеллектуальную собственность. Public Citizen подчеркивает, что быстрый и нерегулируемый запуск таких приложений, как Sora 2, подрывает конфиденциальность, фактическую точность и демократическую стабильность. Их требование удалить приложение отражает более широкий призыв к отрасли ИИ уделять приоритетное внимание общественному благу вместо рыночной конкуренции. Они призывают законодателей, разработчиков и гражданское общество совместно разработать всесторонние и этичные рамки, обеспечивающие ответственное развитие и использование искусственного интеллекта. По мере развития технологий ИИ и их все большего внедрения в общество, предупреждения Public Citizen подчеркивают важнейшие вызовы и обязанности, связанные с использованием таких преобразующих инструментов. Баланс между инновациями и защитой общественных интересов остается критически важным по мере того, как сложность и последствия контента, созданного с помощью ИИ, увеличиваются.