У вересні 2025 року OpenAI запустила додаток Sora — інноваційну платформу, яка дозволяє користувачам створювати відео з дуже реалістичними ознаками себе або інших за допомогою сучасних технологій штучного інтелекту. Ця новація відкриває нові перспективи у сферах розваг, освіти, маркетингу та соціальних мереж. Однак, попри обіцянки, останні події спричинили значний масштаб занепокоєння з приводу безпеки та етики щодо медіа, створених за допомогою AI. Якщо коротко, незабаром після випуску Sora компанія Reality Defender, яка спеціалізується на виявленні глибоких фейків і маніпульованих медіа, повідомила, що заходи безпеки додатку, спрямовані на запобігання зловживанням з публічними кадрами, можна обійти протягом 24 годин. Використовуючи публічно доступні відео відомих осіб, Reality Defender створила переконливі глибокі фейкові відео, які пройшли перевірку систем OpenAI. Цей швидкий злам показує, наскільки легко сучасні методи автентифікації можна обійти зусиллями зловмисників. У світі, де великий обсяг публічного контенту зберігається онлайн, створення реалістичних, але сфабрикованих відео стало набагато простішим, що викликає побоювання щодо поширення дезінформації, маніпуляцій громадською думкою і зниження довіри до цифрових медіа. Фахівці в галузі штучного інтелекту, кібербезпеки та цифрової етики висловлюють серйозні побоювання. Доктор Елейн Томпсон, провідна етичка в галузі AI, зазначила, що хоча технології на кшталт Sora вражають, вони водночас несуть нові відповідальності; важливо розробляти надійні засоби виявлення підробок і етичні норми, щоб запобігти зловживанням, що переважають над їхніми перевагами. Працівники галузі наголошують, що у міру швидкого розвитку технологій глибоких фейків, стратегії їхнього виявлення й мінімізації мають удосконалюватися так само швидко.

Вони закликають до співпраці розробників AI, експертів з безпеки, законодавців та громадськості для встановлення стандартів відповідального використання технологій, таких як Sora. У відповідь на ці тенденції OpenAI пообіцяла зміцнити безпеку Sora, досліджуючи нові методи верифікації, зокрема багатофакторну аутентифікацію, цифрові водяні знаки у створених матеріалах та поведінковий аналіз для кращої різниці між справжніми та штучними кадрами. Також зростає консенсус щодо необхідності національних та міжнародних регулювань. Власті закликаються встановити чіткі правила створення, розповсюдження і маркування медіа, створених AI, визначити відповідальність за зловживання та забезпечити прозорість для захисту прав індивідуумів і громадських інтересів. Виклики, які поставила перед нами медіа, створені за допомогою AI, виходять за межі технічної сфери і мають філософське значення. Легкість виробництва переконливих підробок кидає виклик традиційним уявленням про докази і автентичність, викликаючи потребу у підвищеній медійній грамотності і обізнаності громадськості для критичного аналізу цифрового контенту. Розробляються освітні програми, що вчать студентів розпізнавати ризики ЄІ-контенту і визначати надійні джерела, щоб формувати більш обізнану публіку, здатну орієнтуватися у швидких технологічних змінах. Спільна робота технологічних компаній і фактчекерів також набирає обертів. Створюючи спільні бази даних перевіреного контенту та застосовуючи автоматизовані інструменти для виявлення підозрілих матеріалів, цифрова медіаекосистема зможе краще захищатися від маніпуляцій. На завершення, додаток Sora від OpenAI є важливим кроком у розвитку AI-контенту, відкриваючи захоплюючі перспективи і водночас суттєві виклики. Швидке обходження захисту Sora Reality Defender підкреслює необхідність у підвищенні безпеки, етичних нормах і регулюванні. Вирішення цих складних питань потребує спільних зусиль різних зацікавлених сторін для балансу між інноваціями і відповідальністю, щоб розвиток AI-медіа відбувався без шкоди довірі й цілісності нашого цифрового світу.