Нещодавно запущений додаток Sora від OpenAI піддався жвавій критики через його використання для створення відео з штучним інтелектом, що містять насильницькі дії та расистський контент. Хоча OpenAI впровадила заходи модерації контенту для запобігання поширенню шкідливих матеріалів, користувачі знайшли способи обійти ці засоби безпеки, створюючи контент, який широко вважається образливим і небезпечним. Спершу його хвалили за інноваційний підхід до мультимедійного сторітелінгу, додаток Sora дає можливість користувачам генерувати реалістичні та захоплюючі відео за підказками, відкриваючи нові можливості для митців, вчителів і творців у різних сферах. Однак його відкритий дизайн виявив значні проблеми у контролі зловживань, оскільки деякі користувачі створювали відео, що зображають насильство і расові стереотипи, що викликало обурення громадськості та занепокоєння серед правозахисних організацій і політиків. Ці випадки показали слабкі місця в системі модерації контенту OpenAI і складність регулювання медіа, створених штучним інтелектом, де межі між творчим вираженням і шкідливим контентом розмиваються. У відповідь OpenAI підтвердила свою прихильність відповідальному розвитку штучного інтелекту та детально описала постійні зусилля щодо поліпшення інструментів модерації у Sora. Серед них — удосконалення алгоритмів для кращого виявлення та фільтрації насильницького або расово упередженого контенту і збільшення людського контролю для перегляду позначених матеріалів. Незважаючи на ці заходи, експерти стверджують, що сучасні підходи можуть бути недостатніми для повного запобігання зловживань, особливо з урахуванням високої реалістичності синтетичних медіа.

Посилюється єдність думок щодо необхідності більш строгих регуляторних рамок для контролю створення AI-контенту, балансуючи між інноваціями й етичними стандартами та громадською безпекою. Цей скандал навколо Sora відображає ширші занепокоєння щодо швидкого розвитку і доступності генеративних технологій штучного інтелекту, що підвищує ризик зловживань. Вирішення цих проблем вимагає співпраці між розробниками, регуляторами і користувачами, з можливими стратегіями — посиленням правил щодо контенту, прозорості звітів і надійних механізмів приписування авторства створеного AI медіа. Правозахисні організації закликали OpenAI активізувати заходи проти расистського і насильницького контенту, вимагаючи більш чітких політик користувачів, суворішого їхньої дотримання і партнерств із зовнішніми наглядовими органами. Аналітики галузі вважають, що ситуація з OpenAI є яскравим прикладом ширших напружень у екосистемі штучного інтелекту, де креативний потенціал має балансувати з ризиком зловживань. Головне завдання — створити гнучкі системи, здатні реагувати на еволюцію шкідливих поведінок без обмеження легітимної творчості. Надалі OpenAI висловила готовність співпрацювати з зовнішніми експертами та регуляторами для посилення заходів безпеки та методів модерації, одночасно наголошуючи на необхідності просвіти користувачів щодо відповідального використання AI та наслідків шкідливого контенту. На завершення, скандал навколо додатка Sora висвітлює важливі проблеми на перетині штучного інтелекту, творчої свободи і громадської відповідальності. По мірі розвитку технологій AI стає дедалі необхіднішими всеохоплюючі й ефективні механізми контролю, щоб забезпечити позитивний вплив інновацій для суспільства, не дозволяючи водночас виникненню шкідливих наслідків.