Само неколку недели откако беше лансирана, апликацијата Sora од OpenAI станала објект на остри критики поради нејзината употреба за генерирање видео записи со насилствени акти и расистички содржини. Иако OpenAI воведе мерки за(content moderation) за да спречи појавата на штетен материјал, корисниците пронајдоа начини да ги заобиколат овие заштитни мерки, создавајќи содржини кои широко се сметаат за_offensive and dangerous. Изначално пофална за својот иновативен пристап кон мултимедијалното раскажување, апликацијата Sora им овозможува на корисниците да генерираат реалистични и ангажирачки видеа од зададени инпут-фрази, отворајќи нови можности за уметници, едукатори и творци од различни области. Сепак, нејзиниот отворен дизајн ги изложил сериозните предизвици во контрола на злоупотребата, бидејќи некои корисници создале видеа со насилство и расистички стереотипи, што предизвика јавен протест и загриженост кај активистичките групи и законодавците. Овие случаи ја открија слабостите во рамките за модерирање на содржини на OpenAI и сложеноста на регулирањето на медиумите генерирани од AI, каде границите помеѓу креативната изразност и штетната содржина се забележуваат црвено. Као одговор, OpenAI потврдија дека остануваат посветени на одговорното развивање на AI и детално ги претставија тековните напори за подобрување на алатките за модерирање во Sora. Овие вклучуваат подобрување на алгоритмите за подобро откривање и филтрирање на насилни или расистички пристрасни содржини и зголемување на човечката надзорна улога при прегледување на означените материјали. И покрај овие мерки, експертите тврдат дека сегашните пристапи можеби не се доволно ефикасни за целосно спречување на злоупотребите, особено бидејќи синтетичките медиуми одговараат со висока реалност.

Постои сеопфатна согласност за потребата од помоќни регулаторни рамки кои ќе надгледуваат создавањето на AI содржина, со цел да се балансира иновацијата со етичките стандарди и јавната безбедност. Околу Sora се раѓа широка дебата за брзиот напредок и достапноста на генеративната AI технологија, што зголемува ризикот од злоупотреби. Решавањето на овие предизвици бара соработка помеѓу развивачите, регулаторите и корисниците, со можни стратегии како што се подобрени водечки насоки за содржина, извештаи за транспарентност и робустни механизми за авторство на AI создадените медиуми. Групите за граѓански права ја повикаа OpenAI да ги засили мерките против расистичка и насилна содржина, барајќи појасни политики за корисниците, построга примена на правилата и партнерства со надзорни организации надвор од компанијата. Аналитичарите од индустријата ја гледаат ситуацијата како пример за пошироки тензии во AI екосистемот, каде креативната слобода е балансирана со ризиците од злоупотреба. Главниот предизвик е создавање на прилагодливи системи што ќе можат да реагираат на еволутивните злонамерни однесувања без да ги загушат легитимните креативни иницијативи. Во иднина, OpenAI изрази волја да соработува со надворешни експерти и регулаторни институции за засилување на безбедносните мерки и методите за модерирање, истовремено нагласувајќи ја важноста од едукација на корисниците за одговорно користење на AI и последиците од штетната содржина. На крај, контроверзноста околу апликацијата Sora ги истакнува клучните прашања во пресекот помеѓу вештачката интелигенција, креативната слобода и социјалната одговорност. Како напредуваат AI-технологиите, се повеќе стануваат неопходни сеопфатните и ефикасни контролни механизми за да се осигура дека напредокот служи позитивно на општеството, без да овозможи штетни резултати.