We wrześniu 2025 roku OpenAI uruchomiło aplikację Sora, przełomową platformę umożliwiającą użytkownikom tworzenie filmów z niezwykle realistycznymi podobiznami siebie lub innych, wykorzystującą zaawansowaną technologię AI. Ta innowacja otwiera nowe możliwości w rozrywce, edukacji, marketingu i mediach społecznościowych. Jednak pomimo obiecujących perspektyw, najnowsze wydarzenia wywołały poważne obawy dotyczące bezpieczeństwa i etyki związanych z mediami generowanymi przez AI. Wkrótce po premierze Sory firma Reality Defender, specjalizująca się w wykrywaniu deepfake’ów i zmanipulowanych mediów, ujawniła, że środki zabezpieczające aplikację, mające zapobiec nadużyciom z publicznych materiałów, można obejść w ciągu 24 godzin. Przy użyciu publicznie dostępnych filmów znanych postaci, Reality Defender stworzyła przekonujące deepfake’i, które ominęły systemy weryfikacyjne OpenAI. Ten szybki wyłom pokazuje, jak łatwo obecne metody uwierzytelniania mogą zostać pokonane przez zdeterminowanych złośliwych aktorów. Wobec dużej ilości dostępnych w internecie publicznych treści, tworzenie realistycznych, ale fikcyjnych materiałów stało się znacznie łatwiejsze, co budzi obawy o dezinformację, manipulację opinią publiczną oraz spadek zaufania do cyfrowych mediów. Eksperci z dziedziny AI, cyberbezpieczeństwa i etyki cyfrowej wyrazili poważne zaniepokojenie. Dr Elaine Thompson, czołowa etyczka AI, zauważyła, że choć technologie jak Sora są imponujące, niosą ze sobą nowe obowiązki; konieczne są solidne narzędzia wykrywające i wytyczne etyczne, aby zapobiec nadużyciom i zrównoważyć korzyści. Specjaliści z branży podkreślają, że wraz z szybkim rozwojem technologii deepfake, strategie wykrywania i łagodzenia skutków muszą się rozwijać równie szybko. Apelują o współpracę pomiędzy twórcami AI, ekspertami ds. bezpieczeństwa, politykami i społeczeństwem obywatelskim w celu ustalenia standardów zapewniających odpowiedzialne korzystanie z technologii takich jak Sora.

W odpowiedzi na te ustalenia, OpenAI zobowiązało się do wzmocnienia zabezpieczeń Sory poprzez badanie zaawansowanych metod weryfikacji, takich jak wieloskładnikowe uwierzytelnianie, cyfrowe znaki wodne w generowanych materiałach oraz analiza zachowań w celu lepszego rozróżniania autentycznych od syntetycznych materiałów. Coraz większa jest także zgoda co do konieczności ustanowienia regulacji na poziomie krajowym i międzynarodowym. Nalega się na jasne przepisy dotyczące tworzenia, dystrybucji i oznaczania mediów generowanych przez AI, określenie odpowiedzialności za nadużycia oraz zapewnienie przejrzystości w celu ochrony praw jednostek i interesów publicznych. Wyzwania związane z mediami generowanymi przez AI mają również wymiar społeczny i filozoficzny. Łatwość tworzenia przekonujących fałszywek podważa tradycyjne pojęcia dowodów i autentyczności, co prowadzi do apeli o zwiększenie kompetencji medialnych i świadomości społecznej, by pomóc ludziom krytycznie oceniać treści cyfrowe. Wdrażane są programy edukacyjne mające na celu nauczenie uczniów rozpoznawania zagrożeń związanych z AI oraz sposobów identyfikacji wiarygodnych źródeł, co ma na celu zbudowanie bardziej świadomej społeczności zdolnej poradzić sobie z szybkim rozwojem technologii. Ważną rolę odgrywają także partnerstwa między firmami technologicznymi a ekspertami od fact-checkingu. Tworząc wspólne bazy danych zweryfikowanych treści i korzystając z automatycznych narzędzi do wykrywania podejrzanych materiałów, ekosystem mediów cyfrowych może zwiększyć swoją odporność na manipulacje. Podsumowując, aplikacja Sora od OpenAI to ważny kamień milowy w rozwoju treści generowanych przez AI, prezentujący zarówno ekscytujące możliwości, jak i znaczące wyzwania. Szybkie obejście zabezpieczeń Sory przez Reality Defender podkreśla pilną potrzebę ulepszenia bezpieczeństwa, ram etycznych i regulacji. Rozwiązanie tych złożonych problemów wymaga wspólnego wysiłku różnych uczestników, aby zrównoważyć innowacje z odpowiedzialnością i zapewnić, by postępy w mediach AI nie podważały zaufania i integralności naszego cyfrowego świata.