Najnowsze badanie przeprowadzone przez NewsGuard ujawniło znaczące niedociągnięcia niektórych z najbardziej znanych chatbotów opartych na sztucznej inteligencji w zakresie wykrywania treści wideo wygenerowanych przez AI. Badanie wykazało, że główne konwersacyjne agenty AI, w tym ChatGPT od OpenAI, Grok od xAI oraz Gemini od Google, często nie potrafią rozpoznać filmów stworzonych przez sztuczną inteligencję, szczególnie jeśli te filmy nie zawierają wyraźnych oznaczeń. W badaniu dokładnie testowano reakcje chatbotów na filmy generowane przez AI bez znaków wodnych wskazujących na ich syntetyczny charakter. Wyniki były uderzające: w większości przypadków — od 78% do nawet 95% — chatboci nie poprawnie identyfikowali filmy jako stworzone przez AI. Oznacza to, że podczas pytań o naturę takich filmów, te systemy często traktowały je jako autentyczne, stworzone przez człowieka, mimo ich sztucznego pochodzenia. Nawet wtedy, gdy na filmach pojawiały się znaki wodne sugerujące, że są one wygenerowane przez AI, dwa z trzech chatbotów — ChatGPT i Grok — nadal często zawodziły w wykrywaniu tych wskazówek, nie stosując ich konsekwentnie. Błędnie klasyfikowały one znaczną część filmów z oznaczeniami wodnymi, ujawniając trwające słabości w obecnych zdolnościach rozpoznawania treści stworzonych przez AI. Gemini od Google radziło sobie nieco lepiej, ale również miało trudności w niektórych warunkach testowych. Te wyniki mają szczególne znaczenie w obliczu rosnącej obecności materiałów multimedialnych wygenerowanych przez AI w Internecie, co stanowi wyzwanie dla działań związanych z moderacją treści, przeciwdziałaniem dezinformacji i weryfikacją autentyczności mediów cyfrowych. Niemożność AI chatbotów do wiarygodnego rozpoznania syntetycznych filmów budzi obawy o ich potencjał do wprowadzania w błąd lub nieświadomego rozpowszechniania niezweryfikowanych materiałów. Eksperci ds.

cyfrowej forensiki i integralności mediów podkreślają pilną potrzebę udoskonalenia technik wykrywania, aby nadążać za postępem w tworzeniu AI-generowanych materiałów wideo. Argumentują, że konieczne są ulepszenia nie tylko w algorytmach chatbotów, lecz także w szeroko rozumianych narzędziach do weryfikacji treści cyfrowych. Problemy te ukazują szerszy społeczny wyzwanie związane z zarządzaniem i ograniczaniem skutków tworzenia syntetycznych mediów — często określanych jako deepfakes — które mogą być wykorzystywane do dezinformacji, oszustw oraz podważania zaufania do cyfrowej komunikacji. Badania wzywają do zwiększonej współpracy pomiędzy twórcami AI, specjalistami ds. cyberbezpieczeństwa oraz regulatorami w celu opracowania ustandaryzowanych oznaczeń i protokołów wykrywania, które można byłoby powszechnie wdrożyć. Takie działania przyczyniłyby się do promowania przejrzystego oznaczania treści generowanych przez AI i umożliwiły platformom cyfrowym lepsze radzenie sobie z ryzykami związanymi z syntetycznymi filmami. Ponadto niezbędne jest ciągłe szkolenie użytkowników i moderatorów treści, aby lepiej rozpoznawali treści tworzone przez AI, co zmniejszałoby ryzyko manipulacji. Podsumowując, badanie NewsGuard ujawnia poważny brak w obecnej technologii AI. W miarę jak media syntetyczne stają się coraz bardziej zaawansowane i dostępne, konieczne jest zwiększanie możliwości chatbotów AI do precyzyjnego wykrywania filmów generowanych przez sztuczną inteligencję, aby chronić integrację informacji. Rozwiązanie tych wyzwań jest kluczowe dla tworzenia wiarygodnych cyfrowych środowisk i odpowiedzialnego wykorzystywania sztucznej inteligencji w produkcji i dystrybucji mediów.