Sztuczna inteligencja znacznie się ostatnio rozwinęła, rewolucjonizując takie dziedziny jak komunikacja, rozrywka i bezpieczeństwo. Jednak jak każda potężna technologia, jej niewłaściwe wykorzystanie stanowi poważne wyzwania. Jednym z nich są oszuści, którzy wykorzystują aplikacje do tworzenia filmów opartych na sztucznej inteligencji, by przeprowadzać zaawansowane oszustwa i podrobienia, czego przykładem jest niepokojący rozwój cyberprzestępczości na skalę globalną. Niedawno pojawił się przykład w postaci aplikacji Sora na iOS od OpenAI, która używa zaawansowanego modelu generowania wideo, umożliwiając użytkownikom łatwe tworzenie bardzo realistycznych filmów AI. Mimo innowacyjności Sora zawiera kontrowersyjną funkcję, która usuwa znaki wodne — oznaczenia osadzone w treściach tworzonych przez AI, identyfikujące je jako sztuczne. Usunięcie tych znaków utrudnia odróżnienie prawdziwych materiałów od głębokich fałszywek (deepfake’ów), zwiększając ryzyko oszustwa. Eksperci ostrzegają, że narzędzia te mogą pogłębić już i tak narastający problem. Oszustwa polegające na podszywaniu się (impersonation scams) wzrastały już zanim pojawiły się dostępne generatory wideo oparte na AI, co powodowało duże straty dla osób i organizacji, a także osłabiało zaufanie do komunikacji cyfrowej. Teraz oszuści korzystają z zaawansowanej manipulacji wideo i dźwięku, aby tworzyć niezwykle przekonujące głębokie fałszywki imitujące twarze i głosy prawdziwych ludzi. Takie podrabianie może służyć do oszustw, rozpowszechniania dezinformacji, kradzieży tożsamości czy wymuszeń. Aby przeciwdziałać temu zagrożeniu, platformy takie jak Meta AI ograniczają niektóre funkcje — na przykład unikanie klonowania głosu, co służy ograniczeniu ryzyka podszywania się pod innych. Mimo to wiele aplikacji AI nadal oferuje obszerne możliwości klonowania głosu i twarzy, co zwiększa skalę i skuteczność oszustw. Te funkcje szczególnie zaciemniają granice między autentycznymi a sfałszowanymi mediami, utrudniając wykrycie nawet dla ekspertów bez specjalistycznych narzędzi. Firmy zajmujące się bezpieczeństwem, takie jak GetReal Security i Sophos, podkreślają powszechność i rosnące zagrożenie wynikające z oszustw opartych na AI.

Ich badania wskazują na trend wzrostowy w przestępstwach z wykorzystaniem generowanego przez AI wideo i audio, często kierowanych do firm i znanych osobistości. Ostrzegają też, że wraz z szybkim rozwojem technologii AI, tradycyjne metody zabezpieczeń mogą okazać się niewystarczające, dlatego konieczne są działania prewencyjne, takie jak zaawansowane algorytmy wykrywania i kompleksowe szkolenia z zakresu kompetencji cyfrowych, aby ograniczyć ryzyko. Co ciekawe, OpenAI zauważa, że ich powszechnie używane narzędzie ChatGPT częściej pomaga w wykrywaniu oszustw niż w ich popełnianiu, co ilustruje dwutorową rolę AI: choć umożliwia tworzenie nowych form zagrożeń, to równie dobrze zwiększa możliwości obrony w zakresie rozpoznawania podstępu. Jednak możliwości masowego i zautomatyzowanego tworzenia przekonujących głęboki-fałszywek są głównym problemem. Potencjał do masowej produkcji wiarygodnych fałszywek przy minimalnym wysiłku może wywołać falę oszustw, jeśli środki zapobiegawcze nie nadążą za rozwojem tych technologii. Te sytuacje pokazują, że ludzkość wciąż znajduje się na wczesnych etapach rozwoju AI. W miarę ewolucji tych technologii, wyważenie ich korzystnych zastosowań względem szkodliwego złośliwego wykorzystywania będzie skomplikowanym, dynamicznym wyzwaniem. Kluczowa jest czujność ze strony deweloperów, specjalistów ds. bezpieczeństwa, decydentów i społeczeństwa. Etyczny rozwój, przejrzyste praktyki oraz solidne zabezpieczenia są niezbędne, aby minimalizować szkody i maksymalizować społeczne korzyści z AI. Podsumowując, aplikacje takie jak Sora od OpenAI stanowią przykład zarówno ekscytujących postępów technologicznych, jak i poważnych wyzwań związanych z bezpieczeństwem cyfrowym. W miarę upowszechniania się coraz bardziej zaawansowanych narzędzi do tworzenia filmów i obrazów przez AI, ich niewłaściwe użycie w oszustwach i podaniach się za innych znacznie się nasila. Rozwiązanie tych problemów wymaga podejścia wieloaspektowego, obejmującego innowacje technologiczne, regulacje prawne, edukację i współpracę. Dzięki zwiększonej świadomości i przygotowaniu społeczeństwo będzie lepiej przygotowane do radzenia sobie z pojawiającym się krajobrazem zagrożeń cybernetycznych i ochrony zarówno jednostek, jak i organizacji przed coraz bardziej przekonującymi AI-owymi oszustwami.