Sztuczna inteligencja, zwłaszcza w formie deepfake'ów, staje się istotnym problemem w internecie. Wzrost narzędzi do generowania AI doprowadził do rozpowszechnienia dezinformujących obrazów, filmów i dźwięku, zamazując granicę między tym, co jest prawdziwe, a co nie. Dzięki łatwemu dostępowi do generatorów wideo i obrazów, każdy może tworzyć deepfake'i, które mogą być wykorzystane w różnych celach, takich jak oszustwa, kradzież tożsamości, propaganda i manipulacja wyborcza. W przeszłości było łatwiej rozpoznać deepfake'i ze względu na oczywiste oznaki manipulacji, takie jak błędy w obrazach lub nietypowe mruganie w filmach. Jednak w miarę postępu technologii AI, staje się coraz trudniej dostrzec deepfake'i. Niemniej jednak istnieją wciąż pewne wskaźniki, na które warto zwracać uwagę, takie jak elektroniczne połyski na generowanych przez AI zdjęciach, niewłaściwości w cieniach i oświetleniu oraz niezgodności między odcieniem skóry twarzy a resztą głowy lub ciała. Zwracaj uwagę na szczegóły, takie jak ostrość krawędzi twarzy i synchronizacja ruchów ust z dźwiękiem. Zamazanie lub niezgodności w konturach zębów mogą również świadczyć o deepfake'u. Ważne jest również spojrzenie na szerszy kontekst i prawdopodobieństwo, gdy chodzi o wykrywanie deepfake'ów.

Jeżeli postać publiczna jest przedstawiona w sposób przesadzony lub niezgodny z jej charakterem, może to być deepfake. Kontekst ma znaczenie, a dodatkowe potwierdzenie ze wiarygodnych źródeł może pomóc w potwierdzeniu autentyczności obrazu lub filmu. Dostępne są narzędzia oparte na AI, które mogą pomóc w identyfikacji deepfake'ów, takie jak narzędzie autentykatora Microsoftu i FakeCatcher firmy Intel. Jednak te narzędzia nie są zawsze dostępne dla ogółu społeczeństwa, aby zapobiec złemu użytkowaniu. Ważne jest pamiętanie, że poleganie wyłącznie na narzędziach wykrywania może dawać fałsze poczucie bezpieczeństwa i osłabiać umiejętności myślenia krytycznego. Należy zauważyć, że technologia AI szybko się rozwija, a jakość deepfake'ów się poprawia, podczas gdy wady są redukowane. Dlatego skuteczność obecnych metod wykrywania może zmieniać się z czasem. Ponadto, obarczanie zwykłych osób odpowiedzialnością za rozpoznawanie deepfake'ów może być ryzykowne, ponieważ staje się coraz trudniejsze, nawet dla ekspertów, odróżnienie treści rzeczywistych od fałszywych. Associated Press jest wspierana przez prywatne fundacje w celu zapewnienia rozszerzonego pokrycia wyborów i demokracji.