L'IA trompeuse, notamment sous forme de deepfakes, devient un problème majeur en ligne. L'essor des outils d'IA générative a conduit à la prolifération d'images, de vidéos et de sons trompeurs, brouillant la frontière entre ce qui est réel et ce qui ne l'est pas. Avec des générateurs de vidéos et d'images facilement accessibles, n'importe qui peut créer des deepfakes, qui peuvent être utilisés à des fins malveillantes telles que les escroqueries, le vol d'identité, la propagande et la manipulation des élections. Dans le passé, il était plus facile d'identifier les deepfakes en raison de signes évidents de manipulation, tels que des erreurs dans les images ou des clignotements anormaux dans les vidéos. Cependant, avec l'amélioration de la technologie de l'IA, il est devenu plus difficile de repérer les deepfakes. Néanmoins, il existe encore quelques indicateurs à surveiller, tels qu'un éclat électronique sur les photos générées par l'IA, des incohérences dans les ombres et l'éclairage, et des différences de ton de peau entre le visage et le reste de la tête ou du corps. Faites attention aux détails tels que la netteté des contours du visage et la synchronisation des mouvements des lèvres avec l'audio. La brouille ou les incohérences dans les contours des dents pourraient également être un indice d'un deepfake. Il est également important, dans la détection des deepfakes, de prendre en compte le contexte et la plausibilité.

Si une personnalité publique est représentée en train de faire quelque chose de spectaculaire ou qui ne correspond pas à son caractère, cela pourrait être un deepfake. Le contexte est important, et une vérification supplémentaire auprès de sources légitimes peut aider à confirmer l'authenticité d'une image ou d'une vidéo. Il existe des outils d'IA disponibles qui peuvent aider à identifier les deepfakes, tels que l'outil d'authentification de Microsoft et le programme FakeCatcher d'Intel. Cependant, ces outils ne sont pas toujours accessibles au grand public pour éviter les abus par des acteurs malveillants. Il est essentiel de se rappeler que se fier uniquement aux outils de détection peut créer un faux sentiment de sécurité et diminuer les compétences de réflexion critique. Il est à noter que la technologie de l'IA progresse rapidement et que la qualité des deepfakes s'améliore tandis que les défauts diminuent. Par conséquent, l'efficacité des méthodes de détection actuelles peut changer avec le temps. De plus, confier aux individus ordinaires la responsabilité de repérer les deepfakes peut être risqué, car il devient de plus en plus difficile, même pour les experts, de distinguer le contenu réel du faux. The Associated Press est soutenue par des fondations privées pour fournir une couverture améliorée des élections et de la démocratie.