Σε ένα σύντομο βιντεάκι, ένας influencer αντιδρά παθιασμένα σε ένα νέο από την Καλιφόρνια με εμφανώς αυθεντικό οπτικό υλικό, που περιλαμβάνει έναν παρουσιαστή να καλεί τους θεατές να δράσουν, θύματα και ένα λογότυπο CNN. Η μπάρα προβάλλει «ΑΝΑΤΡΕΠΤΙΚΕΣ ΕΙΔΗΣΕΙΣ» με τον τίτλο «Τα θύματα δυστυχημάτων στην Καλιφόρνια λαμβάνουν τρελά αποζημίωση». Ωστόσο, ο ενθουσιασμός αυτού του σταρ στα social media είναι στην πραγματικότητα μια παραπλανητική διαφήμιση που έχει σχεδιαστεί για να προσελκύσει πελάτες για νομικές υπηρεσίες, κατά μεγάλο μέρος δημιουργημένη με τεχνητή νοημοσύνη (ΤΝ). Με την πρόσφατη άνοδο των εργαλείων βίντεο με τεχνητή νοημοσύνη και των πλατφορμών διαμοιρασμού, τα όρια μεταξύ αληθινών ειδήσεων και προωθητικού περιεχομένου γίνονται ολοένα και πιο θολά. Οι δικηγόροι προσωπικού τραυματισμού έχουν παραδοσιακά χρησιμοποιήσει λαμπερή διαφήμιση σε ραδιόφωνο, τηλεόραση, διαφημιστικές πινακίδες και infomercials για να εδραιώσουν το όνομά τους στη μνήμη των καταναλωτών, χρησιμοποιώντας επανάληψη και τολμηρές δηλώσεις ώστε να θυμούνται μετά από ένα ατύχημα. Τώρα, η ΤΝ επιτρέπει μια νέα γενιά πιο πειστικών, τοπικά εξατομικευμένων διαφημίσεων. Ο Αλεξίος Μαντσάρλης από το Cornell Tech σημειώνει ότι άνθρωποι και αντίγραφα influencer που παράγονται με ΤΝ προωθούν προϊόντα και υπηρεσίες online χωρίς να αποκαλύπτουν τον συνθετικό τους χαρακτήρα, υπονομεύοντας την αληθή διαφήμιση. Αυτή η τάση επεκτείνεται πέρα από την τηλεοπτική ειδησεογραφία, καθώς η ΤΝ παράγει επίσης σκανδαλώδεις τίτλους στις ροές των χρηστών για διαφημιστές. Για παράδειγμα, μια διαφήμιση αποπληρωμής χρεών δείχνει έναν άνδρα με μια AI-δημιουργημένη εφημερίδα «Forbes» και μια σειρά από AI-δημιουργημένα άτομα, όλα στεγανά ψεύτικοι ειδικοί. Παρά την κριτική για τέτοιου είδους «AI κακοποίησης», οι εταιρείες συνεχίζουν να λανσάρουν όλο και πιο προηγμένους δημιουργούς βίντεο με ΤΝ που διευκολύνουν την παραγωγή ρεαλιστικών ψευδών ειδήσεων και broadcast. Η Meta παρουσίασε το Vibes, μια εφαρμογή για σύντομα βίντεο με AI, ακολουθούμενη από την εφαρμογή Sora της OpenAI, που διαθέτει το «Cameo», επιτρέποντας στους χρήστες να εισάγουν τις δικές τους ή άλλων εικόνες σε φωτορεαλιστικά βίντεο με AI που δημιουργούνται σε δευτερόλεπτα. Από την κυκλοφορία του, το Sora έχει κατακτήσει τις περισσότερες λήψεις στο App Store, με την OpenAI να ενθαρρύνει τις επιχειρήσεις να ενσωματώσουν αυτή την τεχνολογία στα προϊόντα τους. Ο διευθύνων σύμβουλος Σαμ Άλτμαν οραματίζεται την παραγωγή υψηλής ποιότητας συγχρονισμένων βίντεο μέσω APIs, που θα τροφοδοτούν νέες καινοτομίες. Αυτό έχει δημιουργήσει πλατφόρμες κοινωνικών μέσων με συνθετικό περιεχόμενο που μοιάζει με εθιστικά βίντεο του TikTok, όπου η διάκριση μεταξύ πραγματικού και ψεύτικου γίνεται δυσκολότερη. Οι ειδικοί προειδοποιούν ότι αυτά τα ισχυρά και εύκολα εργαλεία εγκυμονούν κινδύνους, καθώς χώρες που υποστηρίζονται από το κράτος διαδίδουν παραπληροφόρηση μέσω ειδήσεων που παράγονται με ΤΝ. Οι ακτιβιστές για την ασφάλεια στο διαδίκτυο επισημαίνουν πως ψευδείς ιστορίες, προπαγάνδα και διαφημίσεις που παράγονται με ΤΝ μπορούν να καταπνίξουν το ανθρώπινο περιεχόμενο, επιδεινώνοντας την ποιότητα της πληροφόρησης. Το YouTube αφαίρεσε εκατοντάδες βίντεο με ψεύτικα διασημότητες και απάτες, το Spotify διέγραψε εκατομμύρια μουσικά κομμάτια με ΤΝ, και το FBI εκτιμά ότι με απάτες deepfake χάθηκαν 50 δισεκατομμύρια δολάρια από το 2020.

Ακόμα και αξιόπιστα μέσα όπως η Los Angeles Times έχουν πέσει θύματα, με την ΤΝ να ψεύδεται για το θάνατο δημοσιογράφου. Οι διαφημίσεις για νομικές υπηρεσίες, γνωστές για το ότι περνούν τα όρια, αντιμετωπίζουν πλέον προκλήσεις από την αυξανόμενη χρήση ΤΝ, που καθιστά πιο εύκολη την αποφυγή κανόνων διαφήμισης που απαγορεύουν την εγγύηση αποτελεσμάτων. Τα ειδησεογραφικά δελτία με νέα με θύματα που κρατούν τεράστιες επιταγές με ΤΝ θολώνουν τα όρια μεταξύ πραγματικότητας και μυθοπλασίας, προτείνοντας προβληματικά την ύπαρξη πραγματικών αποζημιώσεων, προειδοποιεί ο δικηγόρος Σαμ Χιάμς-Μίλλαρντ. Ένας πρωτοπόρος, η Case Connect AI, τρέχει χορηγούμενα Shorts στο YouTube και διαφημίσεις στο Facebook που απευθύνονται σε θύματα προσωπικών τραυματισμών. Η «αποζημιωτική» της «υπολογιστής» ισχυρίζεται ότι κοστολογεί την αποζημίωση, ενώ ακολουθούν news clips και εικόνες από επιβαρυμένους με τεχνητή νοημοσύνη ανθρώπους, με ψεύτικους ειδικούς. Πρόσφατες διαφημίσεις στην ιστοσελίδα Διαφάνειας της Google αποκαλύπτουν άπειρους παρουσιαστές με ΤΝ και ψεύτικες μαρτυρίες. Μερικές φορές, η εταιρεία χρησιμοποιεί ρομπότ που παράγονται με ΤΝ ή ακόμα και πιθήκους. Η Case Connect χρησιμοποιεί το μοντέλο Veo 3 της Google, αλλά δεν έχει αποκαλύψει ποια στοιχεία της διαφήμισης είναι δημιουργία ΤΝ. Ο ιδρυτής Άντζελο Περόνε περιγράφει την εταιρεία ως έναν πλασιέ που συνδέει θύματα ατυχημάτων με δικηγόρους, με αμοιβή από τα δικηγορικά γραφεία και όχι ως δικηγόρο ο ίδιος. Τονίζει την ανάγκη για ισορροπία ανάμεσα στην αποτελεσματικότητα και την υπευθυνότητα, τήρηση των διαφημιστικών κανόνων με σωστές αποκαλύψεις. Ωστόσο, ορισμένοι νομικοί επαινούν και κριτικάρουν αυτές τις πρακτικές. Ο δικηγόρος Ρόμπερτ Σάιμον από το Simon Law Group καταδίκασε τις διαφημίσεις της Case Connect που στοχεύουν θύματα από πυρκαγιές στη Λος Άντζελες ως «απαράδεκτες», ενώ προωθεί την προώθηση του νομοσχεδίου Σεν. 37 για την καταπολέμηση των παραπλανητικών διαφημίσεων, επισημαίνοντας πως η συζήτηση αυτή ξεκίνησε πολύ πριν από την ΤΝ. Με την προσωπική τραυματολογία στις ΗΠΑ να αποτελεί μια αγορά 61 δισεκατομμυρίων δολαρίων και το Λος Άντζελες να είναι κέντρο, ο Χιάμς-Μίλλαρντ προειδοποιεί πως οι δικηγόροι που συνεργάζονται με εταιρείες δημιουργίας πελατών όπως η Case Connect μπορεί να είναι υπεύθυνοι για παραπλανητικές διαφημίσεις. Ακόμα και εταιρείες δημιουργίας πελατών όπως η ιδρυτής της 4LegalLeads, Βινς Βινγκερτερ, αναγνωρίζουν τις δυνατότητες κατάχρησης της ΤΝ, τονίζοντας ότι, αν και εδώ και καιρό υπάρχουν κανόνες, η σημερινή τεχνολογία επιταχύνει τις προκλήσεις.