W krótkim filmie influencer z pasją reaguje na wiadomości z Kalifornii, przedstawiając niemal autentyczne wizuale, w tym prowadzącego zapraszającego widzów do działania, ofiary oraz logo CNN. Na banerze widnieje napis „PRZERWANIE NA ŻYWO” z nagłówkiem „Ofiary wypadków w Kalifornii dostają niesamowite wypłaty”. Jednak entuzjazm tego gwiazdora mediów społecznościowych to tak naprawdę ukryta reklama mająca przyciągnąć klientów do usług prawniczych, w dużej mierze tworzona przy użyciu sztucznej inteligencji (SI). Ostatni wzrost narzędzi do tworzenia wideo opartych na SI i platform do ich dzielenia się sprawia, że granica między prawdziwymi wiadomościami a treściami promocyjnymi coraz bardziej się zaciera. Adwokaci od spraw osobistych urzędują na przestrzeni lat w reklamy pełne efektów specjalnych w radiu, telewizji, na billboardach i infomercials, utkwiwszy swoją markę w świadomości konsumentów, korzystając z powtarzalności i śmiałych twierdzeń, by być zapamiętanym po wypadku. Teraz SI umożliwia tworzenie nowej generacji bardziej przekonujących, lokalnie dostosowanych reklam. Alexios Mantzarlis z Cornell Tech zauważa, że ludzie i repliki influencerów generowane przez SI promują produkty i usługi online, nie ujawniając swojej sztucznej natury, co podważa zasadę prawdomównej reklamy. Tendencja ta wykracza poza wiadomości telewizyjne, ponieważ SI tworzy również sensacyjne nagłówki w strumieniach użytkowników dla celów reklamowych. Na przykład reklama spłaty zadłużenia przedstawia mężczyznę z wydrukowaną w stylu „Forbes” gazetą i linii AI-wyprodukowanych postaci, wszystko według ekspertów sfałszowane. Pomimo krytyki takiego „SI szlamu” firmy nieustannie wprowadzają coraz bardziej zaawansowane generatory wideo SI, ułatwiające powstawanie realistycznych fałszywych wiadomości i programów. Meta zaprezentowała Vibes — aplikację do tworzenia krótkich filmów AI, tuż za nią podążyła aplikacja Sora od OpenAI, z funkcją „Cameo”, pozwalającą użytkownikom wkładać własne lub cudze wizerunki w fotorealistyczne filmy AI, tworzone w sekundę. Od momentu premiery Sora zdobyła największą liczbę pobrań w sklepie App Store, podczas gdy OpenAI zachęca firmy do integrowania tej technologii w swoich produktach. CEO Sam Altman wyobraża sobie generowanie wysokiej jakości, zsynchronizowanych wideo za pomocą API, które napędzą nowe innowacje. Powoduje to powstawanie syntetycznych platform społecznościowych, oferujących spersonalizowane strumienie treści AI, przypominające nałogowe filmy z TikToka, gdzie odróżnienie prawdziwego od fałszywego jest coraz trudniejsze. Eksperci ostrzegają, że te dostępne i potężne narzędzia stanowią zagrożenie, ponieważ niektórzy państwowi aktorzy rozprzestrzeniają dezinformację, wykorzystując wiadomości wygenerowane przez SI. Członkowie ruchu na rzecz bezpieczeństwa online podkreślają, że AI-tworzone propagandowe i zwodnicze historie i reklamy zagłuszają ludzkie treści, pogarszając jakość informacji.

YouTube usunął setki filmów o oszustwach z celebrytami stworzonych SI, Spotify usunął miliony utworów muzycznych generowanych przez SI, a FBI szacuje, że od 2020 roku straciło około 50 miliardów dolarów na oszustwach typu deepfake. Nawet renomowane media, takie jak Los Angeles Times, padły ofiarą fałszywych wiadomości AI, które zafałszowały śmierć dziennikarza. Reklamy usług prawniczych, znane z przekraczania granic, obecnie stają wobec wyzwań wynikających z przyspieszającego rozwoju SI, co ułatwia omijanie przepisów reklamowych zabraniających obiecywania rezultatów. W newsach o ofiarach wypadków z udziałem AI, na przykład, pojawiają się ofiary trzymające dużych, sztucznie wygenerowanych czeków, co zacierając granice między faktem a fikcją, może sugerować prawdziwe wypłaty, ostrzega adwokat Samuel Hyams-Millard. Pionierska firma Case Connect AI prowadzi sponsorowane YouTube Shorts i reklamy na Facebooku, skierowane do ofiar wypadków osobistych. Jej „kalkulator odszkodowań” opisywany jest jako kosztowny dla ubezpieczycieli, co twierdzi aktor w stylu influencerów, a następnie pojawiają się klipy newsowe i zdjęcia z uczestnikami z gigantycznymi czekami. Nowsze reklamy na stronie Google’a dotyczące przejrzystości pokazują liczne sztucznie wygenerowane głowy prowadzących i fałszywe świadectwa. Czasami firma zatrudnia roboty AI lub nawet małpy. Case Connect korzysta z modelu Google Veo 3, ale nie ujawnia, które elementy reklamy są tworzone sztucznie. Założyciel Angelo Perone opisuje firmę jako generator leadów łączący ofiary wypadków z prawnikami, będący wynagrodzonym przez nich, a nie praktykującym prawo. Podkreśla konieczność wyważenia skuteczności z odpowiedzialnością, przestrzegając zasad reklamy i umieszczając odpowiednie zastrzeżenia. Jednak niektórzy profesjonaliści prawniczy krytykują takie taktyki. Adwokat próbny Robert Simon z Simon Law Group potępił niektóre reklamy Case Connect, skierowane do ofiar pożaru w Los Angeles, jako „rażące”, i postuluje wprowadzenie ustawodawstwa, które ograniczy wprowadzające w błąd reklamy, wskazując, że ta debata miała miejsce jeszcze przed rozwojem SI. Ponieważ prawo dotyczące odszkodowań osobistych w USA jest warte 61 miliardów dolarów, a Los Angeles jest głównym ośrodkiem tego rynku, Hyams-Millard ostrzega, że prawnicy współpracujący z generatorami leadów, takimi jak Case Connect, mogą ponosić odpowiedzialność za wprowadzające w błąd reklamy. Nawet firmy zajmujące się generowaniem leadów, jak założyciel 4LegalLeads Vince Wingerter, przyznają, że SI ma potencjał do nadużyć, podkreślając, że choć od dawna istnieje potrzeba wyznaczania granic, dzisiejsza technologia to pogłębia.