I en kort video reagerer en influencer lidenskabeligt på en nyhedsberetning fra Californien med tilsyneladende autentiske visuals, herunder en nyhedsanker, der opfordrer seerne til at handle, ofre og et CNN-logo. Banneret annoncerer “BREAKING NEWS” med overskriften, “California-inkludsofres utrolige udbetalinger. ” Denne sociale medie-stjernes begejstring er dog faktisk en skjult reklame, der er designet til at tiltrække klienter til juridiske tjenester, stort set skabt med kunstig intelligens (AI). Med den nylige stigning i AI-videoværktøjer og delingsplatforme bliver grænsen mellem ægte nyheder og reklameindhold stadig mere flydende. Personskadeadvokater har historisk set brugt iøjnefaldende reklamer på radio, TV, reklameskilte og infomercials for at indprente deres brands i forbrugernes sind, ved hjælp af gentagelse og dristige påstande for at blive husket efter en ulykke. Nu muliggør AI en ny generation af mere overbevisende, lokalt skræddersyede annoncer. Alexios Mantzarlis fra Cornell Tech bemærker, at AI-genererede mennesker og influencer-duplikater promoverer varer og tjenester online uden at afsløre deres kunstige natur, hvilket underminerer ærlig reklame. Denne tendens strækker sig ud over TV-nyheder, da AI også genererer sensationelle overskrifter i brugernes feeds for annoncører. For eksempel viser en gældsafbetalingsannonce en mand med en AI-skabt “Forbes”-avis og en række AI-genererede personer, alt sammen påstået at være fabrikerede eksperter. På trods af kritik af såkaldt “AI-snavs” fortsætter virksomheder med at lancere stadig mere avancerede AI-videogeneratorer, der muliggør realistiske falske nyheder og udsendelser. Meta præsenterede Vibes, en app til AI-genererede korte videoer, kort efterfulgt af OpenAI’s Sora-app, som indeholder “Cameo, ” der giver brugerne mulighed for at indsætte deres egne eller andres billeder i fotorealistiske AI-videoer, der kan laves på få sekunder. Siden dens nylige lancering har Sora været den mest downloadede app i App Store, og OpenAI opfordrer virksomheder til at integrere denne teknologi i deres produkter. CEO Sam Altman forestiller sig højkvalitets synkroniserede videoer genereret via API’er, der driver nye innovationer. Dette har skabt syntetiske sociale medieplatforme, der tilbyder personligt tilpassede AI-indholdsstreames, der ligner krævende TikTok-videoer, hvor det er svært at skelne mellem ægte og falsk. Eksperter advarer om, at disse tilgængelige og kraftfulde værktøjer udgør risici, da udenlandske aktører i nogle lande spreder misinformation ved brug af AI-genererede nyheder. Online-sikkerhedsforkæmpere fremhæver, hvordan AI-producerede vildledende historier, propaganda og reklamer kvæler menneskeskabt indhold, hvilket forringer informationskvaliteten. YouTube fjernede hundreder af AI-genererede kendis-svindelvideoer, Spotify fjernede millioner af AI-musiknumre, og FBI vurderer, at der siden 2020 er tabt 50 milliarder dollars til dybfaker.

Selv velrenommerede medier som Los Angeles Times er blevet ofre, efter AI falsk erklærede en journalist død. Reklamer for juridiske tjenester, kendt for at presse grænserne, står nu over for udfordringer fra den stigende brug af AI, hvilket gør det lettere at omgå regler for reklamer, der forbyder at garantere resultater. AI-nyhedsudsendelser med ofre, der holder store AI-genererede checks, blurrer fakta og fiktion og antyder problematisk ægte udbetaling, advarer advokat Samuel Hyams-Millard. En pioner, Case Connect AI, driver sponsorerede YouTube Shorts og Facebook-annoncer rettet mod personskadeofre. Dets AI-“kompensationsberegner” skønnes at koste forsikringsselskaber penge, som en social influencer-agtig skuespiller påstår, efterfulgt af AI-genererede nyhedssekvenser og billeder af festende personer med store checks. Nylige annoncer på Google’s Transparency-website afslører adskillige AI-genererede nyhedsoplæsere og fabrikerede testimonials. Nogle gange bruger virksomheden AI-genererede robotter eller endda aber. Case Connect bruger Google’s Veo 3-model, men har ikke oplyst, hvilke elementer i annoncerne der er AI-skabte. Grundlæggeren Angelo Perone beskriver firmaet som en lead-generator, der forbinder ulykkespåvirkede med advokater, og kompenseres via provisioner fra advokatfirmaerne, men de praktiserer ikke selv jura. Han understreger vigtigheden af at balancere effektivitet med ansvarlighed og følge reklamekrav med de rette ansvarsfraskrivelser. Men nogle juridiske professionelle kritiserer disse taktikker. Sagsspecialist Robert Simon fra Simon Law Group fordømte visse Case Connect-annoncer rettet mod brandmænd i L. A. County som “grænseoverskridende, ” og ønsker en lovændring via Senate Bill 37 for at begrænse vildledende reklamer, hvilket forudgår AI-udviklingen.