Lyhytvideossa vaikuttaja reagoi intohimoisesti Kalifornian uutistapahtumaan, joka sisältää aidon näköisiä visuaaleja, kuten uutispäällikkö kehottaa katsojia toimimaan, uhreja ja CNN:n logon. Banneri julistaa “UUTISET RÄJÄHTÄÄ” ja otsikko kertoo “Kalifornian onnettomuuksien uhrit saavat uskomattomia korvauksia. ” Kuitenkin tämän sosiaalisen median tähden riemu on todellisuudessa salainen mainos, joka on suunniteltu houkuttelemaan asiakkaita oikeudellisiin palveluihin, ja suurimmaksi osaksi luotu tekoälyn (AI) avulla. Viimeaikainen tekoälyn videoita ja jakamisalustoja koskeva nousukiito on hämmentänyt rajaa aidon uutisen ja mainosteen välillä. Henkilövahinko-oikeudenkäyntiä harjoittavat juristit ovat perinteisesti käyttäneet näyttäviä mainoksia radiolla, televisiolla, mainostauluilla ja infomerkkeillä varmistaakseen, että heidän brändinsä jää mieleen kuluttajille, toistamalla ja esittämällä rohkeita väitteitä onnettomuuden jälkeen. Nyt tekoäly mahdollistaa entistä vakuuttavampia, paikallisesti räätälöityjä mainoksia. Alexios Mantzarlis Cornell Techistä muistuttaa, että tekoälyn luomat ihmiset ja vaikuttajia matkinneet kopiot mainostavat tuotteita ja palveluita verkossa paljastamatta niiden keinotekoista alkuperää, mikä heikentää totuudenmukaista mainontaa. Tämä trendi ei rajoitu televisiouutisiin, vaan tekoäly luo myös sensaatiomaisia otsikoita käyttäjien syötteisiin soveltuvissa mainoksissa. Esimerkiksi velanmaksuamainos esittää miestä tekoälyn luomassa “Forbes” -lehden ja rivin tekoälyn luomia ihmiskasvoja, vaikka kaikkien asiantuntijoiden mukaan nämä ovat tekaistuja. Vaikka tällaisen “tekoälyroskan” kritiikki kasvaa, yritykset jatkavat kehittyneiden tekoälyvideoiden lanseeraamista, jotka mahdollistavat realistiset feikkiuutiset ja -lähetykset. Meta esitteli Vibes-sovelluksen, joka luo tekoälyn avulla lyhyitä videoita, ja heti perässä OpenAI:n Sora-sovellus, jossa on “Cameo”-toiminto, jonka avulla käyttäjät voivat lisätä kuviaan tai muiden kuvia fotorealistisiin tekoälyn luomiin videoihin sekunneissa. Soran julkaisu jälkeen sovellus on yltänyt lataustilastoissa kärkeen App Storessa. OpenAI kehottavat yrityksiä integroimaan tätä teknologiaa osaksi tuotteitaan. Toimitusjohtaja Sam Altman näkee korkealaatuisten, synkronoitujen videosisältöjen luomisen API-rajapintojen avulla uusien innovaatioiden katalysaattorina. Tämä on synnyttänyt synteettisiä sosiaalisen median alustoja, jotka tarjoavat räätälöityjä tekoälyllä luotuja sisältövirtoja, muistuttaen addiktoivia TikTok-videoita, joissa on vaikea erottaa todellista ja feikkiä. Asiantuntijat varoittavat, että nämä helposti saatavilla olevat ja tehokkaat työkalut voivat olla riski, koska jotkut valtiot saavat aikaan disinformatioita käyttämällä tekoälyn luomia uutisia. Verkossa turvallisuusaktivistit korostavat, kuinka tekoälyn tuottamat harhaanjohtavat tarinat, propaganda ja mainokset peittävät ihmisten sisältöä, heikentäen tiedon laatua.

YouTube poisti satoja tekoälyn luomia julkkisuhrien huijevideoita, Spotify poisti miljoonia tekoälyn säveltämiä musiikkitiedostoja ja FBI arvioi, että vuoden 2020 jälkeen on menetetty 50 miljardia dollaria deepfake-huijauksissa. Myös arvostetut julkaisut kuten Los Angeles Times ovat joutuneet tekoälyn väärien väitteiden uhriksi, kuten väittäen journalistin kuoleman tekaistusti. Oikeudelliset palvelumainokset, jotka tunnetaan rajojen ylittämisestä, kohtaavat nyt haasteita tekoälyn nopean kehittymisen vuoksi. Tekoälyn avulla luodut uutiskertomukset, joissa uhrit esitetään suurilla tekoälyn valmistelemilla shekeillä, hämärtävät totuuden ja fiktion rajaa ja vihjaavat ongelmallisesti todellisiin korvauksiin, varoittaa lakimies Samuel Hyams-Millard. Pioneeri, Case Connect AI, pyörittää sponsoroituja YouTube Shortseja ja Facebook-mainoksia, jotka kohdentuvat henkilövahingoista kärsiviin. Sen “kineet” korvauslaskurit väitetään maksavan vakuutusyhtiöille rahaa, mikä on sosiaalisen vaikuttajan tyyppisen toimijan väite, ja sitä seuraa tekoälyn luomia uutisklippejä ja kuvia juhlivista ihmisistä suurine shekkeineen. Google:n Transparency-verkkosivulla julkaistut recent mainokset paljastavat lukuisia tekoälyn luomia uutelahtajia ja tekaistuja suosituksia. Joskus yritys käyttää tekoälyn luomia robotteja tai jopa apinoita. Case Connect käyttää Google Veo 3 -mallia, mutta ei ole paljastanut, mitkä mainoselementit ovat tekoälyn tuottamia. Perustaja Angelo Perone kuvailee yritystä liidien luojaksi, joka yhdistää onnettomuuden kärsineet juristeihin ja saa palkkionsa oikeudenkäyntituotoista, ei itse juridiikasta. Hän korostaa, että tasapainottelee tehokkuuden ja vastuun välillä, noudattaen mainosmääräyksiä ja asianmukaisia vastuuvapautuksia. Kuitenkin osa oikeudellisista ammattilaisista arvostelee niiden taktiikoita. Todistajasoveltaja Robert Simon Simon Law Groupista tuomitsi tietyt Case Connectin mainokset, jotka kohdistuvat Los Angelesin piirikunnan palohenkilöstön uhrien huijaamiseen, “silmitöntä”, ja kannattaa senaatin lakialoitetta 37 petollisten mainosten hillitsemiseksi, huomauttaen, että tämä keskustelu on ollut käynnissä jo ennen tekoälyä. Yhdysvaltojen henkilövahinkolain ala on 61 miljardin dollarin markkina ja Los Angeles on merkittävä keskus, Hyams-Millard varoittaa, että juristit, jotka tekevät yhteistyötä lead generators -yritysten kuten Case Connectin kanssa, voivat olla vastuussa harhaanjohtavista mainoksista. Even johtavien lead-gen yritysten kuten 4LegalLeadsin perustaja Vince Wingerter myöntää, että tekoälyllä on väärinkäyttömahdollisuuksia, ja korostaa, että vaikka turvatoimet ovat olleet pitkään tarpeen, nykyinen teknologia lisää haasteita entisestään.