En un vídeo de formato curt, un influencer reacciona apassionadament a una notícia de Califòrnia que presenta visuals aparentment autèntics, incloent-hi una presentadora que instiga els espectadors a actuar, víctimes, i un logotip de CNN. La pancarta proclama “NOTÍCIES DE L’ÚLTIMA hora” amb el titular, “Víctimes d’accidents a Califòrnia reben pagaments insans”. No obstant això, l’alegria d’aquesta estrella de les xarxes socials és en realitat una publicitat encoberta dissenyada per atreure clients per a serveis legals, en gran part creada mitjançant intel·ligència artificial (AI). Amb l’augment recent d’eines de vídeos AI i plataformes de compartició, la línia entre notícies autèntiques i contingut promocional es difumina cada cop més. Els advocats especialistes en lesions personals han utilitzat històricament publicitat llaminera per ràdio, televisió, pòsters i infomercials per engrandir les seves marques en la ment dels consumidors, usant repetició i afirmacions ambicióses per ser recordats després d’un accident. Ara, l’AI permet una nova generació d’anuncis més persuasitius i adaptats localment. Alexios Mantzarlis, de Cornell Tech, assenyala que els humans generats per AI i les rèpliques d’influencers promocionen productes i serveis online sense revelar la seva naturalesa sintètica, perjudicant la publicitat veritable. Aquesta tendència s’estén més enllà de les notícies a la televisió, ja que l’AI també crea titulars sensationalistes en els feeds dels usuaris per als anunciants. Per exemple, un advertiment de pagament de prou deutes mostra un home amb un periòdic “Forbes” creat per AI i una fila de persones generades per AI, tot declarat per experts fabricats. Malgrat les crítiques a aquest “Xap de l’AI, ” les empreses continuen llençant generadors de vídeos AI cada cop més avançats que faciliten notícies falses realistes i transmissió de broadcast falsos. Meta va presentar Vibes, una aplicació per a vídeos curts generats per AI, seguit de prop per l’aplicació Sora d’OpenAI, que inclou “Cameo, ” que permet als usuaris inserir les seves pròpies o altres imatges en vídeos realistes creats per AI en qüestions de segons. Des de la seva recent sortida, Sora ha liderat les baixades a l’App Store, amb OpenAI animant les empreses a integrar aquesta tecnologia en els seus productes. El CEO, Sam Altman, visualitza vídeos sincronitzats d’alta qualitat generats via API com a font d’innovacions noves. Això ha fomentat plataformes socials sintètiques que ofereixen fluxos de contingut personalitzats amb AI que recorden els addictive vídeos de TikTok, on és difícil distingir la realitat de la falsificació. Els experts avisen que aquestes eines poderoses i accessibles representen riscos, ja que actors estatals en alguns països difonen desinformació utilitzant notícies generades per AI. Defensors de la seguretat en línia destaquen com stories, propaganda i anuncis enganyosos produïts per AI ofeguen el contingut humà, empitjorant la qualitat de la informació.

YouTube va eliminar desenes de vídeos emprant AI per a estafes amb celebritats, Spotify va suprimir milions de pistes musicals generades per AI, i l’FBI calcula que des del 2020 s’han perdut 50. 000 milions de dòlars a causa d’estafes amb deepfakes. fins i tot mitjans de renom com els Angeles Times han estat víctimes, amb AI que declara falsament un periodista mort. Els anuncis de serveis legals, coneguts per empènyer els límits, ara afronten desafiaments a causa de l’acceleració de l’AI, que facilita esquivar les normes publicitàries que prohibeixen garantir resultats. Els informatius amb AI que mostren víctimes sostenint grans xecs generats per AI difuminen la frontera entre fet i ficció, suggerint de manera problemàtica pagaments reals, advertix l’advocat Samuel Hyams-Millard. Un pioner, Case Connect AI, gestiona anuncis patrocinats a YouTube Shorts i Facebook dirigits a víctimes d’accidents personals. El seu “calculador de compensacions” amb AI, segons diuen, costa diners a les asseguradores, seguit per actors amb estil d’influencer social que mostren notícies i imatges d’èxits amb grans xecs. Els anuncis recents a la web de transparència de Google revelen nombrosos presentadors generats per AI i testimonis fabricats. De vegades, l’empresa utilitza robots generats per AI o fins i tot micos. Case Connect utilitza el model Veo 3 de Google, però no ha revelat quins elements dels anuncis són creades per AI. El seu fundador Angelo Perone descriu l’empresa com un generador de contactes que connecta víctimes d’accidents amb advocats, compensada amb honoraris dels despatxos, i no practicant el dret directament. Assegura que busca equilibrar l’eficàcia amb la responsabilitat, seguint la normativa publicitària amb advertències adequades. Tot i això, alguns professionals legals critiquen aquestes tàctiques. L’advocat de judicis, Robert Simon, de Simon Law Group, va condemnar com “egrègieques” algunes publicitats de Case Connect dirigides a víctimes del foc a L. A. i va advocar pel Projecte de llei 37 del Senat per frenar anuncis enganyosos, destacant que aquest debat ja existia abans de l’AI.