I en kortformatvideo reagerar en influencer passionerat på en nyhet i Kalifornien som innehåller till synes autentiska bilder, inklusive en nyhetsankare som uppmanar tittarna att agera, offer och en CNN-logga. Bannern proklamerar “BRYTENYHET” med rubriken “Kaliforniens olycksoffer får otroliga utbetalningar. ” Men denna sociala mediestjärnas entusiasm är egentligen en dold reklam som är utformad för att locka klienter till juridiska tjänster, till största delen skapad med artificiell intelligens (AI). Med den senaste ökningen av AI-verktyg för video och plattformar för delning suddas gränsen mellan äkta nyheter och reklaminnehåll alltmer. Personskadeadvokater har historiskt sett använt pråliga annonser över radio, TV, skyltar och infomercials för att stärka sitt varumärke i konsumenterna, med upprepning och djärva påståenden för att bli ihågkomna efter en olycka. Nu möjliggör AI en ny generation av mer övertygande och lokalt anpassade annonser. Alexios Mantzarlis från Cornell Tech påpekar att AI-genererade människor och influencer-repliker marknadsför varor och tjänster online utan att avslöja deras artificiella natur, vilket underminerar sanningsenlig reklam. Denna trend sträcker sig bortom TV-nyheter, då AI även genererar sensationella rubriker i användarnas flöden för annonsörer. Till exempel visar en annons om skuldavbetalning en man med ett AI-skapat “Forbes”-tidning och en rad AI-genererade personer, alla påstådda experter. Trots kritik mot sådan “AI-sörja” fortsätter företag att lansera allt mer avancerade AI-videogeneratorer som möjliggör realistiska falska nyheter och sändningar. Meta presenterade Vibes, en app för AI-genererade korta videor, strax följt av OpenAI:s Sora-app, som har “Cameo, ” vilket gör att användare kan infoga sina egna eller andras bilder i fotorealistiska AI-videor som tar sekunder att skapa. Sedan lanseringen har Sora blivit populär på App Store, och OpenAI uppmuntrar företag att integrera denna teknik i sina produkter. VD:n Sam Altman ser framför sig att högkvalitativa synkroniserade videor som genereras via API:er kommer att driva nya innovationer. Detta har lett till syntetiska sociala medieplattformar som erbjuder personligt anpassade AI-innehållsströmmar som liknar beroendeframkallande TikTok-videor, där det är svårt att skilja äkta från falskt. Experter varnar för att dessa tillgängliga och kraftfulla verktyg utgör risker då statligt stödda aktörer i vissa länder sprider desinformation med AI-genererade nyheter. Internet-aktivister för säkerhet lyfter fram hur AI-producerade vilseledande berättelser, propaganda och annonser tränger undan mänskligt innehåll, vilket försämrar informationskvaliteten. YouTube tog bort hundratals AI-genererade skvallervideos med kändisar, Spotify raderade miljontals AI-musikspår, och FBI uppskattar att $50 miljarder förlorats sedan 2020 till bedrägerier med djupfakes.

Även erkända medier som Los Angeles Times har drabbats, med AI som felaktigt utropade en journalist som död. Reklam för juridiska tjänster, som ofta utmanar gränserna, står nu inför nya utmaningar då AI:s snabba utveckling gör det lättare att kringgå reklamregler som förbjuder att garantera resultat. AI-nyhetsinslag med offer som håller stora AI-genererade checkar suddar ut gränsen mellan sanna och falska uppgifter, vilket är problematiskt eftersom det kan antyda verkliga utbetalningar, varnar advokat Samuel Hyams-Millard. Ett exempel är Case Connect AI, som driver sponsrade YouTube Shorts och Facebook-annonser riktade till personer som drabbats av olyckor. Dess AI “skadestånds-kalkylator” påstås spara pengar för försäkringsbolag, enligt en influencer-liknande skådespelare, följt av AI-genererade nyhetsklipp och bilder på festdeltagare med enorma checkar. Nyligen på Google:s Transparenswebbplats finns flera exempel på AI-genererade nyhetsankare och fabricerade vittnesmål. Ibland använder företaget AI-genererade robotar eller till och med apor. Case Connect använder Google:s Veo 3-modell men har ännu inte annonserat vilka inslag som är AI-skapade. Grundaren Angelo Perone beskriver företaget som en leadsgenerator som kopplar olycksbetonade kunder till advokater, och som får betalt via avgifter från advokatfirmorna, inte genom att utöva juridik själva. Han betonar vikten av att balansera effektivitet med ansvar och följa regelverk för annonsering med tydliga ansvarsfriskrivningar. Men vissa jurister kritiserar dessa taktiker. Rättsrådgivaren Robert Simon från Simon Law Group kallade vissa Case Connect-annonser riktade till LA:s brandkår som “rövslickande” och förespråkade lagförslag för att begränsa vilseledande annonser, och påpekade att denna debatt utspelade sig innan AI:s framsteg. Med en amerikansk personlig skadelagstiftning värd 61 miljarder dollar och LA som ett stort centrum, varnar Hyams-Millard för att advokater som samarbetar med leadsgeneratorer som Case Connect kan bli ansvariga för vilseledande annonser. Även leadsgenereringsföretag som 4LegalLeads grundare Vince Wingerter erkänner AI:s potential för missbruk och betonar att även om regler har funnits länge, förstärker dagens teknologi dessa utmaningar.