Egy rövid videóban egy influencer szenvedélyesen reagál egy kaliforniai híradásra, amely látszólag hiteles vizuális elemeket tartalmaz, például egy bemondót, aki felszólítja a nézőket a cselekvésre, sérülteket, és egy CNN-logót. A szalag címe „BREAKING NEWS” felirattal és a cím, „Kaliforniai balesetszenvedettek őrületes kártérítéseket kapnak. ” Ez azonban nem más, mint egy titkos hirdetés, amely jogi szolgáltatásokhoz próbál ügyfeleket vonzani, nagyrészt mesterséges intelligencia (AI) segítségével készült tartalommal. Az utóbbi időben megnőtt AI videószolgáltatások és megosztási platformok révén a valós hír és a reklámtartalom közötti határ egyre vékonyabbá válik. A személyi sérüléssel foglalkozó ügyvédek hagyományosan feel-good reklámokat használtak rádióban, tévében, óriásplakátokon és infomercialokon, hogy a márkájuk bekerüljön a fogyasztók tudatába, ismétléssel és határozott állításokkal, hogy egy baleset után is emlékezzenek rájuk. Most az AI lehetővé teszi, hogy egy új generáció hatékonyabb, helyben személyre szabott reklámokat készítsen. Alexios Mantzarlis a Cornell Tech-tól megjegyzi, hogy az AI által generált emberek és influenszer helyettesítők online termékeket és szolgáltatásokat népszerűsítenek anélkül, hogy megmutatnák szintetikus természetüket, aláásva a hiteles reklámokat. Ez a jelenség nemcsak a TV-közvetítéseket érinti, hanem az AI által generált szenzációs címszavakat is, amelyeket a felhasználók hírfolyamában helyeznek el hirdetők számára. Például egy adás a tartozás visszafizetéséről egy AI által készített „Forbes” újsággal és egy sor AI-gépesített emberképpel mutatja be a „szakértőket”, akik valójában nem léteznek. Bár sokan kritizálják ezeket az „AI-zabálásokat”, a cégek folyamatosan indítanak egyre fejlettebb AI videógenerátorokat, amelyek lehetővé teszik a valósághű hamis hírek és adások készítését. A Meta bemutatta a Vibes-t, egy alkalmazást AI-generált rövid videók készítésére, amit az OpenAI Sora alkalmazása követett, amelyben a „Cameo” funkció lehetővé teszi, hogy a felhasználók saját vagy más személy képeit helyezzék el fotorealisztikus AI-videókban, néhány másodperc alatt. A Sora azóta a legnépszerűbb letöltés lett az App Store-ban, az OpenAI pedig ösztönzi a vállalkozásokat, hogy integrálják ezt a technológiát termékeikbe. Sam Altman vezérigazgató azt tervezi, hogy az API-k segítségével készített szinkronizált, kiváló minőségű videók új innovációkat szülnek. Ez a trend a szintetikus közösségi média platformok kialakulásához vezet, amelyek személyre szabott AI-tartalmakat kínálnak, hasonlóan a függőséget okozó TikTok-videókhoz, ahol nehéz megkülönböztetni a valóságot a hamisítványoktól. Szakértők arra figyelmeztetnek, hogy ezek az erőteljes, könnyen hozzáférhető eszközök kockázatokat rejtenek, mivel egyes országok állami támogatású szereplők a hamis információk szándékos terjesztésére használják az AI által generált híreket. Az online biztonságot elősegítő aktivisták azt hangsúlyozzák, hogy az AI által készített félrevezető történetek, propaganda és reklámok elnyomják az emberi tartalmakat, rontva az információ minőségét.

A YouTube százas nagyságrendben törölt AI- által generált híresség-átverős videókat, a Spotify millió számú AI által készített zeneszámot törölt, az FBI pedig becslése szerint 2020 óta 50 milliárd dollárnyi kárt okozott a deepfake-átverések miatt. Még a megbízható lapok, mint például a Los Angeles Times is áldozatává váltak, amikor AI hamisan halottnak nyilvánította egy újságírót. A jogi szolgáltatásokat reklámozó hirdetések, amelyek már eddig is határfeszegetőek voltak, most az AI gyors fejlődése miatt még inkább nehézségekbe ütköznek, mivel könnyebbé vált az eredmények garantálásának elkerülése. Az AI által készített híradások, ahol sérültek nagy AI által generált csekkeket tartanak a kezükben, kérdéseket vetnek fel a tény és a fikció határán, és problémásan utalnak arra, hogy valódi kifizetések történnek – figyelmeztet Samuel Hyams-Millard ügyvéd. A Case Connect AI egy úttörő vállalat, amely szponzorált YouTube Shorts videókat és Facebook-hirdetéseket futtat, amelyek személyi sérüléssel érintett ügyfeleket céloznak. AI által készített „kártérítési kalkulátorával” állítólag kárt okoz a biztosítóknak – ezt egy influencer-stílusú színész mondja, akit AI által generált híradás- és képek követnek, ahol az ünneplők hatalmas csekkeket tartanak a kezükben. A Google Tudatosság oldalán nemrég megjelent hirdetések számos AI által generált bemondót és kitalált ajánlást mutatnak, néha még robotokat vagy akár majmokat is alkalmaznak. A Case Connect a Google Veo 3 modellt használja, de nem közölte, mely elemeket készítette AI. Az alapító, Angelo Perone szerint a cég egy olyan vezetőgenerátor, amely az ügyvédeket és sérült ügyfeleket kapcsolja össze, és a díjakat a cégektől kapja, nem jogászként működik. Hangsúlyozza, hogy az eredményesség és a felelősség közötti egyensúlyt tartják, tiszteletben tartva a reklámokra vonatkozó szabályokat és a megfelelő felelősségvállalást. Néhány jogásznak azonban ez a módszer aggályokat vet fel, különösen az L. A. megyei tűzeseteknél célzott egyes reklámokat, amelyeket a Simon Law Group vezetője „szégyenteljesnek” tart és támogatja a Szenátusi törvényjavaslatokat, hogy visszaszorítsák a félrevezető hirdetéseket, felidézve, hogy ez a vita jóval az AI kora előtt kezdődött.