Dalam sebuah video bentuk pendek, seorang pengaruh memberi reaksi dengan penuh semangat terhadap satu berita terkini dari California yang menampilkan visual yang kelihatan asli, termasuk seorang penyampai berita yang menggesa penonton untuk bertindak, mangsa-mangsa, dan logo CNN. Tali bar menyatakan “BERITA TERKINI” dengan tajuk utama, “Mangsa kemalangan di California mendapat pampasan yang luar biasa. ” Walau bagaimanapun, keterujaan bintang media sosial ini sebenarnya adalah iklan rahsia yang direka untuk menarik pelanggan bagi perkhidmatan guaman, sebahagiannya dibina menggunakan kecerdasan buatan (AI). Dengan peningkatan alat video AI dan platform perkongsian baru-baru ini, sempadan antara berita sebenar dan kandungan promosi semakin kabur. Peguam kecederaan peribadi secara tradisinya menggunakan iklan yang mencolok di radio, TV, papan iklan, dan infomercial untuk mengukuhkan jenama mereka dalam minda pengguna, menggunakan pengulangan dan tuntutan berani agar diingati selepas kemalangan. Kini, AI membolehkan generasi baru iklan yang lebih meyakinkan dan disesuaikan mengikut lokasi. Alexios Mantzarlis dari Cornell Tech menyatakan bahawa manusia yang dihasilkan AI dan replika pengaruh yang mempromosikan barangan dan perkhidmatan dalam talian tanpa mendedahkan sifat sintetik mereka, melemahkan iklan yang benar. Trend ini melangkaui berita TV, kerana AI juga menghasilkan tajuk berita sensasi dalam aliran berita pengguna untuk pengiklan. Sebagai contoh, iklan pembayaran semula hutang menggambarkan seorang lelaki dengan akhbar “Forbes” yang dicipta AI dan barisan orang yang dihasilkan AI, semua disahkan oleh pakar palsu. Walaupun dakwaan terhadap “sisa AI” ini sering dikritik, syarikat terus melancarkan penjana video AI yang semakin maju yang memudahkan berita palsu dan siaran palsu yang nampak realistik. Meta memperkenalkan Vibes, sebuah aplikasi untuk video pendek yang dihasilkan AI, diikuti pula oleh aplikasi Sora dari OpenAI, yang menampilkan “Cameo, ” membolehkan pengguna memasukkan gambar mereka sendiri atau orang lain ke dalam video AI yang fotorealistik dibuat dalam masa beberapa saat. Sejak dilancarkan baru-baru ini, Sora menduduki tempat teratas dalam muat turun App Store, dengan OpenAI menggalakkan perniagaan mengintegrasikan teknologi ini ke dalam produk mereka. CEO Sam Altman membayangkan video berkualiti tinggi yang disegerakkan melalui API akan merangsang inovasi baru. Ini telah mengembangkan platform media sosial sintetik yang menawarkan aliran kandungan AI yang disesuaikan, menyerupai video TikTok yang boleh menyebabkan ketagihan, di mana membezakan yang asli dari yang palsu amat mencabar. Para pakar memberi amaran bahawa alat yang berkuasa dan mudah diakses ini berisiko tinggi apabila aktor-aktor yang disokong oleh negara di beberapa negara menyebarkan maklumat palsu menggunakan berita yang dijana AI. Para penyokong keselamatan dalam talian menekankan bagaimana cerita menyesatkan yang dihasilkan AI, propaganda, dan iklan menyelubungi kandungan manusia, memperburuk kualiti maklumat. YouTube menhapuskan beratus-ratus video penipuan selebriti yang dihasilkan AI, Spotify memadam berpuluh juta lagu AI, dan FBI menganggarkan kehilangan sebanyak $50 bilion sejak 2020 akibat penipuan deepfake. Malah media yang bereputasi seperti Los Angeles Times turut menjadi mangsa, apabila AI menuntut seorang wartawan telah meninggal dunia secara palsu. Iklan perkhidmatan guaman, yang terkenal kerana meneroka sempadan, kini menghadapi cabaran daripada kemajuan AI yang pesat, memudahkan mereka mengelakkan peraturan iklan yang melarang menjamin hasil.

Siaran berita yang dihasilkan AI yang menampilkan mangsa memegang cek besar palsu mengaburkan garis antara fakta dan fiksyen, secara bermasalah menyiratkan pembayaran sebenar, amaran peguam Samuel Hyams-Millard. Seorang pelopor, Case Connect AI, menjalankan iklan bersponsor di YouTube Shorts dan Facebook yang mensasarkan mangsa kecederaan peribadi. “Kalkulator pampasan” AI mereka dikatakan mampu menghabiskan wang insurans, seperti yang didakwa oleh seorang pelakon gaya pengaruh sosial, diikuti dengan klip berita dan gambar orang yang diraikan memegang cek besar. Iklan terkini di laman Transparency Google menunjukkan ramai penyampai berita AI dan testimoni palsu yang direka. Kadang-kadang syarikat menggunakan robot AI ataupun monyet yang dihasilkan oleh AI. Case Connect menggunakan model Veo 3 dari Google tetapi tidak mendedahkan elemen iklan mana yang dihasilkan oleh AI. Pengasasnya, Angelo Perone, menggambarkan syarikat sebagai pemacu utama yang menghubungkan mangsa kemalangan dengan peguam, yang dibayar melalui yuran dari firma tersebut, bukan menjalankan guaman sendiri. Dia menekankan pentingnya menyeimbangkan keberkesanan dengan tanggungjawab, mematuhi garis panduan iklan dengan diskaun yang sesuai. Namun, sebahagian profesional guaman mengkritik taktik ini. Peguam percubaan Robert Simon dari Kumpulan Guaman Simon menyifatkan iklan tertentu dari Case Connect yang menyasarkan mangsa kebakaran di L. A. sebagai “penganiayaan besar, ” dan mendesak agar Rang Undang-Undang Senate 37 diluluskan bagi membendung iklan palsu, mengingatkan bahawa perdebatan ini sudah wujud sebelum AI. Dengan undang-undang kecederaan peribadi AS bernilai $61 bilion dan L. A. sebagai pusat utama, Hyams-Millard memberi amaran bahawa peguam yang bekerjasama dengan pemacu utama seperti Case Connect mungkin bertanggungjawab atas iklan yang menyesatkan. Malah syarikat pemacu utama seperti yang diasaskan Vince Wingerter dari 4LegalLeads turut mengakui potensi penyalahgunaan AI, menegaskan bahawa walaupun perlindungan sedia ada adalah keperluan lama, teknologi hari ini memperlihatkan cabaran yang lebih hebat.