Dalam sebuah video format singkat, seorang influencer bereaksi dengan penuh semangat terhadap sebuah berita dari California yang menampilkan visual yang tampak asli, termasuk seorang anchorman yang mengajak penonton untuk bertindak, korban kecelakaan, dan logo CNN. Banner di layar menyatakan “BERITA TERKINI” dengan judul, “Korban kecelakaan di California mendapatkan pembayaran besar. ” Namun, kegembiraan bintang media sosial ini sebenarnya adalah iklan tersembunyi yang dirancang untuk menarik klien layanan hukum, sebagian besar dibuat menggunakan kecerdasan buatan (AI). Dengan lonjakan terbaru dalam alat video AI dan platform berbagi, batas antara berita asli dan konten promosi semakin kabur. Pengacara cedera pribadi secara historis telah menggunakan iklan mencolok di radio, TV, billboard, dan infomercial untuk menanamkan merek mereka di benak konsumen, menggunakan pengulangan dan klaim berani agar diingat setelah kecelakaan. Kini, AI memungkinkan munculnya generasi baru iklan yang lebih persuasif dan disesuaikan secara lokal. Alexios Mantzarlis dari Cornell Tech mencatat bahwa manusia dan replika influencer yang dihasilkan AI mempromosikan barang dan jasa secara online tanpa mengungkapkan sifat sintetis mereka, merusak kejujuran dalam beriklan. Tren ini meluas di luar berita TV, karena AI juga menghasilkan judul berita sensasional di feed pengguna untuk kepentingan pengiklan. Misalnya, iklan pembayaran utang menampilkan seorang pria dengan surat kabar “Forbes” buatan AI dan barisan orang yang juga dibuat AI, semuanya diklaim sebagai pakar palsu. Meskipun ada kritik terhadap “serbuan AI” semacam itu, perusahaan terus meluncurkan generator video AI yang semakin canggih untuk memfasilitasi berita dan siaran palsu yang tampak realistis. Meta memperkenalkan Vibes, sebuah aplikasi untuk video pendek yang dibuat AI, diikuti oleh aplikasi Sora dari OpenAI, yang menampilkan “Cameo, ” memungkinkan pengguna menyisipkan gambar mereka sendiri atau orang lain ke dalam video AI yang fotorealistik dalam hitungan detik. Sejak dirilis baru-baru ini, Sora telah menempati puncak unduhan di App Store, dengan OpenAI mendorong bisnis untuk mengintegrasikan teknologi ini ke dalam produk mereka. CEO Sam Altman membayangkan video berkualitas tinggi yang disinkronkan dan dibuat melalui API akan mendorong inovasi baru. Hal ini mendorong hadirnya platform media sosial sintetis yang menawarkan aliran konten AI pribadi yang menyerupai video TikTok yang adiktif, di mana membedakan asli dan palsu menjadi sangat sulit. Para ahli memperingatkan bahwa alat berdaya dan mudah ini menimbulkan risiko karena aktor negara tertentu menyebarkan disinformasi menggunakan berita yang dihasilkan AI. Aktivis keamanan daring menyoroti bagaimana cerita menyesatkan, propaganda, dan iklan yang dibuat AI membanjiri konten manusia, memperburuk kualitas informasi. YouTube menghapus ratusan video penipuan selebriti yang dibuat AI, Spotify menghapus jutaan lagu yang dihasilkan AI, dan FBI memperkirakan kerugian mencapai $50 miliar sejak 2020 akibat penipuan deepfake.

Bahkan media terkemuka seperti Los Angeles Times pernah menjadi korban, dengan AI palsu mengumumkan bahwa seorang jurnalis meninggal dunia. Iklan layanan hukum, yang dikenal sering melangkah batas, kini menghadapi tantangan dari kemajuan AI yang pesat, membuat mereka lebih mudah mengelak dari aturan iklan yang melarang menjamin hasil. Siaran berita buatan AI yang menampilkan korban memegang cek besar buatan AI mengaburkan garis antara fakta dan fiksi, secara bermasalah menyiratkan pembayaran nyata, peringatkan pengacara Samuel Hyams-Millard. Salah satu pelopor, Case Connect AI, menjalankan iklan bersponsor di YouTube Shorts dan Facebook yang menargetkan korban cedera pribadi. Alat AI “kalkulator kompensasi” mereka diklaim merugikan perusahaan asuransi, seperti yang diungkapkan oleh seorang aktor bergaya influencer sosial, diikuti oleh cuplikan berita dan gambar orang yang merayakan dengan cek besar. Iklan terbaru di situs transparansi Google menunjukkan banyak anchorman yang dibuat AI dan testimoni palsu. Kadang-kadang, perusahaan juga memakai robot buatan AI atau bahkan monyet. Case Connect menggunakan model Veo 3 dari Google tetapi belum mengungkap bagian mana dari iklan yang dibuat AI. Pendiri Angelo Perone menggambarkan perusahaan sebagai penghubung potensial yang menghubungkan korban kecelakaan dengan pengacara, dan dibayar melalui biaya dari firma hukum, bukan menjalankan praktik hukum sendiri. Ia menekankan pentingnya keseimbangan antara efektivitas dan tanggung jawab, dengan mematuhi aturan iklan lengkap dengan disclaimer yang sesuai. Namun, beberapa profesional hukum mengkritik taktik ini. Pengacara sidang Robert Simon dari Simon Law Group mengecam iklan tertentu dari Case Connect yang menargetkan korban kebakaran L. A. sebagai “kejam, ” dan mendukung RUU Senate Bill 37 untuk membatasi iklan menipu, mengingat perdebatan ini sudah ada jauh sebelum AI. Dengan pasar hukum cedera pribadi Amerika Serikat yang bernilai $61 miliar dan Los Angeles sebagai pusat utama, Hyams-Millard memperingatkan bahwa pengacara yang bekerja sama dengan perusahaan penghasil prospek seperti Case Connect bisa bertanggung jawab atas iklan menyesatkan tersebut. Bahkan perusahaan penghasil prospek seperti pendiri 4LegalLeads Vince Wingerter mengakui potensi penyalahgunaan AI, menegaskan bahwa meskipun ada perlindungan yang sudah lama ada, teknologi saat ini memperbesar tantangan tersebut.