Trong một video dạng ngắn, một influencer phản ứng một cách nhiệt huyết với một câu chuyện thời sự về California, sử dụng hình ảnh có vẻ chân thực, bao gồm một phát thanh viên khuyên khán giả hành động, các nạn nhân, và biểu tượng CNN. Thanh banner ghi “TIN NÓNG” với tiêu đề “Nạn nhân vụ tai nạn ở California nhận khoản đền bù khủng”. Tuy nhiên, sự phấn khích của sao mạng xã hội này thực chất là một quảng cáo ngầm nhằm thu hút khách hàng cho dịch vụ pháp lý, phần lớn được tạo ra bằng trí tuệ nhân tạo (AI). Với sự bùng nổ gần đây của các công cụ làm video AI và các nền tảng chia sẻ, ranh giới giữa tin tức chính thống và nội dung quảng cáo ngày càng mờ nhạt. Các luật sư về thương tích cá nhân trước đây hay sử dụng quảng cáo rực rỡ trên radio, truyền hình, biển quảng cáo và các chương trình truyền hình ngắn để khắc sâu thương hiệu trong tâm trí người tiêu dùng, qua việc lặp lại và các tuyên bố gây chú ý nhằm ghi nhớ sau một vụ tai nạn. Giờ đây, nhờ AI, một thế hệ mới các quảng cáo thuyết phục hơn, phù hợp địa phương hơn đã ra đời. Alexios Mantzarlis từ Cornell Tech nhận định rằng các người mẫu do AI tạo ra và các ảnh đại diện influencer nhân tạo quảng bá hàng hóa, dịch vụ trực tuyến mà không tiết lộ tính nhân tạo của chúng, làm xói mòn quảng cáo trung thực. Xu hướng này còn mở rộng ngoài các bản tin truyền hình, khi AI tạo ra các tiêu đề gây sốc trong các luồng tin người dùng để thu hút nhà quảng cáo. Ví dụ, một quảng cáo về trả nợ thể hiện một người đàn ông với tờ báo “Forbes” do AI tạo ra và một hàng người do AI tạo ra, tất cả đều là các chuyên gia giả mạo theo ý kiến các chuyên gia. Dù bị chỉ trích là “rác AI”, các công ty vẫn không ngừng ra mắt các trình tạo video AI ngày càng tiên tiến hơn, hỗ trợ việc phát sóng các tin giả và quảng cáo giả chân thực hơn. Meta giới thiệu Vibes, một ứng dụng tạo video ngắn dựa trên AI, ngay sau đó là ứng dụng Sora của OpenAI, với tính năng “Cameo”, cho phép người dùng chèn hình ảnh của chính mình hoặc người khác vào các video AI chân thực chỉ trong vài giây. Kể từ khi ra mắt gần đây, Sora đã chiếm lĩnh top download trên App Store, trong khi OpenAI khuyến khích các doanh nghiệp tích hợp công nghệ này vào các sản phẩm của họ. CEO Sam Altman hình dung các video đồng bộ chất lượng cao do API tạo ra sẽ thúc đẩy các sáng kiến mới. Điều này đã tạo ra các nền tảng mạng xã hội tổng hợp nhân tạo, cung cấp luồng nội dung cá nhân hoá dựa trên AI, giống như các video TikTok gây nghiện, nơi việc phân biệt thật giả rất khó khăn. Các chuyên gia cảnh báo rằng các công cụ mạnh và dễ tiếp cận này mang lại những rủi ro lớn khi các tác nhân hậu thuẫn nhà nước tại một số quốc gia lan truyền sai lệch bằng tin tức do AI tạo ra. Những người vận động về an toàn trực tuyến nhấn mạnh cách các câu chuyện sai lệch, tuyên truyền và quảng cáo từ AI tràn ngập nội dung nhân tạo, làm suy giảm chất lượng thông tin.

YouTube đã gỡ hàng trăm video lừa đảo về ai đó nổi tiếng do AI tạo, Spotify xóa hàng triệu bài hát do AI sáng tạo, và FBI ước tính đã mất khoảng 50 tỷ USD kể từ 2020 vào các vụ lừa đảo bằng deepfake. Thậm chí các phương tiện uy tín như Los Angeles Times cũng từng là nạn nhân, khi AI giả mạo cho biết một nhà báo đã chết. Các quảng cáo về dịch vụ pháp lý, vốn nổi tiếng với việc vượt qua giới hạn, hiện đối mặt với thách thức từ sự phát triển của AI, làm dễ dàng hơn để tránh các quy định hạn chế quảng cáo như cam kết kết quả. Các bản tin thời sự do AI sản xuất có các nạn nhân cầm các séc lớn do AI tạo ra làm mờ ranh giới sự thật và hư cấu, tạo ra một hình ảnh gây hiểu nhầm về các khoản thanh toán thực, cảnh báo của luật sư Samuel Hyams-Millard. Một trong những tiền phong, Case Connect AI, chạy các quảng cáo tài trợ trên YouTube Shorts và Facebook nhằm hướng tới các nạn nhân bị thương tích cá nhân. “Máy tính tính đền bù” do AI của họ được cho là gây thiệt hại cho các công ty bảo hiểm, như lời một diễn viên phong cách influencer khẳng định, đi kèm các clip tin tức và hình ảnh người ăn mừng với các séc khổng lồ do AI tạo ra. Các quảng cáo gần đây trên trang web Minh bạch của Google tiết lộ nhiều anchor do AI tạo ra và các lời chứng thực giả mạo. Đôi khi công ty còn dùng robot hoặc thậm chí là các con khỉ do AI tạo ra. Case Connect sử dụng mô hình Veo 3 của Google nhưng chưa tiết lộ phần nào của các yếu tố trong quảng cáo là do AI tạo ra. Người sáng lập Angelo Perone mô tả công ty là một công cụ tạo khách hàng tiềm năng, liên kết các nạn nhân tai nạn với các luật sư, được trả phí bởi các công ty luật chứ không hành nghề luật chân chính. Ông nhấn mạnh việc cân bằng giữa hiệu quả và trách nhiệm, tuân thủ các quy định quảng cáo kèm chú thích phù hợp. Tuy nhiên, một số chuyên gia pháp lý chỉ trích các chiến thuật này. Luật sư thử nghiệm Robert Simon của Simon Law Group lên án các quảng cáo của Case Connect nhắm vào các nạn nhân mắc cháy rừng tại Los Angeles là “rất ghê gớm, ” ủng hộ dự luật Thượng viện 37 nhằm hạn chế các quảng cáo lừa đảo, nhấn mạnh cuộc tranh luận này đã có từ trước khi AI xuất hiện. Với thị trường luật về thương tích cá nhân tại Mỹ trị giá 61 tỷ USD và Los Angeles là trung tâm lớn, Hyams-Millard cảnh báo rằng các luật sư hợp tác với các công ty tạo khách hàng tiềm năng như Case Connect có thể chịu trách nhiệm về các quảng cáo lừa dối. Ngay cả các công ty tạo khách hàng tiềm năng như 4LegalLeads do Vince Wingerter sáng lập cũng thừa nhận tiềm năng lạm dụng AI, nhấn mạnh rằng việc có các giới hạn từ lâu đã cần thiết, nhưng công nghệ hiện tại lại gia tăng các thách thức.