짧은 영상에서 한 인플루언서가 캘리포니아 뉴스 이야기와 함께 열정적으로 반응하며, 시청자에게 행동을 촉구하는 앵커, 피해자들, CNN 로고 등이 사실적으로 보이는 모습들을 보여줍니다. 배너에는 “속보”라는 문구와 “캘리포니아 사고 피해자들이 미친 듯이 큰 보상을 받고 있다”는 헤드라인이 표시됩니다. 그러나 이 소셜 미디어 스타의 흥분은 사실, 주로 인공지능(AI)을 이용해 만들어진 법률 서비스 홍보용 은밀한 광고에 불과합니다. 최근 AI 영상 도구와 공유 플랫폼의 급증으로 진짜 뉴스와 홍보 콘텐츠의 구분이 점점 모호해지고 있습니다. 개인 보험 변호사들은 과거 라디오, TV, 대형 광고판, 인포머셜 광고를 통해 눈에 띄는 광고로 대상 고객의 기억에 남기기 위해 반복과 과장된 주장으로 브랜드를 각인시켰습니다. 지금은 AI 덕분에 더 설득력 있고 지역 맞춤형 광고가 가능해졌습니다. 코넬 테크의 알렉시오스 만차를리스는 AI로 만들어진 인물과 인플루언서 복제본이 착한 의도를 숨기고 온라인에서 상품과 서비스를 홍보하여 진실된 광고를 훼손한다고 지적합니다. 이러한 경향은 TV 뉴스뿐 아니라 AI가 사용자 피드에 선정적 헤드라인을 생성하여 광고주에게 유리한 정보도 만들어내는 등 확산되고 있습니다. 예를 들어, 부채 상환 광고에는 AI로 제작된 “포브스” 신문과 AI 생성 인물들이 등장하며, 전문가들은 모두 허구라고 말합니다. 이러한 “AI 벌크”에 대한 비판이 계속되는 가운데, 기업들은 실제와 구별하기 어려운 사실적인 가짜 뉴스와 방송을 촉진하는 첨단 AI 영상 생성기를 계속 출시하고 있습니다. 메타는 AI로 만든 짧은 영상 앱인 Vibes를 공개했고, 곧이어 오픈AI의 Sora 앱이 등장하여 “Cameo” 기능을 통해 사용자가 자신의 이미지 또는 타인의 이미지를 몇 초 만에 포토리얼리스틱 AI 영상에 삽입할 수 있게 했습니다. 최근 출시된 Sora는 앱 스토어에서 다운로드 수 1위를 기록했으며, 오픈AI는 기업들이 이 기술을 자사 제품에 통합하도록 권장하고 있습니다. CEO 샘 올트만은 API를 통해 생성된 고품질의 동기화된 영상이 새로운 혁신을 이끌 것이라 전망하며, 이는 중독성이 강한 틱톡 영상과 유사한 맞춤형 AI 콘텐츠 스트림을 제공하는 합성 SNS 플랫폼으로 발전하고 있습니다. 이들 플랫폼은 진짜와 가짜를 구별하기 매우 어려운 것이 특징입니다. 전문가들은 이러한 강력한 도구들이 일부 국영 세력에 의해 AI 생성 뉴스와 함께 허위 정보를 퍼뜨리는데 악용될 위험이 크다고 경고합니다. 온라인 안전 옹호 단체들은 AI로 만든 오해의 소지가 있는 기사, 선전, 광고들이 인간 콘텐츠를 압도하며 정보의 질을 저하시키고 있다고 지적합니다.

유튜브는 수백 개의 유명 인사 가짜 스캠 영상을 삭제했고, 스포티파이는 수백만 개의 AI 음악 트랙을 제거했으며, FBI는 2020년 이후 딥페이크 사기에 500억 달러 이상이 잃었다고 추산합니다. 심지어 LA 타임스 같은 신뢰받는 언론사조차 AI로 기자의 사망을 허위로 보도하는 등의 피해를 겪고 있습니다. 법률 서비스 광고는 기존 더 도전적인 캠페인으로 유명했으며, AI의 발전으로 결과를 보장하는 광고 규정을 피하기 쉬워지고 있습니다. 피해자가 큰 AI 제작 영상은 사실과 허구를 혼합하며 진짜 보상금을 암시하는 문제도 제기되고 있습니다. 변호사 새뮤얼 하임스-밀라드에 따르면, 이는 사실과 허구를 구별하기 어렵게 하며, 법적 문제를 야기할 수 있음을 경고합니다. 선구자인 케이스 커넥트 AI는 유튜브 Shorts와 페이스북 광고를 통해 개인 상해 피해자를 대상으로 하는 광고를 운영하며, ‘보상 계산기’라는 AI 서비스를 통해 보험사에 손해를 끼칠 수 있는 내용을 홍보합니다. 이 광고에는 크고 화려한 수표와 함께 인플루언서 스타일의 배우들이 등장하며, 최근 구글의 투명성 홈페이지에 공개된 광고들은 수많은 AI생성 앵커와 허위 증언, 때로는 AI로 만든 로봇이나 원숭이까지 등장하는 것으로 나타났습니다. 케이스 커넥트는 구글의 Veo 3 모델을 사용하지만, 어떤 광고 요소가 AI로 만들어졌는지는 밝히지 않고 있습니다. 창립자인 안젤로 페로네는 이 회사를 사고 피해자를 변호사와 연결하는 리드 생성기라고 설명하며, 수수료를 통해 수익을 얻는다고 전합니다. 책임감 있게 광고하려 애쓰며 적절한 면책 조항을 포함한다고 강조하지만, 일부 법률 전문가들은 이러한 전술에 비판의 목소리도 냅니다. 시몬 법률 그룹의 로버트 사이먼 변호사는 특정 케이스 커넥트 광고를 ‘심각하다’고 비판하며, 사기성 광고를 규제하기 위한 상원 법안 37을 지지하고 있습니다. 이 논의는 AI의 도입 이전부터 있었던 문제임을 지적합니다. 미국의 개인 상해법 시장은 610억 달러에 달하며, 로스앤젤레스는 그 중심지입니다. 하임스-밀라드는 케이스 커넥트 같은 리드 생성 업체와 협력하는 변호사들이 오도하는 광고를 접할 경우 책임을 질 가능성도 있다고 경고합니다. 4LegalLeads의 창업자인 빈스 윙거터 역시 AI 남용의 잠재 가능성을 인정하며, 규제의 필요성은 오래전부터 있었지만 오늘날의 기술이 그 문제를 더 심화시키고 있다고 말합니다.