인공지능은 최근 크게 발전하여 소통, 엔터테인먼트, 보안 등의 분야를 변화시키고 있습니다. 하지만 강력한 기술인 만큼, 오용될 경우 심각한 문제를 야기할 수 있습니다. 특히 주목할 만한 우려는 AI 영상 애플리케이션을 악용하는 사기꾼들이 정교한 사기와 가짜 신원 위조를 수행하는 것인데, 이는 사이버 범죄의 진화로서 글로벌 보안 전문가들을 불안하게 하고 있습니다. 최근 사례로는 OpenAI의 Sora iOS 앱이 있으며, 이 앱은 첨단 영상 생성 모델을 이용해 사용자가 매우 사실적인 AI 생성 영상을 쉽게 만들 수 있게 해줍니다. 그러나 혁신임에도 불구하고, Sora에는 논란이 되는 기능이 포함되어 있는데, 바로 AI가 만든 콘텐츠에 내재된 물마크를 제거하는 것입니다. 이 물마크는 인공임을 식별하는 표시로, 이를 없애면 진짜 콘텐츠와 딥페이크를 구별하기 어려워져 사기 위험이 높아집니다. 전문가들은 이러한 도구들이 이미 증가하고 있는 문제를 악화시킬 가능성에 대해 경고하고 있습니다. 신속하게 접근 가능한 AI 영상 생성기가 등장하기 전부터, 위조 사기는 늘어나고 있었으며, 이는 개인과 조직에 큰 손실을 가져왔고 디지털 소통에 대한 신뢰를 약화시켰습니다. 이제 사기꾼들은 첨단 영상과 음성 조작 기술을 활용하여 사람들의 얼굴과 목소리를 정교하게 모방한 딥페이크를 만들어 냅니다. 이러한 위조 영상은 임원, 공무원, 유명인 또는 일반인을 사칭하여 사기, 허위 정보 유포, 신원 도용, 협박 등에 악용될 수 있습니다. 이와 관련해 Meta AI와 같은 플랫폼은 일부 기능을 제한하여, 예를 들어 목소리 클로닝을 피하는 등 사기 위험을 줄이려 노력하고 있습니다. 그럼에도 불구하고 많은 AI 애플리케이션들은 여전히 강력한 목소리 및 얼굴 클로닝 기능을 제공하며, 이로 인해 사기의 규모와 효과가 커지고 있습니다. 이러한 기능은 특히 진짜와 위조 미디어의 경계를 흐리게 하여, 전문적인 도구가 없는 전문가들도 검증하기 어려운 상황을 만들고 있습니다. 보안 업체인 GetReal Security와 Sophos는 AI 기반 사기의 확산과 심각성을 지적하고 있습니다.

그들의 연구에 따르면 AI로 생성된 영상과 음성을 이용한 사기 사례는 계속 증가하고 있으며, 주로 기업과 공인 인사를 목표로 한다고 합니다. 이들은 AI 기술이 빠르게 발전함에 따라, 기존 보안 방법만으로는 한계에 부딪힐 수 있다며, 선제적인 방어책으로 첨단 탐지 알고리즘과 디지털 리터러시 교육 등의 전략이 필요하다고 강조합니다. 흥미롭게도, OpenAI는 자사의 인기 있는 챗GPT가 오히려 사기 탐지에 더 많이 도움을 준다는 점을 지적하며, AI의 이중 역할을 보여줍니다. 즉, AI는 새로운 위협 행위자를 가능하게 하는 동시에, 방어자들이 사기를 식별하는 능력을 향상시키는 역할도 합니다. 그러나 AI에 의한 사기의 확장성과 자동화는 큰 우려 사항으로, 최소한의 노력으로 설득력 있는 딥페이크를 대량 생산할 수 있다는 점이 문제입니다. 만약 이에 대응하는 기술이 뒤처진다면, 사기 사례는 급증할 수밖에 없습니다. 이 상황은 인류가 아직 AI 발전곡선의 초기 단계에 있음을 보여줍니다. 이러한 기술들이 발전함에 따라, 유익한 활용과 악의적 악용 간의 균형을 맞추는 것은 복잡하고 역동적인 과제가 될 것입니다. 개발자, 보안 전문가, 정책 입안자, 그리고 국민 모두의 지속적인 감시와 협력이 필요합니다. 윤리적 개발, 투명한 운영, 견고한 보안 체계 확립이 필수적이며, 이를 통해 해를 최소화하고 AI가 가져올 사회적 이익을 극대화해야 합니다. 요약하자면, OpenAI의 Sora와 같은 애플리케이션은 혁신적인 기술 발전과 함께 심각한 디지털 보안 문제를 보여줍니다. AI 생성 영상 도구들이 더욱 접근하기 쉽고 정교해지면서, 사기와 신원 위조 수단으로 악용되는 사례도 급증하고 있습니다. 이 문제들을 해결하기 위해서는 기술 혁신, 규제 감독, 교육, 그리고 협력 등 다각적인 접근이 필요합니다. 인식을 높이고 대비 태세를 갖추는 것을 통해, 사회는 이 새롭게 떠오르는 사이버보안 환경을 잘 헤쳐 나가며, 점점 더 설득력 있는 AI 기반 사기로부터 개인과 조직을 보호할 수 있을 것입니다.