케빈 만디아는 유명한 사이버보안 회사 만디언트(Mandiant)의 창립자로, 미래의 사이버 위협에 대해 심각한 경고를 발령했습니다. 그는 AI 기반 사이버 공격이 내년 안에 현실적인 위협이 될 수 있다고 예측했습니다. 만디아는 이러한 공격들이 사이버보안 전문가들에게 큰 도전이 될 것이라고 설명했는데, 공격자들이 AI 도구를 활용하여 정교한 침입을 시도할 수 있기 때문이며, 이러한 공격은 탐지하거나 추적하는 데 거의 어려움이 없다는 점이 문제라고 지적했습니다. AI를 활용한 사이버 위협 개념은 수년간 보안 커뮤니티의 우려를 낳았으며, 특히 생성형 AI 기술의 급속한 발전과 광범위한 채택이 이러한 걱정을 더욱 심화시키고 있습니다. 생성형 AI 시스템은 텍스트, 이미지, 복잡한 스크립트 등 독창적인 콘텐츠를 만들어낼 수 있는데, 이는 보다 유연하고 적응력 높은 사이버 공격에 악용될 가능성을 높입니다. 만디아는 이런 AI 기반 사이버 공격의 가장 가능성 높은 출처가 국가보다 범죄 조직일 것이라고 강조합니다. 이는 중요한 차이점으로, 범죄 그룹들은 주로 금전적 이익을 위해 새 기술을 빠르게 채택하는 반면, 국가들은 주로 전략적 또는 정치적 목표를 가지고 있기 때문입니다. 흥미롭게도 만디아는 OpenAI와 Anthropic와 같은 기업의 주요 AI 모델들이 내장된 안전장치와 제한조치 덕분에 악의적 목적으로 바로 악용될 가능성은 낮다고 지적했습니다. 그러나 아직도 위협적 요소는 존재하는데, 규제가 적거나 오픈소스 AI 도구들이 존재하기 때문에 위협 행위자들이 이를 악용할 수도 있기 때문입니다. 이 견해를 지지하는 보안 전문가인 코드러 크레스터 위스니에스키(Sophos 소속)는 지금까지 공격자들이 이미 AI를 활용하는 기술적 수단을 갖추었지만, 아직 그것을 사용할 유인(인센티브)은 제한적이라고 동의합니다.

이러한 주저함은 기존 공격 방법에 AI를 통합하는 데 따른 어려움과, 범죄자들이 이러한 첨단 기술을 활용하는 데 필요한 전문 지식이 부족하기 때문이라고 분석합니다. 기술 발전이 사이버 범죄에 어떤 영향을 미치는지 보여주는 사례로 만디아는 2001년에 러시아 해커들이 온라인 사기 수법을 자동화하여 범죄 활동의 범위와 효율성을 크게 높인 사건을 언급했습니다. 이 사례는 역사적으로 사이버 범죄자들이 새로운 기술을 활용하여 운영을 강화해 왔음을 보여주며, AI도 유사한 방식으로 발전할 가능성을 시사합니다. 이러한 위협 속에서도, 보안 전문가들은 AI가 방어 강화를 위해 활용될 잠재력에 대해 다소 조심스러운 낙관론을 표명하고 있습니다. 공격에 무기화될 수 있는 같은 AI 기술들은 위협 탐지, 대응 자동화, 네트워크 인프라 강화를 위해서도 사용되고 있습니다. AI의 빠른 데이터 분석과 이상 징후 감지 능력은 공격 예측과 피해 최소화에 유용한 돌파구가 될 것으로 기대됩니다. 결론적으로, 사이버보안 분야는 AI가 심각한 위협이자 강력한 자산으로 공존하는 중요한 기로에 서 있습니다. 케빈 만디아와 같은 지도자들의 경고는 조직과 정부에게 AI 기반 보안 솔루션에 적극 투자하고, 점차 정교해지는 사이버 위협에 대비하는 긴급한 촉구입니다. AI가 계속 발전하는 만큼, 그 오용을 방지하기 위한 전략도 함께 진화해야 하며, 모두가 더 안전한 디지털 환경을 만들어 나가야 할 것입니다.