인터뷰 AI가 기업 전반에 널리 퍼지기 전에, 기업 리더들은 AI 모델의 특수한 미묘한 차이에 맞춘 지속적인 보안 테스트 체계를 약속해야 한다. 이 관점은 Chatterbox Labs의 CEO인 대니 콜먼과 CTO인 스튜어트 배터스비가 The Register와 긴 대화를 나누며, 지금까지 기업들이 AI 파일럿 프로그램에서 본격적인 생산 배포로 전환하는 데 느린 이유에 대해 논의하면서 나온 것이다. "현재 기업 도입률은 약 10퍼센트에 불과하다"고 콜먼은 말했다. "맥킨지는 이 시장이 4조 달러에 달한다고 추정한다. 사람들 몰래 안전하지 않다고 알려진 솔루션을 계속 출시하거나, 기업에 미치는 영향뿐만 아니라 사회적 영향도 인식하지 못하는 상태에서 어떻게 발전할 수 있겠는가?" 그는 덧붙였다, "기업 내부의 사람들은 적절한 거버넌스와 보안 없이는 이 기술에 대해 준비가 되어 있지 않다. " 1월, 컨설팅 회사인 맥킨지는 직장에서 인공 지능(AI)의 잠재력을 탐구하는 보고서를 발표했다. 이 보고서, "직장에서의 슈퍼에이전시: AI의 잠재력을 끌어내는 사람들에게 힘을 실어주기"라는 제목은 AI 기술에 대한 관심과 투자가 증가하고 있음을 강조했지만, 채택 속도는 여전히 느리다고 지적했다. ". . . 해야 할 일은 모델 벤더나 가드레일 벤더의 허위 광고를 믿지 않는 것이다. 왜냐하면 모두가 그것이 매우 안전하고 보안이 잘 되어 있다고 주장할 것이기 때문이다. " "리더들은 AI 투자를 늘리고 개발 속도를 높이길 원하지만, 어떻게 하면 AI가 안전하게 작동하는지 보장하는지에 대해 고심하고 있다"고 맥킨지 보고서는 밝히고 있다. 콜먼은 전통적인 사이버보안과 AI 보안은 교차하는 영역이지만, 대부분의 정보보호팀이 아직 따라잡지 못했고, AI의 고유한 공격 표면을 이해할 전문 지식이 부족한 경우가 많다고 주장했다. 그는 Cisco의 Robust Intelligence 인수와 Palo Alto Networks의 Protect AI 구매를 적절한 전략 채택의 예로 들었다. 배터스비는 규모에 맞게 AI를 배포하려는 조직은 실제 AI 서비스의 성능에 기반한 지속적인 테스트 체계를 도입해야 한다고 강조했다. "첫 단계는 특정 사용 사례에 대해 안전하고 보안이 된다는 의미를 정의하는 것"이라고 그는 설명했다.

"그다음에는 모델 제공자나 가드레일 벤더의 주장만을 의존하지 말아야 한다. 모두가 자신의 솔루션이 매우 안전하다고 주장하기 때문이다. " 이 점을 신중히 고려하는 것이 중요하다고 배터스비는 강조했는데, 허가된 사용자라고 하더라도 AI 시스템을 해롭게 작동시키는 일이 발생할 수 있기 때문이다. 콜먼은 "우리가 전달하고 싶은 메시지는 콘텐츠 안전 필터와 가드레일만으로는 충분하지 않다는 것"이라고 말했다. "이것은 근본적으로 변하지 않을 것이다. 해결책은 훨씬 더 다층적이어야 한다. " 이 방식을 채택하면 비용이 들 수 있지만, 배터스비는 지속적인 테스트가 비용 절감에 기여할 수 있다고 주장했다. 예를 들어, 더 작고 비용이 적게 드는 모델이 특정 용도에서 여전히 안전하다는 것을 입증하는 것과 같다. 전체 인터뷰는 아래에서 계속된다…