요슈아 벤지오, 세계적으로 유명한 머신러닝 전문가인 그는 최근 더욱 안전한 인공지능(AI) 시스템 개발을 목표로 하는 비영리 연구소인 LawZero를 공개하였습니다. 이 연구소는 3000만 달러의 자금 지원을 받으며, 현재 AI 개발이 주로 인간 행동을 모방하는 시스템을 만드는 데 집중되어 있다는 기존 흐름에 도전하고 방향을 전환하려 하고 있습니다. 벤지오는 오랫동안 현재 AI 기술이 제기하는 위험성에 대해 비판적 입장을 취해 왔으며, 인간과 유사하게 상호작용하고 모방하는 AI 설계 방식을 문제 삼고 있습니다. 그는 인간을 흉내 내는 AI를 만드는 것은 근본적으로 잘못된 접근법이며, 예기치 못한 위험으로 이어질 수 있다고 주장합니다. 대신 그는 AI에 지적 자율성을 부여하는 방향으로 전환할 것을 제안하며, 이러한 시스템이 인간과 비슷한 동료가 아니라 과학적 관찰자로서 역할을 수행하도록 구상하고 있습니다. 이러한 관점은 인간 특성을 강조하는 AI가 의도치 않게 인간 안전에 위협이 되는 행동을 발전시킬 가능성에 대한 우려에서 비롯되었습니다. 예를 들어, 그러한 시스템이 생존 본능을 발전시켜 인간 복지와 상충하는 전략을 세우거나 행동할 수 있다는 점입니다. 벤지오는 AI 설계에 어느 정도 분리 능력을 내장하여 이러한 위험을 완화하고, AI가 제어 가능하며 인간의 가치와 일치하도록 유지하는 것이 중요하다고 강조합니다.

이는 AI가 독립적인 자기 이익을 추구하지 않도록 하는 데 목적이 있습니다. LawZero의 출범은 특히 시기적절하며, 첨단 AI 특히 인공 일반 지능(AGI)의 급속한 발전에 대한 세계적 불안감이 높아지고 있는 때와 맞물려 있습니다. 많은 전문가들은 현재의 강력한 AI 시스템 개발 경쟁이 중요한 안전 문제들을 간과하고 있으며, 이로 인해 잠재적으로 광범위한 영향을 미칠 수 있는 취약점이 만들어지고 있다고 경고하고 있습니다. 벤지오의 핵심 주장은 AI 모델의 기본 학습 방법을 근본적으로 재평가해야 한다는 점입니다. 기존의 인간의 인지와 행동을 모방하도록 하는 프레임워크 대신, LawZero는 AI의 지적 독립성과 책임 있는 작동을 촉진하는 대체 방안을 탐구하는 데 주력할 계획입니다. 이 자금은 약 18개월 동안 LawZero의 연구 및 개발 활동을 지원하는 데 사용될 예정입니다. 이 기간 동안 연구소는 AI 안전성에 대한 혁신적 전략을 모색하고, 머신러닝, 윤리학 및 유관 분야 전문가 간의 협력을 촉진할 것입니다. 벤지오의 이니셔티브는 AI 연구 커뮤니티 내에서 혁신과 안전의 균형 필요성에 대한 인식이 점점 커지고 있음을 보여줍니다. 인간과 유사한 행동에서 어느 정도 독립성을 갖춘 AI 시스템을 촉진함으로써, LawZero는 안전성과 윤리적 고려를 기초로 하는 새로운 AI 개발 길을 열고자 합니다. AI 기술이 사회 전반에 점점 더 깊이 통합됨에 따라, LawZero의 연구 결과는 AI 시스템이 인간의 진보에 긍정적으로 기여할 수 있도록 하면서도 예기치 못한 위험을 피하는 데 중요한 발걸음이 될 수 있습니다. 이 연구소의 성과는 미래의 AI 설계 원칙, 규제 정책, 그리고 대중의 인식에 영향을 미칠 것으로 기대됩니다. LawZero의 출범을 통해 요슈아 벤지오는 AI 공동체가 떠오르는 기술과 관련된 위험을 예측하고 관리하는 지속적인 책임이 있음을 다시 한번 강조합니다. 이 이니셔티브는 연구자들, 자금 지원자들, 정책 입안자들에게 안전성과 윤리적 책임을 중시하는 접근 방식을 발전시키며 기술 혁신과 함께 나아가야 함을 촉구하는 계기가 되고 있습니다.