AI 개발에 대한 우려: 전 오픈AI 연구원 스티븐 애들러가 위험 경고

Brief news summary

스티븐 애들러(Steven Adler), 전 OpenAI 안전 연구원은 인공지능(AI)의 빠른 발전에 대해 깊은 우려를 표명하며 이를 "매우 위험한 도박"이라고 표현합니다. 그는 11월 OpenAI를 떠난 이후 인공지능 일반화(AGI)가 인간의 능력을 초월할 가능성을 강조하며, 이는 가족 계획 및 은퇴와 같은 중요한 영역에서 사회에 중대한 위험을 초래할 수 있다고 경고합니다. 애들러는 인간의 가치에 부합하는 효과적인 AI 시스템의 필요성을 강조하며, AI 발전의 빠른 속도가 이러한 노력을 저해하고 실행 가능한 해결책을 찾을 가능성을 줄이고 있다고 경고합니다. 그의 견해는 감독 없는 AI에 대해 경고하는 제프리 힌턴과 같은 전문가들과 일치하는 반면, 얀 르쿤과 같은 일부는 AI의 잠재적 이점을 인식합니다. 애들러는 기술 산업의 안주를 비판하며, 치명적인 위험을 완화하기 위한 즉각적이고 엄격한 안전 규정과 책임 있는 관행을 촉구합니다. 그는 이러한 문제의 시급성을 강조하며, 특히 중국의 DeepSeek와 같은 글로벌 경쟁자들이 AGI 개발에서 진전을 이루고 있는 상황에서 그 중요성이 더욱 커진다고 언급합니다. 이러한 요인들의 결합은 AI 거버넌스를 위한 선제적 조치를 취해야 할 필요성을 강하게 시사합니다.

전 OpenAI의 안전 연구원이었던 스티븐 아들러는 인공지능의 급속한 발전에 대해 상당한 우려를 표명하며, 이 기술에 대한 업계의 접근 방식이 "매우 위험한 도박"이라고 여겨 "꽤 두렵다"고 말했다. 지난 11월 OpenAI를 떠난 아들러는 인공지능 일반 지능(AGI) 개념을 만들기 위한 기업 간의 경쟁에 대한 걱정을 전했다. AGI는 인간만큼 또는 더 나은 지적 작업을 수행할 수 있는 시스템을 의미한다. 그는 자신의 OpenAI에서의 시간을 “거친 여정”이라고 묘사하며, 그곳에서의 “많은 부분”이 그리울 것이라고 표현했다. 그는 기술 발전의 빠른 속도에 대해 설명하며 인류의 미래에 대한 불확실성을 드러냈다. 아들러는 “요즘 AI 개발의 속도에 꽤 두렵다”고 말했다. 그는 가족 계획과 은퇴와 관련된 개인적인 우려를 반영하며 인류가 그런 이정표에 도달할 수 있을지도 의문을 제기했다. 노벨상 수상자인 제프리 힌튼을 포함한 이 분야의 주요 인물들은 아들러의 우려를 공유하며, 고급 AI 시스템이 인간의 감독을 피할 수 있어 파괴적인 결과를 초래할 수 있다고 우려하고 있다. 반면, 메타의 수석 AI 과학자인 얀 르쿤과 같은 다른 이들은 AI가 인류를 멸종에서 구할 수 있을 것이라며 존재론적 위험을 경시하고 있다. 아들러는 자신의 LinkedIn 프로필에서 OpenAI에서 4년 동안 초기 제품 출시 및 더 장기적인 AI 시스템에 대한 안전 연구를 이끌었다고 밝혔다.

그는 AGI 경쟁에 대해 경고하며, 이 경쟁이 상당한 위험을 초래할 수 있다고 지적했다. 아들러는 현재의 연구실은 AI 정렬 문제—시스템이 인간의 가치를 준수하도록 보장하는 문제—를 해결하지 못하고 있으며, 업계의 모멘텀이 너무 빠를 경우 제때 해결책을 찾는 것이 어려울 수 있다고 경고했다. “우리가 더 빠르게 경주할수록, 아무도 제때 해결책을 찾을 가능성이 더 낮아진다”고 강조했다. 그의 발언은 중국의 DeepSeek가 OpenAI의 기술과 경쟁하는 새로운 모델을 공개하면서 나왔다. 아들러는 업계가 "정말 나쁜 평형 상태"에 갇혀 있다고 비판하며 "실질적인 안전 규제"의 필요성을 절실히 제기했다. 그는 AGI를 책임감 있게 개발하려는 좋은 의도를 가진 연구실조차도 다른 연구실에 의해 빠르게 뒤처질 수 있으며, 이는 재앙적인 결과를 초래할 수 있다고 말했다. 추가 의견을 요청하기 위해 아들러와 OpenAI에 연락을 시도했다.