수년 동안 메타의 평가팀은 인스타그램, WhatsApp, Facebook에서 새로운 기능이 출시될 때마다 잠재적 위험 요소를 평가했으며, 사용자 프라이버시 위협, 미성년자에 대한 피해, 오해의 소지가 있거나 유해한 콘텐츠의 확산과 같은 문제들을 검토했습니다. 이러한 프라이버시와 무결성 검토는 주로 인간 평가자들이 수행했었습니다. 그러나 NPR이 입수한 내부 문서에 따르면, 메타는 곧 이러한 위험 평가의 최대 90%를 자동화할 계획이라고 밝혔습니다. 이는 중요한 알고리즘 업데이트, 새로운 안전 기능 및 콘텐츠 공유 방식 변경이 대부분 AI 시스템에 의해 승인되며, 예상하지 못한 부작용이나 오용 가능성을 고려하는 기존의 직원 검토 없이 이루어진다는 의미입니다. 메타 내부에서는 이 변화가 제품 개발자들에게 유리하게 작용하여 업데이트와 기능 출시를 더 빠르게 할 수 있다고 평가되고 있지만, 현재 및 전직 임직원들은 이 자동화로 인해 위험 판단이 불충분하게 이루어질 수 있으며, 이는 실제 세계에 해를 끼칠 가능성을 높인다고 우려하고 있습니다. 전 메타 임원은 빠른 출시에 대한 검토 강화가 덜 이루어지면서 부정적인 결과가 발생할 가능성이 높아질 수 있다고 지적했으며, 문제가 사전에 잡히지 않을 위험이 있다고 걱정했습니다. 메타는 사용자 프라이버시 보호를 위해 수십억 달러를 투자했으며, 새로운 위험 평가 방식의 변경은 결정을 신속하게 내리면서도, 인간의 전문성을 유지해 새로운 사안이나 복잡한 문제에 대응하려는 것이라고 밝혔습니다. 회사는 “낮은 위험” 판단에 대해서만 자동화를 적용한다고 주장하지만, 내부 문서들은 AI 안전, 청소년 위험, 전체 플랫폼 무결성과 같은 민감한 분야에서도 자동화가 확대될 가능성을 시사하고 있습니다. 이는 폭력 콘텐츠와 허위 정보를 포함하는 플랫폼의 무결성 문제도 포함됩니다. 새로운 프로세스는 제품 팀이 설문지를 작성하면 AI로부터 즉각적인 “즉시 결정”이 내려지며, 위험성과 완화 조치가 설명됩니다. 이전에는 위험 평가자가 제품 업데이트 승인 전에 검토했지만, 이제 엔지니어들이 특별히 요청하지 않는 한 대부분 스스로 위험을 평가하며, 이로써 제품팀과 엔지니어에게 판단권이 부여됩니다. 이는 프라이버시 전문가가 아닌 엔지니어들이 판단하는 것을 의미하며, 평가의 질에 대한 우려도 제기되고 있습니다.

전 책임 이노베이션 책임자인 즈비카 크리에거는, 제품팀이 빠른 출시와 속도에 초점을 맞추기 때문에 안전성은 뒷전일 수 있으며, 자가평가는 단순히 체크박스를 다는 수준으로 그칠 위험이 있다고 경고했습니다. 그는 자동화의 여지는 있다고 인정하면서도, AI에 지나치게 의존하면 검토 품질이 떨어질 수 있다고 주의를 당부했습니다. 메타는 이러한 우려를 일축하며, AI 결정에 대해 별도의 검증 작업을 진행하고 있다고 설명했습니다. 유럽에서는 디지털 서비스법(DSA) 등 엄격한 규제의 적용을 받으며, 아일랜드 본사에서 인간 검토를 유지하고 있다고 밝혔습니다. 일부 변화는 메타가 사실 확인 프로그램을 종료하고 혐오 발언 정책을 완화하는 시점과 맞물려 있어, 플랫폼 오용 방지를 위한 오랜 규제 장치들이 완화되고 있음을 시사합니다. 이러한 방향성은 CEO 마크 저커버그가 전 대통령 트럼프와 같은 정치권 인사들과의 협력을 강화하며, 트럼프의 선거를 “문화적 기점”으로 묘사했던 발언과도 연결됩니다. 자동화 추진은 또한, 경쟁사인 TikTok, OpenAI 등과 경쟁하는 가운데 AI를 활용하여 운영 속도를 높이기 위한 메타의 장기 전략과 맞물려 있습니다. 최근에는 AI 언어 모델을 이용한 콘텐츠 검열 강화를 통해, 일부 정책 분야에서는 인간보다 더 뛰어난 성능을 내는 AI를 활용하고 있어, 인간 평가자는 더 복잡한 사례에 집중할 수 있게 하고 있습니다. 전 페이스북 공공 정책 담당인 케이티 하바스는 AI를 활용해 속도와 효율성을 높이는 것에 찬성하는 입장이나, 인간 검증의 필요성을 강조했습니다. 반면, 또 다른 전 메타 직원은 위험 평가를 빠르게 진행하는 것이 현명한지 의문을 제기하며, 새로운 제품은 강하게 검증돼야 하는데, 종종 간과된 문제들이 드러나곤 한다고 지적했습니다. 메타의 제품 책임 최고 책임자인 미셸 프로티는 이번 변화가 제품팀에게 권한을 부여하고, 위험 관리 과정을 단순화시키며 진화하는 방향이라고 설명했습니다. 자동화는 2024년 4월과 5월에 걸쳐 빠르게 확산되고 있으며, 일부 내부 인사들은 이러한 평가 방식의 변화를 비판하며, 인간의 개입 없는 위험 평가가 잠재적 피해에 대한 중요한 인간적 시각을 저해하고, 이 방침이 “무책임하다”고 비판하고 있습니다. 요약하자면, 메타는 인간 중심의 위험 평가에서 벗어나 점차 AI 중심의 평가 체계로 전환하며, 혁신 속도를 높이려 하고 있습니다. 하지만 이 과정에서 내부에서는 검증의 부족, 잠재적 유해, AI가 복잡한 윤리적·안전 문제를 충분히 처리하기 어려울 것이라는 우려가 커지고 있습니다.