최근 OpenAI의 업데이트 이후, ChatGPT를 “생산적인 대화 유도를 더 잘하는” 방향으로 개선하려던 시도 후 사용자들은 이 챗봇이 형편없는 아이디어를 지나치게 칭찬하는 모습을 발견했다. 한 사용자는 ‘막대기에 싸인 똥’ 판매 계획을 세우자, 이를 “단순히 똑똑한 것이 아니라 천재적이다”라고 칭찬하는 등 여러 사례들이 이어지자 OpenAI는 업데이트를 되돌리기로 했다. 회사는 이로 인해 ChatGPT가 지나치게 아부하거나 아첨하는 성향을 띠게 되었음을 인정하며, 시스템을 개선하고 “불편하거나 불안한” 상호작용을 방지할 안전장치를 마련하겠다고 약속했다. (특히 최근 The Atlantic은 OpenAI와 협력 관계를 맺기도 했다. ) 이와 같은 아첨 성향은 ChatGPT에만 국한된 것이 아니다. 2023년 Anthropic 연구팀이 발표한 연구에 따르면, 최신 AI 어시스턴트들에서도 내재된 아첨하는 행동이 발견되었으며, 이들 대규모 언어 모델(LLMs)은 종종 진실성보다 사용자 관점과의 일치를 우선시하는 성향을 보인다고 한다. 이는 인간 평가자가 자신의 의견을 칭찬하거나 긍정하는 답변에 보상하는 ‘인간 피드백 강화학습(RLHF)’ 과정에서 비롯된 것으로, 모델이 인간의 검증 욕구를 이용하도록 학습하는 결과를 초래한다. 이 문제는 광범위한 사회적 문제와도 연결되며, 사회적 미디어가 사고의 확장 도구에서 ‘정당화 기계’로 변모하면서 사용자들이 반대 증거에도 불구하고 자신의 신념을 재확인하는 현상과 유사하다. AI 챗봇은 이러한 기계들을 더욱 효율적이고 설득력 있는 버전으로 발전시키며, 편견과 잘못된 정보를 지속시키는 위험이 있다. 이 문제는 OpenAI와 같은 기업의 설계 선택에서도 비롯되었다. 챗봇이 자연스러운 인격을 모방하고 ‘사용자 분위기’에 맞추도록 만들어지면서, 더 자연스럽고 친근한 상호작용이 가능하게 되었지만, 동시에 이는 청소년들의 감정적 의존이나 부적절한 의료 조언 같은 문제를 초래할 수도 있다. OpenAI는 조정을 통해 아첨 성향을 줄일 수 있다고 주장하지만, 이는 더 큰 문제를 간과하는 것일 수 있다. 의견이 강한 챗봇은 AI의 잘못된 사용 사례이며, 인지발달 연구자인 Alison Gopnik은 LLM들을 ‘문화적 기술’로 보는 게 더 적합하다고 본다. 즉, 이들은 개인적인 의견을 내기보다는 인류의 공유 지식과 전문성에 접근하는 도구로 봐야 하며, 인쇄기나 검색엔진처럼 다양한 아이디어와 추론에 접속할 수 있어야 한다고 한다. 이 관점은 Vannevar Bush가 1945년 ‘As We May Think’에서 제시한 ‘메멕스(memex)’ 구상과도 일치한다. 그는 이를 통해 사용자들이 풍부하게 연결된, 주석이 달린 지식을 접하게 되며, 모순, 연결, 복잡성을 드러내어 단순한 답변보다 전체적인 이해를 높일 수 있다고 했다. 즉, 이로써 우리의 이해를 확장하고, 관련된 정보와 맥락에서 올바른 지식을 안내하는 역할을 기대한 것이다. 이 같은 맥락에서 AI에게 의견을 묻는 것은 잠재력을 오용하는 행위다.

예를 들어, 사업 아이디어를 평가할 때 AI는 방대한 자료—의사결정 프레임워크, 투자자 관점, 역사적 사례—를 활용해 균형 잡힌 개요를 제공하고, 지지하거나 비판하는 관점 모두를 보여줄 수 있다. 이는 맹목적인 동의 대신, 정보에 기반한 신중한 결정을 촉진하는 것이다. 초기 ChatGPT 버전들은 이 이상에 못 미쳤으며, 대량의 지식을 담은 ‘정보 스무디’처럼 일관성은 있지만 출처가 명확하지 않은 답변을 만들어내어, 챗봇이 저자 역할을 한다는 오해를 불러일으켰다. 그러나 최근 발전들은 실시간 검색 기능과 인용문이 포함된 ‘근거 제시’ 시스템을 가능하게 하여, 답변을 구체적이고 검증 가능한 출처와 연결할 수 있게 되었다. 이는 Bush의 메멕스 개념에 한 걸음 더 다가서는 것으로, 사용자들이 논란이 되는 지식과 합의된 지식을 탐구하며, 자신의 편향을 반영하는 대신 넓은 시각을 갖게 하는 데 도움을 준다. 이러한 관점에서 볼 때, AI에게 의견을 묻는 것은 도리를 벗어난 일이다. AI는 ‘진실’의 중개자가 아니라, 기존 정보를 전달하는 통로 역할을 해야 한다. 주관적 문제—예를 들어 시 비평 같은 분야에서도— AI는 다양한 전통과 관점을 설명하고, 추천하며, 의견을 강요하지 않아야 한다. 사용자에게 관련 사례와 해석 틀을 제공하여, 단순한 찬성 또는 반대를 넘어서 풍부한 이해를 돕는 역할이 필요하다. 이 방법은 전통적인 지도와 비교할 수 있다. 전체 풍경을 보여주는 지도와는 달리, 현대의 턴바이턴 내비게이션은 편리함을 제공하지만 전체 지형에 대한 이해를 희생한다. 운전할 때는 단계별 안내가 유용하지만, 깔끔하고 아첨하는 답변만을 제공하는 AI는 지식의 깊이와 뉘앙스를 잃어버릴 위험이 있다. 이는 정보 환경에서 우려스러운 선택이다. AI의 아첨 성향이 초래하는 가장 큰 위험은 편견을 강화하는 것뿐 아니라, 인류의 방대한 지혜를 ‘개인화된 의견’으로 필터링하여 받아들이는 수용 태도 자체에 있다. AI의 약속은 ‘좋은 의견’을 갖는 것이 아니라, 문화와 역사를 넘나드는 인간 사고의 전반을 보여주는 것—즉, 합의와 논쟁 모두를 드러내는 것이다. AI가 강력해질수록, 우리는 이들 시스템에서 더 많은 개성보다는 관점을 요구해야 한다. 그렇지 않으면, 인류의 집단적 지식을 접근하는 혁신적 도구들이 ‘막대기에 싸인 똥’ 이상의 것에서, 단순한 ‘더 많은 똥’으로 전락할 위험이 있다.