버밍엄, 알라바마의 연방 판사는 최근 윌리엄 E. 도널드슨 교도소에서 수감자의 안전과 관련된 고위험 사건에 관한 법원 서류에서 다섯 건의 허위 인용이 발견된 이후, 유명 로펌인 버틀러 스노우(Bulter Snow)에 대해 제재 조치를 할지 검토 중입니다. 해당 수감자는 여러 차례 칼에 찔린 적이 있으며, 이 사건은 법률 연구에 인공지능(AI)을 사용하는 것이 초래할 수 있는 신뢰성 문제로 전국적인 관심을 받고 있습니다. 이 사건을 담당하는 미국 연방 판사 안나 마나스코(Anna Manasco)는 허위 인용이 AI가 만들어낸 ‘환각(hallucination)’으로, ChatGPT와 같은 AI 도구가 만들어낸 허구의 참고자료임을 밝혔습니다. 이러한 부정확한 인용은 버틀러 스노우가 피고인 수감자 보호 실패 혐의로 고소당한 교도소 관계자들을 상대로 하는 두 건의 법적 서류에 모두 포함되어 있었습니다. 공식 법원 문서 내에 이러한 오류가 존재한다는 사실은, 법률 연구의 신뢰성 문제와 중요한 법적 맥락에서 AI 의존의 잠재적 위험성을 부각시키고 있습니다. 이 문제가 드러난 것은 법원 검토를 통해 다섯 건의 인용 사례가 법적 주장을 뒷받침하지 못한다는 사실이 밝혀진 후이며, 추가 조사 결과 이 인용들이 ChatGPT 생성임이 확인되었습니다. 버틀러 스노우는 인용 자료를 서류에 포함하기 전에 별도로 검증하지 않은 점을 인정했습니다. 이 사건에 관여한 버틀러 스노우의 파트너 맷 리우스(Matt Reeves)는, 연구 속도를 높이기 위해 ChatGPT를 사용했지만 정보를 교차 검증하는 과정을 거치지 않은 책임을 인정하며, “저는 이 실수에 대해 전적인 책임을 집니다. 이는 우리 표준 검증 절차상의 실패입니다. ”라고 말했습니다. 또, 부서장인 빌 런스포드(Bill Lunsford)를 비롯한 네 명의 변호사가 서류에 서명했으며, Lunsford는 간단히 검토하는 수준이었음을 인정하며 감독 소홀을 시인했습니다. 알라바마 정부로부터 수백만 달러를 받으며 오랜 기간 교도소 소송을 담당해온 버틀러 스노우는, 이번 사건이 수감자 복지와 정의 실현에 직결된 사안이고, 이에 대한 책임감이 높아지면서 더욱 엄격한 검증의 필요성이 제기되고 있습니다.

회사는 이번 실수에 대해 깊은 당혹감을 표하며, 엄격한 법적 기준 준수와 재발 방지책을 강화하겠다는 방침을 밝혔습니다. 마나스코 판사는 버틀러 스노우가 10일 이내에 답변을 제출하도록 하였으며, 이는 법적 신뢰를 유지하고 향후 misconduct(위법 행위)를 예방하기 위한 제재 조치(벌금 또는 기타 제재)를 논의하기 위한 조치입니다. 이 사건은 AI가 법률 분야에서 생성하는 부정확하거나 허구의 콘텐츠의 위험성에 대한 우려가 커지고 있다는 점을 보여줍니다. 이번 사건은 AI가 제작한 자료가 연방 법원 문서에 영향을 미친 첫 사례 중 하나로, 전국 법조계에 경각심을 불러일으키며 AI의 역할에 대한 논의를 촉진시키고 있습니다. 점점 더 다양한 산업에서 AI가 활용됨에 따라, 법률 전문가들은 윤리 준수, 정확성 확보, 자동화 위험 관리에 대한 긴급한 대응책 마련이 요구되고 있습니다. 이 사례는 AI 보조 연구에서 인간의 감독이 얼마나 중요한지를 다시 한 번 상기시키는 계기입니다. AI가 효율성을 높일 수 있지만, 변호사가 제공하는 신중한 판단, 전문성, 검증 과정을 대체할 수 없음을 보여줍니다. 버틀러 스노우의 실수는, 적절한 검증 없이 성숙한 로펌도 기술의 위험에 취약할 수 있음을 보여주는 사례입니다. 법률 전문가들은 이번 사건을 계기로 AI의 법률 분야 내 역할을 재평가할 필요성을 강조하며, 법원들은 AI 관련 도전 과제에 대한 명확한 가이드라인과 직업적 기준을 개발할 것으로 기대됩니다. 동시에 변호사들은 AI가 생성한 데이터를 법정에서 신뢰하기 전에 철저히 검증하는 습관을 갖추어야 한다고 조언받고 있습니다. 이 사건은 이해관계자뿐 아니라, 사회 전반과 사법 제도 내에서 신뢰와 책임, 그리고 기술과 법의 상호작용에 대한 광범위한 논의를 촉진하고 있습니다. 마나스코 판사의 조치와 버틀러 스노우에 대한 제재 여부는, 법률 연구와 소송 과정에서 AI의 영향력을 규제하는 선례를 남길 수도 있습니다. 법조계가 이 사건의 전개를 주시하는 가운데, 이번 사례는 정확성과 신뢰성이 법적 업무의 기본임을 강하게 일깨우며, 새로운 기술을 사법 체계에 통합하는 과정에서 직면하는 도전 과제 역시 보여주고 있습니다. 요약하자면, 버틀러 스노우가 민감한 교도소 안전 소송에서 무심코 잘못된 AI 생성 인용을 사용한 사건은 AI가 법률 분야에서 가지는 역할에 대한 중요한 문제를 부각시켰으며, 이를 바로잡기 위한 사법적 대응이 이루어지고 있습니다. 이번 사건은 AI와 법의 관계, 그리고 이러한 도구를 활용하는 법률 전문가들의 책임에 대한 지속적인 논의의 중요한 전환점이 되고 있습니다.