18개월도 채 되지 않아, 앨라배마 버밍엄 근처 윌리엄 E. 도널드슨 감옥에 수감 중인 프랭키 존슨은 약 20번 정도 찔림을 당했다고 보고했습니다. 2019년 12월, 그는 수용소 내 거주 구역에서 적어도 9번 이상 찔렸으며, 2020년 3월, 그룹 치료 후 감시원이 데스크에 수갑을 채운 상태에서 다른 수감자가 그를 다섯 번 찔렀습니다. 그 해 늦은 11월에는 수갑을 채우고 감옥 마당으로 호송되던 중 또 다른 수감자가 얼음 송곳으로 공격하여 5~6차례 찔림 상처를 입었는데, 두 명의 교도관이 지켜보는 가운데 일어난 일이었습니다. 존슨은 한 교도관이 이전 분쟁에 대한 보복으로 공격을 부추겼다고 주장했습니다. 2021년, 존슨은 보호 조치 실패, 만연한 폭력, 인력 부족, 과밀수용, 그리고 체계적 부패를 이유로 앨라배마 교도소 관계자들을 상대로 소송을 제기했습니다. 이 사건을 방어하기 위해, 앨라배마 검찰청은 주가 수백만 달러를 지급하는 유명 법률회사 버틀러 스노우(Butler Snow)를 고용했고, 특히 헌법 및 시민권 부문 책임자인 윌리엄 런스포드에게 맡겼습니다. 그러나 이후, 이 기관은 존슨 사건을 담당하는 연방 판사가 제재를 가하는 상황에 직면하게 되었는데, 이는 담당 변호사 매튜 리브스가 인공지능(AI)을 이용해 존재하지 않는 사례를 인용하는 등의 실수 때문이었습니다. 이 사건은 법률가들이 인공지능이 생성한 허위 정보를 법적 문서에 포함시켜 처벌받는 사례가 증가하는 추세의 일환입니다. 글로벌 데이터베이스는 법정 문서 내의 ‘AI 환각’ 사례가 106건에 달한다는 보고를 했으며, 지난해 플로리다에서는 허위 AI 사례를 인용한 것만으로 1년 동안 변호사 자격 정지 처분을 받았고, 최근 캘리포니아에서는 연방 판사가 허위 AI 연구 사례를 포함한 법률 문서에 대해 3만 달러가 넘는 벌금을 부과한 바 있습니다. 버틀러 스노우의 재판에서는, 미 디샌드 재판관 안나 마나스코가 리브스가 증언 및 증거 신청 관련 문서에서 허위 인용을 위해 ChatGPT를 사용한 점을 문제로 삼아, 벌금이나 필수 전문 교육 이수, 라이선스 위원회에의 추천, 일시 정지 등 다양한 제재를 검토 중이라고 밝혔습니다.

마나스코는 이 사건에서 이전에 있었던 제재들이 부족했다고 평가하며, 이번 사건이 ‘그것이 충분치 않다는 강력한 증거’라고 언급했습니다. 버틀러 스노우 측은 이러한 사실을 인정하며, 법률 연구를 위해 AI를 활용하기 전에 승인을 받아야 하는 내부 정책을 준수했다고 설명했고, 리브스는 책임을 인정하면서도 방금의 실수에 대해 후회하며, 동료들이 처벌받지 않기를 요청했습니다. 이 회사는 앨라배마 교정부의 전임 위원장 제퍼슨 던(Jefferson Dunn)을 변호하기 위해 주의 계약하에 고용되어 있으며, 런스포드는 다른 허위 인용 사례들을 검토하기 시작했다고 했지만, 아직 전체 대응은 끝나지 않은 상태입니다. 마나스코는 버틀러 스노우가 문제 해결 방안을 설명하는 서류를 제출할 기간을 10일 부여한 후, 제재를 최종 결정할 예정입니다. 이 허위 AI 인용 사례들은 일정 조정 문제 속에서 드러났는데, 버틀러 스노우는 구금 중인 존슨의 증언 채택을 위해 소환하려 했지만, 존슨 측은 사전 자료가 미비하다고 반대했고, 이에 따라 강제 소환의 근거가 되는 신속 증언 요청서에서도 네 개의 허위 항소 사례를 인용했으나, 모두 조작된 것임이 드러났습니다. 일부 사례는 실제 인용문과 비슷했지만 관련이 없거나, 역사적 맥락이 완전히 다른 경우였으며, 예를 들어, 2021년의 켈리 대 버밍엄 사건이 실제로는 1939년의 과속 딱지 사건이었습니다. 존슨의 법률대리인들은 버틀러 스노우가 ‘생성적 인공지능’을 활용해 허위 인용을 만들어냈다는 혐의로 고발했고, 이전의 증거 신청서에서도 또 다른 허위 인용이 발견됐음을 밝혔습니다. 마나스코는 이 사안의 심각성을 인지하고, 독립적 검색을 통해 인용된 사례들이 실제 존재하지 않음을 확인했으며, 리브스는 망설임 없이 ChatGPT를 급하게 사용해 인용문들을 검색했지만, Westlaw나 Pacer의 공식 자료를 직접 검증하지 않았다고 깊은 유감을 표현했습니다. 파리에 본사를 둔 법률 연구원 다미엥 샬로틴은 최근 허위 AI 콘텐츠를 포함한 제출 건들이 늘고 있다고 관찰하며, 법원들은 엄격한 처벌보다 책임 회피하는 변호사에 대해 큰 벌금이나 자격 정지와 같은 강경 조치를 주로 유예했다고 말했고, 결국 더 엄격한 단속이 이루어질 것이라고 전망했습니다. 존슨 사건 외에도, 런스포드와 버틀러 스노우는 앨라배마 교도소 부서에 대한 여러 중요한 시민권 소송에 계약을 맺고 있는데, 그중 하나는 2020년 트럼프 행정부 시기 미국 법무부가 제기한 것으로, 잔인하고 이상한 처벌 금지조항인 제8차 개헌을 위반하는 체계적 문제를 지적하는 사건이었습니다. 이 사건 하나만 해도, 2년에 걸쳐 거의 1500만 달러의 계약금을 받았습니다. 일부 앨라배마 주 의원들은 버틀러 스노우에게 지불된 막대한 금액에 의문을 제기했지만, 최근의 실수는 검찰총장의 신뢰를 흔들지 않았습니다. 청문회에서, 검찰청 측 변호사는 버틀러 스노우와 계속 협력할 것인지 묻는 질문에, 런스포드가 여전히 ‘선호하는 변호인’임을 확인했습니다.