판결문에 AI 돌렸다가 '환각 오류' 터져서 사건 뺏긴 미국 판사 레전드

요약 미국 연방 제5순회 항소법원이 판결문 작성에 인공지능(AI)을 무분별하게 활용해 환각(hallucination) 오류투성이 결정을 내린 하급심 판사로부터 해당 사건을 전격 박탈하고 다른 판사에게 재배당했습니다. 문제의 사건은 미국 미시시피주의 '반(反) DEI(다양성·형평성·포용성)' 법안에 대해 제기된 수정헌법 제1조(표현의 자유) 위반 소송이었습니다. 담당 연방 지법 판사는 해당 법안의 시행을 잠정 차단하는 2건의 임시명령(TRO)과 예비적 가처분 결정을 내렸는데, 이 결정문들에 AI가 날조한 엉터리 판례와 법적 사실 오류가 대거 포함되어 논란이 불거졌습니다. 항소법원의 제리 스미스(Jerry Smith) 판사는 판결문을 통해 "두 건의 임시명령과 예비적 가처분에서 드러난 AI 환각 증상과 법률적 오류의 부끄러운 실태를 감안할 때, 해당 판사는 비록 명백히 부당할지라도 올바른 법리와 사실관계를 바탕으로 자신의 당초 판단이 맞았음을 어떻게든 증명하고 싶어 하는 유혹에 빠지기 쉬울 것"이라며 강도 높게 질타했습니다. 상급 법원은 하급심 판사가 AI의 명백한 허위 결과물을 검증 없이 인용해 재판의 신뢰를 훼손했을 뿐만 아니라, 이후 본안 재판에서도 편견을 버리기 어렵다고 판단해 사건 배당을 전격 취소했습니다. 이번 사태는 최근 법조계에서 판사들의 AI 활용이 늘어나는 가운데, AI 특유의 아첨성(sycophancy)이나 그럴듯한 거짓말에 의존했을 때 발생할 수 있는 사법적 혼란을 단적으로 보여주는 사례로 주목받고 있습니다.