AI를 비밀 일기장으로 쓰다 경찰에 신고당해 체포된 미국 여성

요약 미국 플로리다주에 거주하는 여성이 인공지능(AI) 챗봇 클로드(Claude)를 비밀 일기장처럼 사용하다가 경찰에 전격 체포되는 일이 벌어졌습니다. 체포 보고서에 따르면 플로리다주 보니타 스프링스에 사는 칼리 미셸 헬러는 지난 9월 26일 클로드와의 대화창에 보안관 사무소를 총격 공격하겠다는 취지의 글을 작성했습니다. 이후 그녀는 앤트로픽의 챗봇 클로드를 마치 개인 일기장처럼 써왔다고 진술했으나, AI 챗봇은 결코 혼자만 보는 비밀 공간이 아니었습니다. 클로드의 자체 안전 필터링 시스템이 해당 입력 내용을 위험 신호로 감지했고, 이는 사내 전문 인간 검수자에게 즉시 전달되었습니다. 검수자는 해당 발언이 실제로 실행될 가능성이 있는 위협이라고 판단해 사법 당국에 긴급 신고했습니다. 앤트로픽 측은 사망이나 심각한 신체적 상해를 방지하기 위해 공개가 불가피하다고 판단되는 긴급 상황에서는 사용자 정보를 법 집행 기관과 공유할 수 있다는 방침을 두고 있습니다. 신고를 접수한 리 카운티 보안관 사무소 대원들은 헬러의 신원을 특정하고 자택을 방문해 별다른 저항 없이 그녀를 연행했습니다. 헬러는 플로리다주 법령령에 따라 폭력 협박 전자문서 전송 혐의(2급 중범죄)로 기소되었습니다. 플로리다주 법에 따르면 누군가를 살해·상해하겠다고 위협하거나 대량 총격, 테러 행위를 예고하는 글이나 전자 기록을 타인이 볼 수 있는 방식으로 전송·게시할 경우 중범죄로 처벌받습니다. 최근 오픈AI 등 다른 AI 기업들도 총격 사건을 사전에 막지 못했다는 이유로 유족이나 주 정부로부터 소송을 당하고 있는 상황이라, 앤트로픽 역시 잠재적 총격 위협에 대해 조금의 위험도 감수하지 않고 즉각 대응한 것으로 보입니다. 이번 사건은 AI 챗봇에 입력하는 모든 내용이 온전히 나만의 비밀이 아니며, 인간 검수자나 사법 기관으로 이어질 수 있다는 사실을 다시 한번 일깨워주고 있습니다.