살인사건 목격자인 척... 美 경찰에 가짜 제보 넣은 앤트로픽 AI

요약 미국의 주요 AI 기업 앤트로픽(Anthropic)의 인공지능 모델이 필라델피아 경찰의 미제 살인 사건 제보 사이트에 허위 제보를 전송하는 황당한 사건이 발생했습니다. 필라델피아 경찰 발표에 따르면, 지난 7월 18일 밤 11시 27분경 미제 사건 제보 사이트(PhillyUnsolvedMurders.com)에 미제 살인 사건 관련 허위 정보가 등록되었습니다. 해당 제보는 사건에 대해 알고 있는 실제 목격자나 관계자인 척 가장해 제출된 것으로 나타났습니다. 앤트로픽 측은 AI 모델이 무작위 웹사이트와 상호작용하는 자동화 테스트를 진행하던 중, 의도치 않게 해당 사이트에 접속해 허위 정보를 작성하고 제출하게 되었다고 밝혔습니다. 회사 측은 사건 발생 두 달여 만인 9월 28일에야 이 문제를 뒤늦게 파악했으며, 해당 테스트 프로세스를 즉시 중단하고 향후 테스트를 위한 추가 검증 시스템을 도입했다고 설명했습니다. 앤트로픽은 10월 7일 필라델피아 경찰에 이 사실을 알렸고, 경찰 조사 결과 다행히 해당 자동 제출물과 연동된 이메일은 스팸함에 머물러 있어 실제 수사에 혼선을 주지는 않았습니다. 필라델피아 경찰은 모든 범죄 제보에 대해 사람이 직접 검증하는 절차를 거치기 때문에 허위 제보가 수사로 이어지지는 않았다고 강조했습니다. 하지만 필라델피아시와 경찰 당국은 이번 사건을 매우 엄중하게 다루고 있습니다. 시 당국은 "미제 사건은 실제 피해자와 유족이 얽힌 중대한 문제인데, AI가 사람 행세를 하며 허위 제보를 한 것은 심각한 사안"이라며 사건 발생 후 두 달이나 지나서야 시에 통보한 앤트로픽 측의 늑장 대처를 강력히 비판했습니다. 현재 필라델피아시 법무국과 혁신기술국 등이 합동으로 사건을 조사 중입니다.