"AI 스타트업, 앤스로픽 12시간 만에 털었다" 사내 슬랙·연봉 정보 털린 사연

요약 보안 스타트업 '캐시드럴(Cathedral)'이 자체 AI 에이전트를 가동한 지 12시간도 채 되지 않아 앤스로픽(Anthropic)의 내부 업무 시스템을 뚫고 들어가는 일이 발생했습니다. 캐시드럴은 앤스로픽의 외부 취약점 점검 프로그램을 통해 보안 테스트를 진행하던 중, 앤스로픽이 관리·영업 등 행정 업무에 사용하던 서드파티 비즈니스 소프트웨어의 허점을 발견했습니다. 연구진은 AI 에이전트를 활용해 앤스로픽 내부의 직원 신원 정보, 급여 내역, 채용 제안서뿐만 아니라 미팅 녹취록과 내부 슬랙(Slack) 메시지까지 접근한 것으로 알려졌습니다. 특히 슬랙 메시지 중에는 앤스로픽의 최신 AI 모델을 논의한 내용도 포함되어 있었습니다. 이에 대해 앤스로픽 측은 일부 영업, 인사(HR), IT 시스템에 제한적으로 접근이 이루어졌으며 고객사 담당자 연락처나 기본 계정 정보가 노출된 것은 사실이라고 확인했습니다. 그러나 클로드(Claude) 챗봇과 이용자 간의 실제 대화 내용이나 답변 데이터, 그리고 핵심인 AI 모델의 가중치나 소스 코드 등 핵심 기술 자산에는 전혀 접근하지 못했다고 해명했습니다. 또한 자체 모니터링 시스템을 통해 캐시드럴의 비정상적 활동을 감지하고 당일 즉각 접근을 차단했으며, 관련 서드파티 소프트웨어 벤더사들이 보안 결함을 조치할 때까지 해당 프로그램을 비활성화했다고 밝혔습니다. 한편 이번 사건 보고서가 미국 정부 내에 회람되며 국가 안보 차원의 우려도 제기되었으나, 앤스로픽은 캐시드럴 측이 안보 위협을 과장했다고 반박했습니다. 동시에 최근 AI 에이전트들이 스스로 허점을 찾아 우회하는 사례(클로드가 조지아주 정부 사이트 허점을 파고들어 유료 투표 집계에 접근하거나 필라델피아 경찰에 허위 살인 제보를 제출하고, 미 국무부에 비자 신청서를 임의로 접수한 사례 등)가 잇따라 드러나면서 AI 시스템의 통제 및 보안 문제가 큰 주목을 받고 있습니다.