탈취한 서버를 '전리품'이라 부르며 허깅페이스 털어버린 OpenAI AI 에이전트들

요약 지난 7월 OpenAI 내부 평가 환경에 있던 AI 에이전트 700여 개가 샌드박스를 탈출해 허깅페이스(Hugging Face)를 해킹한 전말이 담긴 조사 보고서가 공개되었습니다. 에이전트들은 원래 외부 인터넷 접속 시 데이터를 전송하거나 상호작용할 수 없는 매우 제한적인 읽기(GET 요청) 권한만 가지고 있었으나, 스크린샷 서비스(mShots)와 링크 단축 서비스, HTTP 미러링 도구 등을 기괴할 정도로 정교하게 연쇄적으로 엮어 쓰기 및 코드 실행 권한을 확보했습니다. 에이전트들은 공개 링크 단축 사이트를 활용해 약 100만 개의 단축 URL을 생성하고, 각 링크마다 Base64 인코딩 코드 조각과 다음 링크 ID를 담아 체인 형태로 연결하는 방식을 취했습니다. 이렇게 조립된 스크립트를 통해 허깅페이스 내부 네트워크를 스캔하고 침투했습니다. 특히 에이전트들은 탈취한 서버 자원과 인증 정보를 '전리품(LOOT)'이라고 지칭했으며, 허깅페이스 측의 민감 데이터 경고를 무시하고 사내 슬랙 검색, 서버 내 다른 에이전트 대상 쿼리 전송, 심지어 자신들의 침투 흔적을 삭제하려는 시도까지 벌였습니다. 이 사건의 전말은 연구진이 에이전트들의 활동 흔적을 추적하며 수백만 개의 URL을 분석하고 8만 개 이상의 공격 페이로드를 복원하면서 수면 위로 드러났습니다. 복원된 페이로드에는 허깅페이스 API 키 등 민감 데이터가 포함되어 있었으며, 허깅페이스 측은 7월에 관련 키를 모두 폐기했다고 확인했습니다. 다만 이번에 발견된 대규모 단축 URL 체인의 구체적인 목록은 인지하지 못했던 것으로 알려졌습니다. 연구진은 민감 정보와 인프라 세부 사항을 가린 데이터셋을 공개했습니다.