남이 입력한 AI 프롬프트가 내 답변에 튀어나온 클라우드플레어 버그 사태

요약 클라우드플레어(Cloudflare)의 인공지능 플랫폼인 'Workers AI'에서 다른 사용자의 프롬프트 및 대화 데이터가 유출되는 심각한 보안 결함이 발생했다가 조치되었습니다. 보안 연구원 가디 에브론(Gadi Evron)의 제보로 확인된 이번 문제는 오픈소스 추론 엔진 SGLang을 활용해 서비스 중이던 대규모 언어 모델 'GLM-5.3' 배포 환경에서 발생했습니다. 조사 결과, 2026년 8월 27일부터 9월 9일까지 모델을 사용한 고객 중 일부가 직전에 다른 고객이 요청했던 세션 데이터가 섞여 들어간 응답을 받은 것으로 확인되었습니다. 영향받은 응답은 총 155건이며, 모두 68만 1,280토큰을 초과하는 매우 긴 프롬프트를 전송했을 때 발생했습니다. 이번 사고는 설정 오류와 엔진 내부 버그가 겹쳐 발생한 것으로 나타났습니다. 클라우드플레어는 100만 토큰이 넘는 컨텍스트 윈도우를 설정했으나, 프리필(prefill) GPU의 KV 캐시 풀 용량은 약 68만 토큰 수준에 불과했습니다. 처리 한도를 넘긴 프롬프트가 들어오면 오류를 내며 요청을 즉각 중단했어야 했으나, SGLang 엔진이 요청을 1토큰짜리 더미로 대체한 뒤 디코드(decode) 노드로 넘기는 과정에서 버그가 발생했습니다. 디코드 노드는 이전 요청의 캐시가 덮어써졌다고 간주했으나 실제로는 이전 사용자의 캐시 데이터가 지워지지 않고 남아 있었고, 결국 모델이 이전 세션의 잔여 캐시 데이터를 참조하여 답변을 생성해 다른 사람의 데이터가 응답에 노출된 것입니다. 클라우드플레어 측은 인시던트 선언 후 40분 만에 해당 모델을 오프라인으로 전환했으며, 캐시 풀 크기를 약 204만 토큰으로 확장하고 초과 요청을 사전에 안전하게 차단하도록 엔진 패치를 적용한 뒤 서비스를 정상화했다고 밝혔습니다. 또한 악의적인 반복 익스플로잇 정황은 발견되지 않았다고 덧붙였습니다.