Cloudflare, GLM-5.3 요청 간 캐시 노출 원인·대응 공개
Cloudflare가 지난 8~9월 Workers AI의 GLM-5.3에서 발생한 요청 간 데이터 노출 원인과 대응을 공개했다. 회사는 681,280토큰을 넘긴 요청에서 응답 155건이 영향을 받았으며 다른 모델은 해당되지 않는다고 밝혔다. 캐시 용량 설정과 SGLang의 거부 요청 처리 오류를 수정해 9월에 서비스를 복구했다고 설명했다.
GLM-5.3: 8월 27일~9월 9일 요청 간 데이터 노출, 9월 9일 수정·복구. 보고서는 연구자·SGLang 측과 조율해 그 뒤에 공개했다.
광고된 컨텍스트는 1,048,576토큰인데 prefill 캐시 풀은 681,280토큰만 수용했다. 초과 요청이 올바르게 중단되지 않아 decode가 이전 요청의 캐시를 읽었다.
Cloudflare는 캐시 풀을 약 204만 토큰으로 늘리고 거부된 요청을 전송 전에 종료하도록 엔진을 패치한 뒤 복구했다고 밝혔다.
의도적 악용 증거를 찾지 못했다는 것은 회사 조사 결과이며 노출이 없었다는 뜻은 아니다.
분리형 prefill/decode SGLang 운영자에게 v0.5.22 이상 또는 관련 패치 적용, 캐시 풀·컨텍스트 대조와 지연 해제·전송 한도 검증을 권고했다.
원문
- Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLangCloudflare · 원문 2026-10-27