Cloudflare 在 2026-10-26 披露:Workers AI 上的 Z.ai GLM-5.3(@cf/zai-org/glm-5.3)发生了跨租户内容泄露,155 条响应「全部来自 prompt 长于 681,280 token 的请求」,返回内容里带着其他客户请求的内容。暴露窗口从模型上线那天起——8 月 27 日到 9 月 9 日。
修复很快。值得读的是这个 bug 怎么活过上线。用 Cloudflare 自己的话:上线前它就知道配置上下文比真正服务它的显存大,而它的长上下文测试看的是 HTTP 状态码,不是答案。利益相关: 本站跑在 Cloudflare Workers + D1 上,但没有使用 Workers AI,不是事故当事方。
两个数字,从来没人强制它们一致
| token | |
|---|---|
| GLM-5.3 配置上下文 | 1,048,576 |
| 上线时的 prefill KV 池 | 681,280 |
| 修复后同一个池 | 约 2,040,000 |
请求可以落进宣传的窗口、却超出真正服务它的显存。Cloudflare 的解释比「配错了」更有意思,因为这个池根本不是一个旋钮:
「这个池的大小不是一个配置值。SGLang 在启动时按加载权重后剩余的显存来决定它。模型宣传的上下文长度是另一个配置值。没有任何东西强制两者一致,而核实它是我们的职责。」
池的大小打在引擎启动日志里、也作为 metric 暴露。它是可见的;只是从没被拿去和配置比对。
事故由哪个假定组成
「上线前的测试里,我们观察到 HTTP 状态码正常、流式响应体里没有错误帧。我们假定引擎能够优雅处理 KV 池与请求上下文之间的差异、返回一个错误。这是测试里的一处关键缺口:我们只验证了长上下文下的状态码与引擎性能,没有验证模型的输出与连贯性。」
超长请求没有失败,它成功了:「客户端拿到的是 HTTP 200 而不是 HTTP 400」,而且响应比一次 681,280 token 的 prefill 应有的速度快。
同一天发布的 SGLang 披露让这个假定变得可读。在 Cloudflare 上线的那套里,一个被标记为拒绝的请求仍然完成了 prefill→decode 的交接、带着一个 1 token 的占位符,decode 于是读取了从未为它填充过的缓存页。在另一种架构里它确实会失败:「单节点的拒绝路径会返回错误。」Cloudflare 假定的优雅行为存在——只是不在它测过的那套部署里。9 月 9 日模型转私有后,同样的超长请求「返回 HTTP 400」。
泄露打破的是哪句话
Workers AI 数据页最后更新 10 月 16 日——比事故修复晚五周,且全文不提这次事故——仍然写着:
「你的内容归你所有。…Cloudflare 不会把它提供给其他 Cloudflare 客户。」
以及:对不触发有状态功能的标准推理请求,「Cloudflare 不保留输入或输出」。
两句讲的都是 Cloudflare 拿你的内容做什么;故障出在运行时处理它的过程中,把什么交给了别人。SGLang 把方向写得很准:实际影响是「单向的跨请求泄露」,被中止请求的上下文片段会出现在另一个客户的输出里,而且「部署方没有可靠办法判断」它是否已经发生——因为这类损坏不产生错误、也不打日志。
显存不抑零,而且这是默认
「页与页之间目前不做清零;拿到同一个页的下一个请求直接覆盖它。这种做法在推理引擎中很常见,也是拿到最佳性能所必需的,但它意味着由引擎负责追踪这些内存页的所有权。」
同一块 GPU 上的租户隔离因此是一句记账承诺,不是内存边界保证。Cloudflare 把「释放时清零」列在 draft proposal,并给出价码:基准显示整体吞吐低 10–20%。两个检测开关 --disaggregation-enable-kv-checksum 与 --kv-canary「尚未覆盖所有模型架构」,并正在与 SGLang 一起扩展到「包括 GLM 5.3」——也就是本次事故的那个模型。而修复本身也不是终点:「只依赖池大小是脆弱的」,池会随权重、量化、并行度或其他显存分配变化而缩小。GLM-5.3 是唯一受影响的 Workers AI 模型,因为其它拆分部署的池恰好大于各自的上下文窗口。
读者今天能做什么
调用托管模型 API 时,公开的上下文长度是一个声称的上限,不是测过的上限。三个便宜的检查:用测试 key发一个超过宣传上限的 prompt,读响应体而不是状态码;问清楚 prefill 与 decode 是否跑在不同机器上——这正是该类 bug 需要的形状;问他们的长上下文测试里有没有输出正确性,而不只是延迟和状态码。自建 SGLang 且用了这种拆分部署的,SGLang 自己的建议是升到 v0.5.22 或更新,并在架构支持处打开校验和与 canary。
本站第二次报道 Cloudflare 一句关于数据、而运行时并未执行的话:「Disallow AI Training」是一份声明,不是一套机制。层级不同,教训同一个:政策句子和内存安全边界由不同团队维护,而只有后者在请求路径上。
我们未能核实的部分
- 受影响的客户有没有被告知。 Cloudflare 给出了从报告到修复的时间线,也写了 155 条,但没说这些账户是否被单独通知、有没有向监管报备。
- 泄露的内容是什么。 「没有证据表明被刻意利用」是明写的;敏感度、客户身份、155 条之外的 token 量都没写。
- 研究者本人的文章。 SGLang 说「即将发布」,到今天仍未发布;所以本文所有数字来自 Cloudflare 与 SGLang,不是来自发现者。
- GLM-5.3 今天的真实上限。 模型页仍只写 1,048,576、没有第二道限制,价格 $1.40 / $4.40 / $0.26 每百万;约 2.04M 的池出自事故帖,不是一份承诺性规格。
底线:Cloudflare 数据页里的隔离承诺,靠的是一层它自己上线前从未跑过的记账逻辑。一个 200 状态码,就是它当时全部的证据。