管理工作量,而不只是 QPS
请求长度、缓存、输出预算与健康容量一起决定压力。流量不变,也可能突然过载。
亲手改变假设 ↗以 DeepSeek 为锚点,深入模型 API 平台的计算、状态与故障边界。重点回答:哪里会坏、为什么坏、怎样恢复、如何预防。
请求长度、缓存、输出预算与健康容量一起决定压力。流量不变,也可能突然过载。
亲手改变假设 ↗流中断、KV 交接、取消、工具副作用各有边界。重新生成不等于原样续写。
拆开一条请求 ↗当前部署披露、历史实现、参考框架和处置建议分层标记。公开故障的根因不补写。
核对证据边界 ↗点击组件,查看职责、持有状态、耦合风险与关联处置卡。实线主链路是简化表达;接入和控制面内部拆分属于通用补充,未冒充官方拓扑。
改变场景,观察同一个“慢请求”背后的不同机制。以下时长都是教学示意,不是 DeepSeek 线上测量。
这些是基于公开机制的故障推演,不是 DeepSeek 历史事故列表。时间顺序用于组织行动,不承诺固定分钟数恢复。需要平台内部权限的动作与调用方可做的事分别说明。
三个可手算的教学模型,帮助理解工作量、重试和故障余量。所有输入均为假设,不代表 DeepSeek 实测容量,也不能据此估算某型号 GPU 数量。
下面是建议的观测语义,不是 DeepSeek 内部实际指标名。阈值要根据任务、工作量和压测确定;没有适用于所有模型的通用百分比。
稳定匿名租户、模型/别名与可见版本、模板/适配器版本、输入/输出/缓存计数、阶段时间、重试序号、终态分类、工具业务状态。高基数请求 ID 放 trace 或受控日志;API key、原始提示词、思考内容和工具敏感参数不进普通指标。
一次恢复至少有四个目标:新请求能完成、在途结果有明确状态、业务副作用可核对、孤儿计算与计量缺口可收敛。各自设验收,不相互替代。
在已授权的隔离环境验证下列场景。本网页不执行故障注入,不连接任何集群。
这里的 P0 / P1 / P2 是建设优先级建议,不是对某次事故的定级。
公开状态页只能证明已披露影响,不能反推内部技术根因。动态文档以研究日为快照;关键部署 Q&A 固定到 2026-11-03 的 commit。
北京时间 08:11—13:04
官方页面显示持续 4 小时 52 分。端点是分钟级显示,不据此重算更精确时长。记录涉及 API / 聊天服务退化。
技术根因:未公开。S18北京时间 16:45—16:58
官方页面记录 Flash 服务退化 13 分钟。历史组件名称可能随后续服务命名更新,不能据此倒推当时版本。
技术根因:未公开。S19