先了解这件事
2026年9月17日,唐杰复盘了GLM-5.3-Flash从在国内加速器上首次跑通到承载全部生产流量仅用两周的过程,端到端吞吐提升3.2倍,其中大量工作由基于GLM-5.3的Infra Agent完成。唐杰指出,智能体卡住的原因往往不是写不出代码,而是不知道性能为何变差,因此团队构建了可被直接调用的分层验证接口,即密集反馈,包括正确性、系统行为和性能三类信号。智能体据此发现并修复了KDA上下文并行路径的TF32精度漂移,修复已合入Flash Linear Attention PR #1180;还修复了KV传输未与DeepEP dispatch重叠导致的开销,使其从超过30%降至1%以下;以及decode kernel重复计算归一化的问题,提速1.71倍。唐杰强调,人类仍负责定义目标、搭建反馈环境和审查高风险改动,但工程师的角色正从解决问题转向设计反馈。
AI 根据公开报道生成
最新进展 · 正式报道
唐杰复盘 GLM-5.3 Infra Agent 两周内优化推理基础设施事件进展
1 个已确认进展
- 来源：唐杰
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
9月17日
唐杰精选
唐杰复盘 GLM-5.3 Infra Agent 两周内优化推理基础设施
唐杰（jietang）复盘了 GLM-5.3-Flash 从在国内加速器上首次跑通到承载全部生产流量仅用两周的过程，端到端吞吐提升 3.2 倍，其中大量工作由基于 GLM-5.3 的 Infra Agent 完成。他指出智能体卡住的原因往往不是写不出代码，而是不知道性能为何变差，因此团队构建了可被直接调用的分层验证接口，即密集反馈，包括正确性、系统行为和性能三类信号。智能体据此发现并修复了 KDA 上下文并行路径的 TF32 精度漂移（修复已合入 Flash Linear Attention PR #1180）、KV 传输未与 DeepEP dispatch 重叠导致的开销（从超过 30% 降至 1% 以下），以及 decode kernel 重复计算归一化的问题（提速 1.71 倍）。他强调人类仍负责定义目标、搭建反馈环境和审查高风险改动，但工程师的角色正从解决问题转向设计反馈。