大模型“降智”真相，找到了

智东西04-30

作者 | 陈骏达编辑 | 云鹏智东西4月30日报道，今天，智谱发布了一篇名为《Scaling Pain：超大规模Coding Agent推理实践》的技术报告，披露了GLM-5系列模型在Coding Agent场景下遇到的推理基础设施挑战与对应解法。报告透露，在每日数亿次Coding Agent调用压力下，部分用户遭遇了GLM-5系列模型乱码、复读和生僻字等异常，这些现象在表面上与长上下文场景下常见...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2631507975?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2026-04-30 14:39","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2631507975","market":"us","top_or_hot":-1,"title":"大模型“降智”真相，找到了","media":"智东西","content":"<div>\n<p>作者 | 陈骏达编辑 | 云鹏智东西4月30日报道，今天，智谱发布了一篇名为《Scaling Pain：超大规模Coding Agent推理实践》的技术报告，披露了GLM-5系列模型在Coding Agent场景下遇到的推理基础设施挑战与对应解法。报告透露，在每日数亿次Coding Agent调用压力下，部分用户遭遇了GLM-5系列模型乱码、复读和生僻字等异常，这些现象在表面上与长上下文场景下常见...</p>\n\n<a href=\"https://tech.ifeng.com/c/8skI6QfVq1R\">网页链接</a>\n\n</div>\n","source":"fenghuang_stock","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>大模型“降智”真相，找到了</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n大模型“降智”真相，找到了\n</h2>\n\n<h4 class=\"meta\">\n\n\n2026-04-30 14:39 北京时间&nbsp;&nbsp;&nbsp;<a href=https://tech.ifeng.com/c/8skI6QfVq1R><strong>智东西</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>作者 | 陈骏达编辑 | 云鹏智东西4月30日报道，今天，智谱发布了一篇名为《Scaling Pain：超大规模Coding Agent推理实践》的技术报告，披露了GLM-5系列模型在Coding Agent场景下遇到的推理基础设施挑战与对应解法。报告透露，在每日数亿次Coding Agent调用压力下，部分用户遭遇了GLM-5系列模型乱码、复读和生僻字等异常，这些现象在表面上与长上下文场景下常见...</p>\n\n<a href=\"https://tech.ifeng.com/c/8skI6QfVq1R\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"02513","symbol_name":"智谱","start_time":0,"source_url":"https://tech.ifeng.com/c/8skI6QfVq1R","article_id":"2631507975","we_media_id":null,"thumbnails":[],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=2631507975","pubTimestamp":1777531191,"columns":[],"sourceInfo":{"source_id":"fenghuang_stock","name":"凤凰网"},"weMediaInfo":null,"summary":"报告透露，在每日数亿次Coding Agent调用压力下，部分用户遭遇了GLM-5系列模型乱码、复读和生僻字等异常，这些现象在表面上与长上下文场景下常见的“降智”相似，但智谱并未进行降低模型精度的优化，相关问题主要由高并发、长上下文的极端条件触发。针对性修复后，相关异常发生率从约万分之十几降至万分之三以下。排查初期，智谱对线上异常案例做了本地回放，但未能复现，说明大概率不是模型问题。","collect":0,"end_time":0,"defaultTopTitle":"ifeng.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"02513":"智谱","BK1117":"系统软件"},"translate_title":"Big model \"intelligence reduction\" truth, found","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"02513":0.9},"content_text":"作者 | 陈骏达编辑 | 云鹏智东西4月30日报道，今天，智谱发布了一篇名为《Scaling Pain：超大规模Coding Agent推理实践》的技术报告，披露了GLM-5系列模型在Coding Agent场景下遇到的推理基础设施挑战与对应解法。报告透露，在每日数亿次Coding Agent调用压力下，部分用户遭遇了GLM-5系列模型乱码、复读和生僻字等异常，这些现象在表面上与长上下文场景下常见的“降智”相似，但智谱并未进行降低模型精度的优化，相关问题主要由高并发、长上下文的极端条件触发。通过数周排查，智谱锁定了两个底层竞态问题：PD分离架构下的KV Cache异步Abort引发显存写入冲突，以及HiCache加载流水线缺少同步约束导致“数据未就绪即被读取”。针对性修复后，相关异常发生率从约万分之十几降至万分之三以下。报告还公开了智谱自研的KV Cache分层存储方案LayerSplit，在Context Parallel场景下将单卡KV Cache显存压力大幅降低，实测系统吞吐提升10%至132%，且上下文越长收益越大。一、本地无法复现，高压才露头：投机采样指标成“照妖镜”从今年3月起，智谱GLM-5出现了三类异常：乱码、复读、生僻字。排查初期，智谱对线上异常案例做了本地回放，但未能复现，说明大概率不是模型问题。进一步模拟线上高压环境后，在每万次请求中稳定复现3-5次异常。这种“与内容无关、与压力相关的特征”，将问题指向高负载下的推理状态管理。三类异常中，复读较易检测，乱码和生僻字则难以用正则或模型判别高效覆盖。分析推理日志后，智谱发现投机采样指标可作为重要参考：投机采样本为性能优化而设计：草稿模型生成draft token，目标模型校验后决定是否接受，并记录spec_accept_length与spec_accept_rate，从而在不改变最终输出分布的前提下提升解码效率。针对乱码/生僻字问题，智谱发现spec_accept_length极低，draft token几乎全被拒绝，表明KV Cache状态存在显著偏差。针对复读问题，智谱发现spec_accept_rate偏高，损坏的KV Cache使注意力退化，陷入重复循环。据此，智谱团队建立了在线监控策略。将投机采样从一项单纯的性能优化技术，拓展为质量监控信号。二、锁定时序漏洞，两个竞态Bug如何导致输出异常定位问题后，智谱进一步分析其原因。通过对请求生命周期以及推理引擎中PD分离执行时序的分析，智谱发现该问题源于请求生命周期与KV Cache回收与复用时序之间的不一致，从而引发的KV Cache复用冲突。为消除上述问题，智谱在推理引擎中引入了更严格的时序约束，在请求终止与KV Cache写入完成之间建立显式同步关系。这一问题的具体修复方案是在Decode触发Abort后通知Prefill侧，仅在RDMA未开始或已完成时才允许回收复用，确保KV写入不跨越显存复用边界。修复后，异常发生率从万分之十几降至万分之三以下。智谱面临的第二个bug与Coding Agent场景的特性有关。Coding Agent场景输入长、前缀复用率高，HiCache成为关键优化。但KV Cache换入与计算重叠执行时，未保证数据加载完成后再使用。为修复这一问题，智谱在Indexer算子启动前引入同步点，确保数据就绪后才启动计算。修复后，相关问题完全消失，相关修复已提交至SGLang社区。三、Prefill吞吐成瓶颈，LayerSplit让吞吐最高涨132%上述两个问题揭示了一个共同的系统瓶颈：在长上下文的Coding Agent服务场景中，Prefill阶段主导了系统性能。修复状态一致性问题后，核心挑战回归瓶颈本身，也就是如何提升Prefill吞吐、降低KV Cache显存占用。为此，智谱团队设计并实现了KV Cache分层存储方案LayerSplit。Coding Agent负载具有上下文长、Prefix Cache命中率高的特征，使得Context Parallel（CP，上下文并行）成为Prefill节点的主要并行策略。然而，SGLang开源实现中每张GPU保存全部层的KV Cache，冗余存储导致显存容量成为计算资源利用率的瓶颈。LayerSplit方案的核心思路是：每张GPU仅持有部分层的KV Cache，从而显著降低单卡显存占用。计算时，持有某一层Cache的CP rank会在Attention计算前将其广播给其他rank。为进一步减少开销，智谱设计了KV Cache广播与Indexer计算的重叠机制，使二者在时间上相互掩盖。整个流程仅额外引入约为KV Cache体量1/8的Indexer Cache广播，通信成本对性能影响可忽略。实验结果表明，在Cache命中率90%的条件下，请求长度从40k到120k区间内，系统吞吐量提升幅度在10%至132%之间，且上下文越长收益越显著。该优化从架构层面缓解了Prefill侧的显存瓶颈，与此前两项BugFix共同构成了一套完整的推理基础设施优化方案，提升了智谱GLM-5在Coding Agent场景下的服务能力。结语：输出质量成高并发长上下文场景新痛点高并发长上下文场景下，推理基础设施的挑战已不止于吞吐和延迟，输出质量同样不可忽视。智谱此次公开的技术细节，从异常识别方法、两个竞态Bug的定位与修复，到LayerSplit显存优化，构成了一套相对完整的排查与优化链路。对于同样在大规模部署推理服务的团队而言，这份报告在故障复现、指标选型、架构层面的时序一致性等方面提供了可参考的实践经验。智谱将这些经验公开分享，客观上为社区填补了部分长上下文推理场景下的工程资料空白。","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"tenantId":"TBCN","deviceId":"web-server-community-laohu8-v3","version":"4.42.2","shortVersion":"4.42.2","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2631507975","isCrawlerRequest":true}