当前位置:主页 > 动态 >

智谱复盘GLM

时间:2026-04-30 17:11:38

  消息,智谱发文复盘GLM-5系列模型在coding agent场景下出现乱码、复读和生僻字的问题。自3月起,用户反馈异常仅在高并发、长上下文任务中触发。智谱称其推理系统每天承受数亿次coding agent调用。经过排查,团队定位到两个独立的竞态bug。第一个bug出在pd分离架构,解码侧超时中止请求后回收kv cache,但预填充侧的rdma写入未结束,新请求覆盖旧数据。修复方法是在回收前加显式同步,异常率从万分之十几降至万分之三以下。第二个bug出在hicache,加载和计算两条流水线缺少同步点,计算侧可能在数据未加载完毕时读取。修复后异常完全消失,补丁已提交sglang社区。团队还发现,投机采样的接受率指标可作为异常检测信号,乱码时草稿token几乎全被拒绝,复读时接受率偏高。

热点推荐
1 韩国最高法院提议数字资产扣押新规

最高法院于7月2日发布了草案修订,旨在引入针对数字资产的正式执行程序,公众评论将于8月...

2 BBX:CLARITY Act错过签署目标、MiCA全面执法

消息,BBX消息,昨日,美国CLARITY Act错过特朗普政府设定的白宫签署目标,通过概率跌至42%至...

3 Blockaid:summer.fi遭遇600万美元攻击

消息,Blockaid安全公司表示,其漏洞检测系统已识别出对DeFi收益聚合和自动化管理平台summer....

4 Google AI Studio产品设计负责人用Claude Fabl

消息,Google AI Studio产品与设计负责人Ammaar Reshi成功将2003年经典即时战略游戏《命令与征服:将...

5 Bitget将调整SHIBUSDC永续合约资金费率上下

消息,Bitget宣布将于2026年7月6日16:00起调整SHIBUSDC永续合约的资金费率上下限,从+1.0000%/-1.000...

6 两名巨鲸韩股盘中开立SKHX多仓,规模合计

消息,两名巨鲸在韩股盘中开立SKHX多仓,规模合计达330万美元。SK海力士于韩股盘中回落,H...

7 某地址兑换1126.44枚ETH损失近200万美元

消息,据Lookonchain监测,某地址将1126.44枚ETH兑换为5776枚LIT,损失近200万美元。...

8 美股大赢家:SPCX多单平仓止盈,持仓规模

消息,SPCX多单已完全平仓,平仓前持仓规模为3,201,513.97美元。该波段交易员资金体量为3000万美...

9 美股大赢家:INTC空单增持25752.01枚,约

消息,波段交易员在INTC上增持空单25,752.01枚,约合3194512.02美元,持仓规模达到6,544,064.71美元,...

10 美股大赢家:SNDK空单增持1426.63枚,约合

消息,波段交易员在SNDK上增持空单1,426.63枚,约合2,910,740.34美元,持仓规模达到6,708,885.81美元...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。