罗福莉解密MiMo降本底牌：预填充注意力计算量降至10层全局GQA级别

时间：2026-05-27 22:46:08

　　消息，罗福莉在X平台公布了自研大模型MiMo-v2.5系列实施API永久性降价后的算法降本机制。她透露，在API价格对齐DeepSeek后，小米的高负载推理引擎仍能保持盈亏平衡，成本降低主要来自混合注意力架构与层次化KV缓存优化。针对缓存命中成本降低99%的设计目标，小米推理框架实现了针对滑动窗口注意力SWA的层次化KV缓存优化，生产测试显示，层次化优化将缓存的token容量提升至5倍，降低了80%的缓存成本。罗福莉表示，低成本的推理服务有利于激发终端智能需求，大模型企业应当避免盲目的价格战，通过算法与推理系统的底层协同设计，将实际运行开销控制在盈亏平衡线以下。

上一篇：DTCC计划将代币化资产引入Stellar 返回首页

下一篇：Robinhood推出AI代理交易与信用卡服务

热点推荐

1 美伊谈判持续之际，伊朗恢复飞往迪拜的

在经历了数月的冲突后，重启德黑兰至迪拜航线的各项准备工作已完成，首个航班已于周一启...

2 bitmine增持27084枚ETH，Tom Lee看好加密行业

消息，bitmine上周增持27084枚ETH，截至2026年6月28日，总持仓达5700040枚，占总供应量的4.7%。bitm...

3 伊朗外长：中东各国绝不能允许其领土被

消息，据伊朗方面消息，当地时间28日，伊朗外长阿拉格齐在访问伊拉克期间表示，中东地区各...

4 黑石向Coinbase存入7432枚BTC和8150枚ETH

消息，据Onchain Lens监测，黑石向Coinbase存入7432枚BTC和8150枚ETH，价值分别为约4.4638亿美元和128...

5 奥地利提议将Anthropic引入欧盟以应对美国