当前位置:主页 > 快讯 >

Ramp Labs提出多智能体记忆共享新方案,Token消耗最高降低65%

时间:2026-04-11 13:47:12

  消息,4 月 11 日,AI 基础设施公司 Ramp Labs 发布研究成果「Latent Briefing」,通过直接压缩大模型 KV 缓存实现多智能体系统间的高效记忆共享,在不损失准确率的前提下大幅降低 Token 消耗。在主流多智能体架构中,编排者将任务拆解并反复调用工作者模型,随着推理链路不断延伸,Token 用量呈指数级膨胀。Latent Briefing 的核心思路是:借助注意力机制识别上下文中真正关键的部分,在表示层直接丢弃冗余信息,而非依赖速度慢的 LLM 摘要或稳定性差的 RAG 检索。在 LongBench v2 基准测试中,该方法表现亮眼:Worker 模型 Token 消耗降低 65%,中等长度文档的 Token 节省中位数达 49%,整体准确率较基线 个百分点,而每次压缩的额外耗时仅约 1.7 秒,较原始算法提速约 20 倍。实验以 Claude Sonnet 4 作为编排者、Qwen3-14B 作为工作者模型,覆盖学术论文、法律文书、小说及政府报告等多类文档场景。研究还发现,最优压缩阈值因任务难度和文档长度而异——难题适合激进压缩以过滤投机性推理噪声,长文档则更适合轻度压缩以保留分散的关键信息。

热点推荐
1 Bitget恢复CRO

消息,Bitget宣布已恢复CRO - Ethereum网络的提币服务。对于暂停期间给用户带来的不便,Bitget深表...

2 本周关键经济事件:特斯拉与谷歌财报

消息,本周将迎来多项关键经济事件:周二发布ADP就业变动数据,周三特斯拉和谷歌将公布财...

3 BANK热度上升,24h成交量放大至近7日平均

消息,据a早期发行in监测,BANK过去24小时成交量放大至近7日平均水平的8.2倍,价格累计上涨...

4 某巨鲸在Hyperliquid持有CXMT空单,并挂出

消息,据A早期发行in监测,某巨鲸在Hyperliquid以1倍逐仓做空18.84万份CXMT,仓位价值约126.72万美...

5 伊朗海军防空系统在南部拦截并摧毁了一

消息,据伊朗塔斯尼姆通讯社:伊朗海军防空系统在南部拦截并摧毁了一架敌方的卢卡斯无人...

6 油价反弹,对冲基金对纽元空头头寸升至

消息,近期全球油价反弹,对冲基金对纽元的空头头寸已经升至历史新高,达到29,582手,为自...

7 KuCoin合约将下架ROAMUSDT永续合约

消息,KuCoin宣布将于2026年7月20日下架ROAMUSDT永续合约。为增强下架过程的公平性和稳定性,K...

8 某地址持有5.7万枚SPCX多单,浮亏超100万美

消息,据A早期发行in监测,某地址持有5.7万枚SPCX多单,当前价值约714万美元,未实现亏损超过...

9 罗伯特·清崎看好黄金和白银的‘登月’

消息,罗伯特清崎在经历严重回撤后,依然看好黄金和白银的前景。他表示,尽管价格大幅下...

10 油价因中东局势升级而大幅上涨

消息,油价在新一周开盘时出现大幅上涨,周日晚上美国时间、周一早晨亚洲时间,因中东局...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。