当前位置:主页 > 快讯 >

ARM架构CPU实现AI任务处理,无需GPU或NPU

时间:2024-12-22 21:36:07

  随着AI技术迅速发展,GPU与NPU需求不断增长。然而,ARM架构CPU如今已逐渐具备处理AI任务的能力,无需依赖GPU或NPU。

  据Android Authority报道,使用ARM v8、v9、Cortex-A、Cortex-X或Neoverse技术的CPU,因支持强大的矩阵乘法效能,能够加速ML工作。ARM处理器整合Neon技术、SVE和SME,使CPU可执行矩阵运算,无需GPU或NPU辅助。

  此外,ARM的Kleidi技术为移动设备和服务器提供AI处理能力,涵盖高效能机器学习核心数据库KleidiAI,优化采用硬件加速器的ARM架构CPU,支持从传统机器学习到生成式AI的各种任务。

  ARM已将Kleidi技术整合至PyTorch和ExecuTorch等AI架构,为开发人员提供高达12倍的效能提升。

  使用ARM架构CPU运行AI任务,开发人员可轻松将大型语言模型部署至手机或其他边缘装置,无需GPU、NPU或云端辅助。ARM架构AI模型具备可移动、可扩充的特性,只需一次优化,即可部署至不同平台,为开发人员带来便利。

  


 

热点推荐
1 加拿大首个合规稳定币CADD获Anchorage Digi

消息,加拿大首个合规的加元稳定币CADD现已获得Anchorage Digital的托管,后者是一家获得联邦特...

2 美联储理事沃勒:近期不应期待政策利率

消息,沃勒表示,近期不应期待政策利率的变化,结果将严重依赖于伊朗冲突的持续时间。他...

3 ZEC最大空头:SP500多单新开仓

消息,地址0xd47587702a91731dc1089b5db0932cf820151a91新开SP500多单,建仓628.73枚,开仓价为7468.97美元,...

4 Bybit:AMI、BDXN、ONE、SIS、XEM和INSP下架通知

消息,Bybit宣布将于2026年5月28日8:00 下架以下代币:AMI、BDXN、ONE、SIS、XEM和INSP,终止相应交易...

5 洲际交易所与OKX合作推出原油永续期货合

纽交所母公司洲际交易所正与加密交易平台OKX合作,计划推出与布伦特原油和WTI原油挂钩的永...

6 Coinbase Institutional转移668枚BTC至未知钱包

消息,据Whale Alert监测,Coinbase Institutional刚刚向一个未知钱包转移了668枚BTC,按当前价格计算...

7 韩国或取消22%加密税,因投资者反对声浪

消息,韩国可能取消计划中的22%加密税,原因是公众反对声浪不断上升。该税将适用于年利润...

8 交通运输部:加快建设智能综合立体交通

消息,交通运输部于5月22日召开党组会,强调要锚定2035年建成科技强国和基本建成交通强国的...

9 美团开源LongCat

消息,美团长猫团队开源了数字人生成框架LongCat-Video-Avatar 1.5,重构了音频提取与视频生成算...

10 SpaceX冲刺IPO AI业务引发最大质疑

消息,分析师Robert Cyran表示,马斯克的SpaceX准备以1.75万亿美元估值登陆公开市场,但其招股说...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。