0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Arm以CSS计算平台+ KleidiAI +生态合作,宣告智能终端AI全面到来

花茶晶晶 来源:电子发烧友 作者:黄晶晶 2024-12-03 11:13 次阅读

电子发烧友网报道(文/黄晶晶)据预测,到2026年底中国道路上将有超过100万辆搭载L3级别ADAS(高级驾驶辅助系统)的汽车。到今年年底,中国将有超过1.7 亿台支持AI智能手机,55% 的PC 将支持AI功能。同时,AI 数据中心将增长5倍。从这组数据中,我们已经看到AI正在快速地推进众多行业的智能化进程。当前首要任务是夯实AI底座,构建一个强大的生态系统,为AI应用打下坚实的根基,从而助力其实现指数级增长。

在最近举办的Arm Tech Symposia年度威廉希尔官方网站 大会上,Arm终端事业部产品管理副总裁James McNiven表示,在过去的三十多年里,Arm一直致力于打造全球最大的计算平台,并以无与伦比的能源效率著称。凭借Arm的行业洞察和数十年与生态伙伴的合作,Arm的计算平台正持续推动新一代生态系统合作伙伴关系的发展。正如 Arm 曾经助力智能手机的崛起,Arm 也将成为AI计算平台的驱动者。

wKgZPGdJIIeAJ2kaABLyXaTKmZk157.png
图:Arm终端事业部产品管理副总裁James McNiven


大会期间,James说道:“我们正面临全新的需求,无论是算力、性能、能效,还是上市时间的需求都在不断提升。”在谈及Arm如何以超越硬件的设计方法助力AI应用时,James分享:“要想充分释放 AI 的潜力,我们需要从系统层面思考问题,将硬件、软件和生态无缝集成到一个全面的解决方案,使其具备卓越的可扩展性、性能和能效,并且能够加速产品上市。”

以硬件为基石

Arm推出的计算子系统 (CSS),正是为客户提供优化的解决方案,强大的软件生态系统,以及更快的上市时间。该解决方案主要聚焦于异构计算并实现对系统多种计算要素的优化协作,实现高效率的软件编写方式、易用且可扩展的全球解决方案,让开发者能够针对硬件进行开发。

James强调,Arm多年来持续投资Armv9架构。在过去几年中,通过加入许多以 AI 为核心的功能,使该架构适用于未来发展,而这一进程还在持续。十多年前,Arm首次将 AI 功能引入 Arm 架构,随后在 Armv8 架构中引入了64位威廉希尔官方网站 ,但真正开启AI时代的,则是 Armv9。

这其中包括两大关键威廉希尔官方网站 ,可伸缩向量扩展 (SVE)和可伸缩矩阵扩展 (SME)。

SVE2 已应用于一些领先的计算产品中,如全新的天玑 9400,可加速工作负载,惠及开发者和终端用户。SVE2 提升了视频和图像处理,提供更好的照片质量。

SME新一代架构功能将为开发者提供通用指令集,使其能够一次在多个硬件平台上实现 Arm 架构中的加速效果。

James表示,未来十年的Arm计算平台将持续为 AI 而优化,所有功能将通过软硬件能力的结合来实现。

以软件为中心

在传统的、AI 热潮兴起前的初创公司中,硬件和软件工程师的比例大约是 50/50。但现在这一比例变成了 10/90,即10% 的硬件工程师和90%的软件工程师。软件的地位已经压倒性地提升,而围绕软件构建的复杂性也在持续增长。

针对这一趋势,James表示,Arm 聚焦于整体的威廉希尔官方网站 栈,从底层硬件到整个威廉希尔官方网站 栈中的软件和应用程序。Arm已投入 30 多年来编写和优化软件,软件始终是 Arm 计算平台不可或缺的一部分。未来威廉希尔官方网站 将变得更加复杂,并且需要大量的支持。软件的开发成本高且耗时,因此投资策略也必须不断进化。

Arm相信我们正处于以软件为中心的未来。目前已有2000万名开发者在Arm平台上进行软件开发。受到如此多的开发者青睐,正是因为Arm 拥有全球最大的计算平台,这形成了良性循环,即更多的硬件吸引更多开发者开发软件,进而推动对高能效硬件的需求,彼此互为循环。这一过程贯穿整个威廉希尔官方网站 栈,从底层的操作系统到顶层的应用程序和用户与科技的互动方式。一致的计算平台为开发者提供了信心,使他们能够编写出可在当前数十亿台Arm 硬件上良好运行的软件。

为了进一步以威廉希尔官方网站 赋能开发者,Arm正在抽象化许多硬件相关的威廉希尔官方网站 细节,真正实现对开发者友善的设计,让他们能专注于打造优秀的软件与简单的整合。

其今年中旬发布的KleidiAI,是一款致力于提升人工智能计算性能的软件库,旨在通过与主流AI框架的深度集成,为开发者无缝获取底层硬件架构的高性能。目前KleidiAI已与PyTorch、TensorFlow和MediaPipe等热门框架集成,能够显著优化如Meta Llama 3和Phi-3等大型语言模型的性能。在本次年度大会上,Arm还宣布其与腾讯合作,通过 KleidiAI 集成提升混元大模型端侧 AI 性能,为腾讯众多应用场景提供卓越的 AI 体验。当与Arm终端CSS结合使用时,KleidiAI借助Neon、SVE2和SME2等威廉希尔官方网站 实现了性能的显著提升,特别是在生成式AI应用中的效率得到了极大的优化。

James解析,Kleidi 威廉希尔官方网站 可以用于加速Armv9 和Armv8 架构。最初的版本实际上是覆盖 Neon 指令集,而Arm陆续新增了 SVE (可伸缩向量扩展)、SVE2 和 SME (可伸缩矩阵扩展)等新架构功能。因此,它将适用于多个不同版本的架构,包括 Armv8、Armv9.0,乃至目前最新的Armv9.2。

Kleidi 威廉希尔官方网站 以其卓越的性能给人留下深刻印象,通过集成 Kleidi,腾讯混元大模型的预填充部分加速了 100%,而解码器的速度提高了 10%。这些性能改善有助于实现更快、更高效的 AI 操作。其应用范围从发布伊始的终端市场,已经扩展到云端应用,例如在基于Arm架构的 AWS Graviton 处理器上运行Llama 3 模型时,词元 (token) 首次响应时间可提高2.5 倍。

在谈及Kleidi未来的发展,James表示:“随着 Kleidi 的逐步普及和更多开发者的参与,我们将看到更多的优化。作为开源生态系统的一部分,我们期待开发者为其贡献力量,从而在整个 Arm 生态系统中实现更广泛的协作。”

此外,在此次大会期间,Arm也展示了其对生态系统合作的重视。今年,Arm与vivo持续深化合作,宣布成立联合实验室,分别发挥各自在威廉希尔官方网站 赋能和用户理解领域的优势,为用户带来卓越的 AI 体验,这成为Arm生态合作的一个优秀范例。此外,Arm还与合作伙伴携手,积极推进产业标准化进程,旨在构建一个健康、可持续的Arm生态系统。James 表示,Arm正在思考如何打造一个软件库,通过将其集成到合作伙伴的软件中,让这些应用能够在包括移动终端在内的端侧领域,充分发挥 Arm CPU 的性能优势。同时,Arm也将持续投入软件,例如,在企业场景中提供支持,通过与 Linaro 的合作,持续强化对 Linux 的支持,在固件标准(如 UEFI)上的贡献,以及对一些开源工具的支持等,尽可能减少产业的碎片化。

Arm加快AI PC进程

Arm正在加紧建设AI PC的相关生态。目前Windows on Arm 平台已成功运行很多原生应用程序,并配备了丰富的开发工具,而且越来越多的创新应用正在涌现,如爱奇艺、哔哩哔哩和搜狗等原生支持 Windows on Arm 的应用,可以充分利用AI PC的全部AI功能。未来,用户将会看到更多、更加卓越的使用体验。

Arm正与包括微软在内的多家合作伙伴携手合作,继续深化Arm的AI PC进程。现在微软已经推出了专门针对Arm 架构的 Windows 11 系统。谈到业内担心的基于Arm 架构运行时面临的软件兼容和生态问题,James解释道:“我们持续和微软合作,通过微软提供的仿真环境,我们也为应用程序的开发者提供更多指引和建议。根据微软的统计,其 PC 用户投入在笔记本电脑上的时间,大约 90% 是用在原生应用上,表明了目前 WoA 原生应用的用户体验得到了显著提升。”


小结:

预计到2025年,将会有1,000亿台基于 Arm 架构的设备可用于AI,这其中包括广泛的面向边缘 AI 的产品,从Arm Cortex-M到 Arm Cortex-A涵盖了不同的性能水平和功耗需求。而Arm终端CSS、KleidiAI以及广泛的生态合作,将助力开发者更方便快捷地释放AI威廉希尔官方网站 的潜力。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • ARM
    ARM
    +关注

    关注

    134

    文章

    9084

    浏览量

    367390
收藏 人收藏

    评论

    相关推荐

    Arm成功将Arm KleidiAI软件库集成到腾讯自研的Angel 机器学习框架

    KleidiAI 威廉希尔官方网站 融入腾讯混元自研的 Angel 机器学习框架。这一合作旨在提高移动端人工智能 (AI) 服务的推理性能和效率,为用户提供卓越
    的头像 发表于 11-24 15:33 663次阅读

    乌镇亮点 Arm终端计算子系统 (CSS) 荣膺世界互联网大会领先科技奖

    、能效最高的计算平台,为新一波人工智能 (AI) 计算需求奠定坚实根基! 世界互联网大会领先科技奖旨在奖励全球年度最具领先性的科技成果,
    的头像 发表于 11-20 19:11 514次阅读
    乌镇亮点  <b class='flag-5'>Arm</b><b class='flag-5'>终端</b><b class='flag-5'>计算</b>子系统 (<b class='flag-5'>CSS</b>) 荣膺世界互联网大会领先科技奖

    Arm全面设计助力Arm架构生态发展

    ,通过该生态项目,Arm、三星晶圆代工厂 (Samsung Foundry)、ADTechnology 和 Rebellions 正在联手向市场推出人工智能 (AI) CPU 芯粒 (
    的头像 发表于 10-21 09:58 369次阅读

    Arm全面设计生态迅速扩张,推出AI CPU小芯片平台

    近期,Arm全面设计(Arm Total Design)在推出一周年之际宣布,其生态体系中的合作伙伴数量已迅速增长至超过30家。这些
    的头像 发表于 10-18 17:00 255次阅读

    Arm终端CSS革新,加速端侧人工智能时代

    在当今信息化与智能化的交汇点,人工智能的发展势头正盛。尤其是在端侧人工智能领域,其对于计算平台的性能、能效以及集成度的要求日益提升。近日,全
    的头像 发表于 06-24 18:23 1489次阅读

    MediaTek加入Arm全面设计生态,加速AI应用领域创新

    近日,在COMPUTEX 2024展会上,全球知名的芯片设计厂商MediaTek宣布正式加入Arm全面设计(Arm Total Design)生态项目。这一决定标志着MediaTek
    的头像 发表于 06-07 16:38 857次阅读

    MediaTek加入Arm全面设计生态项目 塑造AI计算的未来

    MediaTek 今日于 COMPUTEX 2024 宣布加入 Arm 全面设计(Arm Total Design)生态项目。Arm
    的头像 发表于 06-04 20:09 1326次阅读
    MediaTek加入<b class='flag-5'>Arm</b><b class='flag-5'>全面</b>设计<b class='flag-5'>生态</b>项目 塑造<b class='flag-5'>AI</b><b class='flag-5'>计算</b>的未来

    Arm发布全新终端计算子系统,加速AI体验与产品上市

    全球领先的半导体知识产权(IP)提供商Arm控股有限公司(纳斯达克股票代码:ARM)今日正式推出全新的Arm终端计算子系统(
    的头像 发表于 05-30 14:23 562次阅读

    Arm宣布推出终端计算子系统(CSS),提供领先的人工智能体验

    Arm 控股有限公司(纳斯达克股票代码:ARM,以下简称“Arm”)今日宣布推出 Arm® 终端计算
    的头像 发表于 05-30 14:11 1245次阅读
    <b class='flag-5'>Arm</b>宣布推出<b class='flag-5'>终端</b><b class='flag-5'>计算</b>子系统(<b class='flag-5'>CSS</b>),提供领先的人工<b class='flag-5'>智能</b>体验

    Arm终端CSSAI用户体验提供计算平台

    人工智能 (AI) 正在改变消费电子设备,并且革新生产力、创造力和娱乐体验,这将带来更高程度的自动化、沉浸感和个性化,为开发者和最终用户提供海量机会。
    的头像 发表于 05-30 11:35 450次阅读
    <b class='flag-5'>Arm</b><b class='flag-5'>终端</b><b class='flag-5'>CSS</b>为<b class='flag-5'>AI</b>用户体验提供<b class='flag-5'>计算</b><b class='flag-5'>平台</b>

    Arm推出AI优化的Arm终端CSS以及新的Arm Kleidi软件

    Arm 终端计算子系统 (CSS) 作为新的计算解决方案,结合了 Armv9 架构的优势,以及基于三纳米工艺节点,经过验证和证实为生产就绪的
    的头像 发表于 05-30 11:33 643次阅读
    <b class='flag-5'>Arm</b>推出<b class='flag-5'>AI</b>优化的<b class='flag-5'>Arm</b><b class='flag-5'>终端</b><b class='flag-5'>CSS</b>以及新的<b class='flag-5'>Arm</b> Kleidi软件

    ArmArm Neoverse计算子系统(CSS):Arm Neoverse CSS V3和Arm Neoverse CSS N3

    Arm宣布了两款新的Arm Neoverse计算子系统(CSS),它们基于“迄今为止最好的一代Neoverse威廉希尔官方网站 ”。是什么让这些新产品在拥挤的计算
    的头像 发表于 04-24 17:53 1052次阅读
    <b class='flag-5'>Arm</b>新<b class='flag-5'>Arm</b> Neoverse<b class='flag-5'>计算</b>子系统(<b class='flag-5'>CSS</b>):<b class='flag-5'>Arm</b> Neoverse <b class='flag-5'>CSS</b> V3和<b class='flag-5'>Arm</b> Neoverse <b class='flag-5'>CSS</b> N3

    聚焦AI,探析边缘智能新动向,研华AI on Arm合作伙伴会议开启报名!

      研华Arm人工智能合作伙伴会议将于3月28日于上海古井假日酒店召开,此次会议将汇集芯片厂家和软件生态合作伙伴,共同探讨
    发表于 03-14 11:09 402次阅读
    聚焦<b class='flag-5'>AI</b>,探析边缘<b class='flag-5'>智能</b>新动向,研华<b class='flag-5'>AI</b> on <b class='flag-5'>Arm</b><b class='flag-5'>合作</b>伙伴会议开启报名!

    Arm 更新 Neoverse 产品路线图,实现基于 Arm 平台的人工智能基础设施

    ,其每瓦性能可提升 20% 在短短四个月内, Arm 全面设计 生态项目已吸引超过 20 家成员加入,并在三家领先的代工厂进行系统级芯片和芯粒设计   Arm 控股有限公司(纳斯达克股
    发表于 02-22 11:41 381次阅读

    智原与Arm合作提供基于Arm Neoverse CSS的设计服务

    Arm解决方案上的卓越设计实力以及对制造端资源的承诺。智原将充分发挥Arm Neoverse计算子系统(CSS)的优势,致力于提供卓越性能和创新的先进云端、高效能运算(HPC)和人工
    的头像 发表于 01-10 16:29 737次阅读