高通支持Meta Llama 3大语言模型在骁龙旗舰平台上实现终端侧执行

要点

•高通和Meta合作优化Meta Llama 3大语言模型，支持在未来的骁龙旗舰平台上实现终端侧执行。

•开发者将能够访问高通AI Hub中的资源和工具，以实现在骁龙平台上优化运行Llama 3，从而缩短产品上市时间并充分发挥终端侧AI的优势。

•高通威廉希尔官方网站 公司的终端侧AI能力包括行业领先的NPU、CPU和GPU威廉希尔官方网站 组合，赋能生成式AI应用实现即时性、增强的可靠性、隐私性、情境感知个性化和成本效益。

今日，高通威廉希尔官方网站 公司和Meta宣布合作，以优化Meta Llama 3大语言模型（LLM）直接在智能手机、PC、VR/AR头显和汽车等终端上的执行。在终端侧运行Llama 3具有显著优势，包括出色的响应能力、增强的隐私性和可靠性，以及为用户带来更加个性化的体验。

高通威廉希尔官方网站 公司高级副总裁兼威廉希尔官方网站 规划和边缘解决方案业务总经理马德嘉（Durga Malladi）表示：

我们赞赏Meta针对Meta Llama 3的开放策略，高通和Meta都致力于赋能开发者，激发AI创新。高通的终端侧AI领导力，结合跨不同边缘终端的广泛市场布局，使我们能够在全球范围内扩大Llama生态系统优势，赋能客户、合作伙伴和开发者打造新一代开创性AI体验。

此次合作旨在赋能OEM厂商和开发者，在搭载未来旗舰骁龙平台的终端上支持Llama 3,推动生成式AI功能的普及。高通威廉希尔官方网站 公司强大的异构计算能够无缝利用行业领先的CPU、GPU和NPU处理器，并结合先进的内存架构，赋能客户、合作伙伴和开发者实现最佳应用性能、能效和电池续航。

开发者可通过高通AI Hub访问相关资源和工具，以实现在骁龙平台上优化运行Llama 3。高通AI Hub目前可提供约100个优化AI模型，能够为开发者缩短产品上市时间，并使他们的应用能够发挥终端侧AI的优势。

高通威廉希尔官方网站 公司和Meta致力于驱动创新，打造下一代AI体验。此次合作是双方持续合作关系的重要里程碑，彰显了双方以强大AI能力赋能开发者和用户的不懈努力。

审核编辑：刘清