4 月 7 日讯,AMD 最新公布了一系列基准测试,宣称其锐龙移动版 7040 Phoenix 和 8040 系列处理器在运行大型语言模型 (LLM) 领域的效能领先于 Intel 最新 Skylake Coffee Lake U Refresh Core i7-155Hz 达 79%。
据悉,此次测试针对 AMD 锐龙 7 8740U 及 Intel Core Ultra 7 155Hz两种芯片进行了对比,两者均内含硬件神经网络处理单元(NPU)。AMD 利用多幅幻灯片展示了两颗处理器在参与 Mistral 7b、Llama v2 以及 Mistral Instruct 7B 等大型语言模型的效能差异。具体来说,在采用 Q4 位宽的Llama v2 对话测试环节,AMD 处理器性能优于 Intel 产品 14%;在其他相同设定条件下,AMD 器件性能较Core Ultra 7 提高 17%。
同样在上述大型语言模型测试中,AMD 处理器反应速度明显加快。以Llama v2 对话测试中的“首个 Token生成提示词”速率比拼为例,AMD 工作效率比 Intel 高出 79%,且在 Mistral Instruct 测试中达到 41%的提速。
AMD 还提供了多种质量参数的 Llama v2 7B 对话测试数据,总体而言,锐龙 7 7840U 平均效能比 Intel 竞品高出 55%,在 Q8 位宽设置中甚至有 70%的进步。但 AMD 亦指出,在实际运行大语言模型时,选用 4 位 K M 量化可实现更佳效,如需极高精度度的编码任务,建议使用 5 位 K M 量化模式。
然而,目前看来,AMD 在人工智能性能上暂占上风。虽然理论上,锐龙 7040 系列架构在计算性能(TOPS)上与 Meteor Lake 持平,但早在去年年底,Tom‘s Hardware 即发现在 AI 负载方面,AMD 总是能战胜 Meteor Lake。这显而易见是软件优化问题,并非硬件或驱动程序故障所致。
然而,未来情况未必如此。无论是在神经网络处理单元领域,还是在AI性能优化领域,未来规划与发展都尚无定论。尽管如此,我们有理由相信,随着时间推移,格局或许将有所变动。
综合来看,现阶段AMD的NPU性能尤为出色,尤其是具备强大NPU性能的锐龙 8040 系列处理器。然而随着Intel年底推出新款Lunar Lake移动CPU及完善其人工智能优化议程,情况恐生变数。
-
处理器
+关注
关注
68文章
19265浏览量
229684 -
amd
+关注
关注
25文章
5466浏览量
134110 -
语言模型
+关注
关注
0文章
521浏览量
10268
发布评论请先 登录
相关推荐
评论