0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮信息NF5468服务器LLaMA训练性能

浪潮AIHPC 来源:浪潮AIHPC 2023-09-22 11:16 次阅读

浪潮信息宣布旗下NF5468系列AI服务器率先支持英伟达最新推出的L40S GPU,可为人工智能大模型训练和推理、元宇宙及图形视频处理等应用提供强大算力。实际测试表明,搭载8颗NVIDIA L40S的浪潮信息NF5468服务器大幅提升了LLaMA大模型的微调训练性能。目前该产品已具备交付能力,客户可以进行下单采购。

本次浪潮信息推出的算力系统是兼具训练和推理能力的NF5468系列AI服务器,包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型号,产品可以在4U空间内搭载2颗高性能通用处理器、8张L40S GPU加速器及多颗高速互联网络,从而满足大模型计算对高算力、高互联的极致性能需求。在软件上,产品支持浪潮信息最新推出的OGAI大模型智算软件栈,为客户提供高效的大模型生产力支撑。

针对业界广泛使用的LLaMA开源大型语言模型,浪潮信息NF5468服务器搭载8颗L40S GPU进行了大模型训练性能测试,得益于浪潮信息在NF5468服务器的优秀设计和大模型算法上的专业经验,L40S GPU的强大性能得以充分发挥,实际测试数据表明LLaMA大模型微调训练性能优异。

436e8a1c-58e1-11ee-939d-92fbcf53809c.jpg

浪潮信息NF5468系列AI服务器搭载L40S GPU可以很好地完成LLaMA大模型训练任务,并具备良好的性能扩展,将帮助客户迅速部署高性能的AI算力系统、采纳强大的GPU加速器和领先的软件生态,加速生成式AI的产业创新和发展。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    12

    文章

    9129

    浏览量

    85344
  • 浪潮
    +关注

    关注

    1

    文章

    458

    浏览量

    23852
  • AI
    AI
    +关注

    关注

    87

    文章

    30763

    浏览量

    268907
  • 大模型
    +关注

    关注

    2

    文章

    2427

    浏览量

    2648
收藏 人收藏

    评论

    相关推荐

    中国边缘服务器市场持续两位数增长,浪潮信息蝉联第一

    近日,IDC正式发布《中国半年度边缘服务器市场(2024上半年)跟踪报告》(以下简称:报告)。数据显示,2024上半年中国边缘计算服务器市场保持高速增长,出货量同比增长40.6%。其中浪潮信息边缘
    的头像 发表于 11-17 10:30 225次阅读
    中国边缘<b class='flag-5'>服务器</b>市场持续两位数增长,<b class='flag-5'>浪潮信息</b>蝉联第一

    浪潮信息发布KOS AI定制版,大幅提升大模型训练效率

    浪潮信息近期推出了“元脑服务器操作系统KOS AI定制版”,为人工智能领域带来了革命性的变化。这款定制版操作系统通过简单的两步操作,即可实现大模型训练环境的快速部署。
    的头像 发表于 10-30 17:23 504次阅读

    浪潮信息AI存储性能测试的领先之道

    AI威廉希尔官方网站 的无限可能。近日,在MLCommons的子项目MLPerf Storage v1.0性能基准评测中,浪潮信息再度展现了在AI存储领域的卓越实力。
    的头像 发表于 10-29 16:30 239次阅读
    <b class='flag-5'>浪潮信息</b>AI存储<b class='flag-5'>性能</b>测试的领先之道

    服务器开机远离飞机起飞!浪潮信息首创3秒智能控温威廉希尔官方网站 ,降噪30.4%

    ?而且,伴随着风扇的呼啸声,服务器启动"龟速",开机时间要3、5分钟甚至更久,严重影响了服务器运维部署效率。   通过BMC Linux/RTOS异构双系统并行管理威廉希尔官方网站 ,浪潮信息首创「开机3秒智能控温威廉希尔官方网站 」,能够在
    的头像 发表于 08-15 16:05 541次阅读
    让<b class='flag-5'>服务器</b>开机远离飞机起飞!<b class='flag-5'>浪潮信息</b>首创3秒智能控温威廉希尔官方网站
,降噪30.4%

    浪潮信息元脑®服务器率先支持英特尔®至强®6处理

    北京2024年6月7日 /美通社/ -- 6月6日,英特尔在全球范围内发布了英特尔®至强®6处理浪潮信息服务器产品线总经理赵帅受邀参会并发表演讲。会上,浪潮信息多款元脑
    的头像 发表于 06-07 15:36 393次阅读
    <b class='flag-5'>浪潮信息</b>元脑®<b class='flag-5'>服务器</b>率先支持英特尔®至强®6处理<b class='flag-5'>器</b>

    【中心动态】 走进浪潮信息

    5月8日,RISC-V国际人才培养认证中心主任蒋学刚一行,到访浪潮电子信息产业股份有限公司(以下简称“浪潮信息”),受到深圳区域副总经理段青云、产品经理陶耀民的热情接待。浪潮信息是全球
    的头像 发表于 05-13 17:42 448次阅读
    【中心动态】 走进<b class='flag-5'>浪潮信息</b>

    浪潮信息推出业界首个支持50℃进液温度的服务器

    近日,浪潮信息再次突破威廉希尔官方网站 边界,其旗舰产品NF5180G7服务器成为业界瞩目焦点。这款服务器不仅实现了1U空间内的超高密度设计,更在散热威廉希尔官方网站 上取得了革命性进展,成为首个支持浸没式液冷5
    的头像 发表于 05-09 11:27 657次阅读

    浪潮信息突破浸没式液冷服务器设计极限 业界首个支持50℃进液温度

    北京2024年5月6日 /美通社/ -- 近日,浪潮信息旗下产品NF5180G7成为业界首个可支持浸没式液冷50℃进液温度的服务器NF5180G7是一款超高密度
    的头像 发表于 05-06 20:46 422次阅读
    <b class='flag-5'>浪潮信息</b>突破浸没式液冷<b class='flag-5'>服务器</b>设计极限 业界首个支持50℃进液温度

    浪潮信息NE5260G7服务器适配第五代英特尔至强处理

    浪潮信息近日宣布,其边缘服务器NE5260G7已成功适配第五代英特尔至强处理,实现了平均性能21%的提升。这一创新产品不仅针对边缘AI算力场景支持了10余种加速芯片,还在存储场景上实
    的头像 发表于 03-06 09:29 893次阅读

    浪潮信息服务器NF5180G7荣获SPECjbb2015性能冠军

    近日,国际权威的标准性能评测机构(SPEC)公布了SPECjbb2015榜单,浪潮信息服务器NF5180G7凭借每秒558,626次企业应用业务处理的卓越成绩,蝉联
    的头像 发表于 02-01 14:23 676次阅读

    智邦国际与KeyarchOS完成浪潮信息澎湃威廉希尔官方网站 认证

    KeyarchOS V5完全兼容,整体运行稳定高效,满足用户的关键性应用需求,获得相应兼容性认证证书。     浪潮信息澎湃威廉希尔官方网站 认证是基于多元、创新的通用计算平台,与供应链及软件服务等生态合作伙伴共同构建的产品互兼容性认证体系,包含"产品部件认证"、"平台软件认证"、
    的头像 发表于 01-25 13:51 440次阅读
    智邦国际与KeyarchOS完成<b class='flag-5'>浪潮信息</b>澎湃威廉希尔官方网站
认证

    得瑞领新与KeyarchOS完成浪潮信息澎湃威廉希尔官方网站 认证

    北京2024年1月19日 /美通社/ -- 日前,北京得瑞领新科技有限公司(简称DERA)NVMe SSD D7436/ D7456与云峦服务器操作系统KeyarchOS完成浪潮信息澎湃威廉希尔官方网站 认证
    的头像 发表于 01-19 16:53 577次阅读
    得瑞领新与KeyarchOS完成<b class='flag-5'>浪潮信息</b>澎湃威廉希尔官方网站
认证

    浪潮信息与英特尔联合发布全球首个全液冷冷板服务器参考设计

    北京2024年1月19日 /美通社/ -- 1月18日,浪潮信息与英特尔联合发布全球首个全液冷冷板服务器参考设计,并面向业界开放,为全球液冷产业链上下游提供极具价值的参考样板,推动先进全液冷冷板
    的头像 发表于 01-19 16:52 521次阅读
    <b class='flag-5'>浪潮信息</b>与英特尔联合发布全球首个全液冷冷板<b class='flag-5'>服务器</b>参考设计

    浪潮信息八路服务器创SAP SD评测最高性能

    北京2024年1月17日 /美通社/ -- 1月15日,据全球领先的企业应用软件提供商SAP发布的最新SAP SD评测结果,浪潮信息TS860G7服务器创下1,659,970 SAPS的最高性能
    的头像 发表于 01-17 20:49 632次阅读
    <b class='flag-5'>浪潮信息</b>八路<b class='flag-5'>服务器</b>创SAP SD评测最高<b class='flag-5'>性能</b>

    浪潮信息EIS400自动驾驶域控制结构体系解读

    汽车的高性能运算可以算是边缘计算,浪潮信息是国内边缘计算服务器排名第一的厂家,自然也延伸到汽车自动驾驶领域。
    发表于 01-12 10:45 1156次阅读
    <b class='flag-5'>浪潮信息</b>EIS400自动驾驶域控制<b class='flag-5'>器</b>结构体系解读