0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

2024多样性算力产业峰会:江波龙解码AI存储方案的未来之路

江波龙电子 2024-06-21 08:20 次阅读

6月18日,多样性算力产业峰会2024在北京圆满举行,江波龙企业级存储事业部市场总监曹浔峰受邀出席本次峰会并发表了《大模型时代AI存储方案挑战与创新》主题演讲,深入探讨了多样性算力产业的发展趋势和创新应用。

116952e0-2f64-11ef-a655-92fbcf53809c.jpg

曹浔峰在演讲中指出,随着AI中大语言模型人工智能参数量呈指数级增长,AI应用的复杂度也日益增加,这对AI训练过程中所需的缓存存储容量和性能提出了更高的要求。然而,尽管AI应用发展迅速,但相关的缓存硬件威廉希尔官方网站 和产品的发展速度并未与之同步,这导致了AI模型训练过程中的性能瓶颈问题。曹浔峰深入分析了这一问题,并针对数据缓存、传输和存储的瓶颈提出了具体的解决方案。

118484d4-2f64-11ef-a655-92fbcf53809c.jpg

在AI应用的实践中,原始数据通常需要经历精细的清洗和预处理流程,以转化为符合AI训练要求的高质量数据集。随后,这些数据集通过网络传输至AI服务器的本地SSD存储,再通过PCIe通道uploadGPU HBM缓存中进行训练。训练过程产生的中间数据量是训练初始数据的4~7倍。依靠目前GPU配备的数十GB HBM容量来存储这些数据是远远不够的,因此需要利用系统内存RDIMM或性能和延时接近的高速存储器设备作为补充。

曹浔峰指出,随着AI训练模型参数量增长至千亿或万亿级别,HBM缓存和RDIMM容量不足将会成为训练效率的瓶颈。在3D-stacked DRAM内存成本高企的情况下,采用高性能、大容量的CXL存储器或是8x GPU卡AI服务器理想的缓存优化解决方案。同时,江波龙正在预研能够支持AIC和E3.S的JBOM系统,结合即将到来支持CXL2.0的服务器系统,将为万卡AI训练集群提供更具成本效益的内存池化共享硬件解决方案。

11a81552-2f64-11ef-a655-92fbcf53809c.jpg

曹浔峰还分享了对AI应用数据存储优化的思考。他提到,AI训练应用对数据存储的访问主要为顺序读写操作,而QLC在顺序读写性能上与TLC接近,且成本更低。随着PCIe Gen5带宽的提升,QLC威廉希尔官方网站 能够满足训练过程中Checkpoint数据存储高带宽高并发的存储需求,因此,QLC SSD有望替代当前主流的TLC SSD,成为大语言模型AI训练应用的更优选择。

11be8648-2f64-11ef-a655-92fbcf53809c.png

曹浔峰重点介绍了江波龙的企业级存储发展历程。经过不断地威廉希尔官方网站 创新,江波龙已成功构建了完整的企业级存储布局,涵盖了NAND Flash+DRAM多颗粒类型产品,至今已经成功推出了包括企业级PCIe 4.0 NVMe SSD、企业级SATA SSD、企业级RDIMM、CXL 2.0内存拓展模块在内的多款高性能产品。

其中,江波龙今年推出的FORESEE CXL 2.0内存拓展模块,则是面向AI应用的存储优化的成果之一。一方面,该产品支持内存池化共享,能够基于16Gb SDP颗粒实现192GB大容量,相比业界同期水平实现成本大幅度下降的优势。另一方面,产品基于 DDR5 DRAM开发,支持PCIe 5.0×8接口,理论带宽高达32GB/s,可与支持CXL规范及E3.S接口的背板和服务器主板实现无缝连接,并减少高昂的内存成本和闲置的内存资源,大幅提高内存利用率,从而有效拓展AI服务器的内存容量并提升带宽性能,为应用场景提供更具弹性和扩展性的存储解决方案。

11da6af2-2f64-11ef-a655-92fbcf53809c.jpg

在演讲的最后,曹浔峰提到了公司面向行业领先客户正在积极推进从传统产品销售模式向TCM(Technology Contract Manufacture, 威廉希尔官方网站 合约制造)合作模式的转型升级。这一转型旨在简化存储晶圆厂与终端客户之间的沟通流程,解决因中间环节繁杂而导致的“断层”问题,并有效应对下游应用市场对存储产品的多样化、定制化和创新化需求。通过TCM合作模式,江波龙将基于上游存储晶圆厂或下游Tier1客户的产品需求,高效完成存储产品的一站式交付,从而提高存储产业链从原厂、产品开发、封装测试、产品制造到william hill官网 的效率和效益。

11ed76a6-2f64-11ef-a655-92fbcf53809c.png

多样性算力产业正迎来高速发展的黄金时期,创新威廉希尔官方网站 层出不穷,新业态和新模式竞相迸发。在这一进程中,存储威廉希尔官方网站 扮演着至关重要的角色。江波龙将持续为计算产业发展贡献新的动力,开创更多的合作机会,共同塑造计算产业的新未来。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4298

    浏览量

    85807
  • AI
    AI
    +关注

    关注

    87

    文章

    30762

    浏览量

    268905
  • 江波龙
    +关注

    关注

    4

    文章

    269

    浏览量

    26967
收藏 人收藏

    评论

    相关推荐

    全栈定制方案亮相2024数字科技生态大会,PTM赋能电信云服务

    态”为主题,作为中国电信的重要合作伙伴,积极与中国电信及其产业链相关企业建立紧密合作关系。 在大会上,
    发表于 12-05 11:55 74次阅读
    <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b>全栈定制<b class='flag-5'>方案</b>亮相<b class='flag-5'>2024</b>数字科技生态大会,PTM赋能电信云服务

    全栈定制方案亮相2024数字科技生态大会,PTM赋能电信云服务

    12月3日,2024中国电信数字科技生态大会在广州开幕,龙首次亮相,全面展示其全栈定制能力,以及基于PTM商业模式的电信产业相关存储产品
    的头像 发表于 12-04 01:04 250次阅读
    <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b>全栈定制<b class='flag-5'>方案</b>亮相<b class='flag-5'>2024</b>数字科技生态大会,PTM赋能电信云服务

    飞腾进一步推动多样性产业升级

    日前,“共筑新,智启新未来多样性产业
    的头像 发表于 09-02 14:28 457次阅读

    忆联加入推委会,为新型智提供动力

    备受瞩目的“多样性产业峰会2024”在北京成功举办,忆联应邀全程参与此次
    的头像 发表于 09-02 11:37 482次阅读

    2024 MWC上海:探索存储威廉希尔官方网站 新趋势

    6月26日至28日,2024 MWC上海在新国际博览中心隆重举行,半导体存储品牌企业亮相展会,并在现场展示其最新成果,与全球行业精英共
    发表于 06-27 09:21 770次阅读
    <b class='flag-5'>2024</b> MWC上海:<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b>探索<b class='flag-5'>存储</b>威廉希尔官方网站
新趋势

    2024 MWC上海:探索存储威廉希尔官方网站 新趋势

    6月26日至28日,2024MWC上海在新国际博览中心隆重举行,半导体存储品牌企业亮相展会,并在现场展示其最新成果,与全球行业精英共同
    的头像 发表于 06-27 08:20 411次阅读
    <b class='flag-5'>2024</b> MWC上海:<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b>探索<b class='flag-5'>存储</b>威廉希尔官方网站
新趋势

    FPGA厂商紫光同创入选多样性产业及标准推进委员会黄金成员

    日前,“共筑新,智启新未来多样性产业
    的头像 发表于 06-23 16:58 1424次阅读
    FPGA厂商紫光同创入选<b class='flag-5'>多样性</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>产业</b>及标准推进委员会黄金成员

    多样性产业峰会2024成功举办,得瑞领新助力推动产业生态蓬勃发展

    6月18日,“共筑新,智启新未来多样性产业
    的头像 发表于 06-20 09:27 386次阅读
    <b class='flag-5'>多样性</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>产业</b><b class='flag-5'>峰会</b><b class='flag-5'>2024</b>成功举办,得瑞领新助力推动<b class='flag-5'>产业</b>生态蓬勃发展

    得瑞领新邀您共赴多样性产业峰会2024,探讨未来新趋势

    多样性产业峰会2024将于6月18日在北京新青海喜来登酒店隆重举办。得瑞领新诚邀各界专业人士
    的头像 发表于 06-14 10:42 309次阅读

    2024高通汽车威廉希尔官方网站 与合作峰会全面展示汽车存储解决方案

    5月30日至31日,2024高通汽车威廉希尔官方网站 与合作峰会在无锡国际会议中心顺利举行,携其FORESEE品牌旗下的汽车
    的头像 发表于 06-01 08:20 603次阅读
    <b class='flag-5'>2024</b>高通汽车威廉希尔官方网站
与合作<b class='flag-5'>峰会</b>:<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b>全面展示汽车<b class='flag-5'>存储</b>解决<b class='flag-5'>方案</b>

    COMPUTEX 2024存储矩阵全面出击

    AI串联共创未来”为主题,继续朝着AI普遍和商业可行方向迈进。AI系统对巨大
    的头像 发表于 05-23 10:00 902次阅读
    COMPUTEX <b class='flag-5'>2024</b>,<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b><b class='flag-5'>存储</b>矩阵全面出击

    出席CFMS2024峰会:突破存储模组经营魔咒

    产业链及终端应用企业,共同探讨新的市场形势下的机遇。 在CFMS2024峰会上,董事长、总
    的头像 发表于 03-20 22:02 439次阅读
    <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b>出席CFMS<b class='flag-5'>2024</b><b class='flag-5'>峰会</b>:突破<b class='flag-5'>存储</b>模组经营魔咒

    CFMS2024 | :突破存储模组经营魔咒

    的机遇。 在CFMS2024峰会上,董事长、总经理蔡华发表了题为《突破
    发表于 03-20 16:39 506次阅读
    CFMS<b class='flag-5'>2024</b> | <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b>:突破<b class='flag-5'>存储</b>模组经营魔咒

    CFMS2024解码如何打破存储模组厂的经营魔咒

    备受瞩目的2024中国闪存市场峰会(简称“CFMS2024”)将于3月20日在深圳盛大开幕。本届峰会以“存储周期 激发潜能”为主题,旨在探讨
    发表于 03-12 09:55 298次阅读
    CFMS<b class='flag-5'>2024</b>:<b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b><b class='flag-5'>解码</b>如何打破<b class='flag-5'>存储</b>模组厂的经营魔咒

    亮相CES2024,前沿存储威廉希尔官方网站 备受瞩目

    近日,CES2024以其独特的视角和前瞻的威廉希尔官方网站 ,吸引了全球的目光。作为全球最大的消费电子展,CES一直是各大科技公司展示最新威廉希尔官方网站 和产品的舞台。作为国内知名的半导体存储品牌企业,
    发表于 01-12 13:44 380次阅读
    <b class='flag-5'>江</b><b class='flag-5'>波</b><b class='flag-5'>龙</b>亮相CES<b class='flag-5'>2024</b>,前沿<b class='flag-5'>存储</b>威廉希尔官方网站
备受瞩目