0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮信息剖析智能时代数据存储领域面临的挑战与机遇

浪潮存储 来源:浪潮存储 2024-12-30 09:43 次阅读

在当今数字化时代,算力与存力的协同增长已成为驱动各行各业发展的关键力量。特别是在人工智能AI)这一前沿领域,随着数据量的爆炸式增长,对存储系统的需求日益复杂和多样。近期,在首届CCF中国存储大会上,浪潮信息存储首席架构师孙斌深刻剖析了智能时代数据存储领域面临的挑战与机遇。

算力增长与新范式

近年来,数据中心计算性能的增长呈现出前所未有的态势。据统计,过去20年间,数据中心的计算性能已经增长了超过1000倍。2018年,我们迎来了特定领域架构(Domain Specific Architecture, DSA)发展的黄金时代,这标志着算力增长的新范式已经到来。这一范式以通用算力与AI算力的紧密结合为基础,通过集群扩展和xPU多元编程模式,支撑未来20年计算性能的持续增长。

在传统CPU场景中,逻辑控制遵循摩尔定律,尽管近年来性能增长放缓,但众核与集群扩展威廉希尔官方网站 的应用仍然推动了性能的不断提升。而在GPU/TPU/NPU多场景中,并行计算能力的迅速提升更是令人瞩目,近6年来每年性能增长达2.5倍。CUDA、HIP、OneAPI等编程模型的出现,为AI计算提供了强有力的支持。

智能时代多元存力需求

然而,随着AI威廉希尔官方网站 的广泛应用,智能时代对存力的需求也呈现出多维度、多层次的特征,数据的高效汇聚、析取、流动与算子部署成为了关键所在。据预测,AI合成新数据的规模增速将显著加快,到2025年,其在全球数据总量中的占比将达到10%。为了实时获取洞察力并加速数据价值的变现,存储系统需要满足计算、存储、网络吞吐率1:1:1的比例,而未来20年存力的增长需求更是高达100倍以上。

此外,智能时代的存储需求还体现在多源、多维、多模、多态、多域等多个方面。数据来源于多个行业、设备、阶段,形态也多种多样,包括文本、二进制、数据库等。这些数据需要在云数据中心、边缘数据中心和大型数据中心之间高效流动和协同处理。

制约存储性能提升的隐形枷锁

尽管存储系统在性能上取得了显著进步,但存储节点仍面临诸多挑战。I/O栈依赖的硬件威廉希尔官方网站 发展进入平缓期,单核IOPS效率、多核扩展性、内存和IO带宽与CPU核的比例均呈现下降趋势。这意味着,保持成本与能耗不变的情况下,两年翻番的红利期已经结束。

首先,存储节点的紧耦合设计限制了其灵活性和扩展性。传统存储节点通常采用2/4/5U固定高度,并静态配置CPU、内存、磁盘和网络设备。这种设计虽然简化了部署和管理,但导致了资源利用率低的问题。由于器部件、设备、数据生命周期不匹配,部分硬件提前淘汰,从而造成资源浪费。同时,SSD存控耦合也限制了单盘容量的提升,进一步制约了存储性能的增长。

其次,以CPU为中心编程的I/O栈存在数据通量受限的问题。在处理小规模数据时,这种设计可能表现良好,但随着数据量的增加,CPU逐渐成为瓶颈,限制了数据通量。这使得CPU对数据I/O的五类算子(编码、搬移、比较、查询、插取)的处理效率不高,导致单节点性能上限仅为百万级IOPS。

此外,I/O驱动的存储架构还导致AI就绪数据准备周期长。AI就绪数据通常需要经过清洗、转换、聚合等多个预处理步骤,在I/O驱动的存储架构下,这些步骤往往耗时较长,导致数据准备时间占比超过80%,模型迭代缓慢。

面向未来数据中心的存储底座

为了应对数据洪流的汹涌澎湃,存力必须实现百倍的增长。这一需求不仅是对存储容量的简单扩张,更是对存储架构设计范式的根本性变革。重构存储节点硬件资源的耦合设计、打破以CPU为中心的传统编程模式,将成为支撑未来20年存储效率与扩展能力百倍提升的关键。

在此背景下,浪潮信息存储首次提出了打造“机柜级存储底座(Bottom of Rack, BoR)”和“数据中心级存储底座(Bottom of Datacenter, BoD)”的创新理念。BoR支持近计算端按需组合存储节点配置和软件微服务,能够重构多形态存储系统,满足全场景综合负载需求。而BoD则支持全域、全局、全生命周期的数据编制服务,能够解决数据孤岛问题,提升数据流动效率,为AI应用提供高质量的实时数据,进一步简化部署和运维。

浪潮信息在今年5月份CCF秀湖会议提出的“三层三面两体”新型存储架构理念为BoR和BoD的实施提供了具体的方向:即向内不断优化存储算法、提升硬件性能、完善软件功能,以实现对存储资源的高效利用和灵活扩展;向外积极与云计算、大数据、人工智能等新兴威廉希尔官方网站 融合,推动存储系统的智能化、自动化和云化发展。

近年来,浪潮信息存储积极探索新型存储系统与架构威廉希尔官方网站 ,以应对智能时代的存储需求。其中,解耦可组合存储硬件/软件设计v2.0是关键的创新方向。这一研究深入探索控制/计算、多层异构介质硬件资源的解耦与互连,以及存储功能软件组件的微服务化与通信机制。通过AI统筹的存储I/O栈微服务、线程、协程并发调度,实现近线性扩展。同时,基于新协议互连,实现软件动态定义逻辑控制节点,实现存算资源按需弹性组合,SSD模组解耦控制服务软硬件与定义盘控协同规范,从而支撑SSD容量密度达到PB级。

此外,浪潮信息存储还致力于面向数据算子的xPU协同编程新模式的研究。该模式通过聚焦传统存储数据I/O流和AI就绪的数据算子硬件加速威廉希尔官方网站 ,旨在建立xPU协同编程的新模式。通过分布式共享缓存架构和数据算子硬件加速威廉希尔官方网站 ,这一模式能够实现单节点千万级IOPS高通量和跨节点近线性扩展,从而大幅提升存储系统的性能。

在全域全局全生命周期数据编织服务平台方面浪潮信息存储也进行了深入研究。通过构建全域、全局、全生命周期的数据编织服务平台,实现API驱动的数据容纳、处理、安全、流动、共享和管理。该平台突破了数据与存储系统解耦威廉希尔官方网站 ,建立了数据流通威廉希尔官方网站 规范,驱动数据跨应用、跨系统、跨云共享。同时,主动元数据管理引擎、数据与算子的统筹部署为AI实时提供高质量的就绪数据,进一步提升了存储系统的智能化和自动化水平。

在智能时代的大背景下,浪潮信息存储不断探索和突破新型存储系统与架构威廉希尔官方网站 ,以应对日益复杂和多样的存储需求,通过创新举措正逐步构建起一个高效、可扩展、智能化的存储生态系统。未来,随着威廉希尔官方网站 的不断进步和应用场景的不断拓展,浪潮信息存储将继续引领存储行业的发展潮流,为数字经济的繁荣发展贡献力量。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 浪潮
    +关注

    关注

    1

    文章

    461

    浏览量

    23878
  • 存储系统
    +关注

    关注

    2

    文章

    413

    浏览量

    40866
  • 算力
    +关注

    关注

    1

    文章

    985

    浏览量

    14836

原文标题:浪潮信息存储首席架构师孙斌:智能时代的新型存储系统与架构创新

文章出处:【微信号:inspurstorage,微信公众号:浪潮存储】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    浪潮信息如何应对智能时代下的数据存储需求

    随着智能时代的全面到来,数据量呈现出爆炸性增长,这对存储系统提出了前所未有的高标准要求。从早期的“百模大战”演进至“千模大战”,现已迈入了一个以数据
    的头像 发表于 11-26 13:42 218次阅读

    浪潮信息AI存储性能测试的领先之道

    AI威廉希尔官方网站 的无限可能。近日,在MLCommons的子项目MLPerf Storage v1.0性能基准评测中,浪潮信息再度展现了在AI存储领域的卓越实力。
    的头像 发表于 10-29 16:30 256次阅读
    <b class='flag-5'>浪潮信息</b>AI<b class='flag-5'>存储</b>性能测试的领先之道

    浪潮信息赵帅:开放计算创新 应对Scaling Law挑战

    北京2024年8月15日 /美通社/ -- 日前在2024开放计算中国峰会上,浪潮信息服务器产品线总经理赵帅表示,智能时代,开源模型和开放计算激发了人工智能产业生态的创新活力,面对大模
    的头像 发表于 08-15 16:02 292次阅读
    <b class='flag-5'>浪潮信息</b>赵帅:开放计算创新 应对Scaling Law<b class='flag-5'>挑战</b>

    浪潮信息引领数据编排新纪元,加速释放数据潜能

    在2024年数据基础设施威廉希尔官方网站 峰会的璀璨舞台上,浪潮信息分布式存储产品线架构师Lance Sun博士以其深厚的行业洞察与前瞻视角,发表了题为“高效数据编排,加速释放
    的头像 发表于 07-03 15:30 394次阅读

    浪潮信息推出AIGC存储解决方案

    近日,在科技创新的浪潮中,浪潮信息成功举办了“元脑中国行”全国巡展的杭州站活动,此次盛会不仅汇聚了业界的精英与目光,更见证了浪潮信息在AIGC(人工智能生成内容)
    的头像 发表于 07-03 11:16 731次阅读

    浪潮信息推出基于新一代分布式存储平台AS13000G7的AIGC存储解决方案

    、新一代分布式存储AS13000G7自身产品优势,新方案从容应对大模型应用对存储性能、容量以及数据管理等方面的苛刻要求。同时,浪潮信息尝试性提出GPU计算集群算力与
    的头像 发表于 07-01 19:00 1442次阅读
    <b class='flag-5'>浪潮信息</b>推出基于新一代分布式<b class='flag-5'>存储</b>平台AS13000G7的AIGC<b class='flag-5'>存储</b>解决方案

    CCF-TCIST走进浪潮信息 共话AI时代存储创新

    ”活动启动,来自CCF信息存储威廉希尔官方网站 专委会、清华大学、北京大学、华中科技大学、华东师范大学、上海交通大学、上海理工大学等单位的十余位存储领域专家、学者走进
    的头像 发表于 06-07 14:27 291次阅读
    CCF-TCIST走进<b class='flag-5'>浪潮信息</b> 共话AI<b class='flag-5'>时代</b><b class='flag-5'>存储</b>创新

    整数智能浪潮信息携手,共创AI数据管理新纪元

    近日,整数智能浪潮信息两大科技巨头正式签署元脑生态战略合作协议,标志着双方在AI与数据科学领域的合作迈出了坚实步伐。
    的头像 发表于 05-31 11:21 667次阅读

    整数智能浪潮信息签署元脑生态战略合作协议

    近日,整数智能浪潮信息两大业界巨头正式签署元脑生态战略合作协议,共同开启AI与数据科学领域的新篇章。
    的头像 发表于 05-27 11:35 666次阅读

    整数智能浪潮信息签署元脑生态战略合作协议

    近日,整数智能浪潮信息签署元脑生态战略合作协议。双方将秉持协同共生、开放共赢的原则,在元脑生态的框架内开展AI与数据科学领域的深度协作
    的头像 发表于 05-27 11:21 457次阅读
    整数<b class='flag-5'>智能</b>与<b class='flag-5'>浪潮信息</b>签署元脑生态战略合作协议

    浪潮信息发布AS13000G7-N系列分布式全闪存储

    浪潮信息近日推出了专为大型AI模型优化的AS13000G7-N系列分布式全闪存储。该系列基于浪潮信息自研的分布式文件系统,结合新一代数据加速引擎DataTurbo,为用户提供卓越的
    的头像 发表于 05-14 10:03 572次阅读

    【中心动态】 走进浪潮信息

    5月8日,RISC-V国际人才培养认证中心主任蒋学刚一行,到访浪潮电子信息产业股份有限公司(以下简称“浪潮信息”),受到深圳区域副总经理段青云、产品经理陶耀民的热情接待。浪潮信息是全球
    的头像 发表于 05-13 17:42 457次阅读
    【中心动态】 走进<b class='flag-5'>浪潮信息</b>

    为大模型专门优化 浪潮信息发布分布式全闪存储AS13000G7-N系列

    北京2024年5月10日 /美通社/ -- 近日,浪潮信息发布为大模型专门优化的分布式全闪存储AS13000G7-N系列。该系列依托浪潮信息自研分布式文件系统,搭载新一代数据加速引擎
    的头像 发表于 05-10 16:37 438次阅读
    为大模型专门优化 <b class='flag-5'>浪潮信息</b>发布分布式全闪<b class='flag-5'>存储</b>AS13000G7-N系列

    浪潮信息发布为大模型专门优化的分布式全闪存储AS13000G7-N系列

    近日,浪潮信息发布为大模型专门优化的分布式全闪存储AS13000G7-N系列。该系列依托浪潮信息自研分布式文件系统,搭载新一代数据加速引擎DataTurbo,
    的头像 发表于 05-08 09:38 571次阅读
    <b class='flag-5'>浪潮信息</b>发布为大模型专门优化的分布式全闪<b class='flag-5'>存储</b>AS13000G7-N系列

    XEDP与KeyarchOS完成浪潮信息澎湃威廉希尔官方网站 认证

    澎湃威廉希尔官方网站 认证。 经联合测试, 双方产品功能兼容性良好,整体运行流畅,性能表现优异,满足用户在云计算、大数据、人工智能领域对企业级数据存储
    的头像 发表于 02-27 17:56 477次阅读
    XEDP与KeyarchOS完成<b class='flag-5'>浪潮信息</b>澎湃威廉希尔官方网站
认证