据外电报道,美国ai芯片初创企业d-matrix最近宣布,将推出jayhawk ii芯片,用于其独创的数字memory computing引擎,通过chiplet结构进行生成宏观推理。
公司方面表示,该引擎的内存带宽比nvidia的h100a100等高端的gpu大40倍。此外,d-matrix还主张,jayhawk ii对30亿至400亿大型语言模型(llm)的每秒生成推理能力增加10至20倍。公司方面表示,与gpu解决方案相比,生成推理的总拥有费用从10倍减少了20倍。
在物理设计方面,该芯片由6纳米工程制成,核心之间通过bow接口实现相互连接,支持各种精度的浮点数据型。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
芯片
+关注
关注
455文章
50771浏览量
423412 -
NVIDIA
+关注
关注
14文章
4985浏览量
103026 -
语言模型
+关注
关注
0文章
523浏览量
10273 -
chiplet
+关注
关注
6文章
431浏览量
12588
发布评论请先 登录
相关推荐
“端到端”智驾芯片,英伟达DRIVE Thor接棒,车企自研芯片对标行业领先
。 在智驾芯片层面,不少厂商采用了英伟达的DRIVE Orin芯片,以及下一代智能驾驶计算平台Thor进行开发,MDC610、地平线征程5、征程6
UCIe规范引领Chiplet威廉希尔官方网站 革新,新思科技发布40G UCIe IP解决方案
随着大型SoC(系统级芯片)的设计复杂度和制造难度不断攀升,芯片行业正面临前所未有的挑战。英伟达公司的Blackwell芯片B200,作为业
英伟达带领芯片股飙升 英伟达大涨4.76%
1.08%,道指涨0.32%。 AI浪潮之下,业界预期正不断加强,在AI算力需求的边际拉动下、叠加消费电子复苏,新一轮终端AI上新,相关行业正迎来具备较强持续性的上行周期;英伟达在生成
英伟达在AI芯片市场还能领先多久?
7月22日,国际媒体传来消息,英伟达在近年来兴起的生成式人工智能浪潮中脱颖而出,其高性能计算芯片如H100等广受业界青睐,推动了公司营收与利
进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片
新的标准。Blackwell架构和GB200 超级芯片有望推动英伟达在人工智能领域更进一步,巩固其在高性能计算和人工智能威廉希尔官方网站
领域的领先地位。
发表于 05-13 17:16
英特尔的最强AI芯片要来了,声称性能完胜英伟达H100
增加了近1.5倍。 与竞争对手的正面对标也不落下风。英特尔声称Gaudi3已全面超越英伟达去年发布的H100芯片:运行
英伟达H200带宽狂飙
英伟达H200带宽的显著提升主要得益于其强大的硬件配置和先进的威廉希尔官方网站
创新。H200配备了高达141GB的HBM3e显存,与前代产品H100相比
英伟达:预计下一代AI芯片B100短缺,计划扩产并采用新架构
近期热门的 H100 芯片运期短缩数天后,英伟达新型 AI 旗舰芯片 B100搭载全新的 Bla
英伟达缩短AI GPU交付周期,持续推进算力产业链发展
与此同时,随着人工智能的迅猛发展及其广泛应用,对像H100和A100这类专为数据中心设计的高性能GPU的需求也大幅增长。而包括Yotta在内的多家公司因此纷纷加大向
AI计算需求激增,英伟达H100功耗成挑战
根据预测,若H100的年利用率保持在61%,那么单台设备每年将耗电3740千瓦小时左右。如果英伟达在2023年售出150万块H100,2024年再增加至200万块,那么到2024年底,
评论