0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

ChatGPT算力:研究框架(2023)

架构师威廉希尔官方网站 联盟 来源:半导体风向标 2023-02-13 16:20 次阅读

ChatGPT热潮席卷全球。在问答模式的基础上ChatGPT可以进行推理、编写代码、文本创作等等,这样的特殊优势和用户体验使得应用场景流量大幅增加,其2023年1月月活跃用户达到1亿,是史上月活用户增长最快的消费者应用。

ChatGPT的“背后英雄”:芯片,国内GPUCPUFPGAAI芯片及光模块产业链蓄势待发。

1)GPU:支撑强大算力需求。由于具备并行计算能力,可兼容训练和推理,目前GPU被广泛应用于加速芯片;

2)CPU:可用于推理/预测。AI服务器利用CPU与加速芯片的组合可以满足高吞吐量互联的需求;

3)FPGA:可通过深度学习+分布集群数据传输赋能大模型。FPGA具备灵活性高、开发周期短、低延时、并行计算等优势;

4)ASIC:极致性能和功耗表现。AI ASIC芯片通常针对AI应用专门设计了特定架构,在功耗、可靠性和集成度上具有优势;

5)光模块:容易被忽略的算力瓶颈。伴随数据传输量的增长,光模块作为数据中心内设备互联的载体,需求量随之增长。

7061a750-aac9-11ed-bfe3-dac502259ad0.png

707b08c6-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70eab7ca-aac9-11ed-bfe3-dac502259ad0.png

70b411a2-aac9-11ed-bfe3-dac502259ad0.png

01

算力需求爆发拉动芯片量价齐升

71942fa8-aac9-11ed-bfe3-dac502259ad0.png

71ab79c4-aac9-11ed-bfe3-dac502259ad0.png

71d8096c-aac9-11ed-bfe3-dac502259ad0.png

71fe7f34-aac9-11ed-bfe3-dac502259ad0.png

725587e8-aac9-11ed-bfe3-dac502259ad0.png

7284c79c-aac9-11ed-bfe3-dac502259ad0.png

72c456a0-aac9-11ed-bfe3-dac502259ad0.png

72ee34f2-aac9-11ed-bfe3-dac502259ad0.png

731e7220-aac9-11ed-bfe3-dac502259ad0.png

7380b03e-aac9-11ed-bfe3-dac502259ad0.png

73c52a7a-aac9-11ed-bfe3-dac502259ad0.png

73f2f25c-aac9-11ed-bfe3-dac502259ad0.png

74d5d158-aac9-11ed-bfe3-dac502259ad0.png

02

威廉希尔官方网站 创新引领本土产业链弯道突围

750996c8-aac9-11ed-bfe3-dac502259ad0.png

752b4fca-aac9-11ed-bfe3-dac502259ad0.png

754880cc-aac9-11ed-bfe3-dac502259ad0.png

75787e62-aac9-11ed-bfe3-dac502259ad0.png

75c63170-aac9-11ed-bfe3-dac502259ad0.png

75ef1414-aac9-11ed-bfe3-dac502259ad0.png

7613659e-aac9-11ed-bfe3-dac502259ad0.png

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 深度学习
    +关注

    关注

    73

    文章

    5507

    浏览量

    121272
  • 算力
    +关注

    关注

    1

    文章

    992

    浏览量

    14861
  • ChatGPT
    +关注

    关注

    29

    文章

    1564

    浏览量

    7807

原文标题:ChatGPT算力:研究框架(2023)

文章出处:【微信号:架构师威廉希尔官方网站 联盟,微信公众号:架构师威廉希尔官方网站 联盟】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    浪潮信息与智源研究院携手共建大模型多元生态

    近日,浪潮信息与北京智源人工智能研究院正式签署战略合作协议,双方将紧密合作,共同构建大模型多元开源创新生态。 此次合作旨在提升大模型创新研发的
    的头像 发表于 12-31 11:49 243次阅读

    基础篇:从零开始了解

    即计算能力(Computing Power),狭义上指对数字问题的运算能力,而广义上指对输入信息处理后实现结果输出的一种能力。虽然处理的内容不同,但处理过程的能力都可抽象为。比
    的头像 发表于 11-15 14:22 814次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基础篇:从零开始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    GPU开发平台是什么

    随着AI威廉希尔官方网站 的广泛应用,需求呈现出爆发式增长。AI租赁作为一种新兴的服务模式,正逐渐成为企业获取
    的头像 发表于 10-31 10:31 200次阅读

    浅析三大之异同

    随着一年多前ChatGPT的出现引爆人工智能(AI)浪潮,支撑大模型背后的“”概念突然闯进我们的视野,成为科技圈炙手可热的新词,引领着最新潮流。作为数字经济时代新生产,也许不少人
    的头像 发表于 08-30 12:56 964次阅读
    浅析三大<b class='flag-5'>算</b><b class='flag-5'>力</b>之异同

    大模型时代的需求

    现在AI已进入大模型时代,各企业都争相部署大模型,但如何保证大模型的,以及相关的稳定性和性能,是一个极为重要的问题,带着这个极为重要的问题,我需要在此书中找到答案。
    发表于 08-20 09:04

    中国中心市场持续增长,智能规模快速崛起

    7月24日,中国信息通信研究院(简称“中国信通院”)权威发布了《中国中心服务商分析报告(2024年)》,该报告深入剖析了中国中心市场
    的头像 发表于 07-24 15:25 489次阅读

    曙光携手“互联公共服务平台”提高全国匹配效率

    近日,由中国信息通信研究院开发的“互联公共服务平台”在重庆上线。作为该平台合作方之一,曙光智参与了平台发布仪式。     曙光将依托在
    的头像 发表于 07-16 15:45 703次阅读

    基础设施的风险与挑战

    编者按网络有一个美好的愿景,就是希望网,能像电力和电网一样:
    的头像 发表于 06-13 08:27 570次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基础设施的风险与挑战

    中科驭数成为首批互联互通研究组成员单位

       5月25日,在由中国信通院牵头召开的互联互通研究组成立大会上,中科驭数作为首批成员单位受邀出席启动仪式,共话产业发展实践。 ▲
    的头像 发表于 05-30 19:08 767次阅读
    中科驭数成为首批<b class='flag-5'>算</b><b class='flag-5'>力</b>互联互通<b class='flag-5'>研究</b>组成员单位

    力系列基础篇——101:从零开始了解

    相信大家已经感受到,我们正处在一个人工智能时代。如果要问在人工智能时代最重要的是什么?那必须是:
    的头像 发表于 04-24 08:05 1002次阅读
    <b class='flag-5'>算</b>力系列基础篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:从零开始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    迈信林与苏州科技签订战略框架协议,加码开展领域业务

    近日,迈信林发布公告称与苏州科技有限公司签订《战略合作框架协议》,双方将围绕领域开展一系列深入合作。
    的头像 发表于 04-11 11:21 852次阅读

    数据语料库、算法框架芯片在AI大模型中的作用和影响

    数据语料库、算法框架芯片的确是影响AI大模型发展的三大重要因素。
    的头像 发表于 03-01 09:42 1143次阅读

    智能规模超通用,大模型对智能提出高要求

    电子发烧友网报道(文/李弯弯)是设备通过处理数据,实现特定结果输出的计算能力,常用FLOPS作为计量单位。FLOPS是Floating-point Operations Per Second
    的头像 发表于 02-06 00:08 6407次阅读

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    ChatGPT芯片如何做输出

    卡的核心当然还是计算芯片,会搭配大容量高带宽的内存、缓存,以及搭载CPU用于调度,为了帮助数据传输,便会使用高速通道,这便是PCIe(高速串行计算机扩展总线标准)在系统中的作用:提供总线通道。
    发表于 01-11 10:01 519次阅读
    <b class='flag-5'>ChatGPT</b><b class='flag-5'>算</b><b class='flag-5'>力</b>芯片如何做<b class='flag-5'>算</b><b class='flag-5'>力</b>输出