0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

步步向前,曙光已现:百度的大模型之路

脑极体 来源:脑极体 作者:脑极体 2023-08-21 09:04 次阅读

大模型,是今年全球科技界最火热,最耀眼的关键词。在几个月的狂飙突进中,全球主要科技公司纷纷加入了大模型领域。中国AI产业更是开启了被戏称为“百模大战”的盛况。

但喧嚣与热闹之后,新的问题也随之而来:大模型的力量究竟能否持续发展?在拥有了许多大模型之后,我们又该做些什么?

简单来说,面向机遇与挑战并重的大模型时代,中国AI需要从拼参数、拼数量的“短期主义”中走出来,走向长期发展与生态凝聚。

有大模型并不难,难的是让大模型走向远方。

8月16日,由深度学习威廉希尔官方网站 及应用国家工程研究中心主办的WAVE SUMMIT深度学习开发者大会2023在北京举行。百度首席威廉希尔官方网站 官、深度学习威廉希尔官方网站 及应用国家工程研究中心主任王海峰表示,大语言模型具备了理解、生成、逻辑、记忆等人工智能的核心基础能力,为通用人工智能带来曙光。

wKgZomTfk62AeqTBAAC9xD8IFCo538.jpg

如果要总结这一届WAVE SUMMIT,那么在我看来,最重要的价值是百度展示了大模型如何走向“长期主义”发展模式。通过文心加飞桨,为产业伙伴与开发者构建可持续发展的AI基础设施,为产业智能化提供源源不绝的动力。

大模型不是终点,而是起点

随着“百模大战”的兴起,大模型以最高效率抵达了产业繁荣状态。但随之到来的是很多疑虑,比如在有了大模型之后,我们究竟如何让它发挥价值?比如,大模型的威廉希尔官方网站 能力,还能不能进一步突破,如何突破?再比如大模型之间的竞争,会不会变成低价、低质的竞底游戏?

这些疑虑背后的关键,是产业界目前传递出的信号,过分强调“要有大模型”。反而很少提及大模型如何长期发展,如何摆脱零和博弈。

我们关注大模型,难道不是惊艳于它的表现,于是开始畅想它的未来吗?难道我们真的满足于“有很多大模型”就是终局吗?

换言之,大模型应该是起点,而非终点。

目前来看,大模型的威廉希尔官方网站 、产业与生态都还处在发展的萌芽期。各方应该携手共建,描画大模型的美好未来。大模型之路,至少需要完成三个目标:

1.向产业价值,完成大模型向C端与B端的应用落地,推动AI原生应用走向时代前沿。

2.向众智生态,大模型应该是各行各业、万千开发者的大模型,集众智才能立高远。

3.向威廉希尔官方网站 突破,大模型目前的表现仅是开端,我们需要有方法、有路径来驱动大模型持续发生威廉希尔官方网站 突破,直到走向AGI的远景目标。

如何铺这条大模型路?百度在WAVE SUMMIT深度学习开发者大会2023,展示了他们一直以来都在做的三件事。

指南针:AGI曙光已现

如果说,大模型还能向前走,那么它应该向哪里走?百度为大模型时代铺路,做的第一件事,是向各界展示了关于大语言模型方向的“指南针”。

AI开发者们都知道,WAVE SUMMIT深度学习开发者大会,历来是呈现百度对深度学习威廉希尔官方网站 未来洞察的舞台。

2019年,王海峰在首届WAVE SUMMIT中提出,深度学习具有很强的通用性,并具备标准化、自动化和模块化的工业大生产特征,推动人工智能进入工业大生产阶段。

四年来,AI工业大生产的方向不断得到了充分验证,更引导了AI产业的发展与AI开放生态的繁荣。今天,AI威廉希尔官方网站 在各领域展现出了充沛的生产力释放效应,证明AI工业大生产阶段已经正式到来。

面对大模型时代新的方向性问题,王海峰也给出了清晰明确的洞察。本届WAVE SUMMIT,王海峰首次对外表示,人工智能具有多种典型能力,理解、生成、逻辑、记忆是其中的核心基础能力,这四项能力越强,越接近通用人工智能,而大语言模型具备了这四项能力,为通用人工智能(AGI)带来曙光。

也就是说,大模型持续向前发展,实现威廉希尔官方网站 突破是可预见、可期待、可实现的。以理解、生成、逻辑、记忆四项核心威廉希尔官方网站 作为向量,我们可以规划出大模型长期发展的路标与路径。

这样的论断,建立于百度扎实的威廉希尔官方网站 探索之上。

wKgZomTfk66AJhR6AAJSvlMtmxY304.jpg

以文心一言为例,它首先从数万亿数据和数千亿知识中融合学习得到预训练大模型,在此基础上采用有监督精调、人类反馈的强化学习和提示等威廉希尔官方网站 ,并具备知识增强、检索增强和对话增强等威廉希尔官方网站 优势。进一步地,文心一言通过多种策略优化数据源及数据分布、基础模型长文建模、多类型多阶段有监督精调、多任务自适应有监督精调、多层次多粒度奖励模型等威廉希尔官方网站 创新,全面提升基础通用能力。在检索增强和知识增强的基础上,通过知识点增强,提升对世界知识的掌握和运用;通过大规模逻辑数据构建、逻辑知识建模、多粒度语义知识组合以及符号神经网络,提升逻辑能力;通过构建数据、内容、模型和系统安全的全面安全体系,保障大模型的安全性。可以说,其具备了理解、生成、逻辑、记忆等核心基础能力。

王海峰的阐释既解答了各界对大模型长期发展动力的期待,更直接点明了AGI这一长期目标的实现方式。将目前的大模型威廉希尔官方网站 基础,与人类科技的星辰大海联接在了一起。

除此之外,王海峰还分享了百度在大模型效率、应用等方面的最新进展。

所有远大航程都始于找到正确的航海图。大语言模型具备了理解、生成、逻辑、记忆四项核心基础能力,带来AGI的曙光,正是这样一张值得各界深度思考的航图。

筑路基:文心加飞桨的步步向前

知道了要向哪里走,接下来的问题是应该如何走?面对这个问题,百度为大模型时代做的第二件事,就是通过文心加飞桨,为大模型发展铺设新的路基。

百度集团副总裁、深度学习威廉希尔官方网站 及应用国家工程研究中心副主任吴甜表示,文心一言熟练掌握的创作体裁超过 200 种,涵盖了几乎所有写作需求,内容丰富度是初期的 1.6 倍、思维链长度是初期的 2.1 倍,知识点覆盖是初期的 8.3 倍。

这样的进展效率背后,是百度在核心威廉希尔官方网站 、开发平台、应用部署等领域协同发力的成果。而百度在大模型领域得到的先驱者经验,也将通过文心加飞桨打造的AI基础设施,面向开发者与千行百业进行落地。

在本届WAVE SUMMIT当中,我们可以看到百度围绕大模型的开发、优化、应用,取得了许多关键性、基础性的进展,我们可以从中试举几项加以说明:

1.扩展大模型能力边界的插件生态

面对全新的大模型机遇,插件机制是开发者急切期待的。为了填补这一需求,文心大模型在 3.5 版本中新增了插件机制,已上线了百度搜索、览卷文档、一镜流影、说图解画、E言易图五种官方原生插件。王海峰表示,未来百度将与开发者共建插件生态,共享威廉希尔官方网站 创新成果。

wKgaomTfk66ACt-jAABwK6k_-nk742.jpg

从WAVE SUMMIT的反馈来看,各界对这些插件的认可达到了很高指数。

比如说,览卷文档可以借助文档智能模型及搜索系统,实现对文档的格式、布局等信息充分理解及定位,从而帮助用户实现文档摘要、问答及创作的需求。

再比如,一镜流影依托文心跨模态大模型,突破了不同模态之间语义对齐等威廉希尔官方网站 难题。用户仅需简单输入文字,即可在1分钟内获得高质量的AIGC视频,为大模型+视频带来了全新的效率升级与想象力突破。

E言易图则实现了将文字需求转化为可视化图表的需求。仅需简单的数据图表需求,或输入待生成图表的数据内容,即可生成可交互图表,协助用户完成数据分析、洞察及图表信息的交互演示,从而实现大模型与办公、财务、数据统计等领域更为紧密、有针对性的结合。

2.深度学习平台与大模型的联合优化

在大模型成为各界关注重点之后,如何更好更快地训练大模型,提升大模型推理效率,成为了产业中至关重要的挑战。为此,经过紧密的威廉希尔官方网站 升级,百度已经将文心与飞桨联合优化这条路跑通、跑顺,成为了整个大模型产业可以参考的升级范本。

本届 WAVE SUMMIT 上正式发布了飞桨开源框架v2.5,其全面完成了架构升级,同时在大模型训练、推理和多硬件适配方面带来了新的功能。其中,文心与飞桨联合优化最为关键,通过协同优化,文心大模型 3.5 训练速度是优化前的3 倍,推理速度更是达到了30倍以上。

大模型效率的提升离不开飞桨的加持,在训练方面,百度总结了一套打法:

从硬件资源层面看,飞桨与文心在硬件集群上进行协同优化,提升了有效训练时间占比;通过芯片、存储、网络协同优化,提升了模型的训练吞吐速度,从而全面实现了以更小资源消耗实现大模型训练目标;与模型算法协同优化,提高收敛效率。在大模型训练中,优化收敛效率和稳定性,可大幅度减少训练时间,达到事半功倍的效果。

在推理方面,飞桨则是从模型压缩、推理引擎、服务部署三个关键环节进行协同优化。作为深度学习开发平台,飞桨可以支持AI模型从训练到推理的全流程落地。举例来看,飞桨模型推理服务就可以有效支持大模型推理效率提升。其在业内首创了支持动态插入的分布式推理引擎,从而可以更有效完成庞大数据规模的AI模型进行推理部署。在这些关键环节的协同推理能力提升下,飞桨不断帮助文心大模型提升推理效率与推理性能,让模型的学习效果与鲁棒性更强,从而取得更强的应用效果。

到目前为止,文心与飞桨的联合优化路径被持续验证,进而打通了大模型低成本、高效率落地的大门。

3.应用侧的先导示范。

面对着大模型的能力与机遇,各界不仅关注大模型基础威廉希尔官方网站 ,同时也希望在应用侧直接获得大模型支持,以及通过有效的AI原生应用来探索自身的应用落地方案。

wKgZomTfk6-Ae_KhAABXZn_RpKU364.jpg

在这一方面,WAVE SUMMIT 上展示了文心一言的能力,通过智能工作平台如流进入办公场景,全面提升办公效率。百度集团副总裁、百度集团首席信息官李莹发布了如流的“超级助理”。 在代码智能化场景,百度Comate系列产品全新升级,重磅发布智能编程助手ComateX和Comate Stack工具套件,实现了代码解释、代码生成、行间注释生成、单元测试用例等能力。

wKgaomTfk6-AF9AMAACeHkfC2J4389.jpg

文心加飞桨,通过不断升级威廉希尔官方网站 、完善工具、落地应用,让大模型的路基沿着正确方向一路铺设开去,从而让更多开发者、更多行业伙伴能够走上这条路,走近大模型的时代机遇。只有在众力众行之下,中国AI才能滚滚向前。

开航道:为开发者,为产业,为生态

在定准方向,夯实威廉希尔官方网站 之后,下一个问题是如何让更多人加入进来,分享大模型红利。为此,百度为大模型时代做的第三件事,是把大模型变成繁荣的生态航道。让更多行业、更多开发者以高效率、低门槛的方式融入进来,驶向自己的目标。

生态与威廉希尔官方网站 并重,始终是百度发展AI威廉希尔官方网站 的立足根本。经过多年发展,产业级深度学习开源开放平台飞桨,已经凝聚了800万开发者,服务于22万家企事业单位,基于飞桨创建的AI模型达到80万个。

wKgZomTfk7CAMBXiAACDdo3ka-o687.jpg

而面向大模型的机遇,百度同样也广开生态之门,注重社区发展。WAVE SUMMIT 期间,王海峰发布了飞桨开发者社区AI Studio中文名“星河社区”,寓意“文心加飞桨,翩然赴星河”。

与此同时,正式推出了星河大模型社区。在社区,开发者可以获得一体化的大模型开发支持。飞桨+文心贯通全开发流程,与开发者持续共创大模型项目和应用。目前,星河大模型社区已上线了超过 300 个大模型创意应用,还提供了丰富的功能方便开发者进行交流。百度还发布了文心大模型“星河”共创计划,提供生态和产业资源,与广大开发者共同推动人工智能应用创新。

而在作为AI产业底座的硬件领域,文心大模型最新与英伟达寒武纪、华为等12家硬件伙伴开展了适配,覆盖了云和端侧多种硬件类型。目前,已经有25家硬件伙伴参与到了星河社区硬件生态专区的共建当中。

wKgaomTfk7GAZFZNAACW1wd9eEg521.jpg

从产业落地的角度来看,文心大模型的落地规模在国内保持领先,已经有15 万家企业申请了文心一言内测,其中超过 300 家生态伙伴在 400 多个具体场景取得了测试成效,覆盖办公提效、知识管理、智能客服、智能营销等领域。同时,百度联合国家电网、浦发银行、泰康、吉利等企业联合发布了 11 个行业大模型。

不难看出,百度开辟的大模型航道,已经实现了落地广泛、生态繁荣、伙伴众多。百度的大模型之路,正在这样的航道上徐徐展开。

相比于以“有大模型”作为全部目标,百度的大模型之路目光更远,看向AGI的星辰大海。

相比于堆积参数和威廉希尔官方网站 务虚,百度的大模型之路更加脚踏实地,它是在一个个插件,一次次优化中走通的,每一个脚印清晰可见。

相比于短期利益与劣币竞争,百度的大模型之路坚持生态互利,它是行业的路,开发者的路,更多人的路。

中国AI的大模型之路,当如是也。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 百度
    +关注

    关注

    9

    文章

    2268

    浏览量

    90364
  • 深度学习
    +关注

    关注

    73

    文章

    5500

    浏览量

    121117
  • 飞桨
    +关注

    关注

    0

    文章

    33

    浏览量

    2286
  • 文心一言
    +关注

    关注

    0

    文章

    124

    浏览量

    1275
  • AIGC
    +关注

    关注

    1

    文章

    361

    浏览量

    1540
  • 大模型
    +关注

    关注

    2

    文章

    2427

    浏览量

    2647
收藏 人收藏

    评论

    相关推荐

    百度文心大模型日均调用量超15亿

    近日,百度在上海世博中心举办了主题为“应用来了”的百度世界2024大会。会上,百度董事长李彦宏分享了关于大模型行业的最新动态和百度文心大
    的头像 发表于 11-12 15:28 280次阅读

    李彦宏宣布:百度文心大模型日调用量超15亿

    百度世界2024大会上,百度公司创始人李彦宏宣布了一项令人瞩目的数据:百度文心大模型的日调用量已经超过15亿次。这一数据不仅彰显了百度在人
    的头像 发表于 11-12 10:40 202次阅读

    浪潮信息源2.0大模型百度PaddleNLP全面适配

    近日,浪潮信息宣布其开源大模型源2.0全面适配百度PaddleNLP。这一举措标志着大模型开发生态正加速进化,为用户提供了更加便捷、高效的大模型
    的头像 发表于 10-17 18:15 512次阅读

    百度申请文小言商标

    近日,百度在线网络威廉希尔官方网站 (北京)有限公司在知识产权领域有了新动作。据天眼查知识产权信息显示,百度申请多枚“文小言”商标,这些商标将涵盖广告销售、网站服务、健身器材、机械设备等多个领域。
    的头像 发表于 06-19 09:20 481次阅读

    2024百度移动生态万象大会:百度新搜索11%内容AI生成

    2024百度移动生态万象大会:百度新搜索11%内容AI生成 今天2024百度移动生态万象大会在江苏苏州举办,特别是AI搜索与百度文心一言的
    发表于 05-30 18:58 409次阅读

    百度文心大模型扩展合作领域

    百度创始人兼CEO李彦宏在2024年第一季度财报电话会上宣布,文心大模型API在继与中国三星、荣耀成功合作后,本季度再度实现重要突破。小米、OPPO、vivo等主流手机厂商全面接入文心大模型
    的头像 发表于 05-17 11:17 558次阅读

    百度文心大模型日处理Tokens文本已达2490亿

    近日,国内外AI领域迎来新一轮威廉希尔官方网站 革新。百度作为行业领军者,率先发布了大模型的最新进展及相关应用。百度指出,闭源大模型结合公有云已成为全球AI市场的主流趋势。
    的头像 发表于 05-16 10:08 404次阅读

    【机器视觉】欢创播报 | 百度智能云发布千帆大模型一体机

    1 百度智能云发布千帆大模型一体机 编辑 ​ 4月9日上午,百度智能云GENERATE全球生态大会在成都召开。会上,百度智能云发布千帆大模型
    的头像 发表于 04-11 10:49 588次阅读
    【机器视觉】欢创播报 | <b class='flag-5'>百度</b>智能云发布千帆大<b class='flag-5'>模型</b>一体机

    百度智能云正式发布了《百度智能云水业大模型白皮书》

    3月28日,由E20环境平台主办的2024(第二十二届)水业战略论坛在北京召开。会上,百度智能云正式发布了《百度智能云水业大模型白皮书》(以下简称《白皮书》)。
    的头像 发表于 03-29 09:20 1363次阅读
    <b class='flag-5'>百度</b>智能云正式发布了《<b class='flag-5'>百度</b>智能云水业大<b class='flag-5'>模型</b>白皮书》

    百度将为苹果新品提供AI功能

    据知情人士透露,百度确定将为苹果即将发布的iPhone16、Mac系统和iOS18提供AI功能。此前,苹果曾与阿里等其他国内大模型公司进行过洽谈,但最终选择了百度作为合作伙伴。
    的头像 发表于 03-26 09:15 527次阅读

    一图讲透百度智能云千帆大模型平台全面升级!

    【一图讲透】百度智能云千帆大模型平台全面升级!
    的头像 发表于 03-22 10:44 498次阅读
    一图讲透<b class='flag-5'>百度</b>智能云千帆大<b class='flag-5'>模型</b>平台全面升级!

    百度智能云推出全新轻量级大模型

    在近日举办的百度智能云千帆产品发布会上,三款全新的轻量级大模型——ERNIE Speed、ERNIE Lite以及ERNIE Tiny,引起了业界的广泛关注。相较于传统的千亿级别参数大模型,这些轻量级大
    的头像 发表于 03-22 10:28 661次阅读

    百度智能云大模型应用产品发布会定档

    百度智能云官方宣布,备受瞩目的“AI Cloud Day:百度智能云大模型应用产品发布会”正式定档于3月27日。
    的头像 发表于 03-21 11:37 840次阅读

    百度财报告诉你:2024想赚钱,搞大模型

    百度财报里,看见大模型的成绩与新篇
    的头像 发表于 03-01 09:39 2294次阅读
    <b class='flag-5'>百度</b>财报告诉你:2024想赚钱,搞大<b class='flag-5'>模型</b>

    百度智能云成为荣耀大模型生态战略合作伙伴

    2024年1月10日,在荣耀MagicOS 8.0发布会及开发者大会上,荣耀终端有限公司CEO赵明宣布了“模生态计划”,并与百度集团执行副总裁、百度智能云事业群总裁沈抖共同宣布,百度
    的头像 发表于 01-11 10:05 736次阅读