0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔大模型全适配,大语言模型已成功部署于CPU

微云疏影 来源:综合整理 作者:综合整理 2023-12-11 15:41 次阅读

据媒体报道,美当地时间12月8日,联想集团举办了“AI PC产业创新论坛”活动,在会议中,英特尔中国区威廉希尔官方网站 总经理高宇强调新一代酷睿Ultra处理器已适配超过10款中国国内的大型计算机模型。

他进一步指出,英特尔作为芯片制造商,始终致力于对“合适尺寸”模型的全面适配。面对大模型领域激烈的市场竞争,每个季度大约有4-5款新模型上市,一旦发现任何新的模型,英特尔承诺将立即派遣威廉希尔官方网站 团队与相关模型厂商展开联合研究,推动目标模型在平台上的移植工作。

此外,在AI算力解决方案方面,英特尔采取XPU策略,即GPU、NPU和CPU并行使用。高宇也提到,目前在英特尔CPU上已成功应用大语言模型,且运行速度流畅;未来,这一模型也将在英特尔NPU上完成部署。展望未来,英特尔将持续深化与其包括联想集团在内的国内产业链的合作关系。

英特尔曾在上文提及的文章中明确表示,AI PC是指具备完整AI功能的PC设备。通过让AI在云端和PC之间协同工作,或者使大语言模型在单机环境下独立运行,实现对PC用户体验的根本性改造以及生产能力和创造力的充分释放。

值得一提的是,随着12月15日在国内的酷睿Ultra系列处理器发布会日益临近,这款新品同样拥有集成式NPU,能够提供低延时的Al计算服务。同时,英特尔表态自MeteorLake开始,将把Al广泛引入PC,引领全球数亿台PC迈入Al时代。此外,基于强大的x86生态系统,英特尔为广大用户提供丰富多样的软件模型和工具。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    455

    文章

    50732

    浏览量

    423270
  • 英特尔
    +关注

    关注

    61

    文章

    9953

    浏览量

    171703
  • 大模型
    +关注

    关注

    2

    文章

    2427

    浏览量

    2649
收藏 人收藏

    评论

    相关推荐

    使用英特尔AI PC为YOLO模型训练加速

    之后,情况有了新的变化,PyTorch2.5正式开始支持英特尔显卡,也就是说,此后我们能够借助英特尔 锐炫 显卡来进行模型训练了。
    的头像 发表于 12-09 16:14 256次阅读
    使用<b class='flag-5'>英特尔</b>AI PC为YOLO<b class='flag-5'>模型</b>训练加速

    语言模型开发框架是什么

    语言模型开发框架是指用于训练、推理和部署大型语言模型的软件工具和库。下面,AI部落小编为您介绍大语言
    的头像 发表于 12-06 10:28 115次阅读

    英特尔助力百度智能云千帆大模型平台加速LLM推理

    “大模型在各行业的广泛应用驱动了新一轮产业革命,也凸显了在AI算力方面的瓶颈。通过携手英特尔释放英特尔 至强 可扩展处理器的算力潜力,我们为用户提供了高性能、灵活、经济的算力基础设施方案,结合千帆
    的头像 发表于 11-25 16:59 405次阅读
    <b class='flag-5'>英特尔</b>助力百度智能云千帆大<b class='flag-5'>模型</b>平台加速LLM推理

    使用PyTorch在英特尔独立显卡上训练模型

    《PyTorch 2.5重磅更新:性能优化+新特性》中的一个新特性就是:正式支持在英特尔独立显卡上训练模型
    的头像 发表于 11-01 14:21 374次阅读
    使用PyTorch在<b class='flag-5'>英特尔</b>独立显卡上训练<b class='flag-5'>模型</b>

    英特尔IT的发展现状和创新动向

    AI大模型的爆发,客观上给IT的发展带来了巨大的机会。作为把IT发展上升为战略高度的英特尔,自然在推动IT发展中注入了强劲动力。英特尔IT不仅专注创新、AI和优化,以及
    的头像 发表于 08-16 15:22 551次阅读

    如何将Llama3.1模型部署英特尔酷睿Ultra处理器

    本文从搭建环境开始,一步一步帮助读者实现只用五行代码便可将Llama3.1模型部署英特尔 酷睿 Ultra 处理器上。
    的头像 发表于 07-26 09:51 2124次阅读
    如何将Llama3.1<b class='flag-5'>模型</b><b class='flag-5'>部署</b>在<b class='flag-5'>英特尔</b>酷睿Ultra处理器

    英特尔助力京东云用CPU加速AI推理,以大模型构建数智化供应链

    英特尔助力京东云用CPU加速AI推理,以大模型构建数智化供应链
    的头像 发表于 05-27 11:50 531次阅读
    <b class='flag-5'>英特尔</b>助力京东云用<b class='flag-5'>CPU</b>加速AI推理,以大<b class='flag-5'>模型</b>构建数智化供应链

    已有超过500款AI模型英特尔酷睿Ultra处理器上得以优化运行

    近日,英特尔宣布在全新英特尔 酷睿 Ultra处理器上,有超过500款AI模型得以优化运行。
    的头像 发表于 05-11 09:31 716次阅读

    英特尔酷睿Ultra处理器突破500个AI模型优化

    英特尔在最新推出的英特尔® 酷睿™ Ultra处理器上宣布,超过500款AI模型已得到优化运行。这款处理器无疑是市场上领先的AI PC处理器,它不仅带来了前所未有的AI体验,还集成了沉浸式图形处理和出色的电池续航能力。
    的头像 发表于 05-09 11:18 762次阅读

    【大语言模型:原理与工程实践】大语言模型的评测

    在知识获取、逻辑推理、代码生成等方面的能力。这些评测基准包括语言建模能力、综合知识能力、数学计算能力、代码能力和垂直领域等多个维度。对于微调模型,对话能力的评测关注模型在对话任务中的
    发表于 05-07 17:12

    【大语言模型:原理与工程实践】大语言模型的基础威廉希尔官方网站

    语言模型基础威廉希尔官方网站 21随着Transformer结构在机器翻译领域取得巨大成功,研究人员开始探索其在其他自然语言处理任务中的潜力。很快,Transformer 结构被证明不仅适用于序列
    发表于 05-05 12:17

    英特尔AI产品助力其运行Meta新一代大语言模型Meta Llama 3

    英特尔丰富的AI产品——面向数据中心的至强处理器,边缘处理器及AI PC等产品为开发者提供最新的优化,助力其运行Meta新一代大语言模型Meta Llama 3
    的头像 发表于 04-28 11:16 626次阅读

    浪潮信息&quot;源2.0&quot;大模型YuanChat支持英特尔最新商用AI PC

    北京2024年3月27日 /美通社/ -- 3月26日, 浪潮信息与英特尔正式宣布,浪潮信息"源2.0系列基础大模型"已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理
    的头像 发表于 03-27 22:52 499次阅读
    浪潮信息&quot;源2.0&quot;大<b class='flag-5'>模型</b>YuanChat支持<b class='flag-5'>英特尔</b>最新商用AI PC

    浪潮信息与英特尔合作推出一种大模型效率工具“YuanChat”

    3月26日,浪潮信息与英特尔正式宣布,浪潮信息“源2.0系列基础大模型”已和最新的英特尔® 酷睿™ Ultra处理器平台完成适配,本地推理速度提升100%。
    的头像 发表于 03-27 13:50 629次阅读
    浪潮信息与<b class='flag-5'>英特尔</b>合作推出一种大<b class='flag-5'>模型</b>效率工具“YuanChat”

    英特尔CPU部署Qwen 1.8B模型的过程

    本文介绍了在英特尔 13 代酷睿 CPU i5 - 13490F 设备上部署 Qwen 1.8B 模型的过程,你需要至少 16GB 内存的机器来完成这项任务,我们将使用
    的头像 发表于 01-12 10:28 2607次阅读