据悉,亚马逊云服务部门于5月23日宣布,与人工智能新贵Hugging Face达成合作协议,在定制化计算芯片Inferentia2上以更优惠价格运行上千种AI模型。
Hugging Face作为一家估值为45亿美元的公司现已成为了众多AI研究员和开发者分享Chatbot和相关软件的核心平台,受到亚马逊、谷歌、英伟达等巨头的青睐。
据了解,Hugging Face是开发者获取和调整诸如Meta Platforms的Llama 3等开源AI模型的首选平台。
当开发者完成对开源AI模型的调整后,往往希望能利用此模型驱动软件。因此,亚马逊和Hugging Face决定联手,通过在Inferentia2定制化亚马逊网络服务(AWS)芯片上实现这一目标。
Hugging Face的产品及增长主管Jeff Boudier表示,对于他们而言,效率至关重要——即确保尽可能多的用户能够运行模型,且以最具性价比的方式进行。
尽管英伟达在训练模型领域处于领先地位,但AWS坚信其芯片有能力以更低成本运行已训练好的模型。
AWS人工智能产品负责人Matt Wood指出,用户可能每月仅需训练一次这些模型,而实际应用中,可能需要每小时对其进行数万次推理,这正是Inferentia2的独特优势所在。
-
AI
+关注
关注
87文章
30751浏览量
268901 -
模型
+关注
关注
1文章
3229浏览量
48810 -
英伟达
+关注
关注
22文章
3771浏览量
90991 -
亚马逊
+关注
关注
8文章
2650浏览量
83322
发布评论请先 登录
相关推荐
LG AI Research使用亚马逊云科技开发AI模型 加快癌症诊断速度

亚马逊转向Trainium芯片,全力投入AI模型训练
GE医疗与亚马逊云科技达成战略合作,通过生成式AI加速医疗健康领域转型
亚马逊达成收购协议,拟整合芯片制造商与AI模型压缩专家Perceive
Hugging Face科技公司推出SmolLM系列语言模型
涂鸦智能携手亚马逊云科技,以生成式AI重塑智慧开发新纪元
亚马逊云科技与SAP携手云ERP体验,引领AI新纪元
亚马逊云科技携手SAP通过生成式AI解锁创新潜力
亚马逊云科技中国峰会聚焦AI与数字化转型
Hugging Face提供1000万美元免费共享GPU
ServiceNow、Hugging Face 和 NVIDIA 发布全新开放获取 LLM,助力开发者运用生成式 AI 构建企业应用


评论