据悉,亚马逊云服务部门于5月23日宣布,与人工智能新贵Hugging Face达成合作协议,在定制化计算芯片Inferentia2上以更优惠价格运行上千种AI模型。
Hugging Face作为一家估值为45亿美元的公司现已成为了众多AI研究员和开发者分享Chatbot和相关软件的核心平台,受到亚马逊、谷歌、英伟达等巨头的青睐。
据了解,Hugging Face是开发者获取和调整诸如Meta Platforms的Llama 3等开源AI模型的首选平台。
当开发者完成对开源AI模型的调整后,往往希望能利用此模型驱动软件。因此,亚马逊和Hugging Face决定联手,通过在Inferentia2定制化亚马逊网络服务(AWS)芯片上实现这一目标。
Hugging Face的产品及增长主管Jeff Boudier表示,对于他们而言,效率至关重要——即确保尽可能多的用户能够运行模型,且以最具性价比的方式进行。
尽管英伟达在训练模型领域处于领先地位,但AWS坚信其芯片有能力以更低成本运行已训练好的模型。
AWS人工智能产品负责人Matt Wood指出,用户可能每月仅需训练一次这些模型,而实际应用中,可能需要每小时对其进行数万次推理,这正是Inferentia2的独特优势所在。
-
AI
+关注
关注
87文章
30751浏览量
268901 -
模型
+关注
关注
1文章
3229浏览量
48810 -
英伟达
+关注
关注
22文章
3771浏览量
90991 -
亚马逊
+关注
关注
8文章
2650浏览量
83322
发布评论请先 登录
相关推荐
评论