GTC 2023：阿里巴巴CUTLASS优化探索推荐系统中的应用
推荐系统简介
背景：
●场景多，模型计算复杂度高;
●流量大，对实时性要求高;
●占用硬件资源多，硬件成本高;
●模型结构存在- -致性，可通过定制算子获得加速;
以TensorFlow为backend ，算子数量多;此前，我们通过算子融合（类Faster Transformer），CUDA Graph等手段已经取得了不错的性能提升;利用CUTLASS进一步优化Attention和MLP计算， 可进步提升资源利用率。
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
gpu
+关注
关注
28文章
4729浏览量
128897 -
阿里巴巴
+关注
关注
7文章
1614浏览量
47173 -
推荐系统
+关注
关注
1文章
43浏览量
10075 -
gtc
+关注
关注
0文章
73浏览量
4425
发布评论请先 登录
相关推荐
荣邦佳业有阿里巴巴啦
服务，是全球首家拥有百万商人的商务网站。在全球网站浏览量排名中，稳居国际商务及贸易类网站第一。而近年来，越来越多的行业，走向了网络营销的方式。首选阿里巴巴。企业与企业之间交流的最好平台，采购商与供应商
发表于 04-15 10:04
《阿里巴巴Android开发手册》正式发布，献给移动开发者的新年礼物
，这些App依然可以做到“丝般顺滑”。在这背后，是阿里巴巴移动开发团队的不断探索和优化，久而久之，这些经验汇总成了一套完善的开发规范，指导工程师开发出体验好、性能优、稳定性佳、安全性高的App。该开发
发表于 02-28 16:29
阿里巴巴敏捷研发的探索与实践
教练何勉、张迎辉、张燎原为大家分享阿里巴巴的敏捷实践，从中大家可以了解到互联网产品全生命周期的探索和创新方法，看板方法如何助力阿里健康医药B2B业务发展，以及与敏捷教练一起互动交流如何将敏捷理念实施
发表于 03-07 17:26
阿里巴巴大数据实践之数据建模
的数据仓库模型建设经历了多个发展阶段。第一个阶段：完全应用驱动的时代，阿里巴巴的第一代数据仓库系统构建在Oracle上，数据完全以满足报表需求为目的，将数据以与源结构相同的方式同步到Oracle（称作
发表于 03-14 17:23
“阿里巴巴大数据系统体系”四大层次
。 阿里巴巴作为距离大数据最近的公司之一，既有丰富的数据资源也有丰富的应用场景，从它建构的大数据体系了解“大数据”这条生态链的全貌，我认为是比较科学的。 “阿里巴巴大数据系统体系”设计原则：满足不断
发表于 08-29 16:19
国内芯片—阿里巴巴的人工智能实力
的天猫精灵车载版语音交互系统将首先搭载在沃尔沃汽车上，其体验版出现在了2018年云栖大会的阿里巴巴人工智能实验展台，引人关注。阿里巴巴人工智能实验室连续发布了几款黑科技，为用户搭建了一个围绕仓、机器人
发表于 09-27 17:54
阿里巴巴无线空口提案正式成为LoRa国际标准
过长达2年与国际相关威廉希尔官方网站
专家反复研究论证的不懈努力，LoRa联盟批准发布阿里巴巴提交的《LoRaWAN CN470频谱威廉希尔官方网站
标准》提案成为正式国际标准，该标准中的很多方案设计，例如全双工设计与经济的天线
发表于 12-13 10:10
阿里巴巴ai模型破世界纪录_阿里巴巴的人工智能未来发展解析
阿里巴巴近日再爆大事件，阿里巴巴ai模型在阅读理解领域顶级赛事SQuAD破世界纪录引起大家的高度关注，跟随小编一起来了解一下是什么情况，看看阿里巴巴人工智能的未来发展趋势以及全球人工智能的未来发展趋势是什么。
发表于 01-16 11:47
•1715次阅读
阿里巴巴回应“收缩招聘”：系假新闻，只是阿里巴巴近期的一次人才盘点和人才体系升级
速途网10月23日消息(报道：吴佳馨)近日有传言称，阿里巴巴已缩减headcount，所有业务线不批offer。今日下午，阿里巴巴对此传言做出回应，称该消息为假新闻，这只是阿里巴巴近期的一次人才盘点
发表于 10-25 11:15
•411次阅读
阿里巴巴马云占股份多少？阿里巴巴马云持股比例？目前马云持股降至4.8%
马云在阿里巴巴占多少股份你知道吗？之前大概马云在阿里巴巴的持股比例为7%，现在马云在阿里持股降至5%以下但是仍为最大个人股东。
发表于 07-13 17:02
•2.6w次阅读
阿里巴巴发布阿里云量子开发平台
今日，阿里巴巴发布阿里云量子开发平台（ACQDP），并全面开源量子模拟器“太章2.0”，支持从业人员设计量子硬件、测试量子算法，并探索在材料、分子发现、优化问题、机器学习等领域内的应用
阿里巴巴注册元宇宙
近日，阿里巴巴元宇宙商标已经被其他公司抢注，目前商标状态均为申请中。阿里巴巴通过成立XR 实验室逐步实现元宇宙的四个阶段布局，拥抱元宇宙。
镭神智能入选阿里巴巴诸神之战2023年度智能制造赛道之星
近日，阿里云发布《Create@阿里巴巴诸神之战2023年度新势力榜单》，镭神智能入选Create@阿里巴巴诸神之战2023年度智能制造赛道
工商网监
评论