谷歌近日为其Android上的TensorFlow框架开发了新的基于OpenCL的移动GPU推理引擎,与现有的OpenGL后端相比,新的推理引擎速度是前者的2倍。
OpenGL是一种渲染图形API,其应用已近30年之久,目前常用的GPU推理引擎均是以OpenGL开发。虽然在 OpenGL ES 3.1中新增了计算着色器Compute Shader,但TensorFlow团队表示,向后兼容的设计限制了GPU的运算能力。
而OpenCL从一开始就是为使用各种计算加速而设计的,因此更为适合移动GPU推理领域。这促使TensorFlow团队对基于OpenCL的移动推理引擎进行了考察,并最终决定采用该引擎。TFLite开发团队提到,与OpenGL相比,最佳化OpenCL后端要简单许多,因为OpenCL提供良好的分析功能,利用概要分析API,开发团队能够精确地量测核心调度效能。
值得一提的是,这一推理引擎具有完整的效能分析功,也就是说优化器会选择适合大小的神经网络工作组以提高GPU的效率。且原生支持FP16,即使在比较老旧的GPU硬件上,如2012年的Adreno 305也可完美发挥出GPU的效能。
责任编辑:pj
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
相关推荐
近日,全球科技巨头谷歌宣布,其新一代芯片在量子计算领域取得了前所未有的重大突破。据悉,谷歌成功地在短短五分钟内解决了一个传统
发表于 12-13 11:10
•268次阅读
谷歌公司近日发布声明,宣布在芬兰卡亚尼和穆霍斯两地购买土地,作为其扩建云计算和数据中心基础设施计划的重要一步。此次购地行动标志着谷歌在芬兰的
发表于 12-04 11:38
•252次阅读
场景精确投射到2D平面;最后在像素着色阶段完成材质渲染和光照明细处理。DirectX API的迭代推动了可编程着色器的发展,解放了GPU的通用计算潜能。特别是像素
发表于 11-24 17:12
近期,英伟达与Alphabet旗下的谷歌公司宣布了一项令人瞩目的合作计划——共同设计量子计算处理器。这一合作标志着两大科技巨头在量子
发表于 11-19 11:06
•280次阅读
着色器(Pixel shader)是图形流水线中算力相当强大的功能单元,因为它可以为每个片段执行复杂的计算,从而为最终渲染的图像添加细节和视觉效果。
DirectX API推动 GPU
发表于 11-03 12:55
谷歌近日宣布,在其广受欢迎的Chrome浏览器中引入了三项前沿的AI威廉希尔官方网站
功能,旨在为用户提供更加智能、便捷的浏览体验。这些新功能由Gemini威廉希尔官方网站
强力驱动,目前已在Chrome桌面版上线,标志着
发表于 08-05 11:26
•674次阅读
科技巨头Meta近期震撼发布了其最新的开源人工智能(AI)模型——Llama 3.1,这一举措标志着Meta在AI领域的又一重大突破。Meta创始人马克·扎克伯格亲自站台,盛赞Llama 3.
发表于 07-24 18:25
•1433次阅读
电子发烧友网站提供《OpenGL+ES+2.0+编程指南.pdf》资料免费下载
发表于 05-07 14:20
•0次下载
值得注意的是,早在2021年3月,谷歌已在Chrome 89稳定版中推出了全新的“阅读清单”功能,方便用户在浏览网页时将需后续阅读的文章加入“阅读清单”,以便随时查阅。
发表于 04-28 14:11
•480次阅读
领域,现在也有一些新威廉希尔官方网站
,例如,光线追踪等等,都可以给计算机带来更高的渲染质量和视觉效果。在进行跨平台渲染时,需要用到OpenGL,着色器编程是Op
发表于 04-25 08:40
(gl.ARRAY_BUFFER, verticesColors.buffer, gl.STATIC_DRAW);
// 获取着色器中attribute变量a_Position的地址
var
发表于 03-13 15:22
无着色器绘制2D图形
使用WebGL开发时,为保证界面图形显示效果,请使用真机运行。
此场景为未使用WebGL绘制的2D图形(CPU绘制非GPU绘制)。开发示例如下:
1.创建页面布局
发表于 03-12 15:42
。
一、 着色器
可以理解为运行在显卡中的指令和数据。在WebGL中,着色器是用OpenGL
发表于 03-08 14:24
着色器
可以理解为运行在显卡中的指令和数据。在WebGL中,着色器是用OpenGL
发表于 02-25 21:56
汽车座椅的健康与舒适也是座舱体验的重要部分,符合人体工学设计和关爱脊背健康的座椅才能给乘坐者带来长久的舒适。蔚来全新ES6在今年获得了德国脊背健康协会(AGR)的座椅健康认证,全新
发表于 01-08 09:50
•717次阅读
评论