作者:Jean-Jaques (JJ) DeLisle
机器学习 (ML) 和人工智能 (AI) 威廉希尔官方网站 (通常称为 AI)是现代投资最多的领域之一。预计在短短几年内,人工智能威廉希尔官方网站 和功能将被集成到大量的边缘设备和自治系统中,以及基于云的和生成式人工智能服务的增长格局中。
然而,人工智能无处不在并非没有成长的痛苦。在许多方面,大型语言模型 (LLM)、自然语言处理、语音识别、强化学习和其他系统背后的深度神经网络 (DNN) 威廉希尔官方网站 使用大量存储、内存和处理作为创建有效 AI 威廉希尔官方网站 的捷径。
这里的前提是,与依赖数学效率和优化的早期ML / AI模型开发相比,可以使用更大的训练集和计算资源来创建更准确和有用的模型。OpenAI发布的一项分析显示,AI开发中使用的计算资源每3.4个月翻一番,而摩尔定律在计算能力方面的进步每2年仅翻一番。因此,在某个点上,计算能力的改进将被当前AI训练和推理范式的需求所超越。
为了保持竞争力并在边缘实现 AI 威廉希尔官方网站 ,这种方法需要妥协以满足边缘系统的尺寸、重量、成本和能源使用要求。其中一些折衷包括降低数字AI模型中使用的数据的分辨率。此外,降低分辨率对AI能源和复杂性的节省存在实际限制。GPU 已成为执行 AI 训练和推理任务所需的大型矩阵操作的流行选择,因为 GPU 在执行大型矩阵计算方面比 CPU 更强大、更节能。
然而,对于基于冯诺依曼架构的数字计算方法,这些系统的处理速度不可避免地存在实际限制。这是一种称为冯诺依曼瓶颈的现象,其中处理速度受到从内存到处理单元的数据传输速率的限制。
图1以下是传统的冯·诺依曼架构如何受到大量数据移动的瓶颈。来源:IBM
上述事实是IBM和其他AI威廉希尔官方网站 公司(如Mythic AI)押注模拟AI用于边缘AI训练和推理的未来的基础。一些行业消息人士声称,模拟人工智能威廉希尔官方网站 可能比数字人工智能威廉希尔官方网站 快几十到几百倍,效率更高,这将允许在能源受限的边缘设备中大幅提高人工智能处理能力。
图2该图表比较了 2014 年至 2026 年当前和近期的数字 AI 和模拟 AI 硬件威廉希尔官方网站 及其每瓦性能。来源:IBM
数字处理威廉希尔官方网站 依赖于打包为离散值的数据,每个位存储在指定的晶体管或存储单元中,而模拟处理威廉希尔官方网站 可以利用存储在单个晶体管或存储单元中的连续信息。仅此功能就允许模拟处理威廉希尔官方网站 在更小的空间内存储更多数据,但通过随机错误注入牺牲了存储数据的可变性。
模拟存储的可变性可能导致前向传播(推理)失配误差,以及反向传播(训练计算误差)。两者都不是可取的,但可以使用数字电路和模拟电路来解释这种误差,以确保最小的误差,以及其他人工智能训练威廉希尔官方网站 来减轻反向传播误差。
对于人工神经网络(ANN),现在可以管理这种可变性。从历史上看,模拟存储的可变性是数字计算威廉希尔官方网站 最初在半个多世纪前取代模拟计算威廉希尔官方网站 的原因,因为大多数计算系统都需要更高的精度。
模拟人工智能的优点
ANN模拟计算的其他优点包括乘法累加运算,这是ANN计算中最常用的运算,可以使用电动力学的物理特性来完成,例如用于乘法的欧姆定律和用于求和的基尔霍夫定律。这允许模拟计算机将输入作为数组处理并并行执行全矩阵操作。这可能比使用 CPU 甚至 GPU 的矩阵计算更快、更高效。
图3围绕Pytorch,Caffe和TensorFlow等标准框架构建的AI工作流程使用模拟矩阵处理器进行部署。
模拟计算威廉希尔官方网站 的另一个优点是,这些解决方案可以利用不同的存储单元威廉希尔官方网站 ,例如相变材料(PCM)和数字闪存,作为可变电阻而不是开关运行。这些模拟存储方法允许在同一位置进行计算和存储,而无需持续使用电源来维护数据存储。
这些因素意味着模拟计算/存储中不存在冯诺依曼瓶颈,模拟数据存储本质上是被动的,随着时间的推移,与主动数字数据存储相比,使用的能量要少得多。例如,PCM的工作原理是材料的电导率是PCM存储单元内无定形与结晶状态之比的函数。
对于IBM的PCM威廉希尔官方网站 ,较低的电流编程状态导致更低的电阻和更多的晶体结构,其中较高的编程电流导致更多的非晶材料在更高的电阻下。这就是为什么PCM数据存储相对非易失性的原因,以及ANN突触权重如何存储为单个PCM单元的电导上限和电导下限之间的连续统一体,而不是几个晶体管或其他数字存储单元上的多个位。
因此,毫不奇怪,对于能源/处理受限系统上的边缘计算推理和 AI 培训,模拟 AI 威廉希尔官方网站 正在成为一种解决方案,无需访问广泛的云 AI 基础设施和互联网连接即可带来 DNN 的优势。这将导致响应更快、更高效、更有能力的边缘人工智能更适合自主应用,如机器人、完全自动驾驶、安全,甚至认知无线电/通信。
编辑:黄飞
-
数据传输
+关注
关注
9文章
1862浏览量
64522 -
神经网络
+关注
关注
42文章
4767浏览量
100654 -
人工智能
+关注
关注
1791文章
47026浏览量
237968 -
机器学习
+关注
关注
66文章
8392浏览量
132507
发布评论请先 登录
相关推荐
评论