0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

新研究首次证明在光学芯片上可训练人工智能的能力

IEEE电气电子工程师 来源:IEEE电气电子工程师 2023-05-25 10:57 次阅读

使用光而非电的处理器有望成为实现人工智能的一种更快、更节能的方式。到目前为止,它们只用于运行已经训练过的模型,但新的研究首次证明了在光学芯片上训练人工智能的能力。

随着人工智能模型越来越大,人们越来越担心它们消耗的能量,既是由于不断膨胀的成本,也是对环境的潜在影响。这激发了人们对可以减少人工智能能源费用的新方法的兴趣,其中光子处理器成为了主要候选者。

这些芯片用光子取代了传统处理器中的电子,并使用波导、滤波器和光探测器等光学组件来创建可以执行计算任务的电路。它们在运行人工智能方面特别有前景,因为它们在执行矩阵乘法方面非常高效,这是所有深度学习模型的核心关键计算。总部位于波士顿的Lightmatter和马萨诸塞州剑桥的Lightelligence等公司已经在努力将光子人工智能芯片商业化。

然而,到目前为止,这些设备只用于推理,即已经训练过的人工智能模型对新数据进行预测。这是因为这些芯片一直在努力实现一种用于训练神经网络的关键算法——反向传播。但在《科学》杂志的一篇新论文(https://www.science.org/doi/10.1126/science.ade8450)中,斯坦福大学的一个团队描述了这种训练方法首次在光子芯片上实现。

“我们的实验首次证明了原位反向传播可以训练光子神经网络来解决任务,这为训练神经网络提供了一种新的节能途径,”Sunil Pai说,他在斯坦福大学领导了这项研究,但现在在加州的PsiQuantum工作,该公司正在制造光子量子计算机。

反向传播包括反复将训练示例输入神经网络,并要求其对数据进行预测。每次,算法都会测量预测的偏差,然后通过网络将误差信号反馈回来。这用于调整神经元之间的连接强度或权重,以提高预测性能。这个过程重复多次,直到网络能够解决它所设置的任何任务。

麻省理工学院博士后Charles Roques-Carmes表示,这种方法很难在光子处理器上实现,因为与标准芯片相比,这些设备只能执行有限的操作。因此,计算光子神经网络的权重通常依赖于在传统计算机上芯片外对处理器进行的复杂物理interwetten与威廉的赔率体系

但在2018年,《科学》上新论文的一些作者提出了一种算法,理论上可以有效地在芯片上执行这一关键步骤。该方案包括将训练数据编码为光信号,使其通过光子神经网络,然后计算输出的误差。然后,该错误信号通过网络反向发送,并对原始输入信号进行光学干扰,其结果告诉您需要如何调整网络连接以改进预测。然而,该方案依赖于通过芯片向前和向后发送光信号,并能够测量通过单个芯片组件的光的强度,这在现有设计中是不可能的。

“This might open the way to fully photonic computing on-chip for applications in AI.”

—Charles Roques-Carmes, MIT

现在,Pai和他的同事已经构建了一种定制的光子芯片,可以成功地实现这种算法。它使用了一种被称为“光子网格”的常见设计,其特点是一组可编程光学元件,控制光信号如何在芯片上分裂。通过使光束相互混合和干涉,芯片能够进行矩阵乘法运算,从而实现光子神经网络。

不过,新芯片的与众不同之处在于,它的两端都有光源和光探测器,允许信号在网络中向前和向后传递。它还在网络中的每个节点上都有小的“抽头”,可以吸走少量的光信号,将其重定向到测量光强度的红外相机。这些变化共同使得实现光学反向传播算法成为可能。研究人员表明,他们可以训练一个简单的神经网络,根据点的位置在图上标记点,准确率高达98%,与传统方法相当。

Pai说,在这种方法变得实用之前,还有很多工作要做。光学抽头和相机对于实验装置来说很好,但需要用商业芯片中的集成光电探测器来取代。Pai表示,他们需要使用相对较高的光功率才能获得良好的性能,这表明在精度和能耗之间需要权衡。

Roques-Carmes说,同样重要的是要认识到斯坦福大学研究人员的系统实际上是一种混合设计。计算成本高昂的矩阵乘法是以光学方式进行的,但被称为非线性激活函数的更简单的计算是以数字方式在芯片外进行的,非线性激活函数决定了每个神经元的输出。目前,这些威廉希尔官方网站 的数字实现成本低廉,光学实现复杂,但Roques-Carmes表示,其他研究人员也在这个问题上取得了进展。

“这项研究是在光子芯片上实现有用的机器学习算法的重要一步,”他说,“将其与目前正在开发的高效片上非线性运算相结合,这可能为人工智能中的全光子片上计算开辟道路。”

审核编辑:彭静

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 探测器
    +关注

    关注

    14

    文章

    2637

    浏览量

    73016
  • 人工智能
    +关注

    关注

    1791

    文章

    47242

    浏览量

    238355
  • 光学芯片
    +关注

    关注

    0

    文章

    17

    浏览量

    4499

原文标题:斯坦福大学团队首次实现光学反向传播里程碑

文章出处:【微信号:IEEE_China,微信公众号:IEEE电气电子工程师】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    【「具身智能机器人系统」阅读体验】+数据具身人工智能中的价值

    嵌入式人工智能(EAI)将人工智能集成到机器人等物理实体中,使它们能够感知、学习环境并与之动态交互。这种能力使此类机器人能够人类社会中有效地提供商品及服务。 数据是一种货币化工具 数
    发表于 12-24 00:33

    苹果或与博通携手研发人工智能芯片

    据消息人士透露,苹果公司正在与博通公司携手研发一款人工智能芯片,并计划于2026年启动生产。苹果的高级机器学习和人工智能总监Benoit Dupin最近表示,该公司正在考虑使用亚马逊最新的人工
    的头像 发表于 12-12 14:01 170次阅读

    嵌入式和人工智能究竟是什么关系?

    领域,如工业控制、智能家居、医疗设备等。 人工智能是计算机科学的一个分支,它研究如何使计算机具备像人类一样思考、学习、推理和决策的能力人工智能
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    幸得一好书,特此来分享。感谢平台,感谢作者。受益匪浅。 阅读《AI for Science:人工智能驱动科学创新》的第6章后,我深刻感受到人工智能在能源科学领域中的巨大潜力和广泛应用。这一章详细
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    阅读这一章后,我深感人工智能与生命科学的结合正引领着一场前所未有的科学革命,以下是我个人的读后感: 1. 威廉希尔官方网站 革新与生命科学进步 这一章详细阐述了人工智能如何通过其强大的数据处理和分析能力,加速生命科学
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第二章AI for Science的威廉希尔官方网站 支撑学习心得

    ,推动科学研究的深入发展。 总结 通过阅读《AI for Science:人工智能驱动科学创新》第二章,我对AI for Science的威廉希尔官方网站 支撑有了更加全面和深入的理解。我深刻认识到AI科学
    发表于 10-14 09:16

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    深刻认识到人工智能在推动科学进步中的核心价值。它不仅是科技进步的加速器,更是人类智慧拓展的催化剂,引领我们迈向一个更加智慧、高效、持续的科学研究新时代。
    发表于 10-14 09:12

    人工智能云计算是什么

    人工智能云计算,简而言之,是指将人工智能威廉希尔官方网站 与云计算平台相结合,利用云计算的强大计算力、存储能力和灵活扩展性,来加速AI模型的训练、推理和
    的头像 发表于 10-12 09:46 234次阅读

    risc-v人工智能图像处理应用前景分析

    定制性。这些特点使得RISC-V多个领域,包括人工智能图像处理领域,具有显著的优势。 二、RISC-V人工智能图像处理中的优势 开源性和灵活性 : RISC-V的开源性意味着任何人
    发表于 09-28 11:00

    人工智能ai4s试读申请

    目前人工智能在绘画对话等大模型领域应用广阔,ai4s也是方兴未艾。但是如何有效利用ai4s工具助力科研是个需要研究的课题,本书对ai4s基本原理和原则,方法进行描诉,有利于总结经验,拟按照要求准备相关体会材料。看能否有助于入门和提高ss
    发表于 09-09 15:36

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    大力发展AI for Science的原因。 第2章从科学研究底层的理论模式与主要困境,以及人工智能三要素(数据、算法、算力)出发,对AI for Science的威廉希尔官方网站 支撑进行解读。 第3章介绍了
    发表于 09-09 13:54

    FPGA人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和
    发表于 07-29 17:05

    进一步解读英伟达 Blackwell 架构、NVlink及GB200 超级芯片

    人工智能模型规模和复杂性呈指数级增长,对先进计算能力和内存容量的需求变得至关重要。Blackwell图形处理器架构通过性能和效率方面实
    发表于 05-13 17:16

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    https://t.elecfans.com/v/27186.html *附件:引体向上测试案例_20240126.pdf 人工智能 工业检测:芯片模组外观检测实训part1 11分40秒 https
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷嵌入式
    发表于 02-26 10:17