Whoscored中文官网 | 编译自 IEEE Spectrum
斯坦福大学团队首次实现了具有里程碑意义的光学反向传播。
显微镜图像显示了用于执行称为反向传播的人工智能协议的双向光栅抽头[左]，以及芯片这一部分的放大图[右]。SCIENCE/AAAS
使用光而不是电的处理器显示出作为一种更快、更节能的方式来实现人工智能的前景。到目前为止，它们只被用来运行已经训练过的模型，但新的研究首次证明了在光学芯片上训练人工智能的能力。
随着人工智能模型变得越来越大，人们越来越关注它们所消耗的能源量，这既是由于成本的膨胀，也是对环境的潜在影响。这刺激了人们对能够减少人工智能的能源费用的新方法的兴趣，而光子处理器正在成为一个主要的候选者。
这些芯片用光子取代了传统处理器中的电子，并使用波导、过滤器和光探测器等光学元件来创建能够执行计算任务的电路。它们对运行人工智能特别有希望，因为它们在执行矩阵乘法方面非常有效，这是所有深度学习模型核心的关键计算。总部位于波士顿的Lightmatter公司，和位于马萨诸塞州剑桥的Lightelligence等公司已经在努力将光子人工智能芯片商业化。
>>
"我们的实验......为训练神经网络提出了一条新的节能路线"。
-Sunil Pai, PsiQuantum公司
然而，到目前为止，这些芯片只被用于推理，也就是用于当一个已经训练过的人工智能模型对新数据进行预测时。这是因为这些芯片一直在努力实现一种用于训练神经网络的关键算法：反推法。但是在《Sciense》杂志的一篇新论文中，斯坦福大学的一个团队描述了有史以来第一次在光子芯片上实施的训练方法。
Sunil Pai说："我们的实验首次证明，原地反向传播可以训练光子神经网络来解决一个任务，这为训练神经网络提出了一个新的节能途径"。他在斯坦福大学领导这项研究，但现在在加州的PsiQuantum公司工作，该公司正在建造光子量子计算机。
反向传播包括反复向神经网络输入训练实例，并要求它对数据进行预测。每次，该算法都会测量预测偏差的程度，然后通过网络将这个错误信号向后反馈。这被用来调整神经元之间的连接强度或权重，以提高预测性能。这个过程会重复多次，直到网络能够解决它所设定的任何任务。
麻省理工学院的博士后Charles Roques-Carmes说，尽管这种方法很难在光子处理器上实现，因为与标准芯片相比，这些设备只能进行有限的操作配置。因此，制定光子神经网络的权重，通常是依赖于在传统计算机上对处理器进行的复杂的物理模拟。
但在2018年，这篇新《Sciense》论文的一些作者提出了一种算法，在理论上可以在芯片本身有效地进行这一关键步骤。该方案涉及将训练数据编码在一个光信号中，通过一个光子神经网络，然后计算输出端的误差。然后，这个错误信号通过网络向后发送，并使其与原始输入信号发生光学干扰，其结果告诉你需要如何调整网络的连接以提高预测能力。然而，该方案依赖于通过芯片向前和向后发送光信号，并能够测量通过单个芯片组件的光的强度，这在现有设计中还做不到。
>>
"这可能为人工智能领域的应用开辟了片上全光子计算的道路。"
-Charles Roques-Carmes，MIT
现在，Pai和他的同事已经开发了一颗定制的光子芯片，可以成功地实现这种算法。它使用了一种被称为 "光子网 "的常见设计，其特点是有一个可编程的光学元件阵列，控制光信号如何在芯片上被分割。通过使光束混合并相互干扰，该芯片能够进行矩阵乘法，从而实现光子神经网络。
不过，新芯片的与众不同之处在于，它在两端都有光源和光探测器，允许信号在网络中向前和向后传递。它还在网络中的每个节点设有小的 "抽头"，抽走少量的光信号，将其重新定向到一个测量光强度的红外相机。这些变化加在一起，使其有可能实现光学反向传播算法。研究人员表明，他们可以训练一个简单的神经网络，根据图形上的点的位置进行标记，准确率高达98%，这与传统方法相当。
Pai说，在该方法变得实用之前，仍有许多工作要做。光学抽头和摄像头对于实验装置来说是没有问题的，但是需要用商业芯片中的集成光电探测器来代替。而且Pai说他们需要使用相对较高的光功率来获得良好的性能，这表明要在精确度和能耗之间进行权衡。
Roques-Carmes说，认识到斯坦福大学研究人员的系统实际上是一种混合设计也很重要。计算昂贵的矩阵乘法是通过光学方式进行的，但更简单的计算被称为非线性激活函数，它决定了每个神经元的输出，是通过数字方式在芯片外进行的。目前，以数字方式进行这些计算的成本很低，而以光学方式进行则很复杂，但Roques-Carmes说其他研究人员在这个问题上也取得了进展。
他说："这项研究是在光子芯片上实现有用的机器学习算法的重要一步。结合目前正在开发的高效片上非线性操作，这可能为人工智能应用的片上全光子计算开辟道路。"
微信公众号 
bilibili 
微信视频号