麻省理工学院的研究人员说，他们已经创造了一种新的方法在低功耗智能设备上，加速机器学习的任务：不需要将此类任务卸载到云端，然后运用数据中心里面的如工厂般规模的服务器来执行（会造成大功耗、延迟和数据隐私等相关问题）。他们的技术是把运行机器学习模型的内存密集型的步骤，转移到中央服务器，在那里，模型的组成部分被编码到光波上。
研究人员说，这些光波使用光纤传输到连接的一个设备上，这使得大量的数据可以通过网络以闪电般的速度发送。然后，接收器采用一个简单的光学设备，利用这些光波携带的模型的构件快速进行计算。
研究人员说，与其他方法相比，这种技术使能源效率提高了100多倍。它还可以提高安全性，因为用户的数据不需要被转移到一个中心位置进行计算。
该方法可以使自动驾驶汽车实时做出决定，而使用的能量只是目前高耗能计算机所需能量的一点点。它还可以让用户与他们的智能家居设备进行无延迟的对话，用于蜂窝网络上的实时视频处理，甚至可以在距离地球数百万英里的航天器上实现高速图像分类。
"每次你想运行一个神经网络，你就必须运行程序，而你能以多快的速度运行程序，取决于你能以多快的速度把程序导入（pipe in）内存.。关于这项研究的论文的资深作者，电气工程和计算机科学系（EECS）的副教授和麻省理工学院电子研究实验室的成员Dirk Englund说："我们的导入（Pipe in）管道是巨大的 -- 它相当于每毫秒左右在互联网上发送一部完整的电影。这就是数据进入我们系统的速度。而且它的计算速度也是如此之快。"
神经网络是一种机器学习模型，使用层层连接的节点或神经元来识别数据集中的模式，并执行任务，如对图像进行分类或识别语音。但是这些模型可能包含数十亿的权重参数，这些参数是在处理输入数据时要转换的数值。这些权重数据必须存储在内存中。同时，数据转换过程涉及数十亿的代数计算，这需要大量的功耗来完成。
研究人员说，从内存中获取数据（在这种情况下是神经网络的权重数据）并将其转移到计算机中进行实际计算的过程，是限制速度和能源效率的最大因素之一。
"所以我们的想法是，为什么我们不把所有这些繁重的工作 -- 从内存中获取数十亿权重数据的过程 -- 从设备上移开，把它放在我们有充足的电源和内存的地方，使我们有能力快速获取这些权重数据？" EECS研究生Alexander Sludds说。
研究人员开发的神经网络架构被称为Netcast，包括将权重数据存储在一个中央服务器中，该服务器与一个称为智能收发器（如图）的新型硬件相连。这个智能收发器是一个拇指大小的芯片，可以接收和传输数据，它使用硅基光电子技术，每秒从存储器中获取数万亿的权重数据。
它接收作为电信号的权重数据，并将其印在光波上。由于权重数据被编码为比特（1和0），收发器通过切换激光器对其进行转换；一个激光器被打开表示1，关闭表示0。它组合这些光波，然后通过光纤网络周期性的传输，因此客户设备接收数据的时候，不需要查询服务器。
"光学是伟大的，因为在光学内有许多携带数据的方法"，EECS研究生Saumil Bandyopadhyay说。"例如，你可以把数据放在不同颜色的光上，这使得数据的吞吐量和带宽比电子器件大得多。"
一旦光波到达客户端设备，通过一个被称为"Mach-Zehnder "的宽带调制器的简单光学元件，就可以完成超快速的模拟计算。这包括把来自设备的输入数据，如传感器信息等，编码到权重数据上。然后，它将每个单独的波长发送到一个光学检测器上，检测光线并获得计算结果。
研究人员设计了一种方法，利用这种调制器每秒进行数万亿次的乘法运算，这极大地提高了设备的计算速度，同时只使用极少量的电力。
"要想更快，就需要更节能"，Sludds说。"但这是一种折中方案。我们已经建立了一个系统，可以在大约一毫瓦的功率下运行，但仍然每秒做数万亿次的乘法运算。就速度和能源效率而言，这是一个数量级的增益。"
研究人员通过在连接他们的实验室和麻省理工学院林肯实验室的86公里长的光纤上，发送权重数据来测试这个神经网络架构。Netcast实现了机器学习的高精确度-- 图像分类98.7%，数字识别98.8% -- 在快速的速度下。
研究科学家Ryan Hamerly说："我们必须进行一些校准，但我对我们只需要做很少的工作就能达到如此高的准确率感到惊讶。我们能够获得商业级别的精度。"
展望未来，研究人员说他们希望对智能收发器芯片进行迭代开发，以实现更好的性能。他们还希望将目前只有鞋盒大小的接收器小型化，缩小到单个芯片的大小，以便它可以安装在手机等智能设备上。
更多信息，参见" Delocalized photonic deep learning on the internet’s edge"。
微信公众号 
bilibili 
微信视频号