
硅谷初创公司Ayar Labs正在围绕其光学I/O为基础的通信技术构建一个生态系统。该公司正与英伟达(Nvidia)合作开发具有光学I/O的下一代AI运算基础架构。
Nvidia数据中心产品首席平台架构师Rob Ober表示:“过去十年,Nvidia的加速计算方案为AI带来了百万倍的运算速度提升。下一个百万倍的加速将需要更先进的技术(如光学I/O),才能支持未来AI/ML的工作负荷与系统架构在带宽、功耗和规模等方面的要求。”
Ayar Labs总裁兼首席技术官Mark Wade在接受EE Times采访时提到:“我们已经与Nvidia私下接触了一段时间,他们希望每年获得类似于一个数量级的系统级性能提升,但现有基础架构的性能严重限制了他们的发展,并成为一个瓶颈问题。”

Wade说:“长期以来,我们一直紧密跟进Nvidia面临的问题和需求,如果想建立远超他们目前的大规模横向扩展系统……如果想让成千上万的GPU在逻辑上相连,且都在处理同一个神经网络问题,那么必须解决横向扩展的架构问题。我们在解决方案的方向上与Nvidia是一致的,即从物理学第一原理来看,光子学和光学是唯一的方法。”
据Nvidia的官方说法:到2023年,模型内互连将超过百万亿,较2021年增加近600倍,超过现有铜线互连技术平台的能力。Ayar Labs声称其基于光学I/O的通信技术可以提供千倍于铜线互连的带宽密度,而功耗和延迟只有后者的十分之一。
光纤
Ayar Labs自2015年从麻省理工学院、科罗拉多大学博尔德分校和加州大学伯克利分校分离出来后,一直致力于光学I/O技术的研究。该公司的TeraPHY芯片与主机SoC一起,通过光纤实现高带宽、高速度、低功耗的芯片对芯片通信。
Wade说:“一代又一代,我们仍在扩大每个标线的计算量。但I/O带宽却很难同步跟上,早在2010年即已如此......电子I/O技术在试图摆脱带宽限制方面将如何表现?”
这个问题表现在多个方面,包括I/O所需的功耗和每个计算单元所需的带宽数量。电子连接开始需要重新计时,系统级成本和复杂性也相应增加。

Ayar Labs的光学I/O芯片与主机SoC一起合照,并展示了最终封装的模块
Ayar Labs的技术就是为了解决这些问题。该公司在GlobalFoundries制造其光学I/O芯片,并将测试好的优质芯片发送给客户,实现与SoC的混合封装,由现代芯片插接器技术实现。Ayar Labs的TeraPHY芯片负责电到光的转换,实现数据通过光纤在电芯片之间传输。
如今,Ayar Labs在主机SoC和光学芯片之间使用了一个电子接口,该接口是它在2018年与Intel一起设计的,是DARPA PIPES项目的一部分(见下文)。公司已计划在不远的将来兼容UCIe和CXL芯片间的通信标准。
Wade说:“我们对UCIe规格感到非常兴奋,我们认为它将成为融合解决方案的强大推动力......所有芯片供应商都面临这个问题。你不希望将你的产品路线图分割成一百万个不同的SKU。UCIe将在这个方面推动一些调整,我们对此感到非常兴奋。”
Ayar Labs早期的一个关键决定是将光源本身与光子芯片分开(Ayar Labs有自己独立的多波长激光光源,名为SuperNova)。
Wade说:“激光器的物理学与CMOS微电子的物理学是脱节的;它们不喜欢在高温下工作,它们会迅速失去能效,其可靠性也会成指数级下降。”
高TDP计算节点使用数百瓦特的功耗;SoC封装内的温度可能达到80℃甚至更高。将光源从SoC中分离出来,可以将其放在更远的地方,使其温度保持在55℃以下。

Ayar Labs的TeraPHY光子芯片与计算系统一起被封装起来
构建生态系统
2019年,Intel选择Ayar Labs为其DARPA PIPES(用于极端可扩展性的封装中的光子学)项目提供光学I/O。该项目展示了Ayar Labs的芯片与Intel FPGA芯片协同工作,但Ayar Labs与Intel的合作现在已经超越了FPGA领域。Wade解释道。
“问题是,Ayar Labs的有趣技术是否能够在距离珍贵的全网状SoC不到一毫米的地方进行设计、制造和封装,从而真正解决SoC的问题?在DARPA PIPES项目上的工作确实证明了我们的技术和产品架构......这是一个重要的证据点。”Wade说。
Intel Capital现在是Ayar Labs的一个战略投资者。
惠普(Hewlett-Packard Enterprise)是该公司的另一个战略投资者(通过其风险投资部门Hewlett Packard Pathfinder),在4月Ayar Labs价值1.3亿美元的C轮融资中与Nvidia一起加入。Wade指出,HPE的Slingshot结构(一种由系统集成商Cray发起的HPC结构,于2019年被HPE收购)的路线图需要光学I/O芯片来进行。
“平台将变得更加异构化,在不同种类的插座之间移动更多的带宽。”Wade说:“HPE站在技术最前沿,试图找出哪些结构解决方案可以真正实现这种异构集成。”
HPE和Ayar Labs将在光子学研发方面进行合作,以建立一个解决方案和客户组成的联合生态系统。

Ayar Labs的光学I/O芯片与大型计算芯片共同封装
(来源:Ayar Labs)
另一个战略投资者洛克希德-马丁公司Lockheed Martin在国防领域有许多备受关注的需求,但Wade表示,电子I/O的故障无处不在。
Wade说:“I/O功耗和TDP的碰撞过程正在发生,在未来十年左右,我们将看到所有细分市场和垂直领域的光子学变革。”
其他战略投资者包括GlobalFoundries和Applied Ventures(应用材料公司的风险投资部门)。
正确的时机
为什么现在是光学I/O出现的正确时机?是技术终于准备好了,还是市场需求最终出现了?
Wade说:“大约从2018年开始,关键技术方面的风险已经降低,需要实现的主要驱动力是终端市场的需求将足够强大,以调整大批量的先进制造供应链,从而实现这一目标。”
Wade将先进技术推向市场比作鸡和蛋的问题。他说,降低技术风险有助于创造市场需求,这有助于使一些关键的大批量制造商在供应链的关键路径上保持一致。
Wade说:“我的看法是,我们将通过建立供应链来限制速率,我们今年正在对技术进行生产鉴定,这成为了我们大部分的工程重点。同时,我们正在做大量的工作,以确保我们已经准备好端到端的供应链,以实现我们在未来几年的目标。”
Ayar Labs计划今年通过伙伴关系和生态系统开发,集中精力为其产品扩大规模,并预计在年底前出货“数千台”。
相关主题:光学、光纤、光纤/波导/光管、光学互连、光子学、光子学集成电路、硅光子学