随着人工智能系统规模和复杂性的不断增长，对高速、高能效连接的需求变得重要。传统的电气互连（如铜电缆和可插拔光器件）已达到极限，阻碍了大规模人工智能系统潜力的充分发挥。Ayar Labs 及其革命性的光 I/O 技术将改变人工智能连接领域的游戏规则。
大规模人工智能系统本质上就是一个连接问题。这些系统跨越多种规模，从机架规模（约 3 米）到多机架规模（约 15 米）和集群规模（长达 100 米）。CPU、GPU 和内存组件之间需要超高的带宽和低延迟通信，这对高效的人工智能处理很重要。
Ayar Labs 的重点是 "AI 网络"，也称为扩展 Fabric、计算集群 Fabric、计算 Fabric 或内存语义 Fabric。这些网络连接数千到数万个 GPU，需要 NVLink、Infinity 和 CXL 等超高带宽互连。
Ayar Labs 的光 I/O 解决方案是开创性的方法，可解决大规模人工智能系统所面临的连接挑战。它由两个关键组件组成：SuperNova 多端口、多波长光源和 TeraPHY CMOS 光学 I/O Chiplet。
SuperNova 光源可产生多种波长的光，从而实现高带宽数据传输。TeraPHY chiplet 是一种基于 CMOS 的光学 I/O 设备，可与系统级芯片 （SoC） 封装上的现有电气 I/O 接口集成，实现无缝光电数据转换。这一创新解决方案可实现socket-to-socket， board-to-board， 以及 rack-to-rack的连接，提供封装互连中常见的带宽密度和能效。Ayar Labs 的光 I/O 技术利用先进的芯片封装技术，实现了与现有 CMOS 代工工艺和下游封装能力的无缝集成。这种兼容性使 TeraPHY 芯片能够与英特尔、AMD 和 NVIDIA 等行业领先企业的尖端 CPU、GPU、FPGA 和 SoC 集成。
通过采用 Ayar Labs 的光 I/O 技术，人工智能系统可实现前所未有的可扩展性、灵活性和可组合性。高带宽、低延迟的光互连技术可实现 CPU、GPU、交换机和内存组件之间的高效数据传输，从而促进计算扩展和扩展 xPU 内存功能。
1.计算扩展： 光 I/O 可实现 xPU（CPU、GPU 等）、交换机和其他组件之间的高速连接，从而实现计算资源的高效扩展。
2.扩展 xPU 内存： 通过利用光互联，人工智能系统可以在多个 xPU 之间无缝访问和共享内存资源，优化内存利用率，实现更大的人工智能模型。
Ayar Labs 光 I/O 解决方案的核心是其突破性的微环谐振器技术。这些微型光器件比传统光组件小 1000 倍，却能进行高速数据传输。此外，与标准的 300mm CMOS 制造工艺兼容，实现了密集的电子-光子集成。
TeraPHY 芯片利用微环谐振器，通过波分复用（WDM）技术实现了大带宽扩展。通过为每个端口组合多个波长并增加每个芯片的端口数量，Ayar Labs 可以为每个芯片提供从 4.096 Tbps 到 32.768 Tbps（Tx+Rx）的惊人带宽。
TeraPHY 芯片是 Ayar Labs 光 I/O 解决方案的核心，采用高度优化的架构，每个端口可支持多达 8 个波长，从而实现高带宽数据传输和接收。
作为 TeraPHY chiplet 的补充，SuperNova 激光模块可产生高带宽光通信所需的多波长光信号。这些激光模块与 TeraPHY 芯片和其他组件一起集成到多芯片封装中，实现了分布式计算资源的完全物理分解。Ayar Labs 的光 I/O 技术已在各种行业活动和演示中展示了其能力。2023年，在ERI峰会、Hot Chips、白宫演示日和超级计算活动中展示了其光学FPGA PCIe CEM卡，该卡具有两个4Tbps（Tx+Rx）光I/O Chiplets。
Ayar Labs 利用行业标准并与合作伙伴密切合作，为在先进封装解决方案中采用光 I/O 技术制定了清晰的多代路线图。该路线图概述了从当前基于高级互连总线 （AIB） 和 UCIe 的封装到未来几代能够提供高达 262 Tbps 的off-socket光 I/O 带宽的发展过程。
[1]V. Stojanovic, "Optical I/O Technology for the Future of AI," presented at presented at the SEMI Silicon Photonics Seminar, May 2024.
微信公众号 
bilibili 
微信视频号