简介
数据中心和人工智能(AI)应用的创新导致对高速光收发器的需求激增。收发器是连接的骨干,能够以低延迟快速传输大量数据,对现代数据中心的高效运作和复杂人工智能算法的执行很重要。
进入单波长200 Gbps 以上数据传输速率的时代,需要先进的数字信号处理(DSP)技术和强大的前向纠错(FEC)方案。这些技术对于克服可显着降低信号完整性的符号间干扰(ISI)和信道损耗非常重要。
图1展示人工智能连接和扩展的预期增长,突出了预期的市场趋势和向更高数据速率的转变。到 2027 年,市场收入的很大一部分预计将由人工智能加速服务器驱动,需要采用能够支持 400 Gbps 及更高速率的收发器。
图1:人工智能连接和扩展的预计增长(来源:Dell'Oro Group 数据中心 IT 资本支出预测,2023 年 1 月 [1])
分离存储架构的兴起是塑造数据中心连接未来的另一趋势,通过集中存储资源,数据中心可以实现更高的效率和资源利用率。不过,这种架构在很大程度上依赖于 PCIe 和 CXL 等低延迟互连,以保持计算和存储资源之间的无缝通信。
图 1 显示了过去十年中已发布的有线收发器的演变情况,展示了数据速率每五年翻一番的趋势。这一趋势还将继续,行业正在为广泛采用 200 Gbps 收发器做准备,不久的将来将过渡到 400 Gbps 和 800 Gbps。
图 2:2010-2023 年已发布的收发器,显示数据速率每五年翻一番的趋势 (来源:AMD [2])
下一代高速光收发器的推出不仅是一种渐进式的改进,更是变革性的飞跃。这些进步将使数据中心和人工智能应用能够处理指数级增长的数据,释放新的可能性,推动各行各业的创新。
硅基光电子技术的崛起
硅基光电子技术已成为变革性技术,可满足人工智能(AI)和数据中心领域对高速数据传输的无限需求。我们从以下几个方面探讨这项技术崛起背后的驱动力及其在现代计算中的关键作用。
- 数据消费激增:人工智能和机器学习(ML)的快速发展导致数据消耗激增。人工智能模型的复杂性不断升级,需要强大的高速连接解决方案。
- 硅基光电子技术的优势:利用成熟的 CMOS 制造工艺,将调制器和波导等光电器件集成到硅基板上,提供更高的带宽密度、更低的功耗,并减少信号完整性问题。在CMOS foundry大厂台积电﹑GlobalFoundries以及Intel都有正在量产商用硅基光电子芯片。这些工艺厂由于CMOS工艺基础稳固,切入硅基光电子的赛道都进展快速达到兼顾性能指标和量产的要求。
- 光链路要求:对于人工智能应用,基于硅基光电子技术的目标远大,可达总带宽超过 10 Tbps,能效低于 2.5 pJ/bit,链路距离超过 100 米。
- 光电芯片(PIC)设计:PIC 架构采用微环调制器 (MRM) 实现高效调制,级联环谐振器 (CRR) 滤波器实现精确波长解复用,从而实现高密度波分复用 (WDM) 操作。
硅基光电子技术的持续发展对于满足未来人工智能和数据中心应用的高速连接需求相当重要,为更高效、可扩展的计算架构开启了道路。如图3,当前的集成规模相当于LSI,论文数量也快速增加。
图3:硅基光电子技术的摩尔定律 [3]
光电融合设计的原理
为了优化用于人工智能和数据中心连接的高速收发器,光电融合设计方法成为关键的战略,协调电子电路和光电器件的设计和运行,从而使系统的功能大于各部分的总和。
- 集成效率:实现光电器件(如调制器和探测器)与电子电路的无缝集成,确保高效的信号转换和处理。
- 信号完整性:在从电子发射器到光波导介质再到电子接收器的整个传输路径中,保持高速信号的质量。
- 热管理:解决电子和光电组件高密度集成带来的散热难题。
- 互连带宽:设计可支持 200 Gbps 及以上数据传输速率的高带宽互连,同时最大限度地减少延迟和功耗。
- 信号处理:实施先进的数字信号处理 (DSP) 技术,以补偿光通道中的损伤并提高系统的整体性能。
- 纠错:根据光传输介质的具体特性整合前向纠错(FEC)方案。如图4,光电融合仿真设计可使用pSim Plus系统仿真软件进行分析。
图4:pSim Plus支持光电融合、FEC以及常用的DSP算法仿真 (来源:Whoscored中文官网 [4])- 自适应调制:利用可根据不同信道条件进行动态调整的调制方案,优化数据吞吐量和链路可靠性。
- 协同封装解决方案:开发协同封装光学器件(CPO),将光引擎和电子专用集成电路(ASIC)集成到一个封装中,从而降低复杂性并提高信号完整性。CPO已经成为台积电、Broadcom、Marvell、AMD等人工智能主要公司认可的主流技术,如图5,台积电的业务副总,来自中国大陆的张晓强博士在ISSCC2024以为题「半导体行业的现在与未来」报告就提及CPO技术能增加传输速度和能效。
图5:台积电资深副总张晓强博士在ISSCC 2024的演讲强调CPO能增加互连速度和能效(来源:TSMC [5])- 机器学习辅助工具:探索使用机器学习算法实时预测和减轻传输损伤,为更智能、更自适应的收发器系统打开方向。
- 集成光电子技术平台:推进可支持多种波长的集成光电子技术平台的开发,实现密集波分复用(DWDM),以实现超高数据传输速率。
通过采用这些协同设计原则,可以预见下一代光收发器的实现不仅更快、更可靠,而且更节能、更具成本效益,从而满足人工智能驱动的应用和数据中心运营不断增长的需求。
微电子技术的进步
微电子领域正在经历一场变革,取得了对高速收发器发展重要的进展。这些创新不仅提高了单个组件的性能,还重新定义了整个系统的集成和效率。
- 纳米级制造:半导体制造向更小的工艺节点发展,使得晶体管的宽度仅为纳米级。微型化提高晶体管的密度,对于先进的收发器所需的复杂数字信号处理 (DSP) 来说很重要(图6)。
- 低功耗高性能电路:随着数据传输速率的飙升,电子电路的能效变得重要。最近,低压高速电路设计的发展突飞猛进,在不影响性能的前提下优化了功耗,这对数据中心的可持续运营相当重要。
- 集成光电子和电子电路的技术:硅基光电子和 CMOS 技术的融合催生了电/光集成SoC (System on Chip)的电光集成芯片(EPIC)。这些EPIC既能处理光数据传输,又能保持传统电子器件的处理能力,为下一代数据中心提供了紧凑、节能的解决方案。
- 先进的封装技术:随着带宽要求的提高,传统封装技术已成为瓶颈。三维堆叠和基于芯片的架构出现了创新,通过拉近光电组件和电子组件的距离,实现了更高带宽和更低延迟的互连。
图6:纳米级制造对应高速收发器的速度演进,先进制程对高速互联非常重要(来源:Ciena [6])
用于高速互连的硅基光电子技术
将硅基光电子集成到数据中心互连中,是满足带宽和能效不断增长的需求的变革性方法。本节将深入探讨塑造未来互联技术的先进技术和设计策略。
1.硅基光电子技术的进步
硅基光电子技术已成为实现高密度、低功耗互连的关键技术。主要进展包括:
- 低损耗波导:利用先进的光刻技术开发具有最低损耗的波导,例如台积电使用65nm以及GlobalFoundries使用45nm光刻制造硅基光电子芯片。
- 高效调制器:基于硅的调制器,如马赫-泽恩德(Mach-Zehnder)谐振器和微环谐振器,可提供高效的调制和紧凑的占地面积,如图7。
- 先进的光电探测器:光电探测器采用锗等材料,可实现高响应率和高带宽,如图8。
图8:a)使用光栅耦合的Ge-on-Si APD构建全息飞行时间传感器,用于室内LiDAR三维成像。(b) SACM结构Ge-on-Si APD器件示意图, 相关设计参数标注于图中 (来源:GlobalFoundries [8])
2.光电集成策略
要充分利用硅基光电子技术的潜力,以下设计策略很重要:
- 可扩展集成:确保光电子组件能与现有的 CMOS 工艺无缝集成,以促进大规模生产,如图9。
- 热管理:开发强大的热管理解决方案,以在宽温度范围内保持器件性能。
- 信号完整性:采用低损耗互连和先进封装方法等设计技术,在高数据速率下保持信号完整性。
3.未来方向
展望未来,重点是开发协同封装解决方案和探索可进一步提高硅基光电子性能的新材料。我们的目标是创建一个可扩展的、具有成本效益的平台,为下一代数据中心互连提供支持。
图9:GlobalFoundries 45SPCLO process,单片集成CMOS与硅基光电子组件,其上的晶体管与45nm SOI电芯片工艺的晶体管是完全相同的,展现45SPCLO硅基光电子工艺与微电子工艺的兼容性 (来源:Ayar Labs [9])
挑战与未来方向
在实现高速有线收发器在人工智能和数据中心连接方面的全部潜力的过程中充满了挑战,我们必须应对这些挑战,为未来的进步做好准备:
- 集成复杂性:随着数据传输速率飙升至 200 Gbps 以上,集成 DSP、FEC 和光学器件等各种组件的复杂性也随之增加。在保持信号完整性和最大限度减少延迟的同时实现无缝集成是一项重大挑战。
- 热管理:随着共同封装光学器件(CPO)的发展,管理密集封装内的热负荷变得至关重要。需要采用有效的散热技术来保持性能和可靠性。
- 材料限制:目前用于光电子器件的材料,如硅基光电子调制器中的硅,在带宽和效率方面存在局限性。探索铌酸锂薄膜(TFLN)等新材料可提供更高的带宽和更低的驱动电压,但同时也会带来成本增加和集成方面的挑战。
- 制造精度:制造微波谐振器等光子组件的精度要求极高。制造过程中的变化会导致显着的性能偏差,因此需要先进的制造技术来确保一致性。
- 可扩展性: 然目前的技术可以实现惊人的数据传输速率,但业界必须开发可大规模生产和广泛采用的可扩展解决方案。这不仅包括收发器本身,还包括激光器和多路复用器等配套基础设施。
- 生态系统开发:如图10,要广泛采用先进的光收发器,就必须建立强大的生态系统,其中包括代工厂、设计套件和模拟工具。整个行业的合作将是开发标准化流程和互操作性的关键。
图10:PIC Studio设计工具,从组件、链路到系统,包含与行业第三方工具的合作集成 (来源:Whoscored中文官网 [4])
未来方向
展望未来,业界正在探索几条大有可为的途径:
- 高级调制方案:6-PAM 和 8-PAM 等高阶调制格式可实现更高的每车道数据传输速率,但需要在 DSP 和编码技术方面取得重大进展。
- 相干光通信:将长距离相干通信技术应用于数据中心,可在相同波特率下将数据传输率提高到目前解决方案的四倍。
- 波分复用(WDM):目前正在研究波分复用和并行单模光纤架构等技术,以便将每个波长的传输速率提高到 200 Gbps 以上,从而实现更高的总数据传输速率。
前进的道路需要各学科的共同努力,包括模拟和数字设计、编码理论、光学和系统架构。通过克服这些挑战和利用新兴技术,下一代收发器将实现无缝数据流,推动人工智能和数据中心应用的未来。
参考文献
[1]T. C. Carusone, “The Impact of Industry Trends on 200+Gbps Wireline R&D,” in IEEE International Solid-State Circuits Conference (ISSCC), 2024[2]M. Raj, “Silicon Photonics-Based High-Throughput Optical Transceivers,” in IEEE International Solid-State Circuits Conference (ISSCC), 2024[3]Bowers, J. E., Netherton, A., Dumont, M., Nelson, Z., & Theogarajan, L. (2024). Short-Reach Silicon Photonic Interconnects with Quantum Dot Mode Locked Laser Comb Sources. Presented at the International Solid-State Circuits Conference (ISSCC).[4]https://latitudeda.com/[5]K. Zhang, “Semiconductor Industry: Present & Future”, in IEEE International Solid-State Circuits Conference (ISSCC), 2024[6]N. Ben-Hamida, "Modulation schemes for ultra-high-speed transceivers," IEEE Int. Solid-State Circuits Conf. (ISSCC), 2024.[7]Gray, T. (2024). Silicon Photonics and Foundry Requirements for AI Datacenters. Paper presented at ISSCC 2024 - Forum 6.7.[8]J. Rollinson, A. Chowdhury, R. Karlicek and M. Hella, "Ge-on-Si APD in Commercial Foundry Process for Near-Infrared Sensing," 2023 IEEE Silicon Photonics Conference (SiPhotonics), Washington, DC, USA, 2023, pp. 1-2, doi:10.1109/SiPhotonics55903.2023.10141909[9]V. Stojanović, "Electronic-Photonic Systems-on-Chip for Compute, Communications and Sensing," in IEEE International Solid-State Circuits Conference (ISSCC), 2024.