Whoscored(中国·中文)官网-专注足球数据分析的专业平台

资源中心
光互连I/O芯片技术促进高性能计算系统的创新
陈昇祐,Whoscored中文官网

摘要

本文综述了光互连I/O芯片,其与电子I/O相比取得的变革性进步,以及它们如何帮助消除各种应用中新兴高通量计算系统中的互连瓶颈。光I/O芯片旨在通过使用标准制造工艺在CMOS晶体管旁单片集成高性能硅基光电子器件,以取代芯片与芯片之间以及芯片内部的电子I/O通信。


光互连I/O芯片简介 

使用铜互连的电子I/O在满足下一代计算架构对带宽密度、功率效率、延迟和传输距离的要求方面面临巨大挑战,包括云计算、高性能计算(HPC)、人工智能(AI)、网络等。电子SerDes接口难以有效地扩展到超过100 Gbps,特别是对于需要高密度和高能效的芯片间和芯片内部互连来说,其中有着非常严格的热预算。基于硅光子集成的光互连I/O可以克服这些瓶颈。


图1:电子到光互连的集成方法(来源:Ayar Labs)


Ayar Labs已经开发出了光互联I/O“芯片”,使用标准硅制造工艺在300mm晶圆上单片集成了高性能光子器件和CMOS晶体管。他们的TeraPHY光互联I/O芯片可以实现每芯片高达2 Tbps的带宽密度,功耗仅为5 pJ/bit。 TeraPHY还可以实现芯片之间高达2公里的传输距离,而电子I/O的传输距离只有几毫米。与电子I/O相比,达到了数量级的改进。


这些光互连I/O芯片可以通过消除传统电子I/O的带宽密度和效率限制,消除瓶颈并支持创新的高通量计算体系结构。本文举了云计算数据中心、HPC/AI加速、网络以及智能边缘应用的例子。光互连I/O芯片释放了先进CMOS芯片的全部潜力,并开创了创新。


电子I/O的局限性 

为了理解对光互连I/O芯片的迫切需求,我们来检视电子I/O的基本局限性:

  • 功耗效率:电子I/O尤其是较长距离的链路消耗巨大能量,由于热问题严重制约了互连密度/吞吐量。光互联I/O的能量效率可以提高10-100倍。
  • 延迟:高数据速率的电子I/O需要功耗高昂的前向纠错(FEC),增加了显着的延迟。光学I/O可以完全避免FEC。
  • 带宽密度:电子I/O的带宽密度峰值约为200-500 Gbps/mm。光互连I/O可以达到Tbps/mm,提高10-100倍的密度。
  • 传输距离:即使使用中继器,电子I/O的传输距离也仅限于厘米级。光学I/O可以轻松达到数公里。


图2:电子I/O的传输距离、损耗和应用[1]


电子I/O的局限严重制约了高通量计算互连。光互连I/O芯片可以通过在带宽密度、效率、延迟和传输距离上获得革命性的提高打破这些障碍。


光互连I/O芯片概述 

以Ayar Labs的突破性TeraPHY光互连I/O芯片为例,它在硅芯片上单片集成了高性能硅基光电子器件和CMOS晶体管:

  • 最多可达8个光端口,每个端口运行速率高达256 Gbps,每个芯片总带宽达2 Tbps。

  • 先进接口总线(AIB)支持革命性的2 Tbps芯片内集成带宽密度。

  • 功耗低至5 pJ/bit,延迟10 ns,芯片间传输距离达2公里。

  • 使用经济高效的45nm SOI CMOS工艺在300mm晶圆上制造,集成了数百万晶体管和数百光子组件。

 

图3:TeraPHY光互连I/O芯片(来源:Ayar Labs)


TeraPHY芯片连接到Ayar Labs的突破性多波长可调谐激光器SuperNova,为通过光纤链路的传输提供调制光束。这些芯片和光源的组合实现了可扩展、低功耗、高密度的光学I/O,达到8 Tbps,未来产品带宽还将继续提高。


光互连I/O芯片的关键差异化特性 

TeraPHY光学I/O芯片的独特差异化特性:

  • 单片集成硅基光电子器件和CMOS晶体管,实现高带宽密度同时芯片尺寸小、成本低。
  • 通过SuperNova光源避免使用芯片外激光器,避免了热问题,同时实现高端口密度。
  • 在单个芯片封装中结合光子器件和电子器件,降低了与现有的光模块的接口复杂度。
  • 支持标准制造工艺确保规模经济,与尼奇光子工艺相比更经济。
  • 在芯片上提供主动光学对准和自测试功能,简化大规模制造。
  • 这些优势使Ayar Labs的光互联I/O芯片作为一种优化解决方案脱颖而出,与异质集成的方法相比具有明显优势。


光电芯片设计自动化 

要使光互连I/O芯片成为可行的技术,先进的光电芯片设计自动化工具非常重要。复杂光电芯片的手工设计难以扩展,也难以迭代。像PIC Studio这样的平台为光电联合设计提供了定制的EDA功能,包括原理图获取、组件以及链路仿真、原理图驱动版图生成 (SDL)和验证等。


通过使用PIC Studio的pSim电路仿真器和PhotoCAD版图编辑器等自定义工具自动化光电芯片设计,可以加速光互联I/O芯片和系统的开发。PIC Studio还支持电子与光子链路的联合设计和联合仿真,便于对完整链路的分析。PIC Studio支持原理图和版图视图之间的双向设计流,以确保同步。PIC Studio将仿真和综合进行一体化的面向光电芯片设计的自动化工具,对于在整个行业内大规模解锁光互联I/O的潜力将起到关键作用。

 

图4: PIC Studio的pSim光电联合设计仿真工具


支持架构创新的优势 

光互连I/O芯片可以在各种应用的计算架构中释放创新的重大优势:

1.云计算

  • 通过高密度光链路互连资源,实现强大的机架规模架构。这消除了吞吐量瓶颈。

  • 通过像“乐高积木”一样跨机架连接芯片/芯片,支持资源解耦和池化。

  • 通过用光纤替代电缆,克服机架内外高带宽开关结构和网络结构的密度限制。

  • 通过10-100倍的效率提升显着降低功耗,实现更环保的数据中心运营。

  • 与基于铜互连的电子I/O相比,提供1000倍的带宽密度,功耗降低10倍。这是一个革命性的改进。


2.HPC和AI加速

  • 低延迟的光互连I/O允许HPC系统不受电子I/O的限制,以全部潜力运行。

  • 更高的带宽支持拥有海量共享内存池的HPC/AI架构以及更低延迟的并行数据访问。

  • 促进通过低延迟光网络有效链接计算资源的灵活分布式HPC/AI架构。


3.网络和5G基础设施

  • 百兆比特级带宽密度适合大吞吐量的交换机、路由器和运营商系统。

  • 在远程单元中连接RF/天线阵列和数字处理的低功耗连接。

  • 在高密度电信基础设施环境中用光链路替代铜缆。


4.智能终端和航天应用
  • 显着的功率降低通过10-100倍的效率提升延长电池寿命。

  • 对电磁干扰具有抗扰能力,运行强健。

  • 封装集成适合SWaP受限的卫星、无人机、机器人等应用。


通过突破电子I/O的密度、效率、延迟和传输距离的限制,光互连I/O芯片为以前不可实现的各种应用的新计算架构打开了大门。这充分释放了先进CMOS芯片和系统的全部潜力。


云计算中的光互连I/O优势 

光互连I/O改造大规模云计算系统和数据中心的主要优势包括:

  • 通过无缝地使用高密度光链路而不是受限于电子I/O端口密度来连接资源,实现机架规模架构。这消除了系统吞吐量瓶颈。
  • 通过以“乐高积木”方式跨数据中心机架而不是受限于铜缆长度来连接芯片/芯片,支持资源解耦和灵活池化。
  • 通过用光纤代替电缆克服机架内外高带宽交换机/网络结构的密度限制。
  • 通过与电子I/O相比10-100倍的效率提升大幅降低功耗,实现更环保的数据中心运营。
  • 与基于铜互连的电子I/O相比,提供1000倍的带宽密度,功耗降低10倍。这是一个革命性的进步。
  • 消除电子I/O密度限制强加的传统性能瓶颈,使强大计算资源的使用民主化。
  • 通过跨越电子I/O约束利用光子集成有效继续摩尔定律的发展,克服了后硅时代的可扩展性挑战。


这些优势使光互连I/O芯片成为大规模云数据中心满足不断增长的吞吐量需求的理想解决方案,在有限的功率预算内。光互连I/O芯片提供的革命性带宽密度、效率、延迟和传输距离的改进,为以前不可能实现的新数据中心架构铺平了道路。


HPC和AI加速进展彰显了光互连I/O的优势 

光互连I/O如何革命性地改变高性能计算和加速AI系统:

  • 超低延迟的光互连I/O允许HPC系统不受电子I/O限制地全速运行,直接转化为现实中的性能提升。
  • 提供明显更高的互连带宽,支持拥有海量共享内存的HPC/AI架构以及更低延迟的并行数据访问。
  • 有助于通过低延迟光网络高效链接计算资源的灵活分布式HPC/AI架构,而不是受限于瓶颈电缆。
  • 光互连I/O支持先进的封装技术来紧密集成处理器、加速器和内存模块。
  • 与电子I/O相比明显更低的功耗适合日益增长的数据密集型AI计算和模型训练的需求。
  • 通过提供高达1000倍的互连带宽密度,功耗降低10倍,光互连I/O在后摩尔定律时代有效继续了计算性能的扩展。这对于推进HPC和AI来处理指数增长的问题规模和模型复杂度至关重要。


光互连I/O芯片有望成为革命性技术,通过替代电子I/O瓶颈为下一代HPC和AI超级计算提供充裕的低延迟互连带宽。这可释放先进CMOS芯片的全部计算潜力。


技术挑战和解决方案 

光互连I/O芯片到广泛商用还涉及一些技术挑战:

  • 封装:需要高精度的自动光纤对准到光学端口的制造工艺。Ayar Labs展示了使用被动微光学和基于校准标记的装配流程的解决方案。
  • 测试:直接探测芯片内光子信号很困难。Ayar Labs实现了用于表征的光学环回测试模式。
  • 热稳定性:光子器件需要波长控制。Ayar Labs集成了用于可调谐性和补偿的芯片加热器。
  • 激光器集成:高效集成激光器很困难。Ayar Labs使用外部的SuperNova光源来简化封装。


虽然这些工程挑战非同小可,但已有可行的解决方案,正如Ayar Labs等公司的快速进展所证明的那样。鉴于电子I/O的性能局限,光互连I/O芯片的好处远大于成本,尤其是随着制造工艺的进步。


结论 

单片集成的光互连I/O芯片在带宽密度、功率效率、延迟和传输距离方面相比电子I/O可以实现革命性的改进。这可以消除各种高通量计算架构中的主要瓶颈,涵盖云计算、HPC/AI、网络、航天等广泛应用。


本文以Ayar Labs的TeraPHY光互连I/O芯片为例说明,每芯片带宽高达2 Tbps,能效提高10-100倍,传输距离达2公里,可以通过光子集成有效继续摩尔定律扩展。随着电子I/O的局限性日益严峻,光互联I/O芯片在先进CMOS工艺节点上的应用,将成为未来计算性能和效率提升必不可少的技术。


XML 地图