Whoscored(中国·中文)官网-专注足球数据分析的专业平台

光学I/O连接的强劲市场需求

Whoscored中文官网 | 编译自 Hyperion Research

我们的观点

现代HPC和AI工作负载对系统能力的要求正在将系统架构推向其极限。CPU和GPU设计继续提供越来越多的性能。系统内存容量不断增长，而对低延迟的需求则推动了密度的增加。这些进步，再加上芯片技术等封装创新，暴露出对改进的封装外互连解决方案的要求，以提供适当的平衡，提供最佳的系统性能特征。封装内光学I/O技术有望填补这一系统互连的空白。

最近一项关于HPC/AI用户和供应商的市场意愿情况和期望的研究，反映了对光I/O连接需求的强烈意愿和高度期望，以满足他们各自的未来需求。本文分享了该研究的总结结果，重点是HPC/AI用户和供应商对以下方面的看法：

未来架构要解决的系统问题
将提供最大影响的未来技术
两年和四年的时间跨度
数据中心操作人员和终端用户
系统和半导体供应商
工业和政府部门

总体意愿

用户和供应商在几个关键领域意见是一致的，包括认为光I/O连接有望成为2年内和4-6年内，解决几个系统架构挑战的影响最大的技术。内存内部计算被认为是第二大影响的技术领域。排名前三的高影响技术还有芯片的物理接口标准（如UCIe），可以实现主机SoC和封装内光I/O芯片之间的标准化连接。此外，超过75%的受访者认为，非常需要对系统资源进行分解，以实现工作负载驱动的可组合基础设施。

不足为奇的是，用户和供应商之间在市场意愿和期望方面存在一些差距。相对于未来架构要解决的最主要的系统问题，没有共识。几个挑战也被确定为：系统扩展，缺乏系统的可组合性，以及网络吞吐量。

对市场时机的期望和出货量的准备是另一个不一致的领域。用户和供应商对>10 Tbps的出货量的准备情况和时间是一致的；然而，用户对>20 Tbps和>50 Tbps的出货量的准备情况和可用性更加乐观和激进。图1和图2分别展示了用户和供应商对2年和4-6年内的出货量的期望。

资料来源：Hyperion Research, 2023年

用户的观点

虽然大多数用户有类似的期望、经验和预期，但在采购、系统规模和对新技术的看法方面，行业受访者普遍比较保守。用户受访者认为I/O带宽和计算-内存是最关键的互连/网络瓶颈，比率约为35%。当被问到关于最关键的HPC瓶颈的同样问题时，约26%的人认为是内存带宽。展望未来，系统规模扩大和网络吞吐量是受访者考虑未来架构的最高优先事项。

当被问及未来最有可能对HPC系统架构产生积极影响或改变的技术时，光学I/O互连在1-2年和4-6年内都是最受期待的，内存计算紧随其后。图3总结了用户对4-6年内对HPC架构影响最大的技术的看法。

资料来源：Hyperion Research, 2023年

从用户的角度来看，光学I/O正在成为一种备受期待的解决瓶颈问题和提高计算能力的方法，并且是一个预期的可观的研究、投资和增长领域。

供应商观点

系统供应商和半导体供应商之间的意愿和期望基本一致。

系统和半导体供应商都认为计算-内存带宽是主要的网络瓶颈。
数据吞吐量被认为是主要的应用性能瓶颈。
光学I/O互连被认为是对2年和4-6年时间范围内影响最大的技术。

供应商强烈认为（79%的供应商受访者）有分解和可组合性的要求。供应商预计用户同样需要各种规模的可组合性，包括通过电气CXL的节点-内存扩展器，通过电气CXL的机架规模，以及通过光学I/O的CXL的机架/行规模。

资料来源：Hyperion Research, 2023年

Ayar Labs公司和光学I/O

作为连接服务器节点的物理网络媒介，光学并不新鲜。现在的进步使光学技术成为一种可行的技术，可以直接从处理器封装中使用。Ayar Labs公司是一个创新供应商的例子，它将光学连接直接提供给处理器封装，旨在缓解最苛刻的HPC/AI架构中的I/O带宽和电源瓶颈。

Ayar Labs公司的产品由高速、高密度、低功率的光互连"芯片"和外部光源组成。通过利用标准CMOS工艺来开发和制造芯片，它们能够取代传统的电气I/O，实现封装内光学I/O连接。提供集成的光学I/O芯片和外部光源使半导体供应商能够与Ayar Labs公司合作，作为一站式供应商满足其扩展的光学I/O需求。此外，通过将光学I/O技术作为小芯片（chiplet）提供，它可以与不同供应商生产的多个功能元件和半导体元件一起集成到封装系统中。

未来的展望

HPC和AI工作负载继续推动对系统架构的性能要求的不断提高。下一代CPU、GPU、DPU、IPU和XPU的功率要求不断提高，再加上能源价格的上涨，需要新的和创新的解决方案，以继续让系统供应商提供经济可行的机器，满足最苛刻的科学和工程工作负载的需求。用户和供应商都认为光学I/O是实现这些解决方案的一个关键因素。

用户要求提高性能，降低能源成本，提高能源效率，这对他们正在开发和运行的应用程序是透明的。系统供应商需要可靠的、可互操作的组件来设计他们的下一代架构。半导体供应商需要设计元素来支持产品的全部成本/性能范围。

通过提供完整的光学I/O解决方案，并将基于CMOS的芯片设计成集成到主机SoC封装和外部光源中，Ayar Labs公司的战略旨在将需求和系统供应商的产品与最复杂的HPC和AI工作负载的光学I/O连接相一致。

关于Hyperion Research公司

HyperionResearch公司为高性能计算和新兴技术领域的技术、应用和市场提供数据驱动的研究、分析和建议，帮助全球企业做出有效决策并抓住发展机遇。研究包括市场规模和预测、份额跟踪、细分、技术和相关趋势分析，以及用于高性能计算和HPDA（高性能数据分析）的多用户技术服务器技术的用户和供应商分析。Hyperion Research通过关注政府、工业、商业和学术界的关键市场和技术趋势，为用户、供应商和HPC社区的其他成员提供思想领导和实际指导。更多信息可以访问：www.HyperionResearch.com。