Whoscored(中国·中文)官网-专注足球数据分析的专业平台

计算复杂度的概念在计算机科学中已经确立，算法根据时间和内存需求如何随问题规模扩展而被分析。类似的框架可以应用于物理硬件，特别是处理光等波的系统。对于光学器件，实现非平凡的数学运算需要足够的物理空间，因为任何位置的输出都必须依赖于一定范围位置的输入。这个基本要求源于波物理学，决定了器件功能所需的最小厚度或体积。

图1：在自由空间光学和光子芯片中降低空间复杂度的核心概念。部分a-c显示了不同核矩阵结构如何影响自由空间光学系统的厚度扩展规律，而部分d-f演示了块对角化如何减少光子芯片中所需的马赫-曾德尔干涉仪数量。

研究人员建立在 D. A. B. Miller 的基础工作之上，Miller 确立了光学系统的尺寸要求与称为"重叠非局域性"的概念相关。这个概念衡量有多少独立的通信通道必须穿过器件内的任何横向切面。当多个输出需要来自重叠输入集合的信息时，光学系统需要足够的厚度来同时容纳所有这些交叉通道。关键的洞察是，正在执行的运算的特定数学形式直接决定了这种重叠非局域性，从而决定了最小器件尺寸。

要理解为什么某些光学设计需要更多空间，需要检查光如何在器件内的输入和输出位置之间耦合。光学系统中的每个输出位置从一组输入位置接收贡献，这些耦合模式可以用数学方法表示为核矩阵。特定输出的通信锥包含对其有贡献的所有输入位置，由两个参数表征：锥中心相对于输出位置的水平偏移，以及锥范围的宽度。

图2：标准光学非局域性和重叠非局域性，显示了通信锥如何在一维和二维光学系统中与横向孔径相交，并引入了光学耦合的面内距离概念。

确定器件厚度的关键量是必须穿过系统内任何横向孔径的通信锥的最大数量。当这种重叠非局域性很大时，器件需要许多并行通道来横向传输信息，需要更大的物理厚度。重叠非局域性与所需厚度之间的关系可以使用衍射理论精确计算，考虑工作波长和器件材料中可用的最大折射率。

研究团队系统地分析了核矩阵上的不同结构约束如何影响重叠非局域性随运算维度的扩展。研究人员考虑了三种情况：具有平凡随机稀疏性的矩阵、选择性地删除行的矩阵(行稀疏矩阵)，以及表现出局部稀疏性的矩阵，其中耦合仅发生在附近的输入-输出对之间。

图3：三种不同类型核矩阵的最大重叠非局域性作为运算维度函数的扩展规律：平凡稀疏、行稀疏和局部稀疏配置，证明了局部稀疏矩阵如何实现优越的次线性扩展。

分析揭示了令人惊讶的结果。通过随机删除耦合来简单地增加稀疏性没有任何好处，除非矩阵变得如此稀疏以至于失去编码有用运算的能力。同样，删除整行只能将扩展减少一个常数因子，但保持对运算维度的线性依赖。然而，通过将耦合限制在附近的输入-输出对来强制局部性实现了突破：重叠非局域性仅按运算维度的平方根扩展，而不是线性扩展。这种次线性扩展代表了根本性的改进，意味着遵循这种局部稀疏模式的更大光学系统可以保持相对紧凑。

虽然理论分析确定了哪些数学运算可以紧凑地实现，但一个实际问题仍然存在：当限制在这些空间高效形式时，是否仍然可以完成有用的计算任务?研究人员通过利用光神经网络来解决这个问题，光神经网络提供了在尊重物理约束的同时学习特定任务运算的灵活性。

对于自由空间光学实现，研究人员使用受大脑启发的模块化训练方法开发了局部稀疏光神经网络。这种方法结合了一个专门的损失函数，该函数惩罚非局部连接，鼓励网络发展穿越小面内距离的耦合模式。此外，该方法战略性地交换跨层的神经元位置以进一步增强局部性。训练后，权重剪枝去除了幅度较小的连接，产生自然表现出所需局部稀疏结构的网络。

图4：比较在 Fashion-MNIST 数据集上执行分类的传统、行稀疏和局部稀疏光神经网络，展示了自由空间光学的空间高效计算，显示了通过不同剪枝策略在三个层间区域实现的厚度-精度权衡。

在基准图像分类数据集上测试这些网络揭示了显著的结果。与传统设计相比，局部稀疏网络将各个层间区域的厚度减少了3倍到近60倍，精度下降极小。例如，在 Fashion-MNIST 数据集上，局部稀疏网络仅实现了几个百分点的精度降低，同时需要的物理空间大大减少。这证明了收益递减的原理：超过一定水平的光学复杂度，额外的空间资源只会带来边际的性能改进。

对于基于马赫-曾德尔干涉仪网格的片上光子实现，研究人员开发了一种以块对角化为中心的不同策略。实现任意线性变换的标准架构需要随运算维度增长而呈二次扩展的干涉仪数量。然而，如果核矩阵可以被约束为块对角形式——本质上是将一个大变换分解为许多小的独立变换——所需组件的数量会下降到准线性扩展。

图5：通过块对角神经网络说明了光子芯片上的空间高效计算，显示了六种不同配置的模型精度与块对角化程度之间的权衡，以及权重矩阵的可视化和所需马赫-曾德尔干涉仪的相关减少。

研究团队为创建块对角网络开发了一种两阶段剪枝方法。首先，训练传统网络，添加一个额外的损失项来惩罚非块对角权重，逐渐鼓励块对角结构。然后，将这些权重加载到专门结构的层中，其中只有对角块包含可学习参数，并继续训练以完全适应这种约束。这种方法被证明非常有效：最大块大小仅为10×10的网络在分类任务上实现了可观的精度，同时所需的马赫-曾德尔干涉仪比未剪枝的实现少约98%。

这项工作为思考光计算设计建立了一个新框架，将焦点从纯粹最大化性能转移到优化空间资源与计算精度之间的平衡。通过空间复杂度分析确定的基于物理学的结构约束直接转化为实用的剪枝策略，产生紧凑、高效的光学系统。

研究结果表明，光神经形态计算可以在算法和硬件之间实现良好的协同作用。与电子处理器不同，稀疏神经网络通常由于不规则的内存访问模式而难以充分利用并行架构，光学实现自然支持从基于物理的剪枝中出现的稀疏、局部化连接模式。波物理学所青睐的数学结构与通过神经网络训练学习的压缩表示之间的这种对齐，为混合光-电子系统开辟了路径，可以战略性地将不同运算分配给最合适的硬件平台。