随着人工智能和高性能计算应用的计算需求不断飙升，芯片制造商正在寻求提高性能和效率的新方法。一种创新方法是超越传统芯片封装，实现晶圆级集成。台积电凭借其晶圆系统（SoW）平台一直是领域的先驱，现在正通过 3D 技术将其推向新的高度。台积电于 2020 年推出 InFO-SoW 技术，允许将整个硅晶圆用作大规模并行处理器设计的基础 "封装"。InFO-SoW 不需要将硅片切割成独立的芯片，而是让处理器内核在整个硅片上相互连接，从而获得惊人的吞吐量和带宽密度。Cerebras 和 Tesla 等早期采用者已利用 InFO-SoW 实现了最先进的人工智能处理器和高性能计算加速器。例如，特斯拉的 Dojo 系统采用了基于 InFO-SoW 的晶圆级芯片，与传统封装方法相比，每瓦性能大幅提升。
不过，尽管这些单片处理器晶圆令人印象深刻，但也有局限性。所有逻辑都必须使用相同的硅工艺技术，而且它们完全依赖于片上内存容量。对于未来的超高性能人工智能工作负载，将需要更多的集成。
台积电的片上系统平台（CoW-SoW）应运而生。这一革命性的进步结合了公司的 InFO-SoW 和系统集成芯片 （SoIC） 技术，实现了在晶圆级处理器基础上垂直堆叠附加逻辑或内存芯片。通过 CoW-SoW，晶圆级 InFO-SoW 处理器可以使用优化的逻辑工艺制造，而像 HBM4 这样的超高带宽内存则通过单独的内存芯片集成（可能使用特殊的内存优化节点处理）。合并的 SoW 基础芯片和堆叠芯片利用台积电的封装能力实现无缝互连。
台积电业务发展副总裁张晓强博士解释了这一愿景： "SoW不再虚幻......通过利用我们先进的晶圆级集成技术，我们可以为客户提供一条重要的途径，使他们的人工智能集群和超级计算机的计算能力和能效不断提高。"这些优势可能会改变游戏规则。架构师将拥有构建大规模并行计算引擎的异质基础，其逻辑可针对性能进行优化，而紧密耦合的高带宽内存资源则堆叠在上面。这就打破了逻辑和内存工艺优化之间的传统牺牲。
台积电已经在为 CoW-SoW 进行设计，目标是在 2027 年投产。如果成功，我们将看到一个由台积电的封装专家们提供的先进 3D 片上系统集成所带来的卓越级 AI 和 HPC 处理器的新时代。
https://www.anandtech.com/show/21372/tsmcs-system-on-wafer-platform-goes-3d-cow-sow
微信公众号 
bilibili 
微信视频号