人工智能芯片应用与封装技术趋势
人工智能（AI）、物联网（IoT）和大数据的融合正在开创全新的智能时代，以智能解决方案改变各行各业。人工智能芯片在支持人工智能学习和推理计算方面发挥着非常重要的作用，可实现各行各业的多样化应用。本文探讨了人工智能芯片应用和封装技术的发展趋势，揭示了这一领域的进步。人工智能学习包括使用大型数据集对机器进行训练，以建立规则模型，然后通过人工标注的数据对其进行验证和完善，以提高准确性。在此过程中，人工智能芯片支持参数修改和模型优化的计算需求。相反，人工智能推理涉及应用所学模型对新样本进行分类或识别未见物体。这就需要具有高计算能力的人工智能芯片来执行快速推理，例如自动驾驶汽车中的实时物体检测。
虽然 CPU、GPU 和 FPGA 可以执行人工智能模型计算，但它们的芯片架构会影响性能。在人工智能芯片中，专为人工智能计算设计的专用集成电路（ASIC）性能最佳。然而，GPU 加速系统因其并行处理能力和可编程性，在数据中心人工智能工作负载中占据主导地位，尽管其功耗较高。
云和边缘/终端应用对人工智能芯片的需求各不相同。云学习和推理需要 GPU 和 ASIC 等高性能芯片，而边缘和终端设备通常采用针对特定任务优化的低功耗 AI 芯片。各大公司针对云、边缘和终端人工智能芯片产品制定了不同的战略，以满足不同的应用需求。
人工智能芯片广泛应用于各个领域，包括汽车、医疗保健和智能家居系统。在汽车领域，人工智能芯片通过环境感知、车辆定位、驾驶员行为监控和智能座舱助手等功能，提升驾驶员安全和车内体验。
在医疗保健领域，人工智能芯片可实现运动分析、脑机接口和虚拟训练等应用，从而改善医疗保健管理、运动表现和医疗护理。
此外，集成了语音和图像识别功能的人工智能芯片正被整合到智能家居系统的单芯片解决方案中，实现语音命令解析、噪音消除和面部识别等功能。
随着人工智能芯片功能和复杂性的增加，对封装互连密度和电极间距的要求也随之提高，推动了从传统焊线到倒装芯片和先进 2.5D/3D 封装技术的发展。高性能计算 （HPC）、5G 和人工智能应用需要更高的晶体管密度，而仅通过工艺扩展是难以实现的。先进的封装技术通过减少芯片间距和实现三维堆叠提供了替代方案，从而在降低功耗的同时提高计算密度和性能。
与传统的二维系统级封装（SiP）解决方案相比，2.5D 封装通过内插层和微凸块实现了更紧密的芯片集成。三维封装通过垂直堆叠芯片进一步提高了集成密度，可容纳更多功能芯片，同时减少信号传输距离和功耗。
领先的半导体制造商和封装厂正积极投资于先进的封装技术，因为他们认识到这些技术作为后摩尔定律半导体发展的关键驱动力所具有的潜力。
用于数据中心人工智能工作负载的高端 GPU 通常采用集成高带宽内存（HBM）的片上基板（CoWoS）封装，以实现高计算性能和内存带宽。HBM 是一种堆叠式 DRAM 芯片，可通过硅通孔和高密度互连电极实现高数据传输速率。
针对边缘人工智能应用，华邦和华虹半导体等芯片制造商已开发出在处理芯片上堆叠定制 DRAM 芯片的解决方案。与基于 SRAM 的解决方案相比，这种方法既能扩大高速缓冲存储器容量，又能确保较高的数据访问速度，从而以较低的成本提供中端计算能力。
摩尔定律推动了晶体管的扩展以提高性能，但这一定律已接近极限。国际器件与系统路线图（IRDS）表明，垂直晶体管堆叠将是未来的发展方向。从 2028 年起，晶体管可能会从 FinFET 和全栅极（GAA）结构过渡到互补 FET（CFET）和三维超大规模集成电路，这就需要采用先进的三维封装技术，以便在 10 纳米尺度上实现精确的垂直堆叠和互连。
GAA 晶体管的引入在高纵横比加工和垂直沟道形成方面提出了挑战。为了实现 CFET 沟道堆叠，已经提出了晶圆键合和层转移技术等解决方案。
随着设计转向垂直晶体管堆叠和分离信号与电源分配网络，纳米级硅通孔 （TSV） 等先进封装技术对于从芯片背面将电源轨连接到晶体管层很重要。
在汽车电子、数据中心和无线通信等行业长期需求的推动下，半导体行业预计将在 2024 年实现正增长。支持人工智能学习和推理计算的人工智能芯片是人工智能物联网应用的重要硬件基础。先进的封装技术在实现人工智能芯片的功能集成、性能提升和晶体管堆叠方面发挥着重要的作用。封装公司应重点开发具有灵活配置的模块化人工智能芯片解决方案，以满足定制规格，同时保持成本效益。根据成本考虑，将芯片集成到电路板上或利用先进封装实现芯片集成，可分别提供便捷和紧凑的解决方案。随着下一代高性能计算芯片向垂直晶体管堆叠和背面配电网络发展，能够在 10 纳米尺度上实现精确三维芯片堆叠和互连的先进封装技术将变得越来越重要，这也为封装行业带来了机遇和挑战。Kai-An Zheng, "AI Chip Applications and Packaging Technology Trends," Industrial Information Research Institute, Institute for Information Industry, Taipei, Taiwan, April 18, 2024.
微信公众号 
bilibili 
微信视频号