散热恐成为AI基建最大瓶颈之一 但AI本身可望成解方

专家示警，随着内存芯片日益采用3D堆栈技术，散热问题将成一大挑战。(路透)

业界专家警告，散热问题正日益成为人工智能（AI）基础设施的最大瓶颈之一，但他们同时也表示，AI本身有可能会是这项问题的解决方案之一。

韩媒ETNews报导，韩国科学技术院（KAIST）教授金钟浩（音译）警告，随着愈来愈多系统半导体和内存采用3D堆栈技术，日益严峻的散热挑战可能阻碍AI发展。

内存将尤其可能面临到严峻挑战。金钟浩预期，除了堆栈DRAM的高带宽内存（HBM）外，堆栈NAND闪存的高带宽闪存（HBF），以及堆栈静态随机访问内存（SRAM）的高带宽SRAM（HBS），将成为AI时代下的下一代内存技术。

金钟浩表示，随着内存结构日益复杂，散热管理将需要新的方法，尤其是AI驱动的设计自动化。他以他自己实验室正在使用的「HBM设计AI代理」为例，该模型可帮助改善散热结构。他呼吁各界开发能够自主处理日益复杂的封装设计、推导出基于物理定律的最适方案，以及开发出高效散热架构的AI设计工具。

散热挑战已开始影响下一代的内存设计。路透报导，三星的zHBM直接将内存垂直堆栈在AI加速器上，其晶圆键合（wafer-bonding）技术可望实现比HBM5高十倍的内存密度、高三倍的能源效率，以及减少逾一半的热阻。

除了内存外，AI芯片不断提升的功耗也对散热系统造成了更大压力。TrendForce指出，辉达、超微和Google单一AI芯片的热设计功耗（TDP）已超过1瓩（kW），机柜级系统如今的功耗已达到数百kW。AI芯片采用液冷技术的普及率，预计将从去年的约33%上升至今年的53%，并在明年达到近60%。

首尔科技大学教授金成东（音译）也指出，热管理是先进半导体封装面临的一项重大挑战。他表示，AI产业对热管理的关注程度，正日益超越提升性能，主要方法包括共同封装光学（CPO）和设计技术协同优化（STCO）。

CPO可将电子信号转换为光学信号，比起传统的铜互联，除了可改善性能和能源效率外，还能减少发热。STCO则旨在优化包括热管理在内的整体系统性能。金成东并表示，业界正在加速推动STCO相关的技术研发和商业化。