瑞银投资银行台湾硬体科技研究部主管陈星嘉指出，辉达的激进换代策略为台湾厂商带来新机会，但同时压缩了产品从设计到出货的时间。资金与整合能力强的一线厂商在这波竞争中更具优势，尤其台湾ODM厂商将主导AI伺服器机架市场。其中，GB200 AI伺服器机架因其高技术与资金门槛，预期将带来更高利润。
调研机构TrendForce预测，随著大型云端服务厂商（CSP）积极建置AI资料中心，AI晶片效能提升将推动记忆体与散热技术需求同步增长。预估2025年，GB200机柜方案正式放量出货后，AI晶片的液冷散热渗透率将从2024年的11%提升至24%。随著晶片算力升级，热设计功耗（TDP）显著攀升。例如，NVIDIA推出的GB200 NVL72机柜方案，其TDP高达约140kW，需采用液冷方案才能有效解决散热问题，预计初期将以水对气（Liquid-to-Air, L2A）方案为主流。
相关新闻：2024半导体大事Top 10｜AI浪潮继续！台积电2奈米将登场 辉达GB200明年大出货
NVIDIA表示，液冷技术比气冷技术更有效率地将热度从系统中带走，使运算系统在处理大量工作负载时保持低温。液冷设备相较于气冷，不仅占用空间更小、用电量更少，还能让资料中心容纳更多伺服器机架，以进一步提升运算能力。美超微执行长梁见后于COMPUTEX 2024指出，若全球资料中心全面采用液冷技术，每年可节省100亿至200亿美元的电费，并预测液冷应用将快速扩散。
此外，液冷方案的发展也受到ESG意识抬头的推动。Google在自研高阶AI ASIC方面，已成为最积极采用液冷方案的云端业者，而其他业者则仍以气冷为主。随著全球监管机构对节能要求的提升，散热技术正逐步由气冷转向液冷。这一趋势促使电源供应商、散热业者及系统整合厂商纷纷投入AI液冷市场，形成新的产业竞合态势。
HBM技术则是AI晶片升级的关键。随著辉达AI晶片与台积电CoWoS技术密切合作，SK海力士与美光在HBM3e记忆体验证方面已取得进展，预计年底完成验证。然而，记忆体龙头三星却面临进度落后的挑战。为突破困境，三星记忆体业务总裁Jung-Bae Lee于SEMICON Taiwan大师论坛表示，计划将逻辑晶粒整合至HBM底层，并开放IP供客户设计基础裸晶，市场解读这可能与台积电合作，旨在突破HBM竞争困境。
TrendForce预测，2025年HBM市场仍处于高成长阶段，随著AI伺服器持续布建，在GPU算力与记忆体容量都升级的情况下，将带动HBM规格容量上升，包括Blackwell平台将采用192GB HBM3e记忆体、AMD的MI325更是提升到288GB以上，但HBM生产难度高，良率有显著提升空间，这也推升了生产成本，平均售价将是DRAM的3至5倍，等待HBM3e量产与产能扩张，预计营收贡献将逐季成长。
點擊閱讀下一則新聞
