Jung Bae Lee在大师论坛上发表演讲,讨论AI时代记忆体的未来,透过记忆体创新来展望未来。全球半导体市场在2017年超越5000亿美元,AI更是加速了记忆体市场规模,到了2027年,将达到8000亿美元。Jung Bae Lee表示,AI时代面临3大挑战,包括功耗问题、记忆体频宽的限制,以及记忆体储存容量不足的问题。
Jung Bae Lee解释,随著生成式AI模型的出现,功耗显著增加,一个具有100亿参数的AI模型,每天需要消耗相当于250万辆特斯拉电动车充电的能量;随著每一代GPU的计算能力大幅提升,记忆体容量却仅增加了几个百分点,这造成了性能和记忆体容量之间的巨大差距;为了应对生成式AI的需求,需要更大的记忆体容量和更高的性能,三星要求开发专门的AI设备记忆体解决方案。
Jung Bae Lee强调,三星准备好推出各种新产品,在推动高性能、低功耗产品的进一步发展,并研究新的记忆体架构,与客户和合作伙伴密切合作,以达成这些目标。三星提出的解决方案是,将逻辑晶片放到HBM底层,透过矽穿孔 (TSV) 技术来打造,让记忆体可以与晶圆代工厂更好的搭配,为了保持设计弹性,三星可以提供IP给客户自行设计基础裸晶(Base Die),或是与其他晶圆代工厂合作,将不仅限于三星。
Jung Bae Lee认为,记忆体在AI应用至关重要,生态系的合作将成为关键,三星以成为解决方案的供应商为目标,打算与生态系伙伴密切合作,创造良好竞争环境,为记忆体创新未来而努力。
至于SK海力士,Kim Ju-Seon指出,在AI、半导体引领市场潮流,但现在仍占全球GDP不到1%,仅有南韩、台湾投入众多资源于此,南韩半导体产业占整体GDP超过15%,台湾则是更高,Justin Kim呼吁台湾与南韩的半导体产业要一起合作,才能解决科技发展面对的挑战。
Kim Ju-Seon也表示,目前AI的能力处在已指令进行对话的阶段,属于第一级,最终将发展到第五级,也就是执行复杂的组织任务,并以人类情感的模式进行交流,在此之前要先解决能源、散热系统以及记忆体需求3大困境。
Kim Ju-Seon说明,直到2028年,所需要的能源为现在的2倍,不可能只靠再生能源满足需求;散热方面,SK海力士开发出高效能低功耗的高容量记忆体;面对记忆体需求增加,在各种生成式AI应用的记忆体频宽问题变得更重要。
Kim Ju-Seon 分享目前最新的 HBM3E 技术,表示是最早生产 8层HBM3E 的供应商,并在月底开始大规模生产 12层HBM3E。除了 HBM3E 外,SK 海力士也介绍在 DIMM、企业级 SSD(QLC eSSD)、LPDDR5T、LPDDR6、GDDR7 的最新产品。
这次大师论坛的亮点,就是三星松口不会只限于自家的晶圆代工厂合作,被外界解释为可能会与台积电加深合作的契机。由于三星、台积电在先进制程领域持续竞争,过去也曾出现过台积电的研发大将跳槽到三星,协助三星的晶圆代工技术大幅提升,台韩半导体产业竞争情节一直被外界所热议,但随著SK海力士率先与台积电在4月签署共同开发HBM4技术,预计2026年量产,为了提高效能,SK海力士当时声明表示,双方将在HBM底层的Base Die进行合作,同时采用台积电CoWoS先进封装技术,SK集团会长崔泰源也在6月拜访台积电董事长魏哲家,对外展现合作的决心。
反观三星,虽然数度传出三星的HBM3E通过辉达验证,但都遭到三星亲自澄清否认,但是市场评估,三星验证通过只是迟早问题,但是要缩小与SK海力士、美光的竞争差距,韩媒《BusinessKorea》报导,台积电生态系与联盟管理主管Dan Kochpatcharin在5日宣布,台积电与三星正在开发一款新的无缓冲的HBM4,主要是某些客户更喜欢用台积电制造的Base Die,随著HBM4设计与生产更为复杂,三星为了扩展客户来源,与台积电结盟成为最佳选项,此外,台积电在3DFabric联盟当中,三星也是成员之ㄧ,显见台韩半导体厂商并非只有竞争关系,如今三星公开宣示,这也让台湾半导体产业走向了新的局面。