TAG :HBM

过去曾是张忠谋口中的两只「700磅大猩猩」的英特尔与三星，前者在COMPUTEX期间CEO积极巡摊位与下游OEM厂搏感情; 另一家三星则是SEMICON Taiwan期间，与台积电高层坐在台上华山论剑谈AI，两家公司高层中间还特别隔着一个Google代表，微妙的距离看上去是「友达以上，合作未满」！
 





在「AI晶片世纪对谈」中，作为论坛主持人的日月光执行长吴田玉话锋犀利指出：你们看这AI商机多大、多美好，迫使我们得跟韩国的朋友（指同在台上的三星）来讨论AI这个议题。话一说完还不忘问台积电共同营运长米玉杰「我这样说有太超过吗？」
 



他也不断抛出同一个议题让大家思考：今日我们对AI的投资如此巨大，包括三星、SK海力士、台积电在硬体制造上高度资本密集的投入，还有先进封装、设备材料行业极力往前冲，但最大的受益者却是美国，且前方回收之日十分漫长。
 





三星记忆体业务副总李祯培Jung-bae Lee认为，现在只是投资播种期而已，呼吁要有耐心。
 





确实，在AI时代已经明显落后的三星，不但需要展现耐心极力追赶，更对劲敌台积电努力抛出橄榄枝。其实，就算三星想选择「躺平」...大客户Nvidia也绝对不会允许！
 





只是，进入HBM4技术世代后，三星面临的压力会比以往更巨大，因为要面临记忆体和逻辑两大劲敌SK海力士和台积电的携手合作。








从HBM4技术开始，记忆体与逻辑之间的边界开始被打破，台积电更是直接崭露跨足记忆体的雄心，与SK海力士宣布合作共同开发HBM4记忆体，将于2026年正式量产。
 





在HBM领域已经落后的三星，眼看SK海力士和台积电合作，心中着急自是不言而喻，在SEMICON TAIWAN 2024中，三星表示，HBM4合作将不限于自家晶圆代工厂，对台积电挥手的意图十分明显。
 





翻开台积电的历史，身为半导体常胜军的张忠谋，DRAM一直是他的魔咒。台积电在1994年主导成立世界先进做DRAM，却在2000年之后宣布退出，从此专注在逻辑制程领域，不碰记忆体。
 





没想到在20年后，AI这股飓风让台积电顺理成章打开记忆体大门，更与一向是对立面的韩国，并肩作战成为技术盟友！
 





为什么HBM会需要台积电逻辑制程技术的帮助？
 





HBM的架构是将DRAM晶片堆叠在Base Die（基础裸晶）之上，再用矽穿孔TSV技术结合，之前HBM的Base Die是用DRAM制程做，但从HBM4开始，考虑到需要更强大的运算功能和传输速度加快，HBM的Base Die需要改成用由先进逻辑制程生产。而SK海力士没有逻辑先进制程，因此需要与台积电合作，预计双方合作的HBM4产品会用到台积电的5奈米制程。
 





李祯培在「AI晶片世纪对谈」论坛中也指出，为了打破限制，HBM必须加入逻辑处理的技术，提供客制化HBM，现在三星HBM4的Base Die已经交给晶圆代工厂。
 





他更强调，HBM4技术世代后，记忆体业者、晶圆代工厂、客户三方之间的合作越将更为紧密，而三星本身有记忆体、晶圆代工等业务，可满足客户一条龙式生产服务。再者，三星记忆体已准备好Base Die的IP解决方案，可以提供给客户自行设计，保持代工服务弹性，因此未来合作并不限于三星自己的晶圆代工厂。
 





SK海力士社长金柱善（Justin Kim）也出席了大师论坛，表示2024年以来已经来台湾十次了！ 至于为何而来，台下听众皆是会心一笑。
 





SK海力士与三星一同出席SEMICON TAIWAN 2024举办的大师论坛，是这两家韩系记忆体厂首次在台湾同台竞技，目的都是拉拢台湾的半导体产业供应链。
 





这要感谢AI时代，把台湾产业链的重要性提升到另一个高度与层次，让台湾成功掌握PC、智慧型手机时代后，又站在AI时代的浪潮顶峰！
 





金柱善表示，台湾和南韩之间要密切合作，能彰显高度价值，不仅是对眼前业务有利，也是为了因应解决前方挑战而共同努力。
 





他也表示，SK海力士在HBM领域享有最高的全球市占率，HBM3E是市面上最具主导地位的产品，预计9月就会推出12层堆叠的HBM3E产品，应用在AI伺服器上。同时，SK海力士的HBM4也在研发中，将配合客户量产时程，在结合自己HBM技术和台积电的先进制程代工，将会诞生无与伦比的产品。

台积电全球业务及海外营运办公室资深副总暨副共同营运长张晓强接受TechTechPotato YouTube频道接专访中谈到关于摩尔定律、CoWoS、A16制程技术的看法，以下是部份内容整理：

很多人说摩尔定律已经失效，台积电怎么看？

我不在乎。只要我们能够继续推动技术进步，我不在乎摩尔定律是否有效。

许多人只是基于平面微缩two-dimensional scaling对摩尔定律进行了狭隘的定义，事实上已不是如此。看行业内许多创新可知道，我们仍在继续寻找不同的方法，将更多功能和更多能力整合到更小的外形尺寸。我们继续实现更高性能和低耗电。因此，从这个角度而言，我认为摩尔定律或技术微缩的步伐持续。我们将持推动产业向前发展。

有收到过来自客户的令人惊奇的要求吗？

不会。我们与客户密切合作，同时保持开放，确保客户选择正确的技术。请记住，我们是晶圆代工业务，目标是帮助客户实现成功的产品。我的老板常常告诉我：“我们是晶圆代工业务，要与客户共同努力以取得成功，但有一个顺序，客户必须先成功，然后我们才能成功。”

Nvidia、AMD、英特尔对CoWoS需求量都很大，目前台积电扩产的进展如何？

对我们来说，CoWoS 是 AI 加速器的主力。你可以看到目前所有的大型 AI 加速器设计，几乎都是基于台积电 N5 或 N4 技术加上 CoWoS为主。

我们正在迅速扩大 CoWoS 产能，复合年增长率远高于60%。这个数字非常高，但仍在继续增长，我们与客户密切合作，确保满足他们最关键的需求。

上述是指CoWoS产能，同时我们也在扩大自身CoWoS的能力。

目前最先进的AI加速器，CoWoS 中介层尺寸大约是光罩尺寸的3倍，而光罩尺寸约为800 平方毫米，这提供了集成全光罩尺寸SoC，以及最多8个HBM堆叠的能力。但在两年后，我们将能够将中介层尺寸扩大到光罩尺寸的 4.5 倍，让我们的客户整合最多12个HBM堆叠。往前看，我们的研发团队已经开始将 CoWoS 中介层尺寸扩大到光罩尺寸的 7 倍或 8 倍。

12个HBM堆叠够吗？大家想要更多！

台积电也宣布了另一项创新的系统级整合技术：晶圆系统 (SoW)。你想，晶圆加工设备所能制造的最大尺寸是单一300 毫米晶圆，因此我们将晶圆作为基础层，并将所有逻辑和高频宽DRAM 整合在一起，以整合整个晶圆区域。因此，如果你使用 CoWoS 术语来衡量，中介层尺寸的「X」数是 40 倍，非常庞大。这就是我们为客户提供的服务，以继续整合更多运算功能和更多记忆体频宽，满足未来AI需求。

A16制程技术和全新Super Power Rail 技术，带来哪些创新？

A16 是一项重大的技术改进，采用奈米片电晶体，是业界领先且最先进的电晶体架构，特别适合HPC 和 AI 应用。

同时，我们也增加创新的背面供电设计，这样的设计可以让客户将电源布线从正面移到背面，进而腾出空间来提高效能，同时改善电源。

我们的方法与传统的 BSPDN 设计非常不同，在传统的背面电源轨中，你只需钻孔即可将背面金属连接到正面金属，但这样做会占用空间，并且必须扩大库单元的占用空间。在我们的设计中，采用了非常创新的方法，将触点或电晶体、电晶体的源极移到背面，而不会改变库单元的占用空间。 。

为了实现这一目标，是否会让传统的制造步骤会有些混乱？

是的。但我不想讨论特定的流程步骤，我们的研发团队不会很高兴听到这样的讨论。

这样就像三明治设计：电晶体、讯号和电源，肯定会增加很多制造成本吧？

这是肯定的，但如果你看密度、功率和效能的优势，我认为它的价值远超过成本。这对HPC和AI尤其重要，因为节能运算是关键驱动因素。

是否选择使用A16制程技术，也必须要采用超级电轨Super Power Rail)这种背面供电的设计？

A16制程本身定义就拥有超级电源轨，但我们也提供了技术选项，让我们的客户可以继续利用现有的设计资料，而不必使用背面供电。例如，在电源布线较不密集的行动应用中，您不必使用背面供电。

台积电得A16制程会在什么时候推出呢？

我们的目标是在 2026 年下半年为主要客户投入 A16 生产，从台湾开始生产。

关于导入ASML新一代高数值孔径EUV设备，台积电怎么想的？

回顾一下，台积电是业界第一个将EUV引入大量生产的公司，就EUV的生产使用和生产效率而言，我们今天仍然处于领导地位。我认为我们的研发团队将继续研究新的 EUV 功能，显然包括高数值孔径high-NA EUV，有很多考虑因素，像是可扩充性和成本等。

2024年COMPUTEX创下史上空前盛况，加上Nvidia黄仁勋带动的“逛夜市”风潮，台湾成为全世界最闪亮的地方。 Nvidia于COMPUTEX期间举行的全球媒体记者会中，第一个被提出的问题居然是与AI息息相关的HBM记忆体，在盛况空前的COMPUTEX举行当下，国际记忆体大厂的HBM武力布局完全没有松懈的一刻！
 



美光Micron在COMPUTEX期间举行了一场新技术发布会，宣布推出GDDR7绘图记忆体，采用美光1-beta技术。不过，在场媒体最关心的话题，仍是HBM！ 连美光主管在当天主轴是GDDR7的联访记者会开到最后，都开玩笑表示：“还有任何关于HBM的问题吗？”
 



HBM技术非常复杂，要做十几、二十层的堆叠，技术门槛非常高。但是，如果没有HBM记忆体，GPU也无用武之地，AI商机也是海市蜃楼。
 



美光的HBM记忆体将在台湾和日本两地生产。事实上，美光有60%的DRAM产能放在台湾生产，1-Beta 制程已在台湾厂房进入量产，预计2025年会在台湾引入EUV机台来生产1γ（Gamma）制程DRAM晶片。在日本广岛厂方面，美光也会引入EUV机台，在2025年生产1γ(Gamma) DRAM。
 



美光2024年已经宣布24GB的HBM3E记忆体正式量产，采用1-Beta 制程技术，获得Nvidia的H200 GPU采用，预计2024年第二季开始出货，第三季放量。同时，美光也宣布推出12 层堆叠的36GB HBM3E样品。
 





美光看好到了2025年HBM3E的市占率将可望上升到20~25%，与美光在全球DRAM市占率相当。 HBM市占率的提升，背后象征两大意义，一是技术上站稳脚步，二是产能要能跟上脚步。另外，H200的采用也是一大助力。
 



美光在HBM上急起直追，以及强大的企图心，看在日前传出HBM产品不顺、出现过热且未通过Nvidia认证的三星的眼里，势必是著急不已。
 



接下来，来谈一天COMPUTEX当天美光的技术发布会的重点。
 



美光次世代GDDR7绘图记忆体已正式送样，采用美光1β (1-beta) DRAM技术和创新架构，最高速度达每秒32 Gb，系统频宽提升至1.5 TB/s以上，频宽相较前一代美光GDDR6高出60%。
 



相比前一代GDDR6，美光GDDR7的能源效率亦提升超过50%，有效改善散热问题并延长电池寿命。 GDDR7新的睡眠模式可降低系统待机功耗最高达70%。
 



美光GDDR7拥有四个独立通道，最佳化工作负载与更快的回应速度、更流畅的游戏体验并显著缩短处理时间。
 



美光预计，采用GDDR7制作的显示卡在1080p、1440p和4K解析度下的光线追踪和光栅化每秒帧数（FPS）相较于GDDR6和GDDR6X可提升超过30%。
 





GDDR7产品的推出，让完美光的产品布局CPU、NPU和GPU元件的边缘 AI 推理应用，提供 DDR、LPDDR 和 GDDR 记忆体选项。针对游戏应用，美光GDDR7记忆体透过效能和帧缓冲区扩展，以可随游戏内容变换的场景、玩家和故事情节实现 AI 增强的游戏体验。
 



美光副总裁暨运算产品事业群总经理Praveen Vaidyanathan表示，透过采用先进制程和介面技术打造出最高频宽的记忆体解决方案，再次引领记忆体产业创新，并维持在绘图记忆体效能的领导地位。

相关新闻：

台积电延续万亿市值的秘密，都藏在这一张图里

慧荣苟嘉章：AI带动服务器强大需求，NAND Flash价格下半年续涨

卢超群：HBM良率转顺至少还要2～3年，对DRAM排挤效应刚开始而已

今天台积电技术论坛上，2024年3月升任共同营运长，现任台积电业务开发、海外营运办公室资深副总暨副共同营运长的张晓强现场金句连发：
 




台积电做系统整合超过20年，领先推出CoWoS技术，我相信在座各位都可以拼出C-o-W-o-S-.......有天我发现连电视台主播都会拼这个词，你要是没听过CoWoS，大概 是外星人了！

 


过阵子也不用我和Cliff上台来演讲了，create一个Avatar来讲就好！

 


（现场张晓强show出一张PPT标志着Nvidia近代GPU产品采用台积电制程技术的性能成长曲线直线向上）他说：AI发展快速，Nvidia产品从V100采用N12、A100采用N7、H100采用N4，一直最新一代 Blackwell采用N4P制程+CoWoS封装让算力成长1000倍，这迅猛的长曲线让人想到了昨晚的Nvidia股价.......

 


台积电今日技术论坛中，现场含金量最高的一张图应该是3D Integrated HPC Technology platform for AI。 张晓强说这张图是“Money Sheet”（既然价值连城，就不在此大放送！其实是因为现场是禁止摄影）从现场的图上看，是一款用于HPC和AI的新封装平台，并 以矽光子来改善互联。 他表示矽光子技术已经量产，只是这是第一次引入HPC中，用在Data Center。

 


如果有人要写台积电历史，一定要提到7nm，这是台积电第一次提供全世界最先进的技术，在此之前都是IDM。 之后台积电在2020年更领先进入5nm制程，2023年进入3nm制程。


以下是今日举行台湾场的技术论坛几个重点：
 

AI将掀起第四次工业革命，2030年全世界将有10万个生成式AI机器人，生成式AI手机出货量将达2.4亿支。

 


为了满足AI运算需求，3D堆叠、先进封装技术越来越重要，未来几年将实现单晶片上整合超过2,000亿个电晶体并透过3D封装达到超过一兆个电晶体。

 


2024年3nm产能比2023年增加三倍，但还是不够用！ ！

 


2020~2024年，先进制程产能的年复合成长25%，特殊制程产能的复合成长率10%。 车用晶片出货复合成长率约50%。

 


SOIC在2022～2026年的产能复合成长100%，CoWoS在2022～2026年的产能复合成长超过60%

 


台积电从2019年正式使用EUV设备，目前全球56%的EUV机台都在台积电。

 


N3E已依计画在2023年第四季进入量产，客户的产品良率相当好。 台积电也开发出N3P技术，已通过验证，目前良率表现接近于N3E。 N3P已经收到了客户产品设计定案tape-outs,将于 2024 年下半年开始量产。

 


2nm是台积电第一次使用奈米片Nano-Sheet电晶体架构，目前进展非常顺利，NanoSheet奈米片的转换目标达90%，换成良率也超过80%，根据计画2nm是2025年下 半年量产。

 


针对制程后段，会导入新制程与材料，将电阻/电容延迟(RC delay)降低高达10%。 此外，为了强化功率传输，台积电也提供了超高性能金属/绝缘体/金属电容(SHPMIM)，其容量密度是上一代技术的两倍之多。

 


台积电进入埃米（angstrom）时代的A16，结合2nm制程+超级电轨(Super Power Rail)架构设计。

 


A16 技术的超级电轨(Super Power Rail)架构是一种创新的最佳晶圆背面供电网路解决方案。 A16 将供电网路移到晶圆背面而在晶圆正面释出更多讯号网路的布局空间，借以提升逻辑密度和效能。 此外，它还可以改善功率传输,并大幅减少IR 压降。再者，台积电的创新晶圆背面传输方案也是业界首创，保留了栅极密度与元件宽度的弹性，是具有复杂讯号布线及密集供电网路的HPC产品的最佳解决方案。 相较于台积公司的 N2P 制程，A16 在相同 Vdd (工作电压)下，速度增快8～10%; 在相同速度下，功耗降低15~20%，晶片密度提升高达 1.10X。 台积电计画在 2026 年下半年量产。

 


NanoSheet奈米片电晶体的下一代会是互补式场效电晶体CFET架构，藉由不同材料的上下堆叠，让垂直堆叠的不同场效电晶体更靠近，改善电流且密度增加1.5~2倍。 台积电强调CFET不是纸上谈兵，研发已经成功验证在wafer siliocon上。

 


台积电指出，当电晶体架构从平面式(planer)发展到 FinFET，并即将转变至奈米片(nanosheet)架构之后，公司认为垂直堆叠的 nFET 和 pFET (即互补式场效电晶体CFET)是未来制程架构选项之一。台积电进一步指出，内部一直在积极研究将 CFET 用于未来制程架构的可能性。 在考量布线和制程复杂性后，CFET 密度将可提升 1.5 至 2X，除了 CFET，在低维材料方面取得了突破，也可实现进一步的尺寸和能源微缩。

 


再者，台积电也计画导入新的互连技术，以提升互连效能。 首先，对于铜互连技术，计画导入一个全新的通路结构(via scheme)，进而将业界领先的通路电阻(via resistance)再降低 25%。 再者，计画采用一种全新的通路蚀刻停止层(via etch-stop-layer)，可降低约6%的耦合电容。 还有，正在研发一种新的铜阻障方案(Cu barrier)，可降低约 15%的铜线电阻。除铜互连外，台积电也在研发一种含有气隙的新型金属材料,可降低约 25%的耦合电容。 另外，嵌入石墨烯(Intercalated graphene)也是一种极具前景的新材料,可大幅缩短互连延迟。

 


TSMC 3DFabricTM技术方面，包含三大平台:TSMC-SoIC、CoWoS和InFO。

 


SoIC 平台：用于 3D 矽晶片堆叠，并提供 SoIC-P 和 SoIC-X 两种堆叠方案。 SoIC-P是一种微凸块堆叠解决方案，适用于讲求成本效益的应用如行动装置。 CoWoS 平台包括成熟度最高、采用矽中介层的 CoWoS-S，以及采用有机中介层的CoWoS-L 和 CoWoS-R。 InFO PoP 和 InFO-3D 适用于高阶行动式应用,InFO 2.5D 则适用于高效能运算的小晶片整合。 另外，根据产品需求，SoIC 晶片可与 CoWoS 或 InFO 整合。

 


适用于3D 小晶片堆叠技术的SoIC：SoIC-X 无凸块堆叠解决方案,无论是现有的9 微米键合间距前到后堆叠方案(front-to-back scheme)，还是将于2027 年上市的 3 微米键合间距前到前堆叠方案(front-to-front scheme)，裸晶到裸晶(die-to-die)互连密度均比40 微米到18 微米间距的微凸块前到前堆叠 方案高出10X 以上。 台积电的SoIC-X 技术非常适用于对效能要求极高的各类HPC应用。台积电更指出，看到客户对于 SoIC-X 技术的需求逐渐增加，预计到 2026 年底将会有 30 个客户设计定案tape-outs。
 




CoWoS 技术：可将先进的 SoC 或 SoIC 晶片与先进的高频宽记忆体HBM进行整合，满足AI 晶片的严苛要求。 台积电的SoIC 已透过 CoWoS-S 量产出货，并计画开发一种 8 倍光罩尺寸且具备采用A16 制程技术的 SoIC 晶片和 12 个HBM堆叠的 CoWoS 解决方案，计将在 2027 年开始量产。 直至今年年底,台积公司将为超过 25 个客户启动超过 150 个 CoWoS 客户产品设计定案tape-outs。

台积电与Nvidia合作推出Blackwell AI 加速器，是全球首款量产并将 2 个采用 5 奈米制程技术的 SoC 和 8 个HBM堆叠整合在一个模组中的 CoWoS-L 产品。



矽光子：台积电表示矽光子是共同封装光学元件CPO的最佳选择，因为其与半导体相容，且可与 EIC/PIC/交换器在封装层高度整合。 台积电创新的紧凑型通用光子引擎(COUPETM)技术透过最短路径的同质铜-铜介面整合电子积体电路(PIC)和光子积体电路(EIC),进而实现超高速射频(RF)讯号(200G/ λ)。
 



COUPE 解决方案可最小化使用面积,且具备光栅耦合器(GC)和边际耦合器(EC)，可满足客户的各式需求。 台积电计画在 2025 年完成小型插拔式连接器的 COUPE 验证，2026 年将其整合于共同封装光学元件的 CoWoS 封装基板，借此可降低 2X 功耗、将延迟降低10X。
 



同时，台积电也探索一种更先进的共同封装光学元件方案，将 COUPE 整合于 CoWoS中介层，进而将功耗再降低 5X、将延迟再降低 2X。

相关新闻：

台积电魏哲家亲赴欧洲拜访ASML、德国蔡司，完成「摩尔定律续命」之旅
GlobalFoundries中国区换帅传出要找策略联盟伙伴，突破中芯国际与华虹的包围

50%关税加上去，恐让中国成熟制程产能过剩更严重，「国产化」速度势必提前

中芯国际咬牙扩增28nm产能，杀价战与庞大折旧金额夹击

 

钰创董事长卢超群出席力积电铜锣12吋厂启用仪式时对《SEMICONVoice》表示，AI广泛使用的高频宽记忆体HBM要堆叠8层、16层，售价高达300美元～600美元，这在 半导体产业根本是天价，而且还一堆客户都抢着要买。
 



卢超群进一步分析，现在HBM记忆体还在技术与良率的摸索期，良率瓶颈要完全打开至少要花上2～3年时间，因此HBM对传统DRAM产能的排挤才刚开始而已。
 



重点是，现在三大DRAM厂都在抢着争夺HBM巨大商机，每一家记忆体厂都想当HBM老大，根本没有力气去对付传统DRAM，更是倾公司所有资源和最优秀的工程师都去做 HBM，预期下半年利基型DRAM产业会供给量不足，价格一定会水涨船高。
 



DRAM业界人士更对《SEMICONVoice》透露，投产HBM记忆体不单有耗损wafer面积的问题，且HBM投产制程周期是DDR5的三倍之多，良率又还没拉上来，现在HBM商机大爆发，但 DRAM厂的生产和产能准备没跟上脚步。
 



尤其，过去两年记忆体厂财报出现巨额亏损，因此都没有积极扩增新产能，只是把原本减产的部分逐渐恢复正常生产，但这对于未来AI时代所需要用到的DRAM和NAND Flash产能根本 不够，现在又有HBM技术瓶颈，未来DRAM产能会十分紧俏。
 



或许你觉得现在终端需求还不好，但半导体产业链已经渡过漫长的库存消化，等到PC、手机、伺服器的需求都恢复正常后，客户和通路商开始会回补库存，DRAM吃紧的问题 会更加严重。
 



市调机构TrendForce也发布报告指出，在403地震前，原先预估第二季DRAM合约价会上涨约3～8%，而最新统计出来的数据是上修涨幅大涨至13～18%。
 



针对HBM排挤DRAM产能的程度，三星的HBM3e产品是采用1alpha制程节点，预计到2024年底将占用1alpha制程产能约60%，会排挤到DDR5供给量。 尤其，第三季HBM3e进入生产放量的时间点，买方已经同意提前到第二季备货，以防第三季HBM供应会出现短缺。
 



TrendForce也统计，HBM位元需求可望高度成长，2024年将成长近200%，2025年再进一步倍增。 2024年HBM产值占DRAM比重将超过20%，2025年将有机会突破30%。
 



身为HBM龙头的SK海力士也指出，DRAM产业需求确实之前较为疲弱，但下半年需求逐渐复苏，加上HBM会吃掉更多的产能，随着越来越多DRAM产能挪移去生产HBM， 传统DRAM供应量势必会减少，且慢慢地，供应链现有的库存都会消化殆尽，看好DRAM后势价格走势。
 



SK海力士也宣布，2024年HBM产能全部售罄，2025年产能基本上也卖完，为了巩固SK海力士在HBM领域的领先地位，计画5月会推出12层堆叠的HBM3E样品，规划第 三季进入量产。
 



更早前，美光也宣布2024年HBM产能全部售罄，2025年产能多数产能也都被预订。 HBM全球狂热的程度，算是记忆体史上罕见！
 



SK海力士为了巩固HBM技术的领先地位，也宣布最新世代堆叠16层的HBM3E技术研发进度，目标是2026年进入量产。 据了解，相较12层的HBM，SK海力士的16层HBM以相同的高度堆叠更多DRAM晶粒（die），更关键的是能同步减少DRAM厚度，并防止出现晶圆翘曲（warpage ），SK海力士为克服这些技术难题，从HBM2E开始就采用领先的MR-MUF（Mass Reflow Molded Underfill）技术，并且不断进行改良。
 



在HBM大战中，长年龙头的三星居然成为SK海力士的手下败将，日前传出不服输的三星，精挑细选集结了100名顶尖的工程师，组成一支HBM团队，目的就是争取Nvidia的HBM 订单，让良率和品质能通过Nvidia的标准，进而一步步蚕食鲸吞SK海力士手上的订单。
 



三星目前的重心是在全球首款36GB 12层堆叠HBM3E，相较堆叠8层的HBM产品，堆叠12层的HBM3E可让AI学习速度提升34%。 三星总裁兼执行长庆桂显Kye Hyun Kyung指出：“第一回合输了，但第二回合是非赢不可。”

相关新闻：

三星DDR3将提前退役，HBM耗损Wafer面积是DDR5三倍，DRAM产业正处关键转折点

 

三星从2年前就规划逐步要退出DDR3供应，市场传出，原本计划2024年底要针对DDR3做EOL（end-of-life）现在提前至2024年中停止生产DDR3，而SK海力士在DDR3 晶片上的供应原本就不多，预计未来会更淡出DDR3供应之列。 业界预期，DDR3提前退役，可望加速DDR3库存消化，准备启动另一番涨势。
 



记忆体今年市况不错，主要是2023年上游原厂亏损严重，开始从源头控盘拉抬价格，这招式是千年不变，万年受用！ NAND Flash和DRAM产业也在这一轮的景气循环中，正大光明地走出谷底，等待终端需求大力添加柴火。
 



这一波DRAM产业有两个题材，一是AI需要的高频宽记忆体HBM对于DDR5的排挤效应，且HBM真的吃掉很多记忆体的Wafer产能; 第二是韩系国际记忆体大厂年底前 要陆续退出DDR3的生产之列。
 



两大韩厂三星、SK海力士要退出DDR3生产已经规划许久，日前传出最大供应商三星原本是计划年底前停止生产，基于产能配置，提前到2024年中停止生产DDR3，SK海力士原本的DDR3 供应数量就很少，逐步淡出符合预期规划，这对于台湾DRAM相关厂商是好消息。
 



HBM在AI时代成为要角，记忆体产业主轴是“排挤”。

首先，HBM是SK海力士的翻身之作，未来在技术、产能、资源分配上，无论是SK海力士、三星或美光，绝对是全力抢占HBM市占率，AI才是未来主角。 因此，这些大厂不可能会有太多产能给传统的DRAM，HBM对DDR5产能的排挤，恐怕刚开始而已。 除非，你觉得AI是泡沫，是昙花一现，你觉得ChatGPT很快会消失。
 



业界分析，HBM生产周期包含TSV封装，比DDR5的生产周期至少多出1.5个月，HBM3E的Wafer面积更是DDR5的三倍大。 假如投片16Gb DDR5颗粒，每片Wafer的Gross die是1800颗，同样的Wafer拿去生产HBM3E，搞不好只剩下600颗。
 



DRAM厂为了解决HBM瓶颈且拉升良率，只会有越来越多的DRAM产能转移到HBM身上。 有消息指出，HBM平均良率约在65%左右，但业界认为实际的良率其实更低。 而且，HBM一旦有一个晶片有缺陷，整个封装都不能用。 另外，HBM的生命周期又比传统DRAM短。
 



美光执行长Sanjay Mehrotra 曾表示，HBM因为包含了逻辑控制晶片，加上更复杂的封装堆叠，且生产HBM过程会很大幅度影响良率，因此生产HBM3和HBM3E会吃掉很大部分的DRAM Wafer 供应。
 



辉达Nvidia执行长黄仁勋也指出，HBM是技术奇迹，它的技术非常复杂，但能提高AI效能，附加价值非常高，他非常重视与SK 海力士、三星在HBM记忆体上的合作关系。
 



全球市场中，HBM市占率最高的是SK海力士，其次是三星，两者合计应该有占90%市场，美光排名第三。
 



目前，SK 海力士的 HBM3E已经量产，辉达Nvidia绝对是优先出货的重要客户。
 



三星的8层HBM3E在量产时程上微幅落后，外传，三星HBM3的良率只有10~20%，但SK海力士的HBM3良率却已来到60~70%。 幸好，三星最终仍是拿下辉达H200订单。 三星也强调自己将会推出业界首款12层HBM3E，是目前容量最高HBM产品，预计会很快量产。