作者:暢秋
在晶圓代工領(lǐng)域,三星與臺積電是純粹的競爭關(guān)系,但在存儲芯片市場,作為行業(yè)霸主,三星卻不得不尋求與臺積電深入合作,這都是英偉達(dá)惹的禍。
據(jù)DigiTimes報道,三星HBM3E內(nèi)存尚未通過英偉達(dá)的測試,仍需要進(jìn)一步驗(yàn)證,這是因?yàn)榭ㄔ诹伺_積電的審批環(huán)節(jié)。作為英偉達(dá)AI GPU芯片的制造和封裝廠,臺積電是英偉達(dá)驗(yàn)證環(huán)節(jié)的重要參與者。據(jù)悉,臺積電采用的是基于SK海力士HBM3E產(chǎn)品設(shè)定的檢測標(biāo)準(zhǔn),而三星的HBM3E產(chǎn)品在制造工藝上有些差異,例如,SK海力士芯片封裝環(huán)節(jié)采用了MR-MUF材料技術(shù),三星則是基于TC-NCF技術(shù),這會對一些參數(shù)產(chǎn)生影響。
三星在4月表示,其8層垂直堆疊的HBM3E已經(jīng)在4月量產(chǎn),并計劃在今年第二季度量產(chǎn)12層堆疊的HBM3E,比原計劃提前了一個季度。按照三星的說法,為了更好地應(yīng)對生成式AI日益增長的需求,該公司加快了新款HBM產(chǎn)品的項(xiàng)目進(jìn)度。
自從HBM問世并量產(chǎn)以來,SK海力士一直是英偉達(dá)為其AI GPU配備該類內(nèi)存的獨(dú)家供應(yīng)商,發(fā)展到HBM3E版本,依然如此,只是從2024年第二季度開始,另外兩家內(nèi)存大廠才開始加入英偉達(dá)HBM供應(yīng)鏈。因此,SK海力士是行業(yè)霸主,市場份額超過80%。
2022年,SK海力士專為英偉達(dá)的H100設(shè)計了HBM3,其性能令人驚訝,且HBM在經(jīng)濟(jì)上是可行的,并一舉確立了行業(yè)地位。在這種情況下,三星和美光準(zhǔn)備花費(fèi)數(shù)十億美元來擴(kuò)大芯片生產(chǎn)能力。最近,三星推出了其12層堆疊的HBM3E,旨在將其與SK海力士和美光的8層堆疊產(chǎn)品區(qū)分開來。
在不久前舉行的年度股東大會上,SK海力士非常享受它的勝利成果,這家韓國內(nèi)存制造商表示,HBM必須為客戶“定制和專業(yè)化”,這是在強(qiáng)調(diào)其與英偉達(dá)的深厚關(guān)系。
同期,三星也宣布了其HBM產(chǎn)量的增長計劃,一位高管表示,該公司計劃今年將芯片產(chǎn)量增加兩倍。英偉達(dá)首席執(zhí)行官黃仁勛(Jensen Huang)在Blackwell產(chǎn)品發(fā)布會上表示,正在對三星的HBM3E進(jìn)行資格認(rèn)證,黃仁勛這是在側(cè)面敲打SK海力士,以避免供應(yīng)商一家獨(dú)大,出現(xiàn)客大欺店的情況。
相對于三星和SK海力士,美光(Micron)晚一年才推出HBM產(chǎn)品,但憑借其在HBM3E版本產(chǎn)品上的“彎道超車”表現(xiàn),特別是其3D堆疊技術(shù),使HBM3E在有限的空間中,滿足高帶寬與大容量的需求,有望在HBM競賽中扳回一城。美光的HBM3E瞄向了英偉達(dá)新推出的DGX GH200。
?01、三巨頭排隊(duì)驗(yàn)證HBM3E
作為AI服務(wù)器芯片行業(yè)霸主,英偉達(dá)具有很強(qiáng)的話語權(quán),這使得內(nèi)存行業(yè)廠商不得不順應(yīng)該公司的標(biāo)準(zhǔn)和驗(yàn)證要求。而為了實(shí)現(xiàn)供應(yīng)鏈多元化,英偉達(dá)將更多HBM內(nèi)存廠商納入了其供應(yīng)鏈,作為新進(jìn)入者,三星的HBM3E正在等待驗(yàn)證通過,而美光和SK海力士已經(jīng)在2023下半年向英偉達(dá)提供了8層垂直堆疊的HBM3E(24GB)樣品,并在2024年初通過了英偉達(dá)的驗(yàn)證,并獲得了訂單。
現(xiàn)在,只有三星一家在焦急地等待,因?yàn)檫@三大原廠的HBM3E驗(yàn)證結(jié)果,將決定英偉達(dá)2024全年HBM供應(yīng)商的采購權(quán)重分配。
2023年,英偉達(dá)的高端AI芯片(采用HBM內(nèi)存)是A100/A800和H100/H800,2024年,其產(chǎn)品組合更多了,除了上述型號,還將再推出使用6個HBM3E的H200和8個HBM3E的B100,并整合該公司自研的Arm架構(gòu)CPU,推出GH200和GB200。
除了英偉達(dá),另外兩大處理器廠商也在加緊拓展AI服務(wù)器市場,這將進(jìn)一步推動HBM內(nèi)存市場的繁榮。
2024年,AMD出貨的主力產(chǎn)品是MI300系列,采用HBM3內(nèi)存,下一代MI350將采用HBM3E,預(yù)計2024下半年開始進(jìn)行HBM驗(yàn)證,大批量上市將在2025年第一季度。英特爾方面,2022下半年推出的Gaudi 2采用了6個HBM2E,2024年,預(yù)計其新型號Gaudi 3仍將采用HBM2E,但用量升至8個。
未來,除了英偉達(dá),AMD和英特爾會使用越來越多的HBM產(chǎn)品,這會給三大內(nèi)存原廠提供更多商機(jī)。
?02、驗(yàn)證的卡點(diǎn)
據(jù)分析師和行業(yè)觀察人士稱,在HBM產(chǎn)品驗(yàn)證方面,三星落后的原因之一是其堅(jiān)持使用被稱為熱壓非導(dǎo)電膜(TC-NCF)的技術(shù),這導(dǎo)致了一些生產(chǎn)問題,而SK海力士則一直采用大規(guī)?;亓髂V频撞刻畛洌∕R-MUF)技術(shù),可以克服NCF的弱點(diǎn)。
TC-NCF技術(shù)已被芯片制造商廣泛使用,用于將多層芯片堆疊在緊湊的高帶寬存儲芯片組中,因?yàn)槭褂脽釅嚎s薄膜有助于最大限度地減少堆疊芯片之間的空間。但是,隨著層數(shù)不斷增加,制造變得越來越復(fù)雜,因此,經(jīng)常存在與粘合劑材料相關(guān)的問題,芯片制造商一直在尋找替代方案來解決這些問題。MR-MUF是一種環(huán)氧樹脂模塑化合物,被認(rèn)為在避免晶圓翹曲方面更有優(yōu)勢。
SK海力士率先成功轉(zhuǎn)向MR-MUF技術(shù),并成為第一家向英偉達(dá)供應(yīng)HBM3內(nèi)存的供應(yīng)商。
在SK海力士成功將MR-MUF應(yīng)用于HBM2E生產(chǎn)后,受到了芯片行業(yè)的關(guān)注。SK海力士使用的這種化合物是與Namics合作生產(chǎn)的。
MR-MUF用于HBM封裝,它對HBM芯片的外部結(jié)構(gòu)有顯著影響。SK海力士在創(chuàng)建12層HBM3時,將一個產(chǎn)品中堆疊的DRAM數(shù)量從8個(16GB)增加到12個,從而將容量提高了50%。通過這種方式,SK海力士實(shí)現(xiàn)了24GB的容量。為了在保持芯片厚度的同時增加容量(堆疊層數(shù)),必須將DRAM芯片逐個向上堆疊,這會導(dǎo)致較薄的芯片產(chǎn)生彎曲,MR-MUF封裝對于防止這種情況并保持芯片的厚度是有益的。
不久前,有消息人士說,三星發(fā)布了旨在處理MR-MUF技術(shù)的芯片制造設(shè)備的采購訂單。消息人士稱,三星與包括日本長瀨在內(nèi)的材料制造商進(jìn)行談判,以采購MUF材料,使用MUF的高端芯片的大規(guī)模生產(chǎn)最早可能要到2025年才能準(zhǔn)備就緒,因?yàn)槿切枰M(jìn)行更多的測試。
據(jù)悉,三星對其HBM內(nèi)存進(jìn)行了大規(guī)模的MR-MUF工藝測試,結(jié)果顯示與現(xiàn)有的TC-NCF相比,吞吐量有所提高,但物理特性有所下降。
三星芯片制造部門的一位高級主管在2023年下令對MUF技術(shù)進(jìn)行測試,得出的結(jié)論是MUF不適用于HBM產(chǎn)品,最為合適的對象是3D堆疊RDIMM。一般情況下,3D堆疊RDIMM采用硅通孔(TSV)技術(shù)制造,主要用于服務(wù)器。硅通孔技術(shù)是在Wafer或者Die上穿出數(shù)千個小孔,實(shí)現(xiàn)硅片堆疊的垂直互連通道,而MUF則是上下連接,縮小相互之間間隙的材料,有助于緊密凝固和結(jié)合各種垂直堆疊的半導(dǎo)體材料。
據(jù)悉,三星計劃與SDI合作開發(fā)自己的MUF化合物材料,而且已經(jīng)從日本訂購了MUF所需要的相關(guān)設(shè)備,看起來要推進(jìn)到下一階段,以實(shí)現(xiàn)更先進(jìn)的封裝工藝,并提高生產(chǎn)效率。
消息人士表示,三星計劃在其最新的HBM芯片上同時使用NCF和MUF材料。
但三星并未承認(rèn),該公司表示,其內(nèi)部開發(fā)的NCF技術(shù)是HBM產(chǎn)品的“最佳解決方案”,將用于其新的HBM3E芯片?!拔覀冋诎从媱濋_展HBM3E產(chǎn)品業(yè)務(wù)”,三星表示。
如果三星使用MUF為真的話,則突顯了該公司在AI芯片競賽中面臨的越來越大的壓力。據(jù)悉,另一家內(nèi)存大廠美光也打算使用MUF材料。
?03、發(fā)展HBM4,依然要過臺積電這一關(guān)
HBM3E的下一個版本,就是HBM4,三星正在加快研發(fā)腳步,爭取縮小與SK海力士的差距。
不久前,三星公布了HBM路線圖,預(yù)計2026年的HBM出貨量是2023年的13.8倍,該公司表示,到2028年,HBM內(nèi)存的年產(chǎn)量將進(jìn)一步上升至2023年的23.1倍。
在代號為“Snowbolt”的第六代HBM芯片HBM4方面,三星計劃將緩沖芯片應(yīng)用于堆疊內(nèi)存的底層以提高效率。除此之外,還沒有更多關(guān)于三星HBM4的技術(shù)細(xì)節(jié)流出。
SK海力士方面,在擴(kuò)充HBM3E生產(chǎn)能力的同時,該公司還與臺積電簽署了諒解備忘錄(MOU),雙方就下一代HBM產(chǎn)品生產(chǎn)和加強(qiáng)整合HBM與邏輯層的先進(jìn)封裝技術(shù)密切合作,以開發(fā)出新一代的HBM4產(chǎn)品。
雖然距離HBM4投產(chǎn)還有兩年的時間,SK海力士已經(jīng)在加速推進(jìn)第七代HBM產(chǎn)品(HBM4E)的開發(fā)工作了,據(jù)etnews報道,該公司的HBM先進(jìn)技術(shù)團(tuán)隊(duì)負(fù)責(zé)人Kim Kwi-wook在近日舉行的“IMW 2024”活動上分享了下一代HBM的發(fā)展方向,表示當(dāng)前HBM技術(shù)已達(dá)到新的水平,同時,代際更迭周期也在縮短,從HBM3E開始,由以往的兩年變成了一年。
面對競爭,SK海力士的HBM項(xiàng)目正在提速,預(yù)計首批12層堆疊的HBM4最快會在2025下半年到來,到2026年還會有16層堆疊的產(chǎn)品,會向更加定制化的方向發(fā)展,而HBM4E最早會在2026年投產(chǎn)。這是SK海力士首次提及HBM4E,確認(rèn)了新標(biāo)準(zhǔn)的存在,據(jù)悉,其帶寬將是上一代產(chǎn)品的1.4倍。
5月中旬,在2024年歐洲技術(shù)研討會上,臺積電表示,將使用其12FFC+(12nm級)和N5(5nm級)制程工藝制造HBM4芯片。
臺積電設(shè)計與技術(shù)平臺高級總監(jiān)表示:“我們正在與主要的HBM內(nèi)存合作伙伴(美光、三星、SK海力士)合作,開發(fā)HBM4全棧集成的先進(jìn)制程,N5制程可以使HBM4以更低的功耗提供更多的邏輯功能。”
N5制程允許將更多的邏輯功能封裝到HBM4中,并實(shí)現(xiàn)非常精細(xì)的互連間距,這對于邏輯芯片上的直接鍵合至關(guān)重要,可以提高AI和HPC處理器的內(nèi)存性能。
相對于N5,臺積電的12FFC+工藝(源自該公司的16nm FinFET 技術(shù))更加經(jīng)濟(jì),制造的基礎(chǔ)芯片能構(gòu)建12層和16層的HBM4內(nèi)存堆棧,分別提供48GB和64GB的容量。
臺積電還在優(yōu)化封裝技術(shù),特別是CoWoS-L和CoWoS-R,以支持HBM4集成。這些先進(jìn)的封裝技術(shù)有助于組裝多達(dá)12層的HBM4內(nèi)存堆棧。新的轉(zhuǎn)接板能確保2000多個互連的高效路由,同時保持信號完整性。據(jù)臺積電介紹,到目前為止,實(shí)驗(yàn)性HBM4內(nèi)存在14mA時的數(shù)據(jù)傳輸速率已達(dá)到6 GT/s。
臺積電還在與Cadence、Synopsys和Ansys等EDA公司合作,對HBM4通道信號完整性、IR/EM和熱精度進(jìn)行認(rèn)證。
?04、三星尋求與臺積電合作
由于英偉達(dá)在AI服務(wù)器芯片市場處于霸主地位,而該公司的高性能GPU都是由臺積電代工生產(chǎn)的,因此,在對HBM內(nèi)存大廠的產(chǎn)品進(jìn)行驗(yàn)證時,臺積電扮演著重要的角色。此時,雖然是晶圓代工領(lǐng)域的競爭對手,但要在HBM內(nèi)存市場拓展出更多空間,在進(jìn)行產(chǎn)品驗(yàn)證時,三星必須面對臺積電。
今年4月,三星電子共同執(zhí)行長慶桂顯低調(diào)訪臺,傳拜訪了臺積電,消息人士透露,慶桂顯此行的任務(wù)中,最主要是推廣三星最新的HBM內(nèi)存。
之前,臺積電與SK海力士聯(lián)手,組成名為“One Team”的戰(zhàn)略同盟,共同開發(fā)下一代HBM4內(nèi)存,目標(biāo)是通過匯集臺積電與SK海力士在新一代AI半導(dǎo)體封裝上的技術(shù)優(yōu)勢,鞏固雙方在AI市場的地位。
慶桂顯此行,對于三星HBM3E產(chǎn)品盡快通過英偉達(dá)驗(yàn)證有積極作用,同時,三星也希望臺積電能夠?qū)⑵銱BM內(nèi)存推薦給客戶,以實(shí)現(xiàn)將三星產(chǎn)品整合進(jìn)更多AI芯片和服務(wù)器系統(tǒng)。