近日,英偉達(dá)(NVIDIA)執(zhí)行長(zhǎng)黃仁勛在2024年中國(guó)臺(tái)北國(guó)際電腦展上對(duì)三星HBM因過(guò)熱問(wèn)題而未能通過(guò)測(cè)試的報(bào)道進(jìn)行了反駁。
他表示,英偉達(dá)正在努力測(cè)試三星和美光生產(chǎn)的HBM芯片,但目前尚未通過(guò)測(cè)試,因?yàn)檫€有更多的工程工作要做。其中特別針對(duì)三星HBM產(chǎn)品的質(zhì)量問(wèn)題,黃仁勛表示,認(rèn)證三星HBM需要更多工作和充足耐心,而并非部分媒體所報(bào)道的因芯片過(guò)熱問(wèn)題未通過(guò)質(zhì)量測(cè)試。他重申,英偉達(dá)與三星的合作進(jìn)展順利。
此前,三星也堅(jiān)決否認(rèn)有關(guān)其高帶寬存儲(chǔ)(HBM)產(chǎn)品未能達(dá)到英偉達(dá)質(zhì)量標(biāo)準(zhǔn)的報(bào)道。三星電子在一份聲明中表示,正在與全球各合作伙伴密切合作,不斷測(cè)試技術(shù)和性能以確保其產(chǎn)品的質(zhì)量和可靠性。
3月下旬,黃仁勛在美國(guó)加州圣何塞會(huì)議中心舉行的年度開(kāi)發(fā)者大會(huì)上參觀了三星電子展臺(tái),他在HBM3E展臺(tái)標(biāo)牌上寫(xiě)下了“Jensen Approved”(黃仁勛認(rèn)證),引發(fā)了市場(chǎng)期待。再加上此次黃仁勛為此澄清,業(yè)界猜測(cè),三星的HBM預(yù)計(jì)將通過(guò)驗(yàn)證,供應(yīng)給NVIDIA。
HBM需求量極大,受限良率問(wèn)題缺口較大
由于人工智能尤其是生成式AI的廣泛采用,行業(yè)未來(lái)幾年對(duì)高帶寬內(nèi)存的需求十分巨大。
據(jù)TrendForce集邦咨詢研究顯示,目前高端AI服務(wù)器GPU搭載HBM已成主流。預(yù)估2023年全球HBM需求量將年增近六成,達(dá)到2.9億GB,2024年將再成長(zhǎng)三成。到2025年,全球若以等同ChatGPT的超大型AIGC產(chǎn)品5款、Midjourney的中型AIGC產(chǎn)品有25款,以及80款小型AIGC產(chǎn)品估算,上述所需的運(yùn)算資源至少為145,600~233,700顆NVIDIA A100 GPU,再加上新興應(yīng)用如超級(jí)計(jì)算機(jī)、8K影音串流、AR/VR等,也將同步提高云端運(yùn)算系統(tǒng)的負(fù)載,高速運(yùn)算需求高漲。
而從產(chǎn)能方面,TrendForce集邦咨詢預(yù)計(jì),2023~2024年HBM占DRAM總產(chǎn)能分別是2%及5%,至2025年占比預(yù)估將超過(guò)10%。產(chǎn)值方面,2024年起HBM之于DRAM總產(chǎn)值預(yù)估可逾20%,至2025年占比有機(jī)會(huì)逾三成。
其中英偉達(dá)一家的需求就十分驚人。據(jù)TrendForce集邦咨詢研究,NVIDIA Hopper平臺(tái)H100于今年第一季短缺情形逐漸紓解,屬同平臺(tái)的新品H200于第二季后逐漸放量,第三季新平臺(tái)Blackwell將進(jìn)入市場(chǎng),第四季擴(kuò)展到數(shù)據(jù)中心客戶。但今年應(yīng)仍以Hopper平臺(tái)為主,包含H100、H200等產(chǎn)品線;根據(jù)供應(yīng)鏈導(dǎo)入Blackwell平臺(tái)進(jìn)度,預(yù)計(jì)今年第四季才會(huì)開(kāi)始放量,占整體高階GPU比例將低于10%。HBM方面,隨著NVIDIA GPU平臺(tái)推進(jìn),H100主搭載80GB的HBM3,至2025年的B200將達(dá)搭載288GB的HBM3e,單顆搭載容量將近3~4倍成長(zhǎng)。而據(jù)三大原廠目前擴(kuò)展規(guī)劃,2025年HBM生產(chǎn)量預(yù)期也將翻倍。
目前,從行業(yè)價(jià)格來(lái)看,HBM的價(jià)格是現(xiàn)有DRAM產(chǎn)品的5-6倍,DDR5的價(jià)格也比DDR4高出15%到20%。雖然價(jià)格上較高,但是仍然供應(yīng)不上。據(jù)TrendForce分析師表示,普遍猜測(cè)良率約只50~60%,差不多是做兩個(gè)壞一個(gè)的狀態(tài),因?yàn)樗恢灰询B起來(lái),還需要加壓,讓整體高度能與其他芯片對(duì)接,「但加壓需要上下同時(shí),并且保持平衡,失衡就會(huì)壞片?!?/p>
TrendForce集邦咨詢表示,盡管三大原廠的新廠將于2025年完工,但部分廠房后續(xù)的量產(chǎn)時(shí)程尚未有明確規(guī)劃,需依賴2024年的獲利,才得以持續(xù)擴(kuò)大采購(gòu)機(jī)臺(tái),此也進(jìn)一步推動(dòng)三大原廠堅(jiān)守存儲(chǔ)器價(jià)格今年漲勢(shì)。除此之外,由于NVIDIA GB200將于2025年放量,其規(guī)格為HBM3e 192/384GB,預(yù)期HBM產(chǎn)出將接近翻倍,且緊接各原廠將迎來(lái)HBM4研發(fā),若投資沒(méi)有明顯擴(kuò)大,因各家產(chǎn)能規(guī)劃皆以HBM為優(yōu)先,在產(chǎn)能排擠的效應(yīng)之下,DRAM產(chǎn)品恐有供應(yīng)不及的可能性。
公開(kāi)資料顯示,三星、美光、SK海力士目前HBM競(jìng)賽規(guī)劃如下:
SK海力士方面,除了M16廠明年產(chǎn)能預(yù)計(jì)擴(kuò)大,M15X廠同樣亦規(guī)劃于2025年完工,并于明年底量產(chǎn)。已與臺(tái)積電簽署諒解備忘錄(MOU)合作開(kāi)發(fā)HBM4,并在下一代先進(jìn)封裝技術(shù)方面進(jìn)行合作,采用臺(tái)積電的邏輯工藝制程生產(chǎn)HBM4的基礎(chǔ)芯片,計(jì)劃于2026年量產(chǎn),并計(jì)劃未來(lái)提供定制化的HBM產(chǎn)品。
三星方面,現(xiàn)有廠房2024年底產(chǎn)能大致滿載,新廠房P4L規(guī)劃于2025年完工,同時(shí)Line15廠區(qū)將進(jìn)行制程轉(zhuǎn)換,由1Ynm轉(zhuǎn)換至1beta nm以上。今年下半年快速過(guò)渡到HBM3e,8-H HBM3e已開(kāi)始提前量產(chǎn),并加快量產(chǎn)12-H HBM3e,預(yù)計(jì)到年底HBM3e將占據(jù)人力資本管理(HCM)總銷(xiāo)量的三分之二以上。
美光方面,行業(yè)消息顯示,今年年底美光HBM產(chǎn)能為2萬(wàn)片12英寸晶圓,其設(shè)定的目標(biāo)是最早在明年下半年開(kāi)發(fā)第6代HBM(HBM4),并預(yù)計(jì)在2028年開(kāi)發(fā)第7代HBM4E。
全球市場(chǎng)研究機(jī)構(gòu)TrendForce集邦咨詢此前預(yù)計(jì),2023年HBM產(chǎn)值占比之于DRAM整體產(chǎn)業(yè)約8.4%,至2024年底將擴(kuò)大至20.1%。同時(shí),新型存儲(chǔ)技術(shù)也不斷涌現(xiàn),3D DRAM時(shí)代即將開(kāi)啟;SCM潛力即將釋放,PCIe 6.0/7.0蓄勢(shì)待發(fā)…