前言:隨著AI技術的發(fā)展,存儲行業(yè)面臨的挑戰(zhàn)和機遇也在增加。AI的興起推動了對高帶寬存儲器的需求,而傳統(tǒng)的存儲解決方案無法滿足這一需求。HBM作為一種高帶寬存儲器,打破了傳統(tǒng)存儲的瓶頸,為AI芯片提供了理想的解決方案。華邦通過創(chuàng)新產(chǎn)品和技術,積極應對這些挑戰(zhàn),推動行業(yè)技術進步。
HBM是一種用于GPU、服務器、高性能計算和網(wǎng)絡連接的3D堆疊DRAM存儲器。它旨在提供更高的帶寬和更低的功耗,與GDDR內(nèi)存相比,性能更優(yōu)越。HBM在AI大模型的數(shù)據(jù)計算中,能夠突破內(nèi)存容量和帶寬瓶頸,為GPU提供更快的并行數(shù)據(jù)處理速度,解決“內(nèi)存墻”問題,被視為GPU存儲單元的理想解決方案。HBM通過垂直堆疊內(nèi)存芯片,縮短信息傳遞時間。這些堆疊通過“中介層”快速連接到CPU或GPU,多個HBM堆棧與CPU或GPU一起插入轉(zhuǎn)接板,組裝好的模塊連接到電路板。雖然HBM沒有與CPU或GPU物理集成,但其性能與片上集成RAM幾乎沒有區(qū)別。
2023年,市場對HBM的需求持續(xù)增長,各大機構估計HBM市場空間在16至20億美元之間。目前主要的HBM生產(chǎn)商有美光、三星和SK海力士。HBM已經(jīng)成為AI芯片(特別是GPU芯片)主流的內(nèi)存解決方案。與GDDR方案相比,HBM通過垂直堆疊存儲Die,增加容量,改善存算分離導致的“內(nèi)存墻”問題,滿足了GPU對更多內(nèi)存和更高帶寬的需求。
多年來,華邦電子一直專注于中小容量的存儲利基市場。近年來,隨著AI算力下沉到邊緣端,華邦針對性的推出了CUBE產(chǎn)品以適應市場對于邊緣側(cè)AI算力的需求。2024年6月18日,華邦電子產(chǎn)品總監(jiān)朱迪接受了與非網(wǎng)記者的采訪,重點介紹了華邦電子的CUBE產(chǎn)品及應用趨勢。
華邦電子產(chǎn)品總監(jiān)朱迪
什么是CUBE?
2023 年 9 月 27 日,華邦電子宣布推出一項強大的內(nèi)存賦能技術CUBE (半定制化超高帶寬元件) ,可大幅優(yōu)化內(nèi)存技術,能夠?qū)崿F(xiàn)在混合云與邊緣云應用中運行生成式 AI 的性能。
CUBE 增強了前端 3D 結(jié)構的性能,例如 chip-on-wafer(CoW)和 wafer-on-wafer(WoW),以及后端 2.5D/3D chip-on-Si-interposer 的基板和扇出(Fan out)解決方案。CUBE 專為滿足邊緣 AI 運算裝置不斷增長的需求而設計,能利用 3D 堆棧技術并結(jié)合異質(zhì)鍵合技術而提供高帶寬低功耗的單顆1Gb 至 8Gb 內(nèi)存。除此之外,CUBE還能利用3D 堆棧技術加強帶寬降低數(shù)據(jù)傳輸時所需的電力。
CUBE 的推出是華邦實現(xiàn)跨平臺與接口無縫部署的重要一步。CUBE 適用于可穿戴設備、邊緣服務器設備、監(jiān)控設備及協(xié)作機器人等高級應用。
華邦推出的CUBE產(chǎn)品是一款適用于邊緣AI的創(chuàng)新存儲解決方案。CUBE通過高達1024個IO實現(xiàn)超高帶寬,盡管容量中小,但在邊緣AI應用中表現(xiàn)出色。這款產(chǎn)品采用2.5D或3D封裝,與主芯片SoC集成,實現(xiàn)系統(tǒng)的高集成度和小型化。朱迪強調(diào),這款產(chǎn)品針對邊緣AI的需求,滿足容量、功耗和集成度的高要求。
華邦表示:“CUBE 可以釋放混合邊緣/云 AI 的全部潛力,以提升系統(tǒng)功能、響應時間以及能源效率?!贝送馊A邦還正在積極與合作伙伴公司合作建立 3DCaaS 平臺,該平臺將進一步發(fā)揮 CUBE 的能力。
朱迪指出,隨著AI、物聯(lián)網(wǎng)和邊緣計算的快速發(fā)展,市場對高性能、高帶寬和低功耗存儲解決方案的需求不斷增長。他認為未來的存儲技術將更加注重能效和性能的平衡。華邦電子將繼續(xù)專注于中小容量存儲市場,提供創(chuàng)新的存儲解決方案,以滿足不同行業(yè)客戶的需求。
他進一步解釋,AI的快速發(fā)展使得數(shù)據(jù)處理和存儲的需求呈爆炸性增長。在AI應用中,數(shù)據(jù)的實時處理和存儲至關重要,而高性能的存儲解決方案能夠有效提升AI系統(tǒng)的整體效率。同樣,物聯(lián)網(wǎng)設備的廣泛應用也帶來了大量數(shù)據(jù)的存儲和管理需求。物聯(lián)網(wǎng)設備通常需要低功耗、高可靠性的存儲解決方案,以確保在各種復雜環(huán)境中的穩(wěn)定運行。邊緣計算則通過在數(shù)據(jù)源頭進行計算,減少了對中心數(shù)據(jù)處理的依賴,提高了數(shù)據(jù)處理的效率和實時性。這些趨勢共同推動了市場對高性能、低功耗存儲解決方案的需求。
?邊緣計算與5G
朱迪表示,5G技術的普及使得邊緣計算的重要性日益凸顯。5G的高帶寬、低延遲特性推動了對高性能邊緣存儲解決方案的需求。華邦電子的CUBE產(chǎn)品正是為滿足這一需求而設計,通過高帶寬、低功耗和高集成度,為邊緣計算提供理想的存儲解決方案。
他強調(diào),5G技術不僅改變了通信行業(yè)的面貌,還深刻影響了存儲市場的發(fā)展。邊緣計算作為5G應用的一個重要領域,正在迅速崛起。邊緣計算通過在靠近數(shù)據(jù)源的地方進行數(shù)據(jù)處理,可以大大減少數(shù)據(jù)傳輸?shù)难舆t,提高數(shù)據(jù)處理的實時性。這種計算模式需要高帶寬和低延遲的存儲解決方案,以支持復雜的計算任務和海量數(shù)據(jù)處理。華邦電子的CUBE產(chǎn)品以其卓越的性能和低功耗特性,成為邊緣計算存儲的理想選擇,能夠滿足不同行業(yè)客戶的需求。
物聯(lián)網(wǎng)市場
隨著物聯(lián)網(wǎng)設備的普及,市場對低功耗、高性能存儲解決方案的需求不斷增加。華邦電子將繼續(xù)致力于研發(fā)和推出滿足這些需求的產(chǎn)品,通過不斷創(chuàng)新,為客戶提供更優(yōu)質(zhì)的存儲解決方案。
朱迪指出,物聯(lián)網(wǎng)設備的數(shù)量在不斷增加,從智能家居設備到工業(yè)物聯(lián)網(wǎng)應用,覆蓋了各個行業(yè)。這些設備通常具有小型化、低功耗的特點,因此對存儲解決方案的要求也相應提高。華邦電子通過持續(xù)的技術創(chuàng)新,推出了一系列適用于物聯(lián)網(wǎng)市場的存儲產(chǎn)品,包括低功耗、高可靠性的NOR Flash和高性能的NAND Flash。這些產(chǎn)品不僅能夠滿足物聯(lián)網(wǎng)設備的需求,還能為客戶提供更多的選擇和靈活性。
帶寬相當于HBM2,CUBE的幾大優(yōu)勢?
朱迪對與非網(wǎng)記者表示,CUBE與HBM的最大區(qū)別在于容量。HBM容量非常大,通常疊4層或8層,而CUBE容量相對較小,適用于邊緣端應用。HBM帶寬高、功耗大,因此主控芯片與存儲芯片需緊密集成。而華邦的CUBE也遵循類似思路,采用2.5D或3D封裝,減少PCB走線,提升速度和帶寬,降低功耗。CUBE通過多IO連接,類似HBM,提升數(shù)據(jù)吞吐量。傳統(tǒng)DRAM的IO線數(shù)量有限,而CUBE可以做到256、512甚至1024的IO口,提升數(shù)據(jù)吞吐量。
CUBE的優(yōu)點包括:
節(jié)省電耗:功耗低于1pJ/bit,優(yōu)化能源使用。
卓越性能:帶寬達16GB/s至256GB/s。
較小尺寸:基于20nm標準,提供1Gb-8Gb容量,未來有16nm標準,增強性能和散熱。
高經(jīng)濟效益、高帶寬:IO速度高達2Gbps,與28nm和22nm的SoC集成,帶寬相當于HBM2。
SoC芯片尺寸減小:堆疊方式使芯片尺寸更小,為邊緣AI設備帶來成本優(yōu)勢。
與HBM相比,華邦電子的CUBE產(chǎn)品具有更高的靈活性和定制化能力。HBM通常用于高性能計算和數(shù)據(jù)中心,而CUBE更適合邊緣計算應用。這是因為邊緣計算要求快速響應時間和較低的功耗,而這些都是CUBE產(chǎn)品的強項。CUBE產(chǎn)品采用了先進的封裝技術,使其能夠在小型封裝內(nèi)實現(xiàn)高帶寬和高性能,同時保持低功耗。CUBE產(chǎn)品的另一大優(yōu)勢是其定制化能力。華邦電子能夠根據(jù)客戶的具體需求,提供不同容量和性能的CUBE產(chǎn)品。這使得CUBE產(chǎn)品在許多應用場景中都具有競爭力,包括物聯(lián)網(wǎng)設備、智能家居設備、工業(yè)控制系統(tǒng)等。
此外,華邦電子的CUBE產(chǎn)品還具有很高的可靠性和穩(wěn)定性。華邦電子采用了先進的制造工藝和嚴格的質(zhì)量控制措施,確保每一顆CUBE產(chǎn)品都具有出色的性能和可靠性。據(jù)悉,CUBE產(chǎn)品已經(jīng)有一些客戶合作案例和項目,對于擁有創(chuàng)新精神的客戶來說,這將為他們帶來獨特、差異化的價值。
朱迪表示,華邦專注于利基型產(chǎn)品,CUBE作為半定制化存儲元件(element),針對可穿戴設備、邊緣服務器、監(jiān)控設備及協(xié)作機器人等高級應用。CUBE通過高帶寬和低功耗特點,適用于實時高清信號處理和AI處理判斷。邊緣運算有不同等級,華邦的CUBE適用于高算力和高帶寬要求的應用。其他低功耗產(chǎn)品如HYPERRAM?適用于低算力需求的邊緣運算。在物聯(lián)網(wǎng)設備中,CUBE產(chǎn)品可以提供高效的存儲解決方案,支持設備的實時數(shù)據(jù)處理和分析。在智能家居設備中,CUBE產(chǎn)品能夠支持更智能的功能和應用,如語音識別、圖像處理等。在工業(yè)控制系統(tǒng)中,CUBE產(chǎn)品能夠提供穩(wěn)定可靠的存儲性能,支持復雜的工業(yè)自動化和控制應用。
他進一步解釋道,邊緣AI設備需要低功耗、高帶寬的存儲,以實現(xiàn)快速響應和高效運行。例如,許多AIoT設備、穿戴式設備和智能家居產(chǎn)品,都要求在電池續(xù)航時間方面有優(yōu)秀表現(xiàn)。這些設備通常依賴電池供電,功耗要求極高。華邦的CUBE產(chǎn)品能夠滿足這些要求,使設備在待機狀態(tài)下快速啟動,響應外部事件并迅速完成任務后恢復休眠狀態(tài)。
華邦電子的KGD定制模式
朱迪也特別提到了華邦產(chǎn)品的兩種定制化和通用化商業(yè)模式。他對與非網(wǎng)記者解釋,盡管CUBE是定制化產(chǎn)品(嚴格來講是半定制化),華邦在深耕行業(yè)30年中,更多產(chǎn)品是通用化的,以滿足廣泛客戶需求。定制化產(chǎn)品如CUBE滿足特定應用場景,但大多數(shù)產(chǎn)品仍是通用的。
關于CUBE產(chǎn)品的商業(yè)模式,朱迪解釋其內(nèi)涵。CUBE被稱為KGD 2.0,其前身KGD 1.0(Known Good Die)指的是芯片SIP合封,即DRAM和SOC芯片堆疊或并排封裝。這種模式在業(yè)界已成熟多年,尤其在中小容量DRAM產(chǎn)品(如1Gbit以下)的封裝中,具有低成本和小占板面積的優(yōu)勢。朱迪強調(diào),這種模式已成行業(yè)潮流,國內(nèi)許多封裝廠都在進行多芯片封裝操作。
在KGD 2.0模式下,華邦銷售測試好的wafer(晶圓)給客戶,由客戶選擇封裝廠進行封裝。朱迪指出,未來商業(yè)模式中封裝廠的角色將更重要。華邦將繼續(xù)專注于提供DRAM wafer,并可能提供更多服務,如測試等。他舉例說,華邦作為DRAM wafer供應商,可以將wafer銷售給意法半導體,并由封裝廠完成封裝工作。
據(jù)介紹,在KGD領域華邦的客戶包括君正、國科、富瀚和星宸等國內(nèi)半導體上市公司?!叭A邦的DRAM產(chǎn)品超過一半都是賣KGD,“朱迪提到,華邦在中國大陸擁有上百家客戶,涵蓋各個細分應用領域。
朱迪還討論了HBM和AI芯片的制造和封裝問題。他表示,當前AI芯片(尤其是HBM存儲)大多由原廠直接制造和封裝,因為高性能需求使得傳統(tǒng)封裝廠無法滿足。存儲原廠、SOC原廠及先進封裝廠在此過程中扮演著關鍵角色。
與意法半導體的合作
朱迪特別介紹了華邦與意法半導體的合作。幾年前,MCU企業(yè)對外掛存儲的需求不大,但隨著系統(tǒng)復雜度增加和軟件規(guī)模擴大,特別是在掛屏應用中,對DRAM和Flash外掛的需求逐漸增多。華邦電子加強了與意法半導體的合作,提供支持HYPERRAM?接口和DDR3的產(chǎn)品,并在Flash方面支持8線NOR Flash接口。
2023 年 3 月 08 日,華邦電子與意法半導體宣布達成合作,將華邦的利基型內(nèi)存芯片和內(nèi)存模塊導入意法半導體的 STM32 系列微控制器(MCU)和微處理器(MPU)。
本次合作的重點旨在將華邦的 DDR3 內(nèi)存與意法半導體的 STM32MP1 系列微處理器相結(jié)合。
STM32MP1 MPU 可搭載多達兩個 Cortex-A7 內(nèi)核,并集成了先進外設、物聯(lián)網(wǎng)安全硬件和片上高效電源轉(zhuǎn)換電路等多種功能。華邦 DDR3 內(nèi)存可作為 MPU 的內(nèi)存緩沖,為工業(yè)網(wǎng)關、數(shù)據(jù)集中器、智能電表、條形碼掃描器、智能家居,以及其他需要高性能和先進安全性的多種應用帶來性能升級。
此外,華邦還將導入 HYPERRAM 產(chǎn)品作為內(nèi)存緩沖,為意法半導體最新推出的基于先進 Cortex-M33內(nèi)核的超低功耗 MCU STM32U5 提供理想支持。HYPERRAM? 接口與 SDR 和早期 DDR 等舊接口標準兼容,可直接替換,全面幫助系統(tǒng)降低能源消耗。相較于傳統(tǒng)的 pSRAM,HYPERRAM? 性能大幅提升,可為 STM32U5 提供所需的高速、低成本、低引腳數(shù)和超低功耗的內(nèi)存解決方案。
他指出,隨著物聯(lián)網(wǎng)和智能設備的發(fā)展,MCU的功能和復雜度不斷提升,這導致對高性能存儲的需求增加。意法半導體作為全球領先的MCU供應商,與華邦電子在多個項目上展開了深入合作。華邦為其提供了一系列高性能的存儲解決方案,幫助意法半導體提升產(chǎn)品競爭力。雙方的合作不僅促進了各自產(chǎn)品的發(fā)展,也推動了整個行業(yè)的技術進步。
高度安全,華邦電子如何布局車用市場?
華邦電子的存儲產(chǎn)品在多個行業(yè)中得到廣泛應用,包括消費電子、工業(yè)控制、汽車電子和通信設備等。在消費電子領域,華邦的存儲產(chǎn)品被廣泛應用于智能手機、平板電腦和智能家居設備。在工業(yè)控制領域,華邦的存儲產(chǎn)品被應用于工業(yè)自動化、智能制造和工業(yè)物聯(lián)網(wǎng)。在汽車電子領域,華邦的存儲產(chǎn)品被應用于車載信息娛樂系統(tǒng)和自動駕駛系統(tǒng)。在通信設備領域,華邦的存儲產(chǎn)品被應用于基站、交換機和路由器等。
據(jù)了解,華邦是全球第五大車用存儲廠商。根據(jù)華邦2022年的數(shù)據(jù)顯示,華邦在汽車上的布局都是車規(guī)級產(chǎn)品,ADAS是其目前瞄準的應用之一。ADAS系統(tǒng)中的傳感器包括激光雷達、毫米波雷達和攝像頭,華邦的NOR Flash和DRAM在這些傳感器中都有應用機會。朱迪還提到,華邦的產(chǎn)品在汽車儀表盤領域也有廣泛應用,尤其是在被集成化、一芯多屏的趨勢下,華邦的存儲產(chǎn)品能夠提供高度安全的冗余備份。他解釋說,汽車系統(tǒng)通常都有冗余備份,如果主控芯片出現(xiàn)故障,系統(tǒng)仍能正常運行,顯示基本信息,這對汽車安全至關重要。
2022年8月31日,華邦電子宣布通過TüV NORD頒發(fā)的ISO/SAE 21434道路車輛網(wǎng)絡安全管理體系認證,成為全球首家獲得該認證的存儲廠商。ISO/SAE 21434標準適用于汽車系統(tǒng),從概念、開發(fā)、生產(chǎn)、使用到報廢過程中所需的安全標準,要求汽車系統(tǒng)具備更強的信息安全功能以抵御網(wǎng)絡攻擊。許多汽車制造商及其部件供應商將通過ISO/SAE 21434認證作為強制標準,以改善車輛對網(wǎng)絡威脅的管理能力。
TüV NORD CERT功能安全與安保部門高級副總裁Matthias Springer表示,華邦實行的網(wǎng)絡安全管理體系符合ISO/SAE 21434標準并取得認證,可提供整體安全解決方案。這對汽車等對安全需求較高的關鍵行業(yè)尤為重要,華邦的TrustME? W77Q安全閃存已獲得SGS Brightsight和SGS-TüV Saar的CC EAL2和ISO26262 ASIL-C認證,能夠同時滿足汽車系統(tǒng)對人車安全和網(wǎng)絡安全的新需求。華邦的Serial NOR、QspiNAND和OctalNAND閃存產(chǎn)品也獲得了ISO26262 ASIL-B認證。
為滿足汽車應用的長期支持需求,華邦推出了產(chǎn)品延長保修計劃(Product Longevity Program, WPLP),成為全球首選的內(nèi)存供應商。朱迪特別分享了客戶在典型汽車應用中的觀察。他提到,汽車應用中有雷達、攝像頭作為傳感器,還有ADAS主控芯片負責運算。如果傳感器端的算力足夠強,數(shù)據(jù)預處理需求降低,從而減小主控芯片的算力需求。這使得邊緣端成為一種降低成本的方式。華邦的邊緣側(cè)AI產(chǎn)品針對高帶寬、低容量或中小容量的應用,速度和帶寬上媲美HBM,對客戶非常有吸引力。
朱迪談到,近年來,汽車行業(yè)生態(tài)發(fā)生了很大變化,以前講的是Tier 1供應商,現(xiàn)在出現(xiàn)了Tier 0、Tier 0.5等新的概念。過去,華邦的直接客戶是Tier 1供應商,現(xiàn)在有很多車廠直接參與到關鍵器件的選型中。他提到,IDH公司(獨立設計公司)也成為了華邦的重要合作伙伴,這些公司專注于軟件和硬件方案的設計。華邦與IDH公司以及主控平臺方案商的互動非常密切,如NXP、Mobileye、地平線、芯馳和黑芝麻等。他解釋說,因為華邦需要與這些廠商的方案做適配,然后提供給終端客戶。
2025年將迎來存儲大年,將擴產(chǎn)高雄廠
朱迪談到中小容量DRAM市場的趨勢和價格調(diào)整。他指出,大容量DRAM價格自去年下半年開始一路飆升,主要受需求和大廠自救的推動。雖然中小容量DRAM的價格修正幅度較小,但他對未來需求保持樂觀。隨著AI和HBM需求增加,DRAM市場將繼續(xù)改善。他解釋,需求的帶動和大廠的自救是價格上漲的主要原因,特別是HBM需求的火爆。隨著大廠將產(chǎn)能轉(zhuǎn)向更高容量的產(chǎn)品,比如HBM和DDR5,中小容量的存儲市場前景看好。他相信,明年DRAM行業(yè)將迎來一個存儲的大年,特別是中小容量的存儲市場將受益。
朱迪對未來的市場前景保持樂觀。他認為,電子行業(yè)需求將回升,尤其在電腦和手機等出貨量大的細分領域。這些領域需求恢復將帶動整個行業(yè)發(fā)展。他還提到,HBM在DRAM行業(yè)中所占的產(chǎn)能比例將大幅增加,根據(jù)第三方報告,預計明年HBM可能占到30%的產(chǎn)能,這將對整個行業(yè)產(chǎn)生巨大影響。他解釋說,DRAM行業(yè)供需平衡非常敏感,5%的供需失衡就會導致明顯的市場波動。隨著HBM需求增加,DRAM產(chǎn)能的壓力將加大,這對中小容量存儲市場來說是積極信號。
目前,華邦的 DRAM 產(chǎn)品布局包括 1Gb-4Gb DDR3、128Mb-2Gb DDR2、512Mb-2Gb LP DDR2,以及 LP DDR4x、LP DDR3、LP DDR、SDRAM,適用于需配備 4Gb 或以下容量 DRAM 的應用, 如人工智能加速器、物聯(lián)網(wǎng)、汽車、工業(yè)用、電信、WiFi-6、WiFi-6E、xDSL、光纖網(wǎng)絡、智能電視、機頂盒、IP 攝像頭等。
朱迪還介紹了華邦高雄新廠的擴展計劃。月產(chǎn)能從去年的一萬片到今年的一萬五千片,明年預計達到兩萬片。他表示,這些擴展是基于對未來市場需求的積極預期。華邦作為有自有fab廠的存儲廠家,持續(xù)投入資源擴展產(chǎn)能,以滿足市場需求并擴大市場份額。他提到,華邦愿意投入大量資源建設新廠,是基于對行業(yè)需求的確定性預期。他認為,產(chǎn)能不足會限制市場份額的擴大,因此擴展產(chǎn)能對華邦來說至關重要。
總結(jié)
最后,朱迪認為,通用類產(chǎn)品市場波動較大,同質(zhì)化嚴重,而定制化、半定制化的創(chuàng)新型產(chǎn)品能夠滿足客戶的差異化需求。華邦將繼續(xù)關注這些客戶,提供不一樣的解決方案,推動行業(yè)創(chuàng)新發(fā)展。他強調(diào),華邦將繼續(xù)致力于技術創(chuàng)新和產(chǎn)品優(yōu)化,通過定制化和半定制化的解決方案,滿足客戶的個性化需求。華邦電子將繼續(xù)專注于中小容量存儲市場,提供高效、可靠的存儲解決方案,以應對市場的快速變化和不斷增長的需求。