作者 | 方文三
對于一些高新科技企業(yè)而言,核心的技術(shù)數(shù)據(jù)是其生命線。
過度依賴進口服務(wù)器等同于將自己的生命主動權(quán)完全交給別人。
因此,服務(wù)器國產(chǎn)化的重要性不言而喻。
服務(wù)器市場正迎來代際升級
服務(wù)器作為數(shù)據(jù)處理和存儲的核心部件,其性能直接決定了整個信息系統(tǒng)的運行效率。
隨著Al大模型應(yīng)用的加速落地和智算中心建設(shè)的加速,國內(nèi)外廠商對算力的需求不斷提升,Al服務(wù)器的需求量也大幅增加。
據(jù)IDC預(yù)測,2023年市場規(guī)模將達到248億美元,同比增長27%。
根據(jù)北京研精畢智信息的最新數(shù)據(jù),2022年全球Al服務(wù)器行業(yè)市場出貨量達到了85萬臺。
根據(jù)TrendForce的預(yù)估,2023年全球Al服務(wù)器出貨量將接近120萬臺;
到2025年,這一數(shù)字將增長至近190萬臺,2022-2025年的復(fù)合年增長率(CAGR)為41.2%。
AI服務(wù)器主要采用并行計算的芯片,如GPU、FPGA等,以適應(yīng)AI時代的算力需求。
這些芯片的應(yīng)用,使得AI服務(wù)器在組成部件上與普通服務(wù)器差異不大,但性能卻有顯著的提升。
根據(jù)IDC發(fā)布的市場跟蹤報告,2022年中國服務(wù)器市場規(guī)模達到273.4億美元,同比增長9.1%,占全球市場份額的24.5%。
中商產(chǎn)業(yè)研究院預(yù)測,到2023年,中國服務(wù)器市場規(guī)模將增長至308億美元。
國內(nèi)將首要關(guān)注新興服務(wù)器芯片領(lǐng)域
和PC一樣,服務(wù)器核心芯片主要包括CPU、GPU,隨著大數(shù)據(jù)催生多元算力新計算架構(gòu),DPU逐漸成為數(shù)據(jù)中心的第三顆主力芯片。
相比訓(xùn)練,模型的部署是更大的市場。應(yīng)用對于服務(wù)器的最大承載能力要求在于過峰,即滿足PCU時刻的訪問需求。
據(jù)此測算,國內(nèi)由AI帶動的服務(wù)器需求量約為5萬臺-16.6萬臺,芯片為50-166萬顆。
假設(shè)全球活躍用戶體量為國內(nèi)用戶體量的3倍,則全球服務(wù)器需求量為15-50萬臺,芯片需求量為50-500萬顆。
從產(chǎn)業(yè)發(fā)展現(xiàn)狀來看,X86服務(wù)器領(lǐng)域國內(nèi)廠商差距較為明顯。
ARM、RISC-V為代表的新興服務(wù)器芯片及DPU為代表的新應(yīng)用產(chǎn)品未來有望在云端市場占據(jù)一定空間。
中金測算,AI服務(wù)器核心組件按價值量由高到低依次為GPU、DRAM、SSD、CPU、網(wǎng)卡、PCB、高速互聯(lián)芯片和散熱模組等。
按7.5萬臺訓(xùn)練型和17.5萬臺推理型服務(wù)器測算,對應(yīng)市場規(guī)模分別為240億美元、88億美元、48億美元、34億美元、5億美元、3億美元、2.5億美元和1.5億美元。
內(nèi)存接口芯片作為提升內(nèi)存數(shù)據(jù)訪問速度和穩(wěn)定性的關(guān)鍵部件,其市場需求也將隨之增長。
目前,內(nèi)存接口芯片僅用于服務(wù)器內(nèi)存模組,為服務(wù)器的大容量、高速率、高穩(wěn)定性等性能提供重要保障。
瀾起科技以內(nèi)存接口芯片為核心,不斷拓展高速互連芯片品類,迭代開發(fā)CPU、AI等高性能計算芯片,深度融入服務(wù)器生態(tài)系統(tǒng),充分受益于高速成長的服務(wù)器產(chǎn)業(yè)。
其[1+9]分布式架構(gòu),這一創(chuàng)新性技術(shù)解決了傳統(tǒng)集中式架構(gòu)存在的功耗高、大容量與高速率之間沖突的問題,并被JEDEC國際標準所采納。
隨著內(nèi)存模組迎來新舊世代切換,瀾起科技的產(chǎn)品有望迎來新的發(fā)展機遇,其PCIe Retimer芯片、MXC芯片和MCR接口芯片等新產(chǎn)品。
專注于PCB產(chǎn)業(yè)的滬電股份,在AI超算服務(wù)器PCB市場上處于領(lǐng)先地位,預(yù)計5.0服務(wù)器主板的份額也將顯著提升。
服務(wù)器芯片公司不會錯過這樣的發(fā)展時機
根據(jù)IDC 2018年服務(wù)器成本結(jié)構(gòu)數(shù)據(jù)顯示,芯片成本在基礎(chǔ)型服務(wù)器中約占總成本的32%;
而在高性能或更強性能的服務(wù)器中,芯片成本占比高達50%—83%。
從產(chǎn)業(yè)發(fā)展的趨勢來看,在國內(nèi)服務(wù)器已逐漸占據(jù)一定市場份額的大背景下,加速實現(xiàn)服務(wù)器芯片的自主可控已是大勢所趨。
當前,國產(chǎn)服務(wù)器CPU正處于關(guān)鍵時期,主流廠商包括海光、兆芯、飛騰、華為鯤鵬、龍芯和申威等六家領(lǐng)軍企業(yè)。
以電信行業(yè)為例,2020-2022年國產(chǎn)CPU占比提升不斷提升,其中海光和鯤鵬占據(jù)較大的市場份額。
海光最新一代CPU已接近國際同類高端產(chǎn)品水平,并兼容x86指令集,在電信、金融、互聯(lián)網(wǎng)等領(lǐng)域具有顯著優(yōu)勢。
海光CPU包括海光3000、5000以及7000系列,它們的技術(shù)設(shè)計同源,處理器核心等具有相似的技術(shù)特征。
飛騰與1600余家國內(nèi)軟硬件廠商打造完整生態(tài)體系,并已完成與6大類1000余種整機產(chǎn)品、2600余種軟件和外設(shè)的適配。
基于飛騰桌面CPU的終端已形成較為完整的生態(tài)圖譜,可覆蓋從整機硬件、基礎(chǔ)軟件到上層的應(yīng)用。
今年4月,龍芯推出2023款HPC CPU:3D5000,擁有32核高達2 GHz和300W TDP,據(jù)稱比典型Arm芯片快4倍。
龍芯3D5000的推出,進一步滿足了數(shù)據(jù)中心對性能的需求,也標志著龍芯中科在服務(wù)器CPU芯片領(lǐng)域進入國內(nèi)領(lǐng)先行列。
國內(nèi)企業(yè)開始部署RISC-V芯片
在今年的10月份,山東大學(xué)成功部署了基于RISC-V CPU的服務(wù)器集群,該系統(tǒng)擁有3072個核心,并配置了48個64位RISC-V CPU節(jié)點。
據(jù)阿里巴巴生態(tài)系統(tǒng)總監(jiān)陳大偉在RISC-V峰會上發(fā)表演講時透露,這是RISC-V集群首次在云端部署,目前該系統(tǒng)主要用于山東大學(xué)的教學(xué)和科研項目,部分功能也可用于商用云計算。
山東大學(xué)的RISC-V系統(tǒng)采用了國內(nèi)某公司的SG2042芯片,該芯片主頻達到2GHz,并配備64MB緩存。
今年早些時候,該公司發(fā)布了RISC-V芯片,阿里巴巴與其合作將Linux操作系統(tǒng)引入該服務(wù)器集群。
中國科學(xué)院(CAS)正在與阿里巴巴、騰訊和中興通訊等本土頂尖企業(yè)合作開發(fā)名為[香山-v3]的RISC-V芯片。
國內(nèi)相關(guān)企業(yè)和科研機構(gòu)正在開發(fā)專門用于RISC-V芯片設(shè)計的開源EDA工具。
國內(nèi)服務(wù)器廠商與芯片廠商共同推進
基于供應(yīng)受限的背景,服務(wù)器龍頭們過去半年來一邊繼續(xù)做GPU服務(wù)器的開發(fā);
另一方面紛紛采取開放架構(gòu),兼容國產(chǎn)自主創(chuàng)新芯片。
比如浪潮信息就推出了開放加速計算架構(gòu),據(jù)稱具有大算力、高互聯(lián)和強擴展的特點。
基于此,浪潮信息發(fā)布了三代AI服務(wù)器產(chǎn)品,和10余家芯片伙伴實現(xiàn)多元AI計算產(chǎn)品落地,并推出AIStation平臺,可高效調(diào)度30余款AI芯片。
還有一些服務(wù)器廠商則繞過GPGPU路線,另辟蹊徑從自主創(chuàng)新硬件落地AI服務(wù)器。
比如,8月,科大訊飛與華為聯(lián)合發(fā)布的訊飛星火一體機,基于鯤鵬CPU+昇騰GPU,采用華為存儲和網(wǎng)絡(luò)提供整機柜方案,F(xiàn)P16算力達2.5 PFLOPS。
對比來看,在大模型訓(xùn)練中最為流行的英偉達DGX A100 8-GPU,可以輸出5PFLOPS的FP16算力。
結(jié)尾:
在經(jīng)歷多次起起落落之后,服務(wù)器芯片領(lǐng)域有望在不久的將來迎來新的變革。
在這個不斷變化的環(huán)境中,機遇與挑戰(zhàn)并存,未來的格局充滿未知。
在這個關(guān)鍵時刻,AI服務(wù)器廠商需要證明他們在產(chǎn)業(yè)鏈中的疏通能力,以應(yīng)對供應(yīng)鏈風險并與上下游合作伙伴形成強大的聯(lián)盟。
部分資料參考:
半導(dǎo)體產(chǎn)業(yè)縱橫:《國產(chǎn)服務(wù)器芯片要燃了》,半導(dǎo)體行業(yè)觀察:《服務(wù)器芯片三十年戰(zhàn)事》,芯八哥:《服務(wù)器大芯片發(fā)展現(xiàn)狀及行業(yè)競爭格局》,芯世相:《AI服務(wù)器價格漲近20倍!帶火哪些芯片?》