加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
    • 1、智算中心行業(yè)現(xiàn)狀
    • 2、充分優(yōu)化算力的成本
    • 3、行業(yè)深耕,從算力租賃到算力服務(wù)
    • 4、給業(yè)務(wù)客戶更多的價(jià)值
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

競(jìng)爭(zhēng)加劇,智算中心需要深耕細(xì)作:從算力租賃到算力服務(wù)

09/12 17:58
3092
閱讀需 18 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

編者按智算中心算力租賃業(yè)務(wù)如火如荼,原因在于智算算力的“供不應(yīng)求”。這是一個(gè)比較特殊的局面,一方面受美國(guó)芯片禁令影響,一方面受大模型快速興起影響。隨著國(guó)產(chǎn)算力芯片逐漸跟上,也隨著大模型市場(chǎng)逐漸成熟,智算算力也會(huì)像傳統(tǒng)通算一樣,變成供大于求(據(jù)了解,智算中心供大于求的局面,在今年已經(jīng)開(kāi)始顯現(xiàn))。智算中心,未來(lái)該如何發(fā)展?這篇文章,我們一起探討。

1、智算中心行業(yè)現(xiàn)狀

1.1 推理成本決定大模型最終的勝利

AI大模型如火如荼,國(guó)內(nèi)目前的現(xiàn)狀可以總結(jié)如下:

    AI大模型訓(xùn)練相對(duì)較少,僅有屈指可數(shù)的幾個(gè)大廠可以做(訓(xùn)練)自己的模型。而更多的公司則主要是基于開(kāi)源大模型來(lái)完成自有AI推理和應(yīng)用。大模型應(yīng)用,沒(méi)有技術(shù)門檻。目前,大模型應(yīng)用還沒(méi)有規(guī)?;涞氐陌咐梢源_定的是,一旦有爆款的應(yīng)用落地,必將有無(wú)數(shù)個(gè)類似的應(yīng)用迅速出現(xiàn)。應(yīng)用創(chuàng)新不是決定大模型成功的核心因素。大模型時(shí)代,跟之前的移動(dòng)互聯(lián)網(wǎng)時(shí)代最大的不同在于:

    1. 移動(dòng)互聯(lián)網(wǎng)時(shí)代,誰(shuí)獲得用戶和流量,誰(shuí)就能獲得成功。底層邏輯是移動(dòng)互聯(lián)網(wǎng)的系統(tǒng)邊際成本很低。因此,“通過(guò)免費(fèi)吸引客戶,然后再獲取收益”,成為了最典型的商業(yè)模式。而大模型時(shí)代,底層邏輯發(fā)生了很大的變化。大模型時(shí)代,系統(tǒng)的成本幾乎和客戶使用量成線性關(guān)系,也即是每次服務(wù)都有不菲的成本,邊際成本依然很高。這里的成本絕大部分來(lái)源是推理的算力消耗。在大模型時(shí)代,誰(shuí)能把推理成本降到極致,誰(shuí)就能獲得最終的勝利。

1.2 國(guó)產(chǎn)算力產(chǎn)業(yè)鏈耦合性高,落地難

目前,國(guó)產(chǎn)GPU/AI算力芯片公司的落地難度非常高,國(guó)產(chǎn)芯片想進(jìn)智算中心,就必須幫智算中心找到最終買單此芯片和設(shè)備的最終客戶公司。從芯片公司、智算中心、模型公司,再到最終的業(yè)務(wù)客戶,整個(gè)鏈條緊密耦合。只有把鏈條打通,才能開(kāi)始一個(gè)智算中心項(xiàng)目建設(shè)?!跋胍試?guó)產(chǎn)面包,就必須從種小麥開(kāi)始”,需要國(guó)產(chǎn)算力的時(shí)候,通常需要從0-1建設(shè)智算中心。這是目前整個(gè)行業(yè)的困境。從成熟產(chǎn)業(yè)鏈來(lái)說(shuō),整個(gè)產(chǎn)業(yè)鏈需要解耦,每個(gè)鏈條需要標(biāo)準(zhǔn)化交付。智算算力,需要像傳統(tǒng)公有云一樣,實(shí)現(xiàn)算力的標(biāo)準(zhǔn)化、服務(wù)化,達(dá)到隨用隨取。像通算一樣,智算也會(huì)云化,智算算力隨時(shí)隨地可獲取。

1.3 投入大,利潤(rùn)低,風(fēng)險(xiǎn)高

目前,一個(gè)典型的2000P的智算項(xiàng)目,投資大約10億左右,其中絕大部分是硬件設(shè)備的投入。智算中心是重資產(chǎn)行業(yè),雖然智算中心投入巨大,但僅能獲取非常微薄的利潤(rùn)。核心原因在于智算中心距離最終的業(yè)務(wù)場(chǎng)景非常遠(yuǎn),在產(chǎn)業(yè)鏈里話語(yǔ)權(quán)較低。智算中心,要想獲得更多的收益,則需要深耕算力行業(yè)。為客戶提供更多的附加價(jià)值,才能獲取更多的市場(chǎng)份額和行業(yè)利潤(rùn)。智算中心,需要從算力租賃模式,轉(zhuǎn)型到算力服務(wù)模式。

1.4 大客戶壓價(jià)嚴(yán)重,小客戶不確定性高

一方面,大客戶壓價(jià)嚴(yán)重,巨量投入利潤(rùn)微薄。另一方面,小客戶不確定性高,可能導(dǎo)致算力閑置率高。從而使得智算行業(yè)利潤(rùn)微薄,不確定性高,投資風(fēng)險(xiǎn)大。

從健康的業(yè)務(wù)模式來(lái)說(shuō),智算中心需要:

    需要實(shí)現(xiàn)算力服務(wù)化,既能服務(wù)大客戶,也能服務(wù)長(zhǎng)尾小客戶。提供更多的能幫助業(yè)務(wù)落地的服務(wù)和解決方案。算力需要接入更多的算力(運(yùn)營(yíng))網(wǎng)絡(luò),拓展更多的市場(chǎng)渠道。等等。

1.5 算力租賃模式,不是長(zhǎng)久之計(jì)

目前,智算行業(yè)的業(yè)務(wù)模式主要是裸機(jī)租賃。租賃模式發(fā)展的核心原因是算力供不應(yīng)求。而供不應(yīng)求的大背景是:美國(guó)芯片禁令和大模型“剛剛”興起。從行業(yè)發(fā)展情況來(lái)看,普遍的觀點(diǎn)是:智算算力供不應(yīng)求局面持續(xù)時(shí)間不超過(guò)3年。隨著大模型逐漸成熟,也隨著智算算力價(jià)格持續(xù)回歸,智算的算力供應(yīng)會(huì)逐漸供大于求。當(dāng)然,大模型仍在快速發(fā)展,大的行業(yè)背景仍然是算力需求快速增長(zhǎng),這和算力“供大于求”的情況并不矛盾。行業(yè)規(guī)模持續(xù)快速擴(kuò)大,與此同時(shí)行業(yè)競(jìng)爭(zhēng)會(huì)進(jìn)一步加劇。行業(yè)需要從粗獷式發(fā)展模式走向精細(xì)化發(fā)展模式,智算中心需要算力服務(wù)化,需要像公有云一樣,把智算算力封裝成標(biāo)準(zhǔn)服務(wù),隨用隨取。挑戰(zhàn)與機(jī)遇并存!

2、充分優(yōu)化算力的成本

充分優(yōu)化算力成本,主要是通過(guò)三種方式:

    方式一,是通過(guò)虛擬化容器等機(jī)制,實(shí)現(xiàn)算力資源的充分共享,從而達(dá)到分?jǐn)偝杀镜哪康?。方式二,把?jì)算任務(wù),從CPU、GPU進(jìn)一步卸載到更高效單位算力成本更低的專用加速單元完成。方式三,更大規(guī)模的資源池。通過(guò)算力調(diào)度,實(shí)現(xiàn)更高效的資源共享。

2.1 虛擬化實(shí)現(xiàn)算力資源共享

我們假設(shè)一個(gè)12核CPU(C)和一個(gè)12G帶寬的網(wǎng)卡(N)組成的物理服務(wù)器,如上圖,我們通過(guò)四種方式實(shí)現(xiàn)多種規(guī)格的算力:

    第一種,傳統(tǒng)算力租賃方式。完全物理的服務(wù)器,可售賣的僅為一個(gè)資源量為12的計(jì)算實(shí)例。最極端的情況,客戶僅需要1個(gè)資源的情況下,另外11個(gè)資源都是浪費(fèi)。第二種,基本虛擬化??梢詫?shí)現(xiàn)算力切分,這樣,我們可以把一臺(tái)物理的機(jī)器切分成四臺(tái)虛擬的機(jī)器,可售賣4臺(tái)計(jì)算實(shí)例,資源量分別為4-4-2-2。第三種,精細(xì)虛擬化。不同的計(jì)算對(duì)各類資源的需求并不是完全對(duì)等的,可以針對(duì)需求分配多一些的某種資源,其他需求少的資源可以少分配一些。這樣,我們可以把一臺(tái)物理的機(jī)器切分成6臺(tái)虛擬的機(jī)器,可售賣的機(jī)器實(shí)例變成6個(gè),其資源量分別為4-4-3-3-2-2。? ?第四種,軟硬件協(xié)同優(yōu)化。通過(guò)硬件級(jí)的性能隔離、更高效的遷移調(diào)度,能夠?qū)崿F(xiàn)用戶業(yè)務(wù)無(wú)感情況下的超賣,這樣可售賣的機(jī)器數(shù)量會(huì)繼續(xù)增加。

通過(guò)精細(xì)虛擬化和軟硬件協(xié)同的方式,可以實(shí)現(xiàn)更高效的資源分配和更低的算力成本。

2.2 硬件加速降低單位算力成本

隨著CPU逐漸性能瓶頸,GPU也越來(lái)越難以扛起算力提升的大旗,勢(shì)必需要更多的加速計(jì)算處理器來(lái)實(shí)現(xiàn)算力的提升。計(jì)算架構(gòu)從同構(gòu)到異構(gòu),再?gòu)漠悩?gòu)到多異構(gòu)和異構(gòu)融合。一般來(lái)說(shuō),在同等算力條件下,CPU成本最高,GPU次之,專用的各類專用加速器(DSA)成本最低。因此,針對(duì)各類計(jì)算任務(wù),需要盡可能的計(jì)算堆棧調(diào)優(yōu),以及專用算力優(yōu)先調(diào)度(DSA>GPU>CPU),從而實(shí)現(xiàn)更多計(jì)算任務(wù)的更低成本計(jì)算。

2.3 算力網(wǎng)絡(luò)和云邊端融合,實(shí)現(xiàn)更大規(guī)模資源池化

通過(guò)算力網(wǎng)絡(luò),把更多的算力中心的算力資源整合到一個(gè)更大的資源池。大規(guī)模、超大規(guī)模的云算力中心,中小規(guī)模的邊緣算力中心,以及海量的終端算力設(shè)備,都是算力的組成部分。通過(guò)算力網(wǎng)絡(luò)把云邊端整合成一個(gè)超級(jí)巨大的算力資源池。通過(guò)云邊端算力調(diào)度,客戶的業(yè)務(wù)應(yīng)用,可以方便的獲取到最合適的算力資源,實(shí)現(xiàn)最優(yōu)資源匹配。實(shí)現(xiàn)更高層次的算力共享,進(jìn)一步優(yōu)化算力成本。

3、行業(yè)深耕,從算力租賃到算力服務(wù)

計(jì)算,已經(jīng)相當(dāng)復(fù)雜。不再是傳統(tǒng)單體的計(jì)算機(jī),而是由云計(jì)算、邊緣計(jì)算以及終端計(jì)算所組成的超大規(guī)模計(jì)算體系。也因此,算力產(chǎn)業(yè),是上下游企業(yè)(或業(yè)務(wù))組成的龐大的產(chǎn)業(yè)鏈。

如圖所示,這個(gè)鏈條上包含的典型企業(yè)業(yè)務(wù)類型主要有:

    IDC所屬的機(jī)房或機(jī)架租賃;智算中心所屬的服務(wù)器裸機(jī)租賃;傳統(tǒng)公有云所屬的IaaS級(jí)的計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)等基礎(chǔ)云服務(wù);? ?傳統(tǒng)公有云所屬的PaaS級(jí)的服務(wù),典型的如AI訓(xùn)練、推理服務(wù),以及AI算法服務(wù)等;傳統(tǒng)公有云所屬的行業(yè)和場(chǎng)景解決方案,針對(duì)大中型客戶的復(fù)雜計(jì)算場(chǎng)景,提供的一整套云解決方案。

在這個(gè)產(chǎn)業(yè)鏈條里,距離最終的業(yè)務(wù)客戶越近,越能體現(xiàn)價(jià)值,越能賺取更多的利潤(rùn)。與之矛盾的是,越是靠前的產(chǎn)業(yè)鏈條,需要更多的硬件等各類基礎(chǔ)設(shè)施的投入,投入的資金量反而更大。對(duì)智算中心投資者來(lái)說(shuō),投資風(fēng)險(xiǎn)比較高:一方面是大量的資金投入,一方面是較少的價(jià)值和利潤(rùn),還有一方面是智算中心硬件的快速折舊(硬件生命周期通常為5年)。如何來(lái)解決問(wèn)題?我們給出的答案是:從租賃到服務(wù),智算中心需要從當(dāng)前相對(duì)粗獷的資源租賃模式逐步轉(zhuǎn)向更加精細(xì)化的算力服務(wù)模式。

如上圖表格所示,我們對(duì)智算中心的業(yè)務(wù)(服務(wù))類型以及相關(guān)的資金投入進(jìn)行了一個(gè)定性的分析(注意:此表格數(shù)據(jù)非定量分析,不作為算力中心投資和運(yùn)營(yíng)參考),相對(duì)硬件投入的資金量,IaaS、PaaS等軟件的投入量?jī)H占5%左右,幾乎可以忽略不計(jì)。但這5%的投入產(chǎn)出比很高,因此,智算中心的業(yè)務(wù)模式需要從租賃模式轉(zhuǎn)型成服務(wù)模式,從而使得傳統(tǒng)智算中心從產(chǎn)業(yè)鏈上游逐步往下游延伸,實(shí)現(xiàn)更多的價(jià)值貢獻(xiàn),以及獲取更多的產(chǎn)業(yè)鏈利潤(rùn)。

4、給業(yè)務(wù)客戶更多的價(jià)值

4.1 極低的算力成本

性能、成本和能耗,是評(píng)價(jià)算力成本最關(guān)鍵的三個(gè)要素:

    智算產(chǎn)業(yè),最核心的參數(shù)是算力,也即微觀的性能。通過(guò)多異構(gòu)/異構(gòu)融合計(jì)算,實(shí)現(xiàn)計(jì)算架構(gòu)的極致優(yōu)化。在通過(guò)融合計(jì)算(異構(gòu)融合 x 軟硬件融合 x 云邊端融合),實(shí)現(xiàn)超大規(guī)模的高效協(xié)同計(jì)算,從而實(shí)現(xiàn)更高的算力,更強(qiáng)的智能。算力和成本是反比的關(guān)系,同等成本下更高的算力,反過(guò)來(lái)說(shuō),就是單位算力更低的成本。通過(guò)融合計(jì)算的綜合優(yōu)化,算力高效利用,算力價(jià)值充分挖掘。與此同時(shí),通過(guò)開(kāi)放架構(gòu)和生態(tài)體系的方式,實(shí)現(xiàn)客戶無(wú)平臺(tái)和生態(tài)依賴,客戶僅需要為價(jià)值付費(fèi)。還有一個(gè)關(guān)鍵的因素,就是智算中心的能耗。綠色智算中心大家最關(guān)注的是PUE,PUE優(yōu)化0.01都非常困難。而實(shí)際上,能耗大頭其實(shí)是在IT設(shè)備自身,也就是PUE數(shù)值中小數(shù)點(diǎn)前的那個(gè)“1”。通過(guò)融合計(jì)算的計(jì)算調(diào)度優(yōu)化,優(yōu)選最低能耗的計(jì)算平臺(tái)(DSA>GPU>CPU),從而實(shí)現(xiàn)同等算力情況下更低的計(jì)算能耗。與此同時(shí),通過(guò)異構(gòu)的協(xié)同和融合,實(shí)現(xiàn)更高效的加速計(jì)算,進(jìn)一步實(shí)現(xiàn)極低的綜合算力的平均能耗。

4.2綜合完善的算力服務(wù)

智算,不僅僅是智算。如果把智能計(jì)算比作“主菜”,那么綜合計(jì)算則是一桌“宴席”。從計(jì)算的形態(tài)來(lái)看,計(jì)算實(shí)際上是云計(jì)算、邊緣計(jì)算和終端計(jì)算,而AI計(jì)算則是業(yè)務(wù)層次的計(jì)算,它可以存在于云端,也可以存在于邊緣端和終端。AI很重要,但圍繞著AI,還有很多其他類型的計(jì)算。雖然以AI為主要計(jì)算的AI+業(yè)務(wù)場(chǎng)景越來(lái)越多,但也有部分計(jì)算任務(wù),不需要AI參與,或AI計(jì)算占比較低。因此,相對(duì)AI計(jì)算,我們給出“綜合計(jì)算”的概念:以云計(jì)算、邊緣計(jì)算、終端計(jì)算為承載,包括AI計(jì)算任務(wù)也包括其他計(jì)算任務(wù),這些任務(wù)并行不悖的混合運(yùn)行在云、邊或端。

我們通過(guò)云計(jì)算的IaaS和PaaS服務(wù)體系,并且針對(duì)AI智算的一些特點(diǎn),定向優(yōu)化一些已有的服務(wù),以及開(kāi)發(fā)一些新型的面向AI的服務(wù),實(shí)現(xiàn)新型智能計(jì)算“算力服務(wù)”體系。

4.3 加速客戶業(yè)務(wù)落地

算力核心的三方,跟電商行業(yè)類似:

算力供應(yīng)方(賣家),聚焦算力建設(shè),核心競(jìng)爭(zhēng)力在于給用戶提供更低成本的算力。

算力運(yùn)營(yíng)方(平臺(tái)),輕型云計(jì)算公司,自身沒(méi)有算力,但可以從全國(guó)甚至全球獲取海量低成本算力接入。價(jià)值點(diǎn)在于幫助算力客戶復(fù)雜計(jì)算場(chǎng)景的業(yè)務(wù)落地。

算力需求方(買家),一方面需要海量、優(yōu)質(zhì)、多樣、低成本的算力。另一方面,隨著AI大模型以及多樣性云邊端算力的發(fā)展,業(yè)務(wù)復(fù)雜度進(jìn)一步,需要算力的提供方(供應(yīng)方或運(yùn)營(yíng)方)提供更多的業(yè)務(wù)落地解決方案。

為了更好的幫助最終的業(yè)務(wù)客戶智算業(yè)務(wù)落地,不但要提供計(jì)算的硬件設(shè)備和計(jì)算集群,還要提供面向智算大模型場(chǎng)景的IaaS和PaaS服務(wù)。并且,在此基礎(chǔ)上,還要提供更加豐富的行業(yè)解決方案。

這些解決方案可以分為四類:

    (傳統(tǒng)的)技術(shù)解決方案。如海量計(jì)算、安全、高可用、大數(shù)據(jù)、云備份、物聯(lián)網(wǎng)、視頻云、混合云、智能化運(yùn)維節(jié)約等解決方案。(傳統(tǒng)的)行業(yè)解決方案。如面向零售、政府、出海、金融、教育、工業(yè)、汽車、園區(qū)和物業(yè)、云游戲、云桌面、農(nóng)業(yè)、能源、醫(yī)療等行業(yè)的相關(guān)解決方案。(創(chuàng)新的)AI大模型解決方案。如基于萬(wàn)卡GPU集群的大模型訓(xùn)練平臺(tái)、基于多樣性算力的異構(gòu)云邊端協(xié)同推理平臺(tái),以及更上層的面向短視頻、AI-Agent等方向的AI平臺(tái)服務(wù)等。(創(chuàng)新的)軟硬件結(jié)合類解決方案。如高階智駕、人形機(jī)器人、工業(yè)自動(dòng)化、MEC接入等跟終端硬件深度整合的各類解決方案。

4.4 持續(xù)優(yōu)化的產(chǎn)品和服務(wù)

云主機(jī),是最核心的服務(wù),也是其他服務(wù)的承載之所在。我們以云主機(jī)為例,當(dāng)前大家能夠?qū)崿F(xiàn)的通常是最傳統(tǒng)的物理機(jī)和虛擬機(jī)服務(wù)。通過(guò)軟硬件協(xié)同的優(yōu)化,能夠把云基礎(chǔ)設(shè)施層任務(wù)進(jìn)一步卸載到DPU或更加綜合的異構(gòu)融合處理器,可以進(jìn)一步降低成本提升系統(tǒng)的性能。此外,還可以統(tǒng)一物理機(jī)和虛擬機(jī),讓兩者完全統(tǒng)一,客戶的業(yè)務(wù)更流暢,算力供應(yīng)商的運(yùn)維管理更順暢。

網(wǎng)絡(luò),是大模型時(shí)代,最大的技術(shù)瓶頸。在傳統(tǒng)的云計(jì)算,僅關(guān)注數(shù)據(jù)中心網(wǎng)絡(luò)。未來(lái),隨著云邊端進(jìn)一步深度協(xié)同,網(wǎng)絡(luò)優(yōu)化方案,需要考慮跨云邊端的高性能網(wǎng)絡(luò)解決方案。整體的網(wǎng)絡(luò)架構(gòu),需要從傳統(tǒng)云網(wǎng)絡(luò)架構(gòu),向云邊端網(wǎng)絡(luò)架構(gòu)持續(xù)轉(zhuǎn)變。

在云邊端網(wǎng)絡(luò)架構(gòu)下,需要實(shí)現(xiàn)四類網(wǎng)絡(luò)連接:

    云-云連接:這和目前公有云跨區(qū)域(Region)和可用區(qū)(Zone)的網(wǎng)絡(luò)連接方案一致。同一區(qū)域下所有可用區(qū)為全相聯(lián)(所有數(shù)據(jù)中心均和其他數(shù)據(jù)中心有直接連接),然后所有的區(qū)域?yàn)槿嗦?lián)。云-邊連接:就近接入物理距離最短的云數(shù)據(jù)中心,跟其他云數(shù)據(jù)中心或邊緣數(shù)據(jù)中心的鏈接,通過(guò)接入的云數(shù)據(jù)中心中轉(zhuǎn)。云-端連接:端側(cè)和云端的鏈接,均提供就近的接入點(diǎn),快速接入算力供應(yīng)商的全球高速數(shù)據(jù)網(wǎng)絡(luò)。邊-端連接:邊緣作為端側(cè)的高速網(wǎng)絡(luò)接入點(diǎn),既接入邊緣算力服務(wù),又接入算力提供商的全球高速數(shù)據(jù)網(wǎng)絡(luò)。

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

公眾號(hào):軟硬件融合;CPU靈活性好但性能較差,ASIC性能極致但靈活性差,魚和熊掌如何兼得,同時(shí)兼顧性能和靈活性,我給出的方案是“軟硬件融合”。軟硬件融合不是說(shuō)要軟硬件緊耦合,相反,是要權(quán)衡在不同層次和粒度解耦之后,再更加充分的協(xié)同。