4030
2023年12月底，由國家發(fā)展改革委、國家數(shù)據(jù)局、中央網(wǎng)信辦、工業(yè)和信息化部、國家能源局五部門聯(lián)合印發(fā)的《關于深入實施“東數(shù)西算”工程 加快構建全國一體化算力網(wǎng)的實施意見》正式公布。
算力網(wǎng)絡是未來數(shù)字經(jīng)濟發(fā)展的核心基礎設施。要想實現(xiàn)算力網(wǎng)絡的偉大愿景，還有非常多的底層技術挑戰(zhàn)需要解決。
接下來若干篇系列文章，“軟硬件融合”公眾號將從技術的視角，詳細分析算力網(wǎng)絡的發(fā)展。
本篇是系列文章的第一篇，算力提升綜述。
1?宏觀算力綜述
算力和性能的區(qū)別在哪里？性能是一個微觀話題，通常的說法是“芯片的性能”，較少說“芯片的算力”（隨著算力的概念深入人心，也有不少人采用單芯片算力的算法）。同時，算力是一個宏觀概念，比如評價一個數(shù)據(jù)中心，通常則采用“算力”這個說法，很少會用“性能”這個說法。
總之，算力和性能本質(zhì)上是一體的，區(qū)別在于性能是微觀概念，算力是宏觀概念。那么算力和性能之間的聯(lián)系是什么？
如上圖所示，我們定性分析，可以在性能和算力之間構建一個關聯(lián)的公式。從上述公式可以看到，要想提升宏觀的實際總算力，可以通過三個方法：
方法一，Scale Up方式，提升單芯片的性能。一方面底層先進工藝和Chiplet封裝支撐，另一方面越來越多的大算力場景需求，都驅(qū)動著在系統(tǒng)架構和微架構方面的創(chuàng)新，來實現(xiàn)單芯片層次更高的性能。這是算力提升最本質(zhì)的做法。
方法二，Scale Out方式，提升芯片落地的規(guī)模/數(shù)量。通過增加芯片落地規(guī)模的方式提升總算力，比較好理解。挑戰(zhàn)在于，如何讓芯片更好地增加數(shù)量？芯片要想大規(guī)模落地：需要覆蓋非常多的業(yè)務場景和業(yè)務迭代，這就需要芯片具有非常高的通用性；此外，芯片需要支持更大規(guī)模的集群計算。
方法三，則是提高算力利用率。提升算力利用率有很多方法，例如，資源擴展性、資源池化、開放架構等等。算力網(wǎng)絡，是提升算力利用率的綜合解決方案。
本系列文章聚焦算力網(wǎng)絡，因此，篇幅分配會有很大不同。本篇文章中，將簡要介紹提升算力的三種方式。
2 如何提升單芯片性能？
定性的分析，一個芯片的性能有三個維度：
維度一，指令復雜度。依據(jù)指令復雜度，典型的處理器引擎分為CPU、協(xié)處理器、GPU、FPGA、DSA和ASIC六大類。理論上，指令復雜度越高，性能越好。但實際上，需要考慮系統(tǒng)的通用性，以及目標工作任務的靈活性特征，來選擇合適的處理器引擎。
維度二，運行頻率。運行頻率提升，主要是先進工藝，以及更復雜的流水線設計。
維度三，并行度。提高并行度比較好理解，并行也主要有同構并行、（兩個處理器的）異構并行和（三個以上）更多異構的并行。
這三個維度里，指令復雜度提升和運行頻率提升，都受到到各種因素的制約，真正對性能影響最大的則是并行度。提升并行度，不是簡單的復制，而是需要全面考慮系統(tǒng)工作任務特征，尋找合適的處理引擎，實現(xiàn)復雜的并行計算：
同構并行，僅指CPU同構并行（其他處理器無法單獨存在，需要CPU協(xié)助），摩爾定律已經(jīng)失效，CPU并行性能有局限。
異構并行，指CPU+其他加速處理器的并行計算，異構并行是兩類處理器的協(xié)同計算。
異構融合并行，指的是CPU+兩種以上不同類型或子類型的處理器組成的計算架構。因為處理器增多，則需要考慮各個處理器之間的協(xié)同問題。因此，異構融合計算，中心在于處理器之間的深度協(xié)作和融合。
3?如何提升芯片的落地規(guī)模？
通用靈活性
芯片只有大規(guī)模落地，才能顯著地提升宏觀算力；不能落地芯片，即使性能再高，與宏觀算力的提升也毫無意義。芯片要想大規(guī)模落地，一定是要覆蓋非常多的業(yè)務場景，以及非常多的業(yè)務迭代。這樣，勢必需要芯片具有非常高的通用靈活性。
同時，芯片大規(guī)模落地，成本也是一個非常重要的因素。跟小芯片相比，大算力芯片的成本主要是前期的研發(fā)投入的均攤成本，芯片實際的生產(chǎn)成本反而占比相對較少。只有實現(xiàn)了相對通用的芯片設計，才能覆蓋更多的場景和迭代，才能攤薄成本。成本下降之后，反過來，進一步促進芯片的大規(guī)模落地。
高性能網(wǎng)絡
與此同時，大算力芯片，需要支持大規(guī)模集群和跨集群的計算。更多計算節(jié)點組成的集群/跨集群計算，內(nèi)部流量占據(jù)絕大部分。
以目前流行的大模型計算集群為例，其東西向（內(nèi)部）流量占比超過96%，南北向（外網(wǎng)）流量占比僅有3%左右。并且，隨著集群規(guī)模的進一步擴大，南北向流量占比仍在進一步減少。
此外，隨著系統(tǒng)規(guī)模的擴大，南北向的流量也是逐漸增加的。兩相疊加，需要個體的芯片的網(wǎng)絡帶寬指數(shù)級提升，同時需要支持高效的內(nèi)網(wǎng)和外網(wǎng)高性能網(wǎng)絡。
總之，只有實現(xiàn)了足夠的通用靈活性，以及高性能網(wǎng)絡，才能支撐更高性能更高效率的超大規(guī)模的集群/跨集群計算，才能真正支撐宏觀算力的顯著提升，與此同時降低算力的成本。
4?如何提升算力利用率？
如果每個計算節(jié)點都是孤島，即使某一個節(jié)點算力利用率很高，但更多的節(jié)點可能處于閑置或者低利用率狀態(tài)，宏觀地看，其算力利用率必然很低。要想真正提升算力利用率，首先勢必需要把計算節(jié)點池化，形成算力資源池，才好談高利用率的問題。
我們來系統(tǒng)分析一下如何有效地提升算力利用率。
資源可擴展性
資源可擴展性是一個非常重要的前提條件。
以CPU為例，通過虛擬化，一個物理的CPU核可以分為數(shù)以百計的邏輯CPU核，一個邏輯核可以當作CPU的最小粒度；同時，一個CPU芯片有數(shù)十個甚至上百個CPU核，常見的服務器通常有1-8個CPU芯片，并且還有眾多服務器組成的計算集群。因此，CPU是可以從1個邏輯核擴展到成千上萬的邏輯核的。這就是CPU極致可擴展性的體現(xiàn)。
其他的資源，如各類GPU、DSA等各類加速器計算資源、內(nèi)存（Memory）資源、網(wǎng)絡I/O資源、存儲（Storage）I/O資源等。這些資源，也需要像CPU一樣，具有非常好的擴展性。
資源池化
資源具有足夠好的可擴展性，物理的資源通過合適粒度進行邏輯切分，并且跨物理資源、跨芯片、跨計算節(jié)點，甚至跨集群的資源資源可以組成一個整體，最終形成統(tǒng)一的宏觀資源池。只有形成足夠好的可擴展性才能支持靈活的資源池化和資源的靈活分配。
多租戶多系統(tǒng)
多租戶多系統(tǒng)是云計算非常重要的特征，通過多租戶多系統(tǒng)實現(xiàn)資源的共享和成本分攤，以此來提高算力利用率和降低成本。
開放架構
隨著CPU的性能瓶頸，越來越多的異構算力成為算力提升的主力。即使某個處理器具有足夠高的可擴展性，但一種架構的資源，就意味著一個獨立的資源池。這樣，多樣性的異構算力，會導致架構和生態(tài)的碎片化。通過開放架構，可以盡可能地實現(xiàn)架構的收斂，才能最大化地發(fā)揮資源池化的價值。
跨集群調(diào)度
算力網(wǎng)絡，最核心的價值在于把非常多的各種計算集群連接到一起。因此跨集群的資源共享和業(yè)務調(diào)度是必然要支持的能力。算力網(wǎng)絡，需要實現(xiàn)跨不同的集群、跨不同的數(shù)據(jù)中心、跨云網(wǎng)邊端。
跨平臺
隨著異構的資源越來越多，從一個計算階段遷移到本集群或者其他集群其他計算節(jié)點的時候，它的資源種類不一定和當前節(jié)點資源一致。這樣，對業(yè)務能力跨不同架構處理器運行提出了更高的要求。比如，業(yè)務可以跨x86、ARM和riscv CPU處理器運行，業(yè)務還可以跨CPU、GPU、DSA處理器運行，等等。
便利性，隨時隨地可獲取
相比傳統(tǒng)自建機房，云計算已經(jīng)實現(xiàn)了算力的方便獲取。但還不夠。隨著AI大模型、自動駕駛、元宇宙XR等各類大算力場景越來越多，對算力的多樣性要求也越來越大，云端算力、多層次的邊緣算力，甚至更加便利的終端算力，都需要納入算力網(wǎng)絡的范疇，提供宏觀的算力資源整合方案，方便用戶隨時隨地輕松獲取。
總結(jié)一下。通過上述這些方式，以及其他可能的上面沒有提到的方式，來實現(xiàn)宏觀算力資源的充分利用，從而為客戶提供極致成本的海量算力。
下載ECAD模型
