加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 什么是智算中心?
    • 智算中心需要怎樣的算力支撐?
    • 國產(chǎn) AI 芯片系統(tǒng)方案商業(yè)落地加速
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

智算中心落地加速,AI芯片成為關(guān)鍵力量

07/17 17:08
2122
閱讀需 6 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

2023年10月,六部門聯(lián)合發(fā)布《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》,其中明確了全國算力在未來三年的建設(shè)步調(diào)。

2024年2月,國資委召開“AI賦能產(chǎn)業(yè)煥新”中央企業(yè)人工智能專題推進會,強調(diào)央企要把發(fā)展人工智能放在全局工作中統(tǒng)籌謀劃,把主要資源集中投入到最需要、最有優(yōu)勢的領(lǐng)域,加快建設(shè)智算中心。

與此同時,近兩年ChatGPT、AIGC、Sora等人工智能的話題引爆全世界,大模型走向多模態(tài)化,傳統(tǒng)的數(shù)據(jù)中心開始向智算中心改革。

什么是智算中心?

作為AI技術(shù)產(chǎn)業(yè)化的重要引擎,智算中心可為各類AI應(yīng)用提供強大的算力支持、數(shù)據(jù)處理能力和先進的算法服務(wù),而其關(guān)鍵功能在于其算力資源的高效生產(chǎn)、聚合、智能調(diào)度和精準(zhǔn)釋放,這些能力將共同促進數(shù)據(jù)的開放共享、智能生態(tài)系統(tǒng)的構(gòu)建以及產(chǎn)業(yè)創(chuàng)新的集聚。

換言之,智算中心是服務(wù)于人工智能的數(shù)據(jù)計算中心,包括人工智能、機器學(xué)習(xí)、深度學(xué)習(xí)等需求,從而賦能產(chǎn)業(yè)發(fā)展。

根據(jù)IDC的《2021-2022全球計算力指數(shù)評估報告》,一個國家的計算力指數(shù)每提高1點,數(shù)字經(jīng)濟將增長3.5‰,GDP將增長1.8‰。

也正是因為智算中心的這些特性,國家才在重點布局?jǐn)?shù)據(jù)中心,中國國內(nèi)的設(shè)備供應(yīng)商也在積極參與到AI領(lǐng)域,尤其在智算中心設(shè)備方面。

智算中心需要怎樣的算力支撐?

智算中心將算力資源全面解耦,以追求計算、存儲資源極致的彈性供給和利用。

當(dāng)前,智算中心的訓(xùn)練大都以GPU為主。那么,以GPU為主的算力真的是未來智算中心的最優(yōu)選擇嗎?

業(yè)內(nèi)有一種說法:“在高性能計算領(lǐng)域,算力的競爭歸根結(jié)底是能耗效率的較量?!睋Q言之,在AI和大數(shù)據(jù)時代,對于算力的需求日益增長,而能源消耗和成本效益成為了衡量計算解決方案競爭力的重要指標(biāo)。因此,設(shè)計低能耗、高效率的算力解決方案對于確??沙掷m(xù)發(fā)展和經(jīng)濟效益至關(guān)重要。

而對于智算中心的建設(shè)來講,相比以GPU為主要硬件底座的方案,采用AI芯片的方案可能在特定任務(wù)上提供更高的性能或更低的能耗,并針對特定類型的AI模型或應(yīng)用進行優(yōu)化,從而提供更高的效率。

國產(chǎn) AI 芯片系統(tǒng)方案商業(yè)落地加速

目前,國產(chǎn)算力隨著性能和易用性的提升,正逐漸獲得國內(nèi)大模型和人工智能應(yīng)用企業(yè)的青睞。

在2024 WAIC上,我們看到以燧原科技為代表的國產(chǎn)算力提供商,已經(jīng)在智算中心領(lǐng)域?qū)崿F(xiàn)了“從一到多” 的合作落地,進展還是不錯的。

圖 | 燧原科技2024 WAIC 展臺,來源:燧原科技

根據(jù)燧原科技提供的信息顯示,當(dāng)前燧原科技的二代產(chǎn)品已經(jīng)落地之江實驗室、成都智算中心、宜昌點軍智算中心(300P算力)和慶陽智算中心(50000P算力)等大型算力中心。其中,點軍智算中心僅用一年就完成了300P國產(chǎn)算力的建設(shè),自2024年1月運行至今,300P算力已經(jīng)實現(xiàn)全消納,所有的板卡和服務(wù)都開起來,而且不停地有業(yè)務(wù)在上面跑。

針對以上智算中心的建設(shè)過程與成果,筆者簡單采訪了燧原科技軟件工程師,作為項目的一線參與者,他表示:“雖然模型算法是通用的,但是我們還是做了不少適配和調(diào)試的工作;此外,要保障如此大規(guī)模的算力平臺能夠穩(wěn)定、有序地運行和調(diào)度,我們也做了一些快速而特色的部署,而對于異構(gòu)的多地部署算力在這一塊,則還需要軟硬件協(xié)調(diào)去解決這個問題。”

談到過去一年,燧原科技在軟硬件上面最大的進步,這位工程師坦誠道:“我是做軟件的,當(dāng)我們將大模型從其他硬件平臺遷移到我們平臺時,初期的效率可能只有其他平臺的30%-40%,經(jīng)過我們的軟件適配和調(diào)優(yōu),模型的輸出能力可以逐步上升至70%-80%,再到110%-120%。事實上,當(dāng)前在軟件側(cè)最大的提升其實是其業(yè)務(wù)性,因為我們之前的平臺遷移需要花比較大的努力,而現(xiàn)在對于我們的客戶來說,遷移成本已經(jīng)變得非常小。假設(shè)之前要花一個月的時間才能將模型輸出能力爬坡到一個良好的水平,現(xiàn)在只需要花3-4天,甚至1-2天的時間就能達到相同效果?!?/p>

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險等級 參考價格 更多信息
ATMEGA128A-MUR 1 Microchip Technology Inc IC MCU 8BIT 128KB FLASH 64QFN
$7.34 查看
DSPIC33EP512MU810-I/PT 1 Microchip Technology Inc 16-BIT, FLASH, 60 MHz, MICROCONTROLLER, PQFP100, 12 X 12 MM, 1 MM HEIGHT, LEAD FREE, PLASTIC, TQFP-100
$10.04 查看
STM32F401VET6 1 STMicroelectronics High-performance access line, Arm Cortex-M4 core with DSP and FPU, 512 Kbytes of Flash memory, 84 MHz CPU, ART Accelerator

ECAD模型

下載ECAD模型
$10.53 查看
燧原科技

燧原科技

燧原科技專注人工智能領(lǐng)域云端算力平臺,致力為人工智能產(chǎn)業(yè)發(fā)展提供普惠的基礎(chǔ)設(shè)施解決方案,堅持原始創(chuàng)新的技術(shù)研發(fā)路線,提供高算力、高能效比的通用人工智能訓(xùn)練和推理產(chǎn)品。其創(chuàng)新性架構(gòu)、互聯(lián)方案和分布式計算及編程平臺,可廣泛應(yīng)用于云數(shù)據(jù)中心、超算中心、泛互聯(lián)網(wǎng)、傳統(tǒng)行業(yè)及智慧城市等多個人工智能場景。

燧原科技專注人工智能領(lǐng)域云端算力平臺,致力為人工智能產(chǎn)業(yè)發(fā)展提供普惠的基礎(chǔ)設(shè)施解決方案,堅持原始創(chuàng)新的技術(shù)研發(fā)路線,提供高算力、高能效比的通用人工智能訓(xùn)練和推理產(chǎn)品。其創(chuàng)新性架構(gòu)、互聯(lián)方案和分布式計算及編程平臺,可廣泛應(yīng)用于云數(shù)據(jù)中心、超算中心、泛互聯(lián)網(wǎng)、傳統(tǒng)行業(yè)及智慧城市等多個人工智能場景。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

與非網(wǎng)副主編 通信專業(yè)出身,從事電子研發(fā)數(shù)余載,擅長從工程師的角度洞悉電子行業(yè)發(fā)展動態(tài)。