相比于英偉達,國產(chǎn)AI芯片除性能差距外,軟件生態(tài)差距更大,英偉達的成功不僅僅在于其芯片,更在于其軟件棧CUDA的成功,英偉達已累計為CUDA生態(tài)投入120億美元。
同時,自2020年以來,CUDA開發(fā)者數(shù)量從180萬激增至450萬,增長了150%。
面對國外AI算力軟件生態(tài)壁壘高筑的現(xiàn)實,中國的AI算力還有機會嗎?或者說,在AI領(lǐng)域,RISC-V是否有機會去震撼CUDA生態(tài)呢?
對此,北京大學講席教授、RISC-V國際基金會人工智能與機器學習專委會主席謝濤分享了專業(yè)角度的觀察和分析。
圖 | 北京大學講席教授、RISC-V國際基金會人工智能與機器學習專委會主席謝濤
“國產(chǎn)算力面臨巨大挑戰(zhàn),雖然國產(chǎn)AI芯片公司都在加速追趕,也在芯片性能上獲得了很大的進步,但我們要清醒地認識到,我們的競爭對手太強,面對CUDA的龐大生態(tài)大軍,我們要如何應(yīng)對?” 謝濤拋出問題。
國產(chǎn)AI芯片公司,也包括國際上部分AI芯片公司在內(nèi),大家通常會采取“打不過就加入”的思路,也就是采用兼容CUDA軟件生態(tài)、特別是走GPGPU路線的做法。
對此,謝濤認為:“這樣的一個道路只能解燃眉之急,但是長遠來看它還是受制于人;而其它的一些AI芯片公司走的是非CUDA路線,整體上呈現(xiàn)出的是‘小、散、弱’的局面?!?/p>
這種局面具體來講,可以總結(jié)為四點:
2.軟件棧不統(tǒng)一,用戶學習成本高;
3.算子覆蓋度低,用戶遷移成本高;
4.企業(yè)各自為戰(zhàn),沒有足夠的生態(tài)競爭力。
所以,我們可否借鑒Android震撼iOS生態(tài)的模式,來讓“RISC-V+AI”去震撼CUDA生態(tài)呢?
圖 | AI加速器市場規(guī)模增速最快,來源:芯原,The SHD Group
我們來看一組數(shù)據(jù),根據(jù)SHD Group的最新調(diào)研結(jié)果顯示,2023年RISC-V SoC的市場滲透率將達到2.6%,市場規(guī)模觸及61億美元,其中AI加速市場的規(guī)模為26億美元,成為RISC-V SoC市場的“王牌選手”,占比42.6%;此外SHD Group更是預(yù)測,到2030年,該占比將繼續(xù)上升至49.2%。
換言之,RISC-V 是發(fā)展AI專用處理器共識之路,可以通過其可擴展性和定制化,滿足AI工作負載快速變化的需求。
面對該趨勢,謝濤對主流的模式進行了總結(jié):緊耦合模式和松耦合模式。
其中,緊耦合模式適用于低功耗領(lǐng)域,在這種模式下,RISC-V架構(gòu)將AI計算單元集成在CPU內(nèi)部,實現(xiàn)資源共享;而松耦合模式則適用于大算力領(lǐng)域,通過外掛協(xié)處理器的方式來執(zhí)行AI任務(wù),提供更強大的計算能力。
謝濤認為,在未來的發(fā)展中,RISC-V+AI的生態(tài)系統(tǒng)將通過推動國際標準和共建開源社區(qū)的雙重手段,逐步壯大并與現(xiàn)有的AI計算生態(tài)形成有力的競爭。在這一過程中,中國將發(fā)揮關(guān)鍵作用,通過共建、共創(chuàng),推動RISC-V在全球AI計算領(lǐng)域的廣泛應(yīng)用,助力全球科技的可持續(xù)發(fā)展。
圖 | 萬物智聯(lián)時代的RISC-V+AI算力之路,來源:芯原
而回到最初提出的問題,在AI領(lǐng)域,RISC-V能否震撼CUDA生態(tài)呢?謝濤表示:“RACE也將團結(jié)企業(yè)一起探索、探討,也要定出Triton,比CUDA要更高層的生態(tài),而從心態(tài)上,我們應(yīng)該保持謹慎樂觀的態(tài)度。”