憑借 Arm CSS 和 KleidiAI 等技術(shù)創(chuàng)新,Arm 首席執(zhí)行官 Rene Haas 預(yù)計(jì),到 2025 年底,將有超過(guò) 1,000 億臺(tái)基于 Arm 架構(gòu)設(shè)備可用于 AI。
在 COMPUTEX 2024 展前,Arm 首席執(zhí)行官 Rene Haas 分享了公司將如何實(shí)現(xiàn)到 2025 年底讓超過(guò) 1,000 億臺(tái)基于 Arm 架構(gòu)設(shè)備可用于從云端到邊緣側(cè)的人工智能 (AI)。
我們有足夠的能源來(lái)支持 AI 嗎?
Haas 回應(yīng)的關(guān)鍵問(wèn)題之一在于,全球是否有足夠多的能源來(lái)滿(mǎn)足日益增長(zhǎng)的 AI 計(jì)算需求。AI 領(lǐng)域已涌現(xiàn)出諸多卓越創(chuàng)新,然而行業(yè)正面臨一個(gè)兩難境地,即處理器越能更好地處理 AI 的性能要求,其能源需求也隨之增大。
Arm 的 DNA 誕生于面向使用電池的設(shè)備。Haas 認(rèn)為,正因如此,亞馬遜云科技 (AWS)、谷歌 (Google) 和微軟 (Microsoft) 等主流云服務(wù)提供商才會(huì)越來(lái)越多地采用 Arm 架構(gòu)。他還談到,Arm 是世界上最具能效的 CPU,所節(jié)約的能耗推動(dòng)了令人驚嘆的 AI 創(chuàng)新。
軟件至關(guān)重要
在 30 余年的公司歷史中,Arm 以領(lǐng)先的能效最為人所知,也是使其成為全球應(yīng)用最普及的計(jì)算平臺(tái)的根基。不僅于此,Haas 還進(jìn)一步指出,真正讓 Arm 與眾不同的是無(wú)可比擬的軟件生態(tài)系統(tǒng)。
正如 Haas 所言,Arm 已成為世界上各類(lèi)主要操作系統(tǒng)的選擇。微軟近期發(fā)布的 AI PC 就是一個(gè)很好的例子,其中最常用的應(yīng)用現(xiàn)在均可在 Windows on Arm (WoA) 上原生運(yùn)行。事實(shí)上,在擁有 1,800 萬(wàn)軟件開(kāi)發(fā)者的生態(tài)系統(tǒng)中,如今在 Arm CPU 上進(jìn)行設(shè)計(jì)的開(kāi)發(fā)者比在其他任何處理器上都要多。
如果我們想體驗(yàn) AI 所能釋放的社會(huì)變化,從邊緣側(cè)最微小的設(shè)備到云端訓(xùn)練和推理,開(kāi)發(fā)者支持至關(guān)重要。開(kāi)發(fā)者需要能夠利用 AI 進(jìn)行創(chuàng)新,并使其以高性能、功耗優(yōu)化、高度可執(zhí)行和可預(yù)測(cè)的狀態(tài)在硬件上運(yùn)行。
為了確保在 Arm 計(jì)算平臺(tái)上實(shí)現(xiàn)這一點(diǎn),Haas 介紹了新推出的 Arm KleidiAI,其包含于一套新的 AI 計(jì)算庫(kù)中,使開(kāi)發(fā)者能夠更輕松地在 Arm 平臺(tái)上運(yùn)行他們的 AI 應(yīng)用。 Haas 補(bǔ)充道:“在 Arm 過(guò)去 30 多年的發(fā)展中我們切實(shí)學(xué)到,為開(kāi)發(fā)者提供所能獲取的資源,與硬件同等重要,否則硬件也無(wú)法發(fā)揮其作用?!?/p>
例如,當(dāng)開(kāi)發(fā)者在 TensorFlow、PyTorch、Llama 3 和 MediaPipe 等框架中處理他們的模型時(shí),KleidiAI 使他們能夠進(jìn)入抽象層并利用 AI 工作負(fù)載的底層硬件功能來(lái)充分發(fā)揮其性能潛力。
從生態(tài)系統(tǒng)角度而言,KleidiAI 也深具優(yōu)勢(shì),現(xiàn)場(chǎng) Haas 分享了來(lái)自三星、Meta 和谷歌高管的視頻,他們各自講述了 Arm 和 KleidiAI 將如何助力他們?cè)诙鄠€(gè)市場(chǎng)加速 Arm 平臺(tái)上的 AI 創(chuàng)新。
Arm 終端 CSS
除了 Arm 賦能 AI 開(kāi)發(fā)者生態(tài)系統(tǒng)所做的出色工作外,Arm 將持續(xù)提供更高性能、更具能效的產(chǎn)品。Arm高級(jí)副總裁兼終端事業(yè)部總經(jīng)理 Chris Bergey 現(xiàn)場(chǎng)分享了更多關(guān)于產(chǎn)品方面的信息,介紹了上周發(fā)布的 Arm 終端計(jì)算子系統(tǒng) (CSS)。
這是 Arm 首次交付基于前沿的三納米工藝節(jié)點(diǎn)的 Arm CPU 和 GPU 物理實(shí)現(xiàn)。Bergey 強(qiáng)調(diào)了其重要性,Arm 生態(tài)系統(tǒng)現(xiàn)在可以利用經(jīng)驗(yàn)證、基于領(lǐng)先的三納米工藝節(jié)點(diǎn)的 CPU 和 GPU 物理實(shí)現(xiàn),并更快、更有信心地將產(chǎn)品推向市場(chǎng)。
Arm 終端 CSS 使芯片制造商能夠?qū)W⒂诖蛟炱脚_(tái)的差異化,以及切實(shí)考慮 Armv9 架構(gòu)將如何賦能其新一代產(chǎn)品。與此同時(shí),通過(guò)將終端 CSS 與 KIeidiAI 相結(jié)合,開(kāi)發(fā)者將擁有充分利用這些下一代硬件技術(shù)所需的工具。
最后,Haas 再次強(qiáng)調(diào),Arm 通過(guò)提供全球最完整的計(jì)算平臺(tái),致力于 AI 技術(shù)的發(fā)展。憑借 Arm CSS 和 KleidiAI 等技術(shù)創(chuàng)新,他預(yù)計(jì)到 2025 年底,將有超過(guò) 1,000 億臺(tái)基于 Arm 架構(gòu)的設(shè)備可用于 AI。實(shí)現(xiàn)這一令人驚嘆的數(shù)量不僅將會(huì)重塑這個(gè)行業(yè),更是會(huì)重塑整個(gè)地球。