• 正文
  • 推薦器件
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

最新MLCommons結(jié)果公布: 第五代至強(qiáng)可擴(kuò)展處理器AI成果分享

2024/03/29
1522
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

第五代至強(qiáng)可擴(kuò)展處理器的最新MLPerf測(cè)試結(jié)果充分展示了英特爾及其生態(tài)合作伙伴在提升生成式AI性能方面的成果。

近日,MLCommons公布了針對(duì)AI推理的MLPerf v4.0基準(zhǔn)測(cè)試結(jié)果。其中,內(nèi)置了英特爾?高級(jí)矩陣擴(kuò)展(英特爾? AMX)的第五代英特爾?至強(qiáng)?可擴(kuò)展處理器(以下簡(jiǎn)稱“第五代至強(qiáng)”)在測(cè)試中表現(xiàn)優(yōu)異,進(jìn)一步彰顯了英特爾致力于通過(guò)豐富且具有競(jìng)爭(zhēng)力的解決方案推動(dòng) “AI無(wú)處不在”的承諾。截至目前,英特爾仍是唯一一家提交MLPerf測(cè)試結(jié)果的CPU廠商。與第四代至強(qiáng)在MLPerf推理v3.1基準(zhǔn)測(cè)試中的結(jié)果相比,第五代至強(qiáng)的測(cè)試結(jié)果平均提升1.42倍。

英特爾公司副總裁兼數(shù)據(jù)中心人工智能事業(yè)部產(chǎn)品管理總經(jīng)理Zane Ball表示:“我們將持續(xù)提升CPU和加速器等廣泛產(chǎn)品組合在行業(yè)基準(zhǔn)測(cè)試中的AI性能。此次全新的MLCommons結(jié)果顯示,我們提供的AI解決方案能夠滿足客戶不斷變化、多樣化的AI需求。同時(shí),至強(qiáng)處理器也為客戶提供了可快速實(shí)現(xiàn)AI部署,且極具性價(jià)比的選擇。”

英特爾產(chǎn)品迄今為止在多輪MLPerf基準(zhǔn)測(cè)試中均所展示出領(lǐng)先的訓(xùn)練及推理性能,該測(cè)試結(jié)果亦為客戶樹(shù)立了可用于評(píng)估產(chǎn)品AI性能的行業(yè)標(biāo)準(zhǔn)。

關(guān)于第五代至強(qiáng)的測(cè)試結(jié)果:

與第四代至強(qiáng)在MLPerf推理v3.1性能基準(zhǔn)測(cè)試中的表現(xiàn)相比,經(jīng)由硬件軟件優(yōu)化的第五代至強(qiáng)性能平均提升1.42倍。其中,針對(duì)具備連續(xù)批處理(continuous batching)等軟件優(yōu)化的GPT-J模型,與v3.1的測(cè)試結(jié)果相比,第五代至強(qiáng)的性能提升約1.8倍;同樣,得益于MergedEmbeddingBag以及基于英特爾AMX的其他優(yōu)化,DLRMv2的測(cè)試結(jié)果顯示出約1.8倍的性能提升和99.9的準(zhǔn)確率。

第五代英特爾?至強(qiáng)?可擴(kuò)展處理器

與此同時(shí),英特爾非常自豪地與包括思科、戴爾、廣達(dá)、Supermicro和緯穎科技在內(nèi)的廣大OEM伙伴們展開(kāi)合作,助力其提交基于自身產(chǎn)品的MLPerf測(cè)試結(jié)果。英特爾不僅于2020年開(kāi)始提交基于第四代至強(qiáng)的測(cè)試結(jié)果,同時(shí)至強(qiáng)可擴(kuò)展處理器亦是參與MLPerf測(cè)試的產(chǎn)品中,眾多加速器的主機(jī)CPU。 此外,第五代至強(qiáng)可在英特爾?開(kāi)發(fā)者云平臺(tái)上進(jìn)行評(píng)估。該環(huán)境中,用戶可以進(jìn)行小型及大規(guī)模AI訓(xùn)練(譬如大語(yǔ)言模型或生成式AI)、運(yùn)行大規(guī)模的推理工作負(fù)載,以及管理AI計(jì)算資源等。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
RC0402FR-0710KL 1 YAGEO Corporation Fixed Resistor, Metal Glaze/thick Film, 0.0625W, 10000ohm, 50V, 1% +/-Tol, 100ppm/Cel, Surface Mount, 0402, CHIP

ECAD模型

下載ECAD模型
$0.01 查看
2N6073AG 1 Rochester Electronics LLC 400V, 4A, 4 QUADRANT LOGIC LEVEL TRIAC, TO-225, LEAD FREE, CASE 77-09, 3 PIN
$0.85 查看
BT148W-600R,115 1 NXP Semiconductors BT148W-600R
$0.46 查看
英特爾

英特爾

英特爾在云計(jì)算、數(shù)據(jù)中心、物聯(lián)網(wǎng)和電腦解決方案方面的創(chuàng)新,為我們所生活的智能互連的數(shù)字世界提供支持。

英特爾在云計(jì)算、數(shù)據(jù)中心、物聯(lián)網(wǎng)和電腦解決方案方面的創(chuàng)新,為我們所生活的智能互連的數(shù)字世界提供支持。收起

查看更多

相關(guān)推薦