由深度學習技術(shù)及應(yīng)用國家工程研究中心主辦、百度飛槳承辦的WAVE SUMMIT+2022深度學習開發(fā)者峰會如期舉行。峰會上,百度AI技術(shù)生態(tài)總經(jīng)理馬艷軍發(fā)布了飛槳深度學習平臺的最新技術(shù)和生態(tài)進展,全新發(fā)布飛槳開源框架2.4版本,帶來業(yè)界首個端到端大模型開發(fā)套件PaddleFleetX,聯(lián)合12家硬件生態(tài)伙伴發(fā)布飛槳生態(tài)發(fā)行版,AI Studio學習與實訓(xùn)社區(qū)升級推出企業(yè)實訓(xùn)和生態(tài)異構(gòu)算力中心等等。這一系列舉措標志著飛槳持續(xù)夯實AI技術(shù)基座,不斷深入產(chǎn)業(yè)融合創(chuàng)新。
圖:百度AI技術(shù)生態(tài)總經(jīng)理馬艷軍分享飛槳平臺最新發(fā)布
飛槳開源框架2.4版發(fā)布,以底層技術(shù)創(chuàng)新持續(xù)優(yōu)化性能表現(xiàn)
此次飛槳升級的2.4版本,框架開發(fā)更加靈活便捷,大規(guī)模模型分布式訓(xùn)練持續(xù)領(lǐng)先,并實現(xiàn)了全場景高性能推理部署。
開發(fā)方面,飛槳開源框架2.4版本針對稀疏計算、圖學習等重要場景新增160多個API,并且API開發(fā)門檻和成本大幅降低,使此次新增的API中有1/3來自生態(tài)開發(fā)者的貢獻。針對AI for Science場景需求,2.4版實現(xiàn)了通用的高階自動微分功能,更好地支持科學計算相關(guān)應(yīng)用。同時,飛槳全面提升了核心動轉(zhuǎn)靜技術(shù)的可擴展性和部署靈活性,新模型動轉(zhuǎn)靜成功率達92%,充分發(fā)揮動態(tài)圖和靜態(tài)圖各自優(yōu)勢。
訓(xùn)練方面,2.4版全新升級,推出了基于GPU的超大規(guī)模圖模型訓(xùn)練引擎PGLBox,在業(yè)內(nèi)率先實現(xiàn)了可同時支持復(fù)雜算法、超大圖、超大離散模型的一體化圖學習方案。另外,飛槳的集合通信分布式訓(xùn)練性能也做到了極致優(yōu)化,為大模型訓(xùn)練提供了全面豐富的分布式訓(xùn)練性能優(yōu)化體系,基于此,飛槳今年連續(xù)兩次獲得國際權(quán)威的AI訓(xùn)練基準測試MLPerf Training榜單第一。
作為AI實現(xiàn)產(chǎn)業(yè)落地的“最后一公里”,模型的推理部署過程十分關(guān)鍵。首先對于大模型的推理,飛槳開源框架2.4版支持自適應(yīng)模型切分和分布式推理等功能,依托飛槳框架動轉(zhuǎn)靜能力,可實現(xiàn)自動深度融合及高性能優(yōu)化,全面支撐大模型應(yīng)用落地。同時為了從根本上解決AI應(yīng)用落地面臨的場景碎片化、開發(fā)成本高、推理速度慢三大難題,飛槳全新推出的全場景高性能AI部署工具FastDeploy,一站式滿足端、邊、云多場景,多框架與多硬件的部署需求,不僅API設(shè)計統(tǒng)一,簡單易用,而且還支持自動化壓縮與高性能推理引擎深度聯(lián)動,可充分發(fā)揮軟硬一體融合優(yōu)勢,擁有業(yè)內(nèi)領(lǐng)先的推理性能,為AI產(chǎn)業(yè)應(yīng)用落地提供最優(yōu)解。
持續(xù)降低應(yīng)用門檻,加速AI應(yīng)用落地
大模型的應(yīng)用可以降低AI應(yīng)用的門檻,但大模型開發(fā)、訓(xùn)練、推理部署過程仍具有很大的挑戰(zhàn)。為了更好地支撐大模型應(yīng)用落地,飛槳全新發(fā)布端到端大模型開發(fā)套件PaddleFleetX。PaddleFleetX無縫對接飛槳并行策略并支持定制化組合,可以擴展支持更多類型的大模型,開發(fā)者可以根據(jù)模型結(jié)構(gòu)的特點自行選擇并行策略組合,并且支持GPU/NPU/DCU等多硬件平臺的多云環(huán)境的訓(xùn)練調(diào)試。同時,PaddleFleetX還支持自適應(yīng)分布式推理技術(shù),真正做到了分布式策略的訓(xùn)推一體,大可支持超大模型的服務(wù)化部署,小可協(xié)同訓(xùn)壓推結(jié)合的豐富小型化策略,實現(xiàn)端側(cè)輕量化部署。
此次峰會上,飛槳產(chǎn)業(yè)級開源模型庫開源算法新增至600個以上,覆蓋視覺、自然語言、時序建模等主流任務(wù)場景;經(jīng)過產(chǎn)業(yè)實踐打磨的精度與性能平衡PP系列特色模型新增至42個;飛槳產(chǎn)業(yè)實踐范例增至68個,覆蓋金融、工業(yè)、交通、互聯(lián)網(wǎng)、安防、教育等十個重點行業(yè)場景;發(fā)布飛槳產(chǎn)業(yè)級模型庫一站式入口,聚合模型知識與工具集,打通模型選擇、快速體驗、模型開發(fā)與使用、模型部署全流程。飛槳從產(chǎn)業(yè)模型開源、范例參考等方面蓄力,為企業(yè)應(yīng)用AI技術(shù)提供便利支持,共同解決產(chǎn)業(yè)痛點難點。
攜手各領(lǐng)域生態(tài)伙伴共創(chuàng)共享,共同打造繁榮飛槳AI生態(tài)
推動人工智能在產(chǎn)業(yè)中落地應(yīng)用,離不開與硬件生態(tài)伙伴的攜手前行。今年5月,飛槳聯(lián)合硬件生態(tài)伙伴發(fā)布“硬件生態(tài)共創(chuàng)計劃”,在聯(lián)合研發(fā)、資源共享、聯(lián)合授權(quán)、培訓(xùn)賦能等多個維度全面合作。截至11月,飛槳“硬件生態(tài)共創(chuàng)計劃”成員已經(jīng)從13家增加至28家。同時,飛槳攜手英偉達、Arm、寒武紀、昆侖芯、天數(shù)智芯、Graphcore、燧原等12家廠商聯(lián)合發(fā)布了飛槳生態(tài)發(fā)行版,在為開發(fā)者提供更好的軟硬一體化體驗的同時,攜手共建繁榮硬件生態(tài)。
為進一步加速AI產(chǎn)業(yè)智能化升級,飛槳深入產(chǎn)業(yè)場景,聯(lián)合國家能源集團、中國工商銀行、中國聯(lián)通、中國石油、中國鐵道科學研究院、中國移動、中國一汽等行業(yè)龍頭企業(yè),發(fā)布產(chǎn)業(yè)實踐范例征集計劃,鏈接企業(yè)與開發(fā)者,解決各行業(yè)實際產(chǎn)業(yè)場景中的關(guān)鍵問題,助力AI產(chǎn)業(yè)落地。
飛槳建設(shè)的AI Studio學習與實訓(xùn)社區(qū)致力于讓AI學習和應(yīng)用更簡單,目前也已成為國內(nèi)最大的AI開發(fā)者社區(qū)。本次峰會上,AI Studio升級新增兩大板塊:企業(yè)實訓(xùn)和生態(tài)異構(gòu)算力中心。
企業(yè)實訓(xùn)為企業(yè)應(yīng)用深度學習提供了實訓(xùn)陣地。截至目前,飛槳已與20余家知名企業(yè)聯(lián)合舉辦賽事,共同探索AI應(yīng)用方案,培養(yǎng)AI人才。長期以來,AI Studio為廣大開發(fā)者提供了包括CPU和GPU的豐富算力資源,又接入了曙光DCU算力,為開發(fā)者提供線上體驗中心,為硬件基礎(chǔ)設(shè)施提供便捷的體驗環(huán)境,生態(tài)異構(gòu)算力中心歡迎更多硬件廠商入駐。
源于產(chǎn)業(yè)實踐的百度飛槳深度學習開源開放平臺,是百度踐行融合創(chuàng)新、降低門檻的AI大生產(chǎn)平臺。未來,隨著深度學習核心技術(shù)的持續(xù)深耕,飛槳將更好地支撐AI與大模型落地應(yīng)用,不斷建設(shè)更加繁榮的AI生態(tài),推動產(chǎn)業(yè)加速實現(xiàn)智能化升級,讓AI惠及千行百業(yè)。