加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • ?01、信創(chuàng)和AI算力,筑基智算賽道
    • ?02、AI原生場景賦能,“致廣大而盡精微”
    • ?03、AI行業(yè)加速,聚合生態(tài)創(chuàng)新
    • ?04、結(jié)語
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

AI狂想時代,誰能打造加速引擎?

05/13 09:50
1799
閱讀需 13 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

作者:九林

如果說2023年是生成式AI的元年,那么2024年是生成式AI加速普及的一年。

ChatGPT發(fā)布后,人工智能由此進(jìn)入大模型時代。生成式AI的出現(xiàn)開始推動人類進(jìn)入數(shù)字文明階段。

AI將企業(yè)卷入變革的浪潮,正如神州數(shù)碼董事長郭為所說:“未來十年所有企業(yè)的企業(yè)戰(zhàn)略將充分利用三個原生(云原生、數(shù)字原生、AI原生)來顛覆自己的業(yè)務(wù),神州數(shù)碼也愿意成為企業(yè)的數(shù)字化轉(zhuǎn)型全生命周期的合作伙伴,讓我們一起共同來迎接這樣一個偉大的時代?!?/p>

?01、信創(chuàng)和AI算力,筑基智算賽道

信創(chuàng),即信息技術(shù)應(yīng)用創(chuàng)新產(chǎn)業(yè),是數(shù)據(jù)安全網(wǎng)絡(luò)安全的基礎(chǔ),也是新基建的重要組成部分,是各行各業(yè)數(shù)字化升級的“發(fā)動機(jī)”。立足信創(chuàng),神州數(shù)碼持續(xù)打造“神州鯤泰”自主品牌,形成了覆蓋“數(shù)據(jù)計算、終端產(chǎn)品、數(shù)據(jù)網(wǎng)絡(luò)”的三大產(chǎn)品線,在“國產(chǎn)化算力+智算”持續(xù)布局。

過去一年,神州鯤泰問學(xué)一體機(jī)、KunTaiA924訓(xùn)推一體AI服務(wù)器等一系列自主品牌產(chǎn)品相繼面世;神州鯤泰14款服務(wù)器通過“通用服務(wù)器政府采購需求標(biāo)準(zhǔn)專題測評”。

隨著AI的發(fā)展,大模型所使用的算力數(shù)據(jù)量和參數(shù)規(guī)模呈現(xiàn)“指數(shù)級”增長,這帶來智能算力需求的爆發(fā)式增加。IDC預(yù)計,國內(nèi)2026年智能算力規(guī)模有望進(jìn)入每秒十萬億億次浮點(diǎn)計算級別,2021-2026年智能算力規(guī)模年復(fù)合增長率有望達(dá)52.3%。

神州數(shù)碼副總裁、神州數(shù)碼信創(chuàng)控股董事長韓智敏也表示:“當(dāng)前AI發(fā)展面臨巨大的算力挑戰(zhàn),除了互聯(lián)網(wǎng)廠商有大的模型和大的算力集群,千行百業(yè)也需要大量的算力基礎(chǔ)?!倍幌盗谢A(chǔ)設(shè)施層的問題和挑戰(zhàn)也隨之涌現(xiàn)。

一方面是智算集群間以及集群內(nèi)部的復(fù)雜兼容及利用率問題。目前,國內(nèi)企業(yè)處于復(fù)雜的商業(yè)環(huán)境,異構(gòu)的智算基礎(chǔ)設(shè)置已經(jīng)成為必然,但異構(gòu)的智算集群可以實(shí)現(xiàn)的模型浮點(diǎn)利用率還存在大量的提升空間。舉個例子,OpenAI在訓(xùn)練ChatGPT4時,MFU的使用率只有在32%~36%之間。目前MFU利用率的平均的行業(yè)利用率是在30%~40%,提高到50%都極為困難。由此,神州鯤泰推出了HISO異構(gòu)智算調(diào)度運(yùn)營平臺和全新的異構(gòu)智算融合加速平臺HICA。

異構(gòu)智算調(diào)度運(yùn)營平臺(HISO),基于100%云原生技術(shù),整合GPU硬分片和虛擬分片技術(shù),實(shí)現(xiàn)了GPU資源的池化和跨集群調(diào)度能力,提升GPU服務(wù)器集群的資源使用率。

異構(gòu)智算融合加速平臺(HICA),具有一云多芯特性,支持華為昇騰、英偉達(dá)、英特爾等國內(nèi)外主流AI芯片,可實(shí)現(xiàn)訓(xùn)練推理任務(wù)在不同品牌、不同型號芯片組成的智算集群的混合訓(xùn)練推理,預(yù)計降低20%GPU閑置算力。

另一方面,生成式AI模型的參數(shù)量大,算力和高能耗成為需要解決的核心問題。為解決在智算中心算力需求,神州鯤泰打造了多款A(yù)I服務(wù)器,覆蓋從訓(xùn)練到推理的全部場景。

針對智算中心的高能耗痛點(diǎn),神州鯤泰還推出了一體化交付的全液冷整機(jī)柜,現(xiàn)場無需安裝調(diào)試,效率提升10倍;最大單柜功率60kW+,一柜頂傳統(tǒng)4~8柜,1.5倍于國內(nèi)友商的能效比。

在過去的一年中,智算中心的建設(shè)在中國大地上可謂如火如荼。

政策層面,“新質(zhì)生產(chǎn)力”首次寫入政府工作報告,“人工智能+”行動全面開啟,還有國資委召開的“AI賦能產(chǎn)業(yè)煥新”專題會,提出:加快建設(shè)一批智能算力中心。

2023年全國新建智算中心項(xiàng)目超過100個,預(yù)算基本是上億。從國家啟動“東數(shù)西算”工程開始,傳統(tǒng)IT企業(yè)、云廠商和電信運(yùn)營商就已經(jīng)在緊鑼密鼓地布局智算中心。

神州數(shù)碼在智算中心深度參與,神州鯤泰作為“鯤鵬+昇騰”計算產(chǎn)業(yè)生態(tài)重要參與者之一,為智算中心提供專業(yè)基礎(chǔ)設(shè)施硬件。目前,神州數(shù)碼、神州控股已經(jīng)參與了包括長春新區(qū)智算中心、沈陽人工智能計算中心、廈門鯤鵬超算中心、香港特區(qū)政府大模型智算中心等的建設(shè)和運(yùn)營。

值得一提的是,今年一月份,為了給生態(tài)伙伴提供最基礎(chǔ)的技術(shù)環(huán)境,聚焦AI算力,神州數(shù)碼深圳人工智能計算中心項(xiàng)目已經(jīng)正式啟動。預(yù)計不久之后,這個搭載神州問學(xué)平臺的智算中心就會正式向市場、向生態(tài)提供算力、模型、應(yīng)用、解決方案相關(guān)的服務(wù)。

從財報來看,AI的入局和產(chǎn)品的合力,使得神州數(shù)碼信創(chuàng)業(yè)務(wù)實(shí)現(xiàn)爆發(fā)性增長。2023年度神州數(shù)碼信創(chuàng)業(yè)務(wù)整體營收突破34億,連續(xù)三年保持高增長。2024年一季度神州鯤泰AI算力相關(guān)業(yè)務(wù)單季營收規(guī)模接近去年全年。

?02、AI原生場景賦能,“致廣大而盡精微”

過去一年,AI大模型技術(shù)飛速發(fā)展,如何用好大模型實(shí)現(xiàn)降本增效、推動業(yè)務(wù)增長,成為了企業(yè)真正關(guān)心的問題。在這個“百模大戰(zhàn)”甚至“千模大戰(zhàn)”的時代,如何將技術(shù)轉(zhuǎn)化成真正的生產(chǎn)力?答案是以生態(tài)之力破局,加速生成式AI在企業(yè)級的落地。

2023年,神州問學(xué)的推出,成為助力企業(yè)AI落地的新范式。

目前,神州問學(xué)已對接了數(shù)十家主流大模型,并發(fā)布慧閱讀、慧解析、慧問答等敏捷應(yīng)用,成功幫助醫(yī)藥、零售等行業(yè)客戶落地生成式AI應(yīng)用場景。

在數(shù)云原力大會2024上,神州問學(xué)新版本發(fā)布,包含Agent工程、企業(yè)知識治理、模型訓(xùn)練與管理三大模塊。

以神州問學(xué)新版本的三大功能板塊作為切入點(diǎn),神州數(shù)碼有自己的考量:現(xiàn)實(shí)中,企業(yè)有大量需要AI賦能的場景。對于企業(yè)來說,AI場景如何與每個業(yè)務(wù)更好地結(jié)合,如何讓內(nèi)部IT部門和業(yè)務(wù)部門更智能化地配合,僅靠簡單的開發(fā)者平臺是無法滿足的。因此,企業(yè)需要已經(jīng)被實(shí)踐證明過的高效完備的AI應(yīng)用開發(fā)框架和規(guī)范;需要工具的持續(xù)地沉淀;知識治理的持續(xù)地深化,更需要若干個企業(yè)模型的持續(xù)地訓(xùn)練和優(yōu)化。同時為了保證數(shù)據(jù)安全,這都需要在企業(yè)的私域中完成。這么來看,企業(yè)的AI原生創(chuàng)新需要一個平臺持續(xù)地賦能和加速。神州問學(xué)就是這樣的AI原生應(yīng)用賦能平臺,三大板塊全部覆蓋企業(yè)客戶需求。

神州數(shù)碼副總裁、CTO李剛表示:“當(dāng)‘致廣大’已被充分表達(dá),神州數(shù)碼反而愈加堅定以客戶為中心的‘盡精微’,才是真正實(shí)現(xiàn)AI著陸的當(dāng)務(wù)之急?!标P(guān)于大家關(guān)心的企業(yè)數(shù)據(jù)安全方面,李剛在接受采訪時分享到,神州問學(xué)通過三個方面進(jìn)行企業(yè)數(shù)據(jù)安全的保護(hù)。

第一,神州問學(xué)部署的場景是私有化場景。完全在客戶可控的環(huán)境中進(jìn)行部署。第二,神州問學(xué)納管的大模型,無論是商業(yè)化模型還是開源模型,經(jīng)過微調(diào)和預(yù)訓(xùn)練后,同樣是本地化部署。這兩點(diǎn)上來說,就能夠保證基本的安全性問題。第三,是一個企業(yè)內(nèi)部如何保證知識的可訪問性。企業(yè)會因?yàn)椴块T不同,而需要多個模型,比如人力模型、財務(wù)模型等,關(guān)鍵在于給企業(yè)數(shù)據(jù)一個“安全圍欄”。李剛說到:“確保模型回答它能夠回答的正確問題,而不回答不相關(guān)的問題。”再疊加這一點(diǎn),將進(jìn)一步確保企業(yè)數(shù)據(jù)安全問題。

另外,我們還看到神州數(shù)碼充分發(fā)揮在“算力+AI”軟硬件產(chǎn)品的自主創(chuàng)新能力,打造了神州鯤泰問學(xué)一體機(jī)?;贙unTaiA924訓(xùn)推一體AI服務(wù)器,可以訓(xùn)練推理無縫銜接、同時進(jìn)行,大大提高大模型訓(xùn)練效率。預(yù)裝神州數(shù)碼自研生成式AI產(chǎn)品“神州問學(xué)”,開機(jī)即用,極簡部署、免調(diào)優(yōu),快速部署企業(yè)專屬AI大模型。

?03、AI行業(yè)加速,聚合生態(tài)創(chuàng)新

Chat GPT的橫空出世,讓生成式AI一夜之間出現(xiàn)在每個人的眼前。

對于這種革命性的技術(shù),每個企業(yè)都處于焦慮的狀態(tài),希望能從中找到自己創(chuàng)新的機(jī)遇。但在探索AI的過程中,還有很多現(xiàn)實(shí)的問題在眼前。

需求側(cè),很多企業(yè)面對生成式人工智能的迭代速度無所適從,他們需要在投入和回報之間找到平衡;供給側(cè),在商業(yè)化落地的過程中,單個企業(yè)有時候很難把整個AI技術(shù)棧跟客戶的行業(yè)需求結(jié)合起來;人才上,人才的短缺是人工智能持續(xù)發(fā)展的現(xiàn)在最大的阻礙。

神州數(shù)碼聯(lián)席董事長、首席執(zhí)行官王冰峰說到:“在這些現(xiàn)實(shí)的問題以及我們所看到人工智能未來巨大的顛覆潛力下,沒有一個企業(yè)可以獨(dú)自前行。我們相信生態(tài)會變成AI落地加速中必不可少而且是強(qiáng)有力的驅(qū)動力。”

神州數(shù)碼希望打造一個新型的生態(tài)伙伴關(guān)系,從三個方面入手:一個是解決方案和技術(shù)的生態(tài),第二個是人才的生態(tài),第三個是市場的生態(tài)。

解決方案和技術(shù)的生態(tài)上,技術(shù)本身不會顛覆任何事情,只有能夠落地的解決方案、應(yīng)用和商業(yè)模式才會。AI原生應(yīng)用能夠解決過去解決不了的問題。只有大家一起努力,產(chǎn)生足夠多的AI原生的解決方案和應(yīng)用,才能形成一個健康的生態(tài)環(huán)境。讓人工智能從企業(yè)工具演進(jìn)為企業(yè)獨(dú)立的智能體Agent。

在人才生態(tài)上,神州數(shù)碼將聯(lián)合國際國內(nèi)最領(lǐng)先的人工智能的企業(yè),共同建設(shè)人工智能的培訓(xùn)和認(rèn)證的體系。目前,神州數(shù)碼是中國大陸地區(qū)唯一的一家同時擁有Microsoft、AWS、Google三家官方授權(quán)的培訓(xùn)合作伙伴,同時也是阿里云、騰訊、天翼、華為、華為云、Oricle、IBM等數(shù)十家先進(jìn)企業(yè)的培訓(xùn)合作伙伴。

在市場生態(tài)上,依托神州數(shù)碼2035實(shí)驗(yàn)室以及人工智能研究院,不斷地強(qiáng)化神州數(shù)碼跟高校、院所、機(jī)構(gòu)、協(xié)會之間的合作,來共同推進(jìn)人工智能在技術(shù)生態(tài)上長期發(fā)力。

?04、結(jié)語

生成式AI已狂奔了近一年時間后,至今仍持續(xù)高熱。

AGI時代號角已經(jīng)吹響,神州數(shù)碼將聚焦三件事:AI原生場景賦能、多云異構(gòu)綠色智算、國際化AI生態(tài)創(chuàng)新。

在數(shù)云原力大會開幕式的最后,神州數(shù)碼董事長郭為(數(shù)字分身)說到:“我們提出了神州數(shù)碼在AGI時代的新主張:以客戶為中心的AI著陸加速引擎。數(shù)云融合也再上一個新的臺階,升級為AI驅(qū)動的數(shù)云融合。神州數(shù)碼將在“人工智能+”的中國式現(xiàn)代化道路上持續(xù)探索,以國際創(chuàng)新中心這個未來AI新地標(biāo)為載體,開展更多的互動和協(xié)同創(chuàng)新?!?/p>

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險等級 參考價格 更多信息
ATXMEGA128A4U-MHR 1 Atmel Corporation RISC Microcontroller, 16-Bit, FLASH, AVR RISC CPU, 32MHz, CMOS, PQCC44, 7 X 7 MM, 1 MM HEIGHT, 0.50 MM PITCH, GREEN, PLASTIC, MO-220VKKD-3, VQFN-44
$4.48 查看
DSP56F803BU80E 1 NXP Semiconductors 16-BIT, 80MHz, OTHER DSP, PQFP100

ECAD模型

下載ECAD模型
$13.78 查看
ATSAM4S16BA-AU 1 Atmel Corporation RISC Microcontroller, 32-Bit, FLASH, CORTEX-M4 CPU, 120MHz, CMOS, PQFP64, LQFP-64

ECAD模型

下載ECAD模型
$7.22 查看

相關(guān)推薦

電子產(chǎn)業(yè)圖譜

公眾號:半導(dǎo)體產(chǎn)業(yè)縱橫。立足產(chǎn)業(yè)視角,提供及時、專業(yè)、深度的前沿洞見、技術(shù)速遞、趨勢解析,鏈接產(chǎn)業(yè)資源,構(gòu)建IC生態(tài)圈,賦能中國半導(dǎo)體產(chǎn)業(yè),我們一直在路上。