加入星計(jì)劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴(kuò)散
  • 作品版權(quán)保護(hù)
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長(zhǎng)期合作伙伴
立即加入
  • 正文
    • 01.低功耗、獨(dú)立顯卡、NPU三大AI引擎架構(gòu)更新,本地跑200億參數(shù)大模型
    • 02.從聊天機(jī)器人到AI Agent六大AI場(chǎng)景應(yīng)用爆發(fā)
    • 03.結(jié)語(yǔ):英特爾商用AI PC打通行業(yè)落地最后一公里
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

英特爾AI PC開(kāi)啟商用元年!打造6大AI場(chǎng)景應(yīng)用,三大AI引擎助力本地跑20B大模型

04/03 10:30
1849
閱讀需 13 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

作者?|??香草,編輯?|??漠影

英特爾史上最大CPU技術(shù)變革,酷睿Ultra已落地100+本土應(yīng)用。

AI PC在商用領(lǐng)域,能帶來(lái)什么樣的新質(zhì)生產(chǎn)力?芯東西4月2日?qǐng)?bào)道,近日,英特爾重磅推出全新商用客戶端AI PC產(chǎn)品,將基于英特爾酷睿Ultra處理器的AI特性擴(kuò)展至商用領(lǐng)域,在AI PC規(guī)模應(yīng)用元年,踏出行業(yè)落地的關(guān)鍵一步。

酷睿Ultra處理器是英特爾40年來(lái)最大的架構(gòu)變革,其首次引入兩顆低功耗內(nèi)核、首次集成獨(dú)立顯卡架構(gòu),并集成了NPU(神經(jīng)元處理器),通過(guò)三大AI引擎架構(gòu)革新,可本地運(yùn)行200億參數(shù)大模型,無(wú)需聯(lián)網(wǎng)即可秒級(jí)生成高質(zhì)量多模態(tài)數(shù)據(jù)。

本次發(fā)布將酷睿Ultra的能力從個(gè)人延伸至行業(yè),在視頻會(huì)議、多媒體處理等商用場(chǎng)景中,相比上一代產(chǎn)品處理器功耗下降最高36%,生產(chǎn)力提升最高47%,視頻編輯的AI性能提升2.2倍。

發(fā)布會(huì)現(xiàn)場(chǎng),英特爾與超35家ISV(獨(dú)立軟件開(kāi)發(fā)商)及10家OEM(原廠設(shè)備制造商)合作伙伴分享了酷睿Ultra在商用AI PC中的應(yīng)用爆發(fā),全方位瞄準(zhǔn)AI Chatbot、AI PC助理、AI Office助手、AI本地知識(shí)庫(kù)、AI圖像視頻處理、AI PC管理六大AI場(chǎng)景,在經(jīng)濟(jì)、物理、數(shù)據(jù)保密三大AI PC法則的指導(dǎo)下推動(dòng)各行業(yè)數(shù)字化轉(zhuǎn)型

那么,英特爾此次升級(jí)的產(chǎn)品點(diǎn)具體有哪些?六大AI場(chǎng)景中,具體有哪些創(chuàng)新應(yīng)用?為什么說(shuō)本地生成式AI是必然的趨勢(shì)?芯東西通過(guò)現(xiàn)場(chǎng)調(diào)研,尋找這些問(wèn)題的答案。

01.低功耗、獨(dú)立顯卡、NPU三大AI引擎架構(gòu)更新,本地跑200億參數(shù)大模型

英特爾酷睿Ultra處理器專為AI PC打造,其采用全新英特爾4制程工藝,基于3D性能混合架構(gòu),將兩個(gè)內(nèi)核微架構(gòu)組合至同一個(gè)處理器芯片上,并可提供內(nèi)置英特爾銳炫GPU。

據(jù)英特爾客戶端事業(yè)部副總裁、細(xì)分市場(chǎng)部總經(jīng)理馮大為介紹,面向企業(yè)用戶,酷睿Ultra處理器在CPU+GPU+NPU三大AI引擎上做了重大架構(gòu)更新,能夠支持200億參數(shù)大模型在本地運(yùn)行,無(wú)需聯(lián)網(wǎng)即可秒級(jí)生成高質(zhì)量圖片或視頻。

一是CPU上的低功耗管理??犷ltra首次引入兩顆低功耗內(nèi)核,其專為多線程可擴(kuò)展性能和分載后臺(tái)任務(wù)而設(shè)計(jì),更優(yōu)的性能核和能效核帶來(lái)更高數(shù)據(jù)吞吐量,辦公場(chǎng)景性能提升最高可達(dá)47%。

二是GPU首次集成了獨(dú)立顯卡架構(gòu),英特爾銳炫GPU帶來(lái)最高2.2倍的性能及性能功耗比提升,讓視頻剪輯速度更快,視頻體積更小。

三是采用NPU進(jìn)行AI推理,在視頻會(huì)議等場(chǎng)景中功耗最高下降36%,基于Intel 4制程工藝和3D高性能混合架構(gòu)的設(shè)計(jì),大幅提升續(xù)航能力,讓AI體驗(yàn)更省電。此外,此次酷睿Ultra內(nèi)置的ARC顯卡已達(dá)到移動(dòng)工作站的性能需求,在3D渲染評(píng)分上最高達(dá)到上一代產(chǎn)品12倍的性能。

02.從聊天機(jī)器人到AI Agent六大AI場(chǎng)景應(yīng)用爆發(fā)

工業(yè)和信息化部賽迪研究院數(shù)據(jù)顯示,到2035年,生成式AI有望為全球貢獻(xiàn)近90萬(wàn)億元的經(jīng)濟(jì)價(jià)值,其中中國(guó)將突破30萬(wàn)億元。AI市場(chǎng)蘊(yùn)含著巨大的潛能,其中豐富的創(chuàng)新AI應(yīng)用成為商用AI PC產(chǎn)業(yè)發(fā)力的重點(diǎn)。英特爾中國(guó)區(qū)技術(shù)部總經(jīng)理高宇描繪了英特爾錨定的六大AI場(chǎng)景應(yīng)用圖,以AI Chatbot、AI PC助理、AI Office助手、AI本地知識(shí)庫(kù)、AI圖像視頻處理、AI PC管理為橫坐標(biāo),醫(yī)療、教育、法務(wù)等各行業(yè)為縱坐標(biāo),形成一張巨大的應(yīng)用場(chǎng)景藍(lán)圖。

英特爾發(fā)布會(huì)現(xiàn)場(chǎng),有35+家本土ISV合作伙伴向我們展示了商用AI PC在六大AI場(chǎng)景+AI行業(yè)應(yīng)用等垂直領(lǐng)域的潛能。1、AI Chatbot:直擊行業(yè)應(yīng)用痛點(diǎn),提供專業(yè)領(lǐng)域問(wèn)答操作系統(tǒng)技術(shù)提供商中科創(chuàng)達(dá)人工智能中心副總裁楊新輝,演示了魔方智能法務(wù)助手,其基于基礎(chǔ)語(yǔ)言大模型,結(jié)合百萬(wàn)條法律大數(shù)據(jù)訓(xùn)練得到70億參數(shù)規(guī)模的AI PC端側(cè)大模型,提供案件分析、文書撰寫等法律相關(guān)功能。

中科創(chuàng)達(dá)大模型產(chǎn)品負(fù)責(zé)人邱瑞翔告訴芯東西,法律卷宗等數(shù)據(jù)隱私性很高,需要進(jìn)行嚴(yán)格的數(shù)據(jù)監(jiān)管。同時(shí)律師群體出差頻率高,常遇到在飛機(jī)上辦公等無(wú)網(wǎng)絡(luò)的場(chǎng)景。AI PC將大模型搬到了終端上,杜絕了信息泄露和斷網(wǎng)的影響。

2、AI PC助理:AI智能控制,簡(jiǎn)化各種PC操作

智譜AI基于酷睿Ultra打造了AI PC智能助手,提供AI智能控制、PC使用問(wèn)答、文檔內(nèi)容提煉等功能。其COO張帆展示了該應(yīng)用的智能操作功能,輸入一句包含靜音、切換性能、打開(kāi)文件3個(gè)操作的指令,PC便按順序完成了3個(gè)操作。

值得注意的是,在打開(kāi)文件的指令中用戶無(wú)需給出完整準(zhǔn)確的文件名,只需采用“上次打開(kāi)的”“昨天沒(méi)看完的”等模糊描述,大模型就可以根據(jù)使用記錄或用戶習(xí)慣,找到需要的文件。

3、AI Office助手玩轉(zhuǎn)辦公三件套”,提高辦公效率

專注Office“辦公三件套”擴(kuò)展工具開(kāi)發(fā)的ExtendOffice的CEO林潔演示了基于本地AI的全新插件Kutools AI。表格工具Excel中有許多復(fù)雜的公式,造成了一定的學(xué)習(xí)成本,同時(shí)企業(yè)客戶的大量數(shù)據(jù)具有高度隱私性,上傳到云端會(huì)有泄露風(fēng)險(xiǎn),這使得本地化的離線數(shù)據(jù)處理極為重要。Kutools AI以側(cè)邊欄形式呈現(xiàn)在應(yīng)用中,用戶可使用自然語(yǔ)言輸入指令。如用戶想將“金額”一欄的數(shù)值按匯率換算成人民幣,只需輸入“美元轉(zhuǎn)人民幣”指令,Kutools AI便會(huì)彈出對(duì)應(yīng)聊天框,再輸入相應(yīng)的匯率即可自動(dòng)完成換算。

4AI本地知識(shí)庫(kù):深挖企業(yè)私域數(shù)據(jù),快速文檔處理和知識(shí)檢索

星環(huán)科技副總裁楊一帆介紹了RAG(檢索增強(qiáng)生成)產(chǎn)品無(wú)涯-問(wèn)知,基于AI PC能力,它能快速將本地文件資料轉(zhuǎn)換成知識(shí),支持多種格式和模態(tài)、不限長(zhǎng)度文件自動(dòng)入庫(kù)。

該產(chǎn)品契合AI PC全部三條法則。首先數(shù)據(jù)在本地處理,避免了云服務(wù)費(fèi)用,從而降低了AI服務(wù)成本;其次避免了數(shù)據(jù)傳輸中的瓶頸,滿足物理法則;最后數(shù)據(jù)全部保存在本地設(shè)備上,保障了安全性和隱私性。

5、AI圖像視頻處理:隨時(shí)隨地后期,開(kāi)辟全新媒體制作方式

在多媒體處理賽道,視頻等大文件的傳輸十分考驗(yàn)網(wǎng)絡(luò)速率。當(dāng)虹科技CTO黃進(jìn)展示了基于AI PC打造的視頻慢動(dòng)作解決方案,用大模型生成更多的視頻幀,實(shí)現(xiàn)3倍慢動(dòng)作視頻生成。

一方面,本地化的視頻處理降低了數(shù)據(jù)傳輸和云服務(wù)成本。另一方面,在酷睿Ultra加持下原本只能在專業(yè)服務(wù)器和大型工作站才能實(shí)現(xiàn)的能力,現(xiàn)在也可以普惠到企業(yè)用戶。

6、AI PC管理:借助NPU處理能力,增強(qiáng)設(shè)備資產(chǎn)安全性

在商用領(lǐng)域,資產(chǎn)安全性極為重要?;鸾q安全、貝銳向日葵、VMware等廠商基于NPU強(qiáng)大的處理能力,將AI運(yùn)用到威脅檢測(cè)、安全風(fēng)險(xiǎn)管控、遠(yuǎn)程操作等應(yīng)用中,解放了CPU算力,提升了商用PC管理效率。

這六大應(yīng)用場(chǎng)景,延伸到具體的垂直行業(yè)領(lǐng)域中,又能帶來(lái)不一樣的想象力。在醫(yī)療行業(yè),AI制藥頭部企業(yè)英矽智能通過(guò)在AI PC部署大模型,推出AI生物學(xué)軟件PandaOmics,基于超過(guò)20種預(yù)測(cè)模型和生成生物學(xué)模型,實(shí)現(xiàn)專業(yè)的靶點(diǎn)篩選、排序和分析,提升了藥物研發(fā)效率。

在應(yīng)用展區(qū),英矽智能BD吳劍宇向芯東西演示了PandaOmics的知識(shí)圖譜和問(wèn)答功能,通過(guò)來(lái)自公開(kāi)文獻(xiàn)、科研基金、臨床試驗(yàn)的文本數(shù)據(jù),該軟件能自動(dòng)生成知識(shí)圖譜,用戶可在左側(cè)交互窗口進(jìn)一步追問(wèn)。據(jù)其介紹,醫(yī)院內(nèi)部數(shù)據(jù)具有高度隱私性,本地化的大模型和算力可在滿足數(shù)據(jù)安全的前提下,提升醫(yī)生和科研人員在藥物研發(fā)階段的效率。在數(shù)字人領(lǐng)域,英麒智能利用酷睿Ultra處理器和OpenVINO深度學(xué)習(xí)套件,打造了低成本、高質(zhì)量的數(shù)字人解決方案,實(shí)現(xiàn)快速精準(zhǔn)的數(shù)字人智能問(wèn)答。據(jù)英麒智能介紹,用戶只需錄制約2分鐘的視頻,通過(guò)10分鐘左右的云端計(jì)算,即可生成專屬數(shù)字人模型,之后便可結(jié)合本地大語(yǔ)言模型離線使用。高宇展示了他在會(huì)前錄制的數(shù)字人模型,其口型同步、手部動(dòng)作等十分生動(dòng),幾乎達(dá)到“以假亂真”的程度。

總的來(lái)說(shuō),在經(jīng)濟(jì)法則中,AI數(shù)據(jù)在本地處理可降低云服務(wù)成本,優(yōu)化經(jīng)濟(jì)性;在物理法則中,AI服務(wù)的及時(shí)性和準(zhǔn)確性要求提升云與端之間的傳輸速度,解決瓶頸;在數(shù)據(jù)保密法則中,需要保證用戶數(shù)據(jù)的安全和隱私,防止濫用和泄露。AI PC三大法則為AI應(yīng)用指明了方向,生成式AI本地化成為必然趨勢(shì)。

03.結(jié)語(yǔ):英特爾商用AI PC打通行業(yè)落地最后一公里

通過(guò)三大AI引擎架構(gòu)升級(jí),英特爾為AI PC應(yīng)用打通了落地最后一公里,基于經(jīng)濟(jì)、物理、數(shù)據(jù)保密三大法則,提供了AI本地化的底層基礎(chǔ)。去年10月,英特爾開(kāi)啟“AI PC加速計(jì)劃”,5個(gè)月以來(lái)已累計(jì)2120個(gè)報(bào)名團(tuán)隊(duì),孕育出1083個(gè)高質(zhì)量的創(chuàng)新AI應(yīng)用。值得一提的是,報(bào)名團(tuán)隊(duì)中超30%都來(lái)自高校大學(xué)生。為了激勵(lì)更多開(kāi)發(fā)者加入,英特爾宣布“AI PC加速計(jì)劃”再添兩項(xiàng)新舉措,新增“AI PC開(kāi)發(fā)者計(jì)劃”,并吸納獨(dú)立硬件供應(yīng)商加入,以加速在2025年前為超過(guò)1億臺(tái)基于英特爾平臺(tái)的PC帶來(lái)AI特性。相信未來(lái),我們會(huì)看到更多本地化AI應(yīng)用,為商用場(chǎng)景帶來(lái)更多新質(zhì)生產(chǎn)力。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
ADV7280BCPZ 1 Analog Devices Inc 10-Bit, 4x Oversampled SDTV Video Decoder with Deinterlacer

ECAD模型

下載ECAD模型
$11.87 查看
TPA2005D1DGNR 1 Texas Instruments 1.4-W, mono analog input class-d speaker amp with 1.8-V logic compatibility on shutdown pin 8-HVSSOP -40 to 85

ECAD模型

下載ECAD模型
$1.32 查看
HUM-900-PRO-CAS 1 Linx Technologies Inc RF TXRX MODULE ISM<1GHZ
$191.48 查看
英特爾

英特爾

英特爾在云計(jì)算、數(shù)據(jù)中心、物聯(lián)網(wǎng)和電腦解決方案方面的創(chuàng)新,為我們所生活的智能互連的數(shù)字世界提供支持。

英特爾在云計(jì)算、數(shù)據(jù)中心、物聯(lián)網(wǎng)和電腦解決方案方面的創(chuàng)新,為我們所生活的智能互連的數(shù)字世界提供支持。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜