1090
作者 |??程茜，編輯?|??漠影
一手算力，一手生態(tài)，聯(lián)發(fā)科已率先布局端側(cè)生成式AI。
生成式AI席卷消費級市場，移動生態(tài)迎來新機(jī)遇，生成式AI正重構(gòu)智能手機(jī)。
智東西5月16日報道，上周，在聯(lián)發(fā)科天璣開發(fā)者大會（MDDC）上，聯(lián)發(fā)科聯(lián)動百川智能、vivo、OPPO、小米、moto面向全球開發(fā)者，共啟“天璣AI先鋒計劃”，并發(fā)布了生成式AI端側(cè)部署的解決方案、天璣9300+旗艦5G生成式AI移動芯片，為生成式AI在端側(cè)加速落地添了一把旺火?？梢钥闯?，智能手機(jī)已被深度卷入生成式AI浪潮，站上全球手機(jī)芯片出貨量第一的聯(lián)發(fā)科已然走在這一產(chǎn)業(yè)變革的前列。
同期，聯(lián)發(fā)科與全球市場調(diào)研機(jī)構(gòu)Counterpoint攜手阿里云通義千問、百川大模型、虎牙、酷狗、vivo等生態(tài)伙伴聯(lián)合發(fā)布的《生成式AI手機(jī)產(chǎn)業(yè)白皮書》（以下簡稱《白皮書》）提到，生成式AI手機(jī)將在未來幾年保持高速成長，存量規(guī)模將在2027年突破10億大關(guān)。
面對端側(cè)生成式AI落地?zé)岢?，智能手機(jī)的核心優(yōu)勢是什么？芯片玩家在其中扮演了什么樣的重要角色？頭部芯片玩家聯(lián)發(fā)科在生成式AI手機(jī)的飛速發(fā)展中將產(chǎn)生什么影響？帶著這些問題，從生成式AI與智能手機(jī)的結(jié)合、聯(lián)發(fā)科的AI布局出發(fā)，本文將剖析聯(lián)發(fā)科如何為生成式AI手機(jī)發(fā)展注入新活力，構(gòu)建天璣移動生態(tài)，并引領(lǐng)新一輪的終端創(chuàng)新周期。
01.AI手機(jī)熱潮下，尋找芯片廠商的“新角色”
生成式AI正向消費級市場普及，AI手機(jī)已經(jīng)成為其中的典型代表。這與智能手機(jī)與生成式AI相結(jié)合的天然優(yōu)勢有關(guān)。
首先手機(jī)擁有最多最強(qiáng)的端側(cè)能力。聯(lián)發(fā)科技董事、總經(jīng)理暨營運長陳冠州談道，根據(jù)估算，2027年，全球智能手機(jī)端側(cè)整體AI算力會達(dá)到50000 EOPS以上。端側(cè)算力的優(yōu)勢在于用戶使用AI應(yīng)用可不受網(wǎng)絡(luò)限制、數(shù)據(jù)無需上傳云端可保證隱私安全、可高效率運行較小規(guī)模的AI應(yīng)用。
其次，手機(jī)有最大的用戶規(guī)模和靈活度。智能手機(jī)在全世界有接近50億人的用戶體量，其黏稠度、使用范圍都更高，使得智能手機(jī)成為AI普及最天然的載體。最后為手機(jī)擁有完整的應(yīng)用生態(tài)，目前手機(jī)上的APP高達(dá)893萬個，與用戶的衣食住行、辦公等諸多場景。要創(chuàng)造新的生成式AI生態(tài)鏈，最好的方法應(yīng)該是在既有基礎(chǔ)上做升級，將這893萬個APP與AI能力做到無縫串聯(lián)。這決定了智能手機(jī)在生成式AI時代正迸發(fā)出新的生命力。那么，生成式AI手機(jī)到底是什么？《白皮書》給出了明確的定義，生成式AI手機(jī)是利用大規(guī)模、預(yù)訓(xùn)練的生成式AI模型，實現(xiàn)多模態(tài)內(nèi)容生成、情境感知，并具備不斷增強(qiáng)的類人能力。
未來，伴隨用戶與AI大語言模型的實時交互與反饋，生成式AI手機(jī)將重塑操作系統(tǒng)底層和形態(tài)，成為讓用戶暢享豐富生成式AI應(yīng)用和體驗的移動智能體。
具體拆解來看，第一就是支持大模型的本地部署，通過云端協(xié)同的方式執(zhí)行復(fù)雜的生成式AI任務(wù)。生成式AI手機(jī)本身就具備強(qiáng)大的AI算力，無須完全依賴云端服務(wù)器。第二為具備多模態(tài)能力，可以處理文本、圖像、語音等多種形式的內(nèi)容輸入，以生成各種形式的輸出。第三為設(shè)備能夠以自然而直觀的交互方式，快速響應(yīng)用戶的請求。第四是擁有實現(xiàn)上述特征的硬件規(guī)格，包括但不限于基于領(lǐng)先工藝和先進(jìn)架構(gòu)設(shè)計的移動計算平臺，擁有集成或者獨立的神經(jīng)網(wǎng)絡(luò)運算單元（如APU/NPU/TPU）等。
由此看出，生成式AI的諸多特性背后繞不開手機(jī)、大模型、芯片玩家這三者，其中的芯片玩家也成為大模型在端側(cè)部署落地的重要支撐。
一方面，對于大模型玩家而言，想要直接將云端訓(xùn)練好的模型放到手機(jī)端，往往會面臨運行效率不夠快、內(nèi)存占用過高兩大痛點，并且還需考慮如何讓模型在端側(cè)運行更為高效、速度更快、部署更容易，突破這些痛點的底層關(guān)鍵變量之一就是芯片的性能。
另一方面，手機(jī)廠商關(guān)注的是大模型有沒有在終端之上的新服務(wù)、新應(yīng)用，這些與模型玩家合作誕生的新應(yīng)用最終都會體現(xiàn)在芯片能力之上。因此，端側(cè)芯片的AI性能在端側(cè)生成式AI的競爭格局中尤為關(guān)鍵。聯(lián)發(fā)科技無線通信事業(yè)部生態(tài)發(fā)展資深總監(jiān)章立談道，以聯(lián)發(fā)科為例，他們正在為大模型打造生態(tài)土壤，提供好的硬件平臺、開發(fā)者工具，讓大模型在此之上順利落地。
開發(fā)者、芯片廠商、手機(jī)廠商三者的最大共同點就是，都正在為這一擁有無限潛力的AI市場做充分的準(zhǔn)備。值得注意的是，芯片與大模型的發(fā)展可謂形影相伴。2017年，孕育今年大模型盛景的Transformer論文神作發(fā)布，同年，芯片設(shè)計公司已經(jīng)開始商用SoC中加入獨立神經(jīng)網(wǎng)絡(luò)運算單元，如今聯(lián)發(fā)科、高通均已發(fā)布多款支持多模態(tài)大模型端側(cè)部署的移動計算平臺。時至今日，移動芯片玩家已經(jīng)在AI領(lǐng)域積淀了豐富經(jīng)驗，為生成式AI手機(jī)的大規(guī)模商用鋪平了道路。
02.聯(lián)發(fā)科搶先布局端側(cè)AI領(lǐng)域AI已成芯片基因
不置可否，2023年Q4拿下全球出貨量份額第一的聯(lián)發(fā)科已經(jīng)成為其中的重要玩家，實際上，根據(jù)市場調(diào)研機(jī)構(gòu)Counterpoint公布的數(shù)據(jù)，聯(lián)發(fā)科手機(jī)芯片出貨量全球第一已持續(xù)三年有余，擁有非?？捎^的邊緣AI設(shè)備基礎(chǔ)。聯(lián)發(fā)科在AI領(lǐng)域的優(yōu)勢已逐漸凸顯，這得益于其長達(dá)7年的積累與布局。
聯(lián)發(fā)科技無線通信事業(yè)部副總經(jīng)理李彥輯透露，聯(lián)發(fā)科對于AI的投入始于2017年，與Transformer架構(gòu)提出同期，并是首個將擁有AI能力的硬件處理器搭載于芯片上的玩家。
事實上，聯(lián)發(fā)科對于AI的思考更早，他補(bǔ)充說，2015、16年，AlphaGo戰(zhàn)勝頂尖棋手，讓人驚覺新的AI科技洪流已來，聯(lián)發(fā)科就開始思考端側(cè)是否有能力搭上這一波技術(shù)浪潮。在他們看來，Transformer架構(gòu)出現(xiàn)意味著AI發(fā)展的分水嶺到來，因此，在持續(xù)投入傳統(tǒng)計算光學(xué)所需的分析式AI之外，他們開始布局新的算法、算子以應(yīng)對未來可能出現(xiàn)的新AI應(yīng)用。這有一個背景是，當(dāng)時這些對于AI發(fā)展的期待都處于未知狀態(tài)，聯(lián)發(fā)科憑借開放式的心態(tài)入局，并始終堅定對AI技術(shù)的投入和決心。事實證明，其當(dāng)年對于行業(yè)技術(shù)發(fā)展趨勢的判斷以及AI技術(shù)投入的積累是正確的。
如今，為了推動生成式AI在端側(cè)落地，聯(lián)發(fā)科已經(jīng)率先發(fā)布了一系列旗艦、次旗艦產(chǎn)品。天璣9300已搶先支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川大模型、阿里云通義千問、vivo藍(lán)心大模型BlueLM、OPPO AndesGPT等諸多全球先進(jìn)的AI大模型。此外，聯(lián)發(fā)科還將生成式AI能力引入天璣8000系列，成為同級產(chǎn)品中率先支持生成式AI的芯片，天璣8300最高可支持端側(cè)運行100億參數(shù)規(guī)模AI大語言模型。面向未來，李彥輯也十分堅定，聯(lián)發(fā)科在芯片的能力布局上不會放慢，將持續(xù)在旗艦、次旗艦上推出新的產(chǎn)品。早已融入聯(lián)發(fā)科研發(fā)基因的AI，正在生成式AI新時代展現(xiàn)出旺盛的生命力。
03.算力支撐+生態(tài)建設(shè)筑起端側(cè)生成式AI堅實底座
去年開始，生成式AI在手機(jī)端的應(yīng)用已經(jīng)開始展露頭腳，李彥輯認(rèn)為，今年生成式AI在手機(jī)端的落地將從萌芽走向起飛階段。作為重要的芯片玩家，聯(lián)發(fā)科在其中既是重要的算力提供方，又是連接各路玩家的生態(tài)建設(shè)者。如今，其芯片布局開始加速。聯(lián)發(fā)科最新發(fā)布的天璣9300+旗艦5G生成式AI移動芯片，延續(xù)全大核架構(gòu)設(shè)計，八核CPU包含4個Cortex-X4超大核，最高頻率可達(dá)3.4GHz，還有4個主頻為2.0GHz的Cortex-A720大核，在保證卓越性能的同時，功耗大幅降低。天璣9300+內(nèi)置了生成式AI引擎APU 790，率先在端側(cè)支持AI推測解碼加速技術(shù)，性能提升達(dá)10%，同時支持端側(cè)雙LoRA融合的天璣AI LoRA Fusion 2.0技術(shù)、AI框架ExecuTorch，能夠在端側(cè)為用戶提供更加個性化的AI體驗。目前，天璣9300+已支持阿里云通義千問大模型、百川智能百川大模型、百度文心大模型、谷歌Gemini Nano、零一萬物終端大模型、Meta Llama 2和Llama 3等前沿主流大模型。這也是業(yè)界首款實現(xiàn)更高速Llama 2 7B端側(cè)運行的芯片，李彥輯透露，Llama 2 7B運行速度可以達(dá)到22 tokens/秒。
在生成式AI手機(jī)浪潮下，一方面，聯(lián)發(fā)科要做好“本職工作”，也就是為端側(cè)設(shè)備提供強(qiáng)大的算力；另一方面，正如前文所述，手機(jī)、模型、芯片玩家缺一不可，一個健康、高效的生態(tài)系統(tǒng)也至關(guān)重要，能力越大責(zé)任越大。為此，聯(lián)發(fā)科聯(lián)合阿里云、百川智能、傳音、零一萬物、OPPO、榮耀、vivo、小米啟動了“天璣AI先鋒計劃”，面向全球開發(fā)者，整合聯(lián)發(fā)科與產(chǎn)業(yè)生態(tài)伙伴資源的同時，為開發(fā)者提供開發(fā)資源、技術(shù)支持和商業(yè)機(jī)會。
面對端側(cè)生成式AI的三大關(guān)鍵環(huán)節(jié)，聯(lián)發(fā)科提出了涵蓋芯片、模型、應(yīng)用的天璣AI生態(tài)戰(zhàn)略，為這一產(chǎn)業(yè)的發(fā)展筑起堅實的軟硬件技術(shù)底座。在應(yīng)用領(lǐng)域，聯(lián)發(fā)科的“天璣AI開發(fā)套件”集開發(fā)、應(yīng)用技術(shù)之大成，其包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優(yōu)化技術(shù)和Neuron Studio一站式視覺化開發(fā)環(huán)境等四大模塊，展現(xiàn)了其“快、全、強(qiáng)、易”的四大能力。
其中，GenAI最佳實踐通過模型量化、模型編譯和模型推理技術(shù)可以將大模型的終端部署時間從數(shù)周加速到一天。GenAI Model Hub適配了Llama系列等諸多主流大模型。天璣AI開發(fā)套件還支持推測解碼加速、LoRA Fusion等先進(jìn)的GenAI優(yōu)化技術(shù)；Neuron Studio集成開發(fā)環(huán)境為開發(fā)者提供了一站式可視化的開發(fā)環(huán)境。章立談道，對于開發(fā)者而言其最關(guān)注的是芯片本身的能力以及解決方案和服務(wù)能力。天璣AI開發(fā)套件就是一大解法，他補(bǔ)充說，這些開發(fā)者套件是聯(lián)發(fā)科長期與開發(fā)者交流過程中，基于其核心需求從而研制的開發(fā)者工具。除了AI，聯(lián)發(fā)科在游戲領(lǐng)域的技術(shù)優(yōu)勢也實現(xiàn)了全面升級。借助自適應(yīng)技術(shù)軟件開發(fā)套件和硬件光線追蹤技術(shù)，星速引擎可以通過精準(zhǔn)的性能管理、光線追蹤效果優(yōu)化、網(wǎng)絡(luò)質(zhì)量監(jiān)測等關(guān)鍵技術(shù)，使得開發(fā)者打造畫面更逼真、流暢，觸控和網(wǎng)絡(luò)響應(yīng)速度更快，續(xù)航更持久的體驗。
聯(lián)發(fā)科作為端側(cè)生成式AI落地的先鋒，正將多年來的AI布局與積累轉(zhuǎn)變?yōu)槎藗?cè)生成式AI新生態(tài)發(fā)展的原動力。
04.結(jié)語：每年賦能20億智能終端聯(lián)發(fā)科加速端側(cè)生成式AI變革
聯(lián)發(fā)科在端側(cè)生成式AI領(lǐng)域的一系列布局，無不顯示出其對于加速這一產(chǎn)業(yè)變革的決心與信心。正如聯(lián)發(fā)科技董事、總經(jīng)理暨營運長陳冠州所言，生成式AI徹底革新了終端應(yīng)用的使用價值，智能終端是生成式AI普及的關(guān)鍵載體。2024年生成式AI普及到端側(cè)設(shè)備上的潛力正在被放大，目前，智能手機(jī)正在作為一個起點，撬動端側(cè)生成式AI的變革。
在這背后，聯(lián)發(fā)科憑借其每年賦能20億智能終端設(shè)備的經(jīng)驗，為生成式AI在端側(cè)的人機(jī)交互、生產(chǎn)力、娛樂體驗等方面帶來革新，以生成式AI手機(jī)為切入點，全方位重塑端側(cè)市場的用戶體驗。面向未來，端側(cè)將成為生成式AI大規(guī)模應(yīng)用落地的重要載體，聯(lián)發(fā)科與生態(tài)合作伙伴的聯(lián)手正在加速這一進(jìn)程。
下載ECAD模型
