文?| 吳坤諺,編輯?|?吳先之
年末的大模型賽道靜悄悄。
既沒有電商領(lǐng)域的drama反轉(zhuǎn),也沒有游戲行業(yè)那般的連續(xù)地震,除了行業(yè)媒體的零星解讀外,相對突破賽道圈層而進(jìn)入大眾視野的消息,還是字節(jié)跳動與百度兩家頭部與海外大模型相互套殼的新聞。
或因大模型在商業(yè)化天平的兩端都未曾誕生足夠引領(lǐng)潮流的產(chǎn)品,即使國內(nèi)“百模大戰(zhàn)”熱鬧了一整年,但預(yù)想中的“iPhone時刻”仍未到來,以致于市場對相關(guān)消息出現(xiàn)了脫敏現(xiàn)象——大模型的推出與后續(xù)的刷榜難以再獲取市場關(guān)注。
在落地成果出現(xiàn)之前,市場進(jìn)入了明顯的冷靜期。但不可否認(rèn)的是,國內(nèi)的創(chuàng)新仍在發(fā)生。過去一年,我們見證了國內(nèi)大模型從無到有再到枝繁葉茂,其中文領(lǐng)域能力持續(xù)爬坡,以及各玩家在商用落地道路上的諸多探索。
說白了,我們踏上這條道路也僅僅一年時間。得與失的討論更應(yīng)該集中在“得”而非“失”之上。
頭部公司帶領(lǐng)的三次轉(zhuǎn)向
亞里士多德提出的第一性原理認(rèn)為,萬事萬物都有一個根基性命題或假設(shè),不能缺省,也不能被違背。以此來淺析當(dāng)下的大模型行業(yè),其數(shù)據(jù)、算力、能力等維度的攀升顯然是題中之義。
因此,領(lǐng)跑中國大模型速度的是頭部科技企業(yè),數(shù)據(jù)與算力儲備為他們踏入新時代風(fēng)口提供了不小的先發(fā)優(yōu)勢。
據(jù)不完全統(tǒng)計,國內(nèi)大模型數(shù)量已達(dá)200以上。共同締造“中國速度”的先行者是百度、阿里、字節(jié)等頭部互聯(lián)網(wǎng)公司。先行者效應(yīng)下,他們的一舉一動也一定程度上牽動行業(yè)的發(fā)展方向。
自百度三月發(fā)布文心一言起,直至年中時期如騰訊、京東、華為等大廠搭上大模型的班車,這段時間可以說是國內(nèi)大模型賽道的混沌期。
所謂混沌,是初生的無序狀態(tài)。平臺類大廠、互聯(lián)網(wǎng)大佬與高校科研團(tuán)三股勢力在ChatGPT3.5的爆點后迅速達(dá)成“生成式AI代表未來”的共識,以搗鼓出自家的大模型為第一要務(wù)。彼時的業(yè)內(nèi)語境中,訓(xùn)練模型被戲稱為“煉丹”,然而煉的什么丹、給誰吃、有什么用以及怎么用,大多都還處于盲目的狀態(tài)。
有人向往AGI的星辰大海,有人希望重塑千行百業(yè),有人僅僅只是炒作拉股價。
這段時期內(nèi),大模型的中文領(lǐng)域能力大部分不及GPT3.5,其價值停留在紙面上,有待發(fā)掘。自用戶層看,“松鼠鱖魚法”與不少開放測試的大模型一直重復(fù)初次回答的糟糕體驗亦是混沌期的小小注腳。
年中,距離開源“英雄”LLaMA為業(yè)界提供了模型結(jié)構(gòu)、訓(xùn)練方法等標(biāo)準(zhǔn)答案已有4個月,夠多個大廠復(fù)用其成果。這進(jìn)一步縮小了國內(nèi)模型能力代差,GPT3.5的里程碑被越來越多的玩家觸及,通用大模型發(fā)展進(jìn)入相對平穩(wěn)的瓶頸期
與此同時,GPU供不應(yīng)求下的算力緊張、大模型廠商的造血內(nèi)需推動將大模型落在實處的清風(fēng)逐漸吹起。
在商業(yè)化落地不明朗,成本、周期難把控等問題下,大干快上通用模型被描繪為春秋筆法。此后兩個月是行業(yè)大模型的集中發(fā)布期。騰訊云的MaaS解決方案、京東產(chǎn)業(yè)大模型與華為盤古大模型為賽道的垂直轉(zhuǎn)向定下基調(diào)。
一時間,金融、工業(yè)、教育等主要產(chǎn)業(yè)的垂直模型如雨后春筍般出現(xiàn)。
在PMF(產(chǎn)品市場匹配)的第一性要求下,主流范式是只取基礎(chǔ)模型的理解能力與少量對話、推理能力“一瓢飲”,調(diào)用大模型時代前的AI模型與數(shù)據(jù)庫獲取結(jié)果,最后再由大模型“組裝結(jié)果”。
這一模式雖相較基礎(chǔ)模型的萬卡規(guī)格相去甚遠(yuǎn),亦一定程度上緩解幻覺問題,但精調(diào)、部署的基本流程下依舊剛需數(shù)百張GPU和不短的時間成本。因而其更像是廠商對大模型落地的迫切與客戶企業(yè)的降本需求“一拍即合”的權(quán)宜之計。
此外,一個值得思考的問題是AI生產(chǎn)力工具,為我們帶來的究竟是降本還是增效?
針對不同發(fā)展階段的企業(yè),AI工具的能力偏向?qū)@著影響接受度和滿意度。通過SFT(精調(diào))行業(yè)大模型的范式以快速落地看,企業(yè)購買大模型能力并未給業(yè)務(wù)帶來本質(zhì)上的增效,而是為既有AI工具和模型配上一個大腦。
換言之,此前的行業(yè)大模型更偏向于降本而非增效,更適用于收縮期的企業(yè),尤其是已建立起AI工具體系的大型企業(yè)。那么行業(yè)大模型相對更易向上滲透,抓住大B而非小B的現(xiàn)狀也就不難理解了。
此后,垂直模型的技術(shù)底座持續(xù)演進(jìn),目前以調(diào)用向量數(shù)據(jù)庫和RAG(檢索增強(qiáng)生成)兩個“外掛”為中心軸,不過這是后話了。
今年9月,大模型管理辦法實施,聚光燈漸漸有從產(chǎn)業(yè)向用戶轉(zhuǎn)移的趨勢。直至以PC為首的消費電子賽道抱上了大模型前進(jìn)的大腿,既是載體也是入口的智能設(shè)備,為大模型在C端的商業(yè)落地找到全新場景。
自脫離混沌期起,國內(nèi)大模型玩家就一同走上了產(chǎn)品化的道路。但總體來看,早在3月末便提出的主線任務(wù)——MaaS還處于未發(fā)力的狀態(tài)。就像早期的行業(yè)大模型一般,賽道向外兜售的只是模型能力,而非模型服務(wù)。
兩字之差,指向大模型未能從技術(shù)價值轉(zhuǎn)換為生態(tài)價值。做個不算恰當(dāng)?shù)谋扔?,在AI高速公路上,各廠商只能象征性地建幾所收費站。
目前基礎(chǔ)模型底座能力無人稱王,大家同臺競技之下無人能站穩(wěn)生態(tài)高位。整體情況導(dǎo)向了兩條2024年的大模型掘金之路——模型服務(wù)創(chuàng)新與應(yīng)用。
大廠創(chuàng)企,機(jī)會均等
逐鹿九州,是大模型廠商試圖沖擊生態(tài)位置的現(xiàn)狀。
只是目前看來,追求模型能力已不是沖擊高位的最優(yōu)解,就像Sam·Altman所言:“擴(kuò)大模型規(guī)模的收益在遞減”。
首當(dāng)其沖的是愈發(fā)緊張的AI算力,據(jù)Omdia統(tǒng)計數(shù)據(jù),今年Q3也就是英偉達(dá)發(fā)布GPU禁令前,騰訊、百度、阿里三家購入100系GPU的數(shù)量分別為50K、40K與25K,三者相加也不及微軟和OpenAI其一。
另一方面,OpenAI雖給出 Scaling Law(模型能力雖訓(xùn)練計算量提升的擴(kuò)展定律)來解釋大模型之“大”,但包括算力、人力、電力等在內(nèi)的成本側(cè)已無法容忍過多資源投入僅為百尺竿頭更進(jìn)一步,這一點基本已是業(yè)內(nèi)共識。
大力不能出奇跡,意味著大廠先發(fā)的算力、規(guī)模等優(yōu)勢正在逐漸消弭。
從AI infra來看,規(guī)模效應(yīng)遞減的根源在于算力緊張與數(shù)據(jù)敝帚自珍。但自技術(shù)層面,更多問題已經(jīng)成為南墻:有毒內(nèi)容與幻覺尚未有解法、AI前沿為商業(yè)公司把持后,開源程度日益遞減等。
參數(shù)量的頂級規(guī)格已經(jīng)停留在萬億量級許久,玩家們開始思考如何通過巧思而非大力來推動AI行業(yè)向前。
一條路徑是“小而美”,曾有傳言稱GPT4是由十?dāng)?shù)個MOE小模型聚合而成,MOE也成為當(dāng)下微軟、谷歌等頭部企業(yè)競逐的新領(lǐng)域。尤其是其和端側(cè)設(shè)備的結(jié)合,新時代AI硬件有著足夠的想象空間。
大模型的軟硬件生態(tài)從結(jié)合到協(xié)同的發(fā)展速度令人咂舌。今年初,大模型語境中的模型訓(xùn)練還是萬卡集群,年末時候,高通驍龍8 Gen3便展現(xiàn)了百億參數(shù)模型的端側(cè)運行能力。國內(nèi)已有OPPO、vivo、小米等手機(jī)廠商推出端側(cè)模型,其服務(wù)與應(yīng)用或?qū)⒂?024年全面爆發(fā)。
另一條路徑是Long Context,模型能力突破艱難的情況下,讓模型底座發(fā)揮作用的慣常范式是SFT,然而訓(xùn)練成本掣肘,長文本的Prompt有可能在向量數(shù)據(jù)庫與檢索增強(qiáng)生成的基礎(chǔ)上徹底消磨精調(diào)的存在。
回首創(chuàng)企,智譜AI、月之暗面、百川智能等創(chuàng)業(yè)獨角獸也攜AgentTuning(智能體增強(qiáng))、Long Context、RAG等獨特的模型服務(wù)創(chuàng)新嶄露頭角。
創(chuàng)業(yè)公司的“破壞性創(chuàng)新”能力早在此前的商業(yè)史上便屢有驗證。由“生成式AI”代表未來這一基本共識發(fā)散開來的不同技術(shù)路線昭示著更多樣化的AI未來圖景。
重塑開發(fā)生態(tài)
OpenAI塑造了2023年AI賽道關(guān)于大模型的共識,追趕的旋律就此開始譜寫。此后的GPT4以及GPT4V的出現(xiàn)更讓人深感大山似乎不可逾越。
但近來發(fā)生的兩件事情,終歸給到國內(nèi)玩家們希望。
先有《The Verge》報道字節(jié)跳動因使用ChatGPT的API以訓(xùn)練自家大模型,因而遭OpenAI予以“封號”處理;后有谷歌最新發(fā)布的Gemini-Pro承認(rèn)在中文領(lǐng)域訓(xùn)練中使用了百度文心一言的數(shù)據(jù)。
不出意外,重復(fù)造輪子的基礎(chǔ)模型之爭于此踩了一下剎車,而數(shù)據(jù)集的價值再次被放大。隨著推特、Reddit 等移動平臺關(guān)閉免費的API接入點,在不遠(yuǎn)的未來,或許通過數(shù)據(jù)采集器搜集平臺數(shù)據(jù)用于AI訓(xùn)練的 Pretrain 模式將徹底成為歷史。
進(jìn)一步說,字節(jié)套殼GPT亦或是谷歌套殼文心一言,本質(zhì)上是模型架構(gòu)的趨同與數(shù)據(jù)價值的躍升。那么中文高質(zhì)量數(shù)據(jù)實際上也是國內(nèi)大模型的護(hù)城河。
在此基礎(chǔ)上,我們更不需要擔(dān)心模型層會落后于海外過多。反而是在應(yīng)用層面,百花齊放才是AI時代應(yīng)有的面貌。如此來看,李彥宏一直反復(fù)嘮叨,“我們不需要這么多基礎(chǔ)大模型,我們需要更多應(yīng)用”的說法有其合理性。
應(yīng)用本身是商業(yè)化落地的終極載體之一,更重要的是應(yīng)用的開發(fā)過程——率先構(gòu)筑完善AI Native應(yīng)用開發(fā)生態(tài)的基礎(chǔ)模型廠商將搶占生態(tài)價值的高位,推動自家大模型的價值從技術(shù)價值轉(zhuǎn)為生態(tài)價值。
典型的案例便是蘋果稅,或是手游行業(yè)眾所周知的安卓渠道商。只是移動生態(tài)早已固化,遠(yuǎn)非當(dāng)下“百模大戰(zhàn)”的混亂可比。
如果我們沿用上文的比喻,當(dāng)下大模型廠商加碼模型能力,試圖做AI高速公路收費站,或許現(xiàn)在更需要的是收費站中間的服務(wù)站。完善的應(yīng)用開發(fā)工具鏈所構(gòu)筑的開發(fā)生態(tài)能極快加速爆款應(yīng)用的出現(xiàn)時間。
12月20日,百度副總裁侯震宇將AI原生應(yīng)用開發(fā)新范式定義為AI Native 應(yīng)用生態(tài)的關(guān)鍵組件之一,百度亦再次迭代應(yīng)用開發(fā)工具鏈并推出了AppBuilder,正如文心一言發(fā)布時一般搶先了一個身位。
可以預(yù)見的是,我們也將很快看到除百度外的玩家通過新場景、新系統(tǒng)共同打造新的開發(fā)生態(tài)。
即使AI應(yīng)用開發(fā)生態(tài)的必然性前置會讓應(yīng)用爆發(fā)的時間節(jié)點稍為后置,但考慮到今年大模型的“中國速度”,2024年基本可以確定是AI應(yīng)用噴涌之年。
目前來看,國內(nèi)AI社交、AI游戲的發(fā)展已初具規(guī)模,更多賽道正在接受AI的改造,重塑應(yīng)用的生產(chǎn)力與生命力。AI加入后是否會變更賽道既往的商業(yè)模式,是產(chǎn)品經(jīng)理迫切需要解決的Konw How 。
我們確定,2023年的結(jié)束并非大模型周期的結(jié)束?;蛟S我們?nèi)詴镚PT等海外大模型的能力提升而感到壓力,但我們也能還之以應(yīng)用層的創(chuàng)新。而不再時刻盯著OpenAI的中國大模型,也將真正走出屬于自己的道路。