761
編譯 |??汪越，編輯?|??Panken
GPT進(jìn)展放緩，OpenAI撞上數(shù)據(jù)墻，努力尋找出路。
智東西11月11日消息，據(jù)The Information報(bào)道，OpenAI的GPT系列模型改進(jìn)速度放緩，公司正調(diào)整策略以應(yīng)對(duì)這一挑戰(zhàn)。據(jù)OpenAI員工透露，下一代旗艦?zāi)Ｐ蚈rion已完成約20%的訓(xùn)練。Orion在語(yǔ)言任務(wù)上表現(xiàn)出色，但在編碼等方面未超越GPT-4，且運(yùn)行成本偏高，提升幅度低于預(yù)期。此外，Orion在明年年初發(fā)布時(shí)，可能不會(huì)沿用傳統(tǒng)的“GPT”命名規(guī)則，而是采用新的命名方式。
Orion的開(kāi)發(fā)暴露了高質(zhì)量文本數(shù)據(jù)短缺的問(wèn)題。根據(jù)Scaling Law理論，模型性能應(yīng)隨數(shù)據(jù)量和算力的增加而提升。但高質(zhì)量數(shù)據(jù)的有限性已使Orion的訓(xùn)練效果受限，令Scaling Law的適用性受到質(zhì)疑。即便投入更多數(shù)據(jù)和算力，模型的提升速度也可能不再如前幾代那樣顯著。
為此，OpenAI成立了一個(gè)專(zhuān)門(mén)團(tuán)隊(duì)，研究如何克服數(shù)據(jù)短缺的挑戰(zhàn)，評(píng)估Scaling Law還能適用多久。
01.撞上數(shù)據(jù)墻，Orion在某些方面神似舊模型
據(jù)OpenAI員工透露，GPT改進(jìn)速度放緩的重要原因是高質(zhì)量文本和其他數(shù)據(jù)的短缺。大語(yǔ)言模型（LLM）的預(yù)訓(xùn)練需要大量數(shù)據(jù)來(lái)建立模型對(duì)世界和概念的理解，確保其能完成寫(xiě)作或編程等任務(wù)。然而，隨著現(xiàn)有數(shù)據(jù)源日益被充分利用，模型提升正面臨瓶頸。
為解決數(shù)據(jù)不足的問(wèn)題，OpenAI已組建由前預(yù)訓(xùn)練負(fù)責(zé)人尼克·萊德（Nick Ryder）領(lǐng)導(dǎo)的團(tuán)隊(duì)，致力于探索如何克服數(shù)據(jù)短缺以及Scaling Law在未來(lái)的適用性。Orion模型的部分訓(xùn)練數(shù)據(jù)源于AI生成的數(shù)據(jù)，即由GPT-4等舊模型生成的合成數(shù)據(jù)。然而，這種方式可能導(dǎo)致Orion在某些方面呈現(xiàn)出舊模型的特征。OpenAI正通過(guò)其他方法優(yōu)化LLM處理任務(wù)的能力，例如要求模型從大量數(shù)學(xué)或編程問(wèn)題樣本中學(xué)習(xí)，并通過(guò)強(qiáng)化學(xué)習(xí)提升解題效率。此外，人工評(píng)估員還會(huì)對(duì)模型的編碼和問(wèn)題解決表現(xiàn)進(jìn)行評(píng)分，這種基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)為模型優(yōu)化帶來(lái)重要支持。今年9月，OpenAI推出了推理模型o1。與傳統(tǒng)模型不同，o1在回答前“思考”時(shí)間更長(zhǎng)，通過(guò)增加計(jì)算資源提升響應(yīng)質(zhì)量，顯示出“測(cè)試時(shí)計(jì)算”（Test-Time Compute）的效果。雖然o1的運(yùn)行成本是普通模型的六倍，并且該模型的客戶群較為有限，但阿爾特曼認(rèn)為它將為科學(xué)研究和復(fù)雜代碼生成等領(lǐng)域帶來(lái)突破。
02.LLM發(fā)展平臺(tái)期，投資基礎(chǔ)設(shè)施效果存疑
據(jù)The Information報(bào)道，Meta CEO馬克·扎克伯格（Mark Zuckerberg）、阿爾特曼以及其他AI開(kāi)發(fā)公司的首席執(zhí)行官均公開(kāi)講過(guò)，當(dāng)前的技術(shù)仍未達(dá)到Scaling Law所設(shè)定的極限。這或許是包括OpenAI在內(nèi)的公司，仍在投入數(shù)十億美元建設(shè)大型數(shù)據(jù)中心的原因之一，以進(jìn)一步提升預(yù)訓(xùn)練模型的性能。
然而，OpenAI研究員諾姆·布朗（Noam Brown）在上個(gè)月的TEDAI會(huì)議上分享說(shuō)，開(kāi)發(fā)更先進(jìn)的模型可能在財(cái)務(wù)上變得不可持續(xù)。布朗提出質(zhì)疑：我們真的要花費(fèi)數(shù)千億美元甚至更多來(lái)訓(xùn)練新的模型嗎？擴(kuò)展的模式終究會(huì)達(dá)到瓶頸。
OpenAI仍在對(duì)其下一代模型Orion進(jìn)行長(zhǎng)時(shí)間的安全性測(cè)試。據(jù)公司員工透露，Orion在明年年初發(fā)布時(shí)，可能不會(huì)沿用傳統(tǒng)的“GPT”命名規(guī)則，而是采用新的命名方式。OpenAI官方對(duì)此并未做出評(píng)論。
一些已經(jīng)向AI開(kāi)發(fā)商投資了數(shù)千萬(wàn)美元的投資者們，也對(duì)LLM是否已經(jīng)開(kāi)始趨于穩(wěn)定表示擔(dān)憂。
本·霍洛維茨（Ben Horowitz）是OpenAI的股東之一，同時(shí)還投資了Mistral和Safe Superintelligence等競(jìng)爭(zhēng)對(duì)手。他曾談道，OpenAI一直在增加訓(xùn)練AI所需的GPU數(shù)量，但似乎并未獲得預(yù)期的智能改進(jìn)。不過(guò)，他并未進(jìn)一步詳細(xì)說(shuō)明?；袈寰S茨的同事馬克·安德森（Marc Andreessen）談道，許多聰明的研究人員正在努力突破技術(shù)瓶頸，嘗試提高推理能力。
企業(yè)軟件供應(yīng)商Databricks的聯(lián)合創(chuàng)始人兼董事長(zhǎng)Ion Stoica談道，LLM在某些方面可能已經(jīng)進(jìn)入瓶頸期，但在其他方面仍在持續(xù)進(jìn)步。Stoica說(shuō)，他們的平臺(tái)允許應(yīng)用程序開(kāi)發(fā)者評(píng)估不同的LLM，并且發(fā)現(xiàn)雖然AI在編碼和解決復(fù)雜的多步驟問(wèn)題上持續(xù)改進(jìn)，但在執(zhí)行一些通用任務(wù)（如分析文本情緒或描述醫(yī)療癥狀）時(shí)，能力似乎有所放緩。
Stoica還說(shuō)，在常識(shí)性問(wèn)題上，LLM的表現(xiàn)可能已經(jīng)接近極限。為了進(jìn)一步提升模型的能力，公司需要更多的事實(shí)數(shù)據(jù)，而合成數(shù)據(jù)的幫助則有限。
03.結(jié)語(yǔ)：強(qiáng)化學(xué)習(xí)提升模型表現(xiàn)，持續(xù)投資保持競(jìng)爭(zhēng)力
OpenAI正通過(guò)多方策略應(yīng)對(duì)當(dāng)前的技術(shù)瓶頸，尤其是在LLM面臨的高質(zhì)量數(shù)據(jù)短缺和性能提升困境。為了克服這些挑戰(zhàn)，OpenAI不僅通過(guò)強(qiáng)化學(xué)習(xí)提升模型在數(shù)學(xué)和編程等特定任務(wù)中的表現(xiàn)，還依賴(lài)于AI數(shù)據(jù)平臺(tái)Scale AI和LLM訓(xùn)練商Turing等初創(chuàng)公司來(lái)管理大量外包承包商，以支持訓(xùn)練過(guò)程。
雖然當(dāng)前AI基礎(chǔ)設(shè)施的投資回報(bào)尚不明顯，且在LLM訓(xùn)練過(guò)程中面臨巨大的財(cái)務(wù)壓力與技術(shù)挑戰(zhàn)，但市場(chǎng)競(jìng)爭(zhēng)與投資熱情尚未減退，競(jìng)爭(zhēng)者們?cè)诔掷m(xù)下注。比如，馬斯克旗下的大模型獨(dú)角獸xAI和X平臺(tái)及英偉達(dá)合作，已建成了10萬(wàn)片H100 GPU的強(qiáng)大集群；Meta投入了400億打造類(lèi)似規(guī)模的GPU集群，以支持Llama 4模型的訓(xùn)練；蘋(píng)果也在積極推進(jìn)與富士康的合作，提升自家設(shè)備的AI算力。
來(lái)源：The Information
（本文系網(wǎng)易新聞?網(wǎng)易號(hào)特色內(nèi)容激勵(lì)計(jì)劃簽約賬號(hào)【智東西】原創(chuàng)內(nèi)容，未經(jīng)賬號(hào)授權(quán)，禁止隨意轉(zhuǎn)載。）
