加入星計劃,您可以享受以下權(quán)益:

  • 創(chuàng)作內(nèi)容快速變現(xiàn)
  • 行業(yè)影響力擴散
  • 作品版權(quán)保護
  • 300W+ 專業(yè)用戶
  • 1.5W+ 優(yōu)質(zhì)創(chuàng)作者
  • 5000+ 長期合作伙伴
立即加入
  • 正文
    • 千億參數(shù)通義千問2.0來了
    • 阿里云大模型應用秘籍公開
    • “打造AI時代最開放的大模型平臺”
  • 推薦器件
  • 相關(guān)推薦
  • 電子產(chǎn)業(yè)圖譜
申請入駐 產(chǎn)業(yè)圖譜

5分鐘搞出大模型應用!阿里云通義“全家桶”來了,從基礎(chǔ)設(shè)施到應用平臺全棧技術(shù)UP

2023/11/01
1907
閱讀需 13 分鐘
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

魚羊 衡宇 發(fā)自 凹非寺,量子位 | 公眾號 QbitAI

剛剛,阿里云搬出通義大模型“全家桶”炸場了!

就在今天的云棲大會上,不僅通義千問升級至千億級參數(shù)2.0版本,在10個權(quán)威評測中,綜合性能超越GPT3.5、加速追趕GPT-4,可以通過通義千問APP體驗,阿里云還把打造大模型應用的“秘籍”也給公開了。

現(xiàn)在,只需給出問題,基于阿里云通義代碼大模型打造的智能編碼助手“通義靈碼”,就會自動編寫代碼。

比如,跟它說“幫我用Python寫一個飛機游戲”,短短幾秒,它就能迅速吐出100+行代碼,替換參數(shù)直接用:

開發(fā)一個大模型應用,最快也只需5分鐘就能搞定:

大會現(xiàn)場,阿里云CTO周靖人還透露,這波全家桶背后,阿里云將底層算力到AI平臺再到模型服務全棧升級:

已經(jīng)初步建成AI時代全棧的云計算體系。

目前,中國有一半大模型企業(yè)跑在阿里云上,280萬AI開發(fā)者活躍在阿里云魔搭社區(qū)上。

總之,信息量爆炸,咱們一項一項拆解來看。

千億參數(shù)通義千問2.0來了

先來看通義千問2.0。

這是上個月底,阿里云開源通義千問140億參數(shù)版本的Qwen-14B及其對話模型Qwen-14B-Chat后的最新動作。

2.0版本的通義千問有了更龐大的參數(shù),達到千億級參數(shù)規(guī)模,也“利用了更先進的對齊技術(shù)”,得到的成績是在10個權(quán)威測評中,全面超越GPT-3.5和LLaMA-2,也大有迎頭追趕GTP-4的架勢。

不僅是官網(wǎng)全面更新,多模態(tài)和插件都來了。

而且就在昨天,各個安卓應用市場已經(jīng)上線了通義千問APP,大家玩兒起來更方便(iOS區(qū)小伙伴們再忍忍,聽說快了)。

我們也第一時間上手試玩了一番,看看2.0到底有怎樣的能力躍升。

我們直接來一道中文十級理解選擇題(手動狗頭)。

列出6個看起來長得很像的詞組,看看通義千問能不能從中找出不同:

一次成功!

通義千問2.0很果斷地發(fā)現(xiàn)了B選項中兩個詞組表達的不是同一個意思。

抱著“打起來”的心態(tài),這個問題我們也丟給了ChatGPT(GPT-4)。

GPT-4發(fā)現(xiàn)了新的華點,但不知道為什么繞過了B選項,只指出了C選項的問題。

云棲大會現(xiàn)場,阿里云官方提到,“通用數(shù)學能力”的進步是通義千問2.0的一大亮點。

那我們也不客氣了:杰森往池塘水面上的扔一塊石頭。石頭在池塘表面反彈三下。如果第二次彈跳是第一次彈跳距離的一半,第三次彈跳是第二次彈跳距離的四分之一,彈跳之間的總距離是65英寸,那么巖石在第一次彈跳時移動了多少英寸?

這道題曾被知乎網(wǎng)友用來遍問中外大模型,結(jié)果Claude和NewBing紛紛翻車。

通義千問2.0這次經(jīng)受住了考驗,給出的過程簡練,答案也沒有問題:

記憶能力與理解能力并駕齊驅(qū),是大模型理解意圖的重要“考點”。

Let’s開啟一些多輪對話大戰(zhàn),測測通義千問2.0能不能記住對話中的前言后語。

通義千問2.0很快搞出了一個密室探秘劇情,還給自己編出的懸疑故事起了個名字,叫做《密室之謎》。

但這不夠——我們提出新的要求,在故事里加個新的角色,女孩肉絲(Rose)。

可以看到,通義千問2.0沒有忘記原本的故事設(shè)定,還不是直接在段落中強行硬加,而是更改了部分劇情設(shè)定,來讓肉絲的出現(xiàn)更加自然:

整體來看,在復雜指令理解、文學創(chuàng)作能力、通用數(shù)學能力、知識記憶等方面,通義千問2.0確實實力大增,正面對上ChatGPT也并不遜色。

但通義大模型“全家桶”,還不止如此。

與通義千問2.0版本一同登場的,還有8個行業(yè)大模型,分別覆蓋金融、醫(yī)療、法律、編程、個性化創(chuàng)作等等領(lǐng)域。

行業(yè)大模型的主要特點,就是更容易在業(yè)務場景中被集成。

以通義靈碼為例,它就是給阿里云通義大模型投喂海量優(yōu)秀開源代碼數(shù)據(jù)集和編程教科書后,調(diào)教出的智能編碼助手。

話不多說,依然是實測走起。

題目是日常運維工作中的一個常見需求:寫一個把/var/log中所有的日志文件打包并且上傳到oss的Python腳本。

一開始,通義靈碼雖然把代碼生成出來了,但漏掉了“打包”這個要求。不過在我們指出它的問題之后,它馬上把代碼修正了。

這波啊,是通義千問2.0打底,一籮筐大模型紛紛在云棲大會上秀出自己的肌肉了。

而在行業(yè)大模型發(fā)布背后,更關(guān)鍵的是,這次阿里云還把大模型應用落地的“秘籍”也公布了出來。

阿里云大模型應用秘籍公開

現(xiàn)在,越來越多行業(yè)觀點認為,大模型競爭正在進入下一階段,主戰(zhàn)場正在由模型層轉(zhuǎn)向應用層。

為此,在基礎(chǔ)模型之外,阿里云此番另一項值得關(guān)注的發(fā)布,便是一站式大模型應用開發(fā)平臺——阿里云百煉。

基于百煉,開發(fā)者可在5分鐘內(nèi)開發(fā)一款大模型應用,幾小時即可“煉”出一個企業(yè)專屬模型,開發(fā)者可把更多精力專注于應用創(chuàng)新。

模型方面,阿里云百煉集成了國內(nèi)主流優(yōu)質(zhì)大模型,既有阿里云自研的通義系列大模型,也有Llama2、Baichuan、ChatGLM、姜子牙等第三方模型。另外,也支持用戶上傳自行訓練的模型。

有意思的是,百煉還提供了一個模型選型的參考榜單,綜合能力、推理能力、語言能力等等維度哪家模型更具優(yōu)勢,一下就能整明白。

功能方面,百煉主要面向兩重需求:

針對需要訓練專屬模型的用戶,百煉提供從數(shù)據(jù)處理,到微調(diào)訓練,再到模型評估部署的一站式服務。支持SFT、LoRA等多種微調(diào)方式,所有訓練信息均能可視化顯示,訓練完成后還支持模型一鍵部署和能力測評。

針對需要開發(fā)大模型應用的用戶,百煉支持將大模型與實際業(yè)務系統(tǒng)結(jié)合構(gòu)建Agent,提供靈活的應用集成能力。比如,插件中心提供了官方系統(tǒng)插件和用戶自定義插件,可以根據(jù)實際業(yè)務需要以插件的形式增強大模型的交互能力。

值得一提的是,在阿里云百煉上,還有一個“應用廣場”,提供了豐富的預置應用模板。

我們試著用“商品推廣文案生成”這個模板,簡單創(chuàng)建了一個生成小紅書種草文案的應用,效果是醬嬸的:

另外,在安全方面,阿里云為所有模型提供基礎(chǔ)安全套件。即,用戶無需任何操作,就能將安全能力集成和部署到自行開發(fā)的模型和應用程序中。

目前,央視網(wǎng)、朗新科技、亞信科技等早期用戶已在阿里云百煉上開發(fā)了專屬模型和應用。

朗新科技在云上訓練出電力專屬大模型,開發(fā)“電力賬單解讀智能助手”“電力行業(yè)政策解析/數(shù)據(jù)分析助手”,為客戶接待提效50%、降低投訴70%。

央視網(wǎng)則調(diào)教出了一個媒體行業(yè)大模型,提供內(nèi)容創(chuàng)作輔助應用。相比通用模型,編輯人員對于生成內(nèi)容的滿意度和采納率均有大幅提升。

值得關(guān)注的是,在加速應用落地的背后,作為大模型時代的“基礎(chǔ)設(shè)施”,阿里云人工智能平臺PAI也已全面升級

PAI底層采用HPN 7.0新一代AI集群網(wǎng)絡(luò)架構(gòu),支持高達10萬卡量級的集群可擴展規(guī)模,超大規(guī)模訓練線性拓展效率大96%,超過業(yè)界水平。在大模型訓練任務中,同樣的效果可節(jié)省超50%算力資源,性能達到全球領(lǐng)先水平。

百川智能、智譜AI、零一萬物、昆侖萬維、vivo、復旦大學等頭部企業(yè)及機構(gòu)目前均在阿里云上訓練大模型。

“打造AI時代最開放的大模型平臺”

在AI 2.0階段,大模型步入第二篇章的當下,當主戰(zhàn)場從模型層轉(zhuǎn)向應用層,如今的兩大行業(yè)標桿,有著兩種鮮明的風格:

OpenAIAPI,Meta靠開源。

不過無論是何種路線,這兩家巨頭都在以自己的方式繁榮著生態(tài)。

為什么要發(fā)展大模型生態(tài)?

一方面,沒有應用層的發(fā)展,基礎(chǔ)模型的價值發(fā)揮就會嚴重受限。

另一方面,應用層和模型層的協(xié)同發(fā)展,生態(tài)系統(tǒng)中的各個參與者的競爭,帶來的效應能夠加速整個大模型圈層的提質(zhì)與創(chuàng)新。

在云棲大會現(xiàn)場,周靖人也言辭懇切地明確表示,阿里云的目標不是只服務一類客戶,阿里云希望在AI時代,為各種各樣的企業(yè)提供支持,“幫助它們在擅長的領(lǐng)域去創(chuàng)業(yè)”。

促進中國AI生態(tài)繁榮,是阿里云的首要目標。

提出目標后,要打造AI時代最開放大模型平臺的阿里云,具體是這么做的:

8月初,開源通義千問70億參數(shù)模型Qwen-7B;而后,基于Qwen-7B打造的大規(guī)模視覺語言模型Qwen-VL登場,支持圖像、文本、檢測框等多種輸入;9月底,新開源的模型參數(shù)量來到了140億,即Qwen-14B。

現(xiàn)在,延續(xù)一整套“國內(nèi)大模型開源全系列”的味兒,阿里云又宣布將開源720億參數(shù)的Qwen-72B。這個版本開源后,它就是目前國內(nèi)參數(shù)量最大的開源模型。

在更深一層的,阿里云攢局的AI模型開源社區(qū)魔搭ModelScope,去年剛發(fā)布,今年已經(jīng)是開發(fā)者的常駐扎堆地。

啪啪幾個數(shù)據(jù)甩到眼前:一年時間,下載量1億+、AI開發(fā)者280萬+,模型總量2300+、……

更值得一提的是,即便已經(jīng)做大、做強,魔搭社區(qū)還是有很值得的羊毛可薅。

魔搭為新用戶提供免費GPU算力100小時/人,目前已累計為開發(fā)者提供免費GPU算力3000萬小時+。

回到當下,大模型徹底改變傳統(tǒng)工作流的驚人能力,已然在千行百業(yè)中掀起新一輪的智能升級浪潮。

對于當局者,“百模大戰(zhàn)”的硝煙逐漸平息,現(xiàn)在已經(jīng)來到了一個可以更加冷靜、客觀、理性挑選大模型的階段。

從大模型的三個要素——算力、模型和應用角度考慮,關(guān)鍵評價指標如今已經(jīng)在各方動作中逐漸清晰:更具性價比的算力、更強大的模型能力、更繁榮的開發(fā)者生態(tài)。

以此為標準,以阿里云的整體布局而言,長期來看確實值得期待。

并且有“開源”這個選項加持,意味著在這個新時代里,不用完全把命運交到別人手中。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風險等級 參考價格 更多信息
STM32F407VET6 1 STMicroelectronics High-performance foundation line, Arm Cortex-M4 core with DSP and FPU, 512 Kbytes of Flash memory, 168 MHz CPU, ART Accelerator, Ethernet, FSMC

ECAD模型

下載ECAD模型
$16.69 查看
ATMEGA64A-AU 1 Atmel Corporation RISC Microcontroller, 8-Bit, FLASH, AVR RISC CPU, 16MHz, CMOS, PQFP64, 14 X 14 MM, 1 MM HEIGHT, 0.80 MM PITCH, GREEN, PLASTIC, MS-026AEB, TQFP-64

ECAD模型

下載ECAD模型
$4.99 查看
ATXMEGA384C3-AU 1 Microchip Technology Inc IC MCU 8BIT 384KB FLASH 64TQFP

ECAD模型

下載ECAD模型
$9.28 查看
阿里巴巴

阿里巴巴

阿里巴巴集團經(jīng)營多項業(yè)務,另外也從關(guān)聯(lián)公司的業(yè)務和服務中取得經(jīng)營商業(yè)生態(tài)系統(tǒng)上的支援。業(yè)務和關(guān)聯(lián)公司的業(yè)務包括:淘寶網(wǎng)、天貓、聚劃算、全球速賣通、阿里巴巴國際交易市場、1688、阿里媽媽、阿里云、螞蟻金服、菜鳥網(wǎng)絡(luò)等。

阿里巴巴集團經(jīng)營多項業(yè)務,另外也從關(guān)聯(lián)公司的業(yè)務和服務中取得經(jīng)營商業(yè)生態(tài)系統(tǒng)上的支援。業(yè)務和關(guān)聯(lián)公司的業(yè)務包括:淘寶網(wǎng)、天貓、聚劃算、全球速賣通、阿里巴巴國際交易市場、1688、阿里媽媽、阿里云、螞蟻金服、菜鳥網(wǎng)絡(luò)等。收起

查看更多

相關(guān)推薦

電子產(chǎn)業(yè)圖譜