浪潮信息：元腦企智EPAI助力金融大模型快速落地

北京2024年9月13日?/美通社/ -- 近日，2024金融科技應(yīng)用創(chuàng)新發(fā)展大會(huì)暨農(nóng)村金融機(jī)構(gòu)信息化發(fā)展創(chuàng)新座談會(huì)在上海舉辦。浪潮信息推出元腦企智EPAI企業(yè)大模型開發(fā)平臺(tái)，面向金融業(yè)務(wù)場(chǎng)景，實(shí)現(xiàn)7天完成POC驗(yàn)證、2個(gè)月上線AI應(yīng)用，通過(guò)將浪潮信息在AI算力底座建設(shè)、大模型開發(fā)領(lǐng)域積累的成熟、成功經(jīng)驗(yàn)工具化，助力金融機(jī)構(gòu)又快、又穩(wěn)地部署生成式AI應(yīng)用，助力金融數(shù)智化跨越式發(fā)展。

浪潮信息售前技術(shù)支持部總經(jīng)理王鵬飛在會(huì)上表示，公司致力于推動(dòng)金融行業(yè)的數(shù)智化轉(zhuǎn)型。元腦企智EPAI可為金融機(jī)構(gòu)量身定制，提供一站式大模型應(yīng)用開發(fā)部署解決方案。這一創(chuàng)新方案有助于金融機(jī)構(gòu)以低成本、少人力實(shí)現(xiàn)高效率的智能應(yīng)用開發(fā)，提升運(yùn)營(yíng)效率，降低風(fēng)險(xiǎn)，滿足客戶的智能化、場(chǎng)景化需求。

"玩轉(zhuǎn)"大模型 中小金融機(jī)構(gòu)面臨"少技術(shù)、少資金、少數(shù)據(jù)"三大挑戰(zhàn)

在金融行業(yè)，可以說(shuō)整個(gè)行業(yè)都在往數(shù)字化轉(zhuǎn)型的深水區(qū)積極探索，亟需以AI催生的數(shù)字金融、科技金融為抓手，塑造數(shù)字金融新業(yè)態(tài)新模式。

從政策上，根據(jù)三中全會(huì)精神，金融行業(yè)要進(jìn)一步深化金融供給側(cè)結(jié)構(gòu)性改革，扎實(shí)做好"五篇大文章"。因此各家金融機(jī)構(gòu)實(shí)施了從積極布局大模型，到關(guān)注金融行業(yè)大模型，再到聚焦金融應(yīng)用場(chǎng)景的模型建設(shè)的系列舉措。六大國(guó)有銀行已在多個(gè)領(lǐng)域應(yīng)用大模型，例如工行為20萬(wàn)網(wǎng)點(diǎn)員工打造智能助手，通過(guò)大模型吸納全行50類業(yè)務(wù)，輔助柜員辦理復(fù)雜業(yè)務(wù)、提升網(wǎng)點(diǎn)效能，智能處理業(yè)務(wù)量顯著增長(zhǎng)，23年智能處理業(yè)務(wù)量3.2億筆，同比增長(zhǎng)14%。同時(shí)，12家股份制銀行中已有超過(guò)6家正在推進(jìn)大模型及相關(guān)應(yīng)用，中信銀行開發(fā)大模型平臺(tái)，興業(yè)銀行實(shí)現(xiàn)研報(bào)摘要智能生成，浦發(fā)和平安銀行加強(qiáng)大模型平臺(tái)和底座建設(shè)。金融機(jī)構(gòu)對(duì)大模型的需求不僅是發(fā)展得"如火如荼"，而且對(duì)"增效"要求越來(lái)越迫切，金融機(jī)構(gòu)在積極推動(dòng)大模型在金融領(lǐng)域的落地實(shí)踐。

然而金融機(jī)構(gòu)想要部署大模型，仍有許多痛點(diǎn)。對(duì)于城商行、農(nóng)商行、農(nóng)信等中小金融企業(yè)或機(jī)構(gòu)，想要"玩轉(zhuǎn)"大模型，需要克服自身在數(shù)字資源、科技能力、業(yè)務(wù)場(chǎng)景等方面的限制，突破算法、算力、數(shù)據(jù)方面的屏障。

首先，從基礎(chǔ)模型到實(shí)際應(yīng)用，不僅需要軟硬件的更新，還需要在制度、流程和管理等方面進(jìn)行調(diào)整。比如，在金融大模型開發(fā)，從模型的選型、定制部署到應(yīng)用開發(fā)的全流程，打造一套成熟的方案顯得尤為重要。這不僅涉及到技術(shù)層面的考量，還包括了業(yè)務(wù)需求的深入理解、資源的合理配置以及未來(lái)擴(kuò)展性的預(yù)見。一個(gè)久經(jīng)打磨、成熟穩(wěn)健的方案能夠確保金融大模型項(xiàng)目的順利進(jìn)行，同時(shí)也能為后續(xù)的維護(hù)和升級(jí)提供堅(jiān)實(shí)的基礎(chǔ)。

其次，作為金融企業(yè)，歸根到底在經(jīng)營(yíng)客戶、業(yè)務(wù)、產(chǎn)品，以及貨幣、風(fēng)險(xiǎn)，模型服務(wù)要以盈利為目標(biāo)，因此資金預(yù)算也是現(xiàn)實(shí)的考量。

第三，金融機(jī)構(gòu)的數(shù)據(jù)資源，尤其是面向模型微調(diào)所需的高質(zhì)量數(shù)據(jù)的缺乏，也是擺在面前的現(xiàn)實(shí)問(wèn)題。

元腦企智助力金融機(jī)構(gòu)快速部署大模型

元腦企智EPAI（Enterprise Platform of AI），正是浪潮信息的大模型應(yīng)用落地解決之道，能夠?yàn)槠髽I(yè)AI大模型落地應(yīng)用提供高效、易用、安全的端到端開發(fā)平臺(tái)，提供數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、知識(shí)檢索、應(yīng)用框架等系列工具，支持調(diào)度多元算力和多模算法，幫助企業(yè)高效開發(fā)部署生成式AI應(yīng)用、打造智能生產(chǎn)力。

首先，從創(chuàng)新大腦到多元算力底座，元腦企智EPAI具有架構(gòu)上的優(yōu)勢(shì)。

元腦企智擁有一個(gè)包含多種模型的大模型庫(kù)，這是其核心部分。它分為三個(gè)主要部分：首先，提供場(chǎng)景數(shù)據(jù)，元腦企智利用上億條基礎(chǔ)知識(shí)數(shù)據(jù)和自動(dòng)化工具幫助企業(yè)構(gòu)建知識(shí)庫(kù)。其次，模型定制，通過(guò)微調(diào)增強(qiáng)模型的學(xué)習(xí)能力，并利用知識(shí)庫(kù)檢索技術(shù)提升模型的查找能力。最后，應(yīng)用構(gòu)建和開發(fā)，元腦企智支持設(shè)定模型角色和偏好，配置功能化工具，并提供多種使用方式，同時(shí)確保全鏈路安全。此外，元腦企智的底座是適配多元、多模的多元算力Infra基礎(chǔ)設(shè)施，包括元腦企智EPAI一體機(jī)，以及高效的多元算力管理調(diào)度工具。

其次，浪潮信息利用元腦企智提供一站式金融大模型應(yīng)用孵化，涵蓋三個(gè)主要步驟。其一，確定應(yīng)用類型和預(yù)期效果；其二，根據(jù)需求和成本選擇合適的基礎(chǔ)大模型，并參考公開數(shù)據(jù)集；最后，通過(guò)提示詞工程、RAG和模型微調(diào)增強(qiáng)模型場(chǎng)景能力。最后，完成這些步驟后，可以部署模型并開發(fā)應(yīng)用，如集成API服務(wù)到業(yè)務(wù)系統(tǒng)或提供對(duì)話式機(jī)器人。對(duì)于復(fù)雜任務(wù)，智能體Agent可進(jìn)行任務(wù)編排和工具調(diào)用。

王鵬飛認(rèn)為，元腦企智之所以能一站式開發(fā)部署AI應(yīng)用，"內(nèi)功"非常重要。主要依托了幾大優(yōu)勢(shì)。從數(shù)據(jù)工程上，元腦企智支持10種以上的企業(yè)常見數(shù)據(jù)格式，并可以超過(guò)95%的抽取準(zhǔn)確率將其轉(zhuǎn)化為知識(shí)庫(kù)以及模型可用的微調(diào)數(shù)據(jù)。從模型開發(fā)上，元腦企智支持10種以上的開源大模型和接口協(xié)議，并逐步支持20種以上的計(jì)算芯片上的模型完全私有化部署。從算法功能上，元腦企智能夠達(dá)到90%以上的RAG檢索召回準(zhǔn)確率，最快構(gòu)建模型服務(wù)API的時(shí)間不足0.5天，且支持多種插件、IDE和編程語(yǔ)言。此外，元腦企智提供了低代碼乃至無(wú)代碼的環(huán)境，應(yīng)用開發(fā)速度大大提高、培訓(xùn)周期顯著縮短，有利于企業(yè)的降本增效。正是通過(guò)類似的開發(fā)范式，元腦企智可以便捷的助力各類金融場(chǎng)景應(yīng)用的開發(fā)，讓金融企業(yè)真正玩轉(zhuǎn)大模型。

7天快速測(cè)試驗(yàn)證 助力金融大模型輕松上手

浪潮信息自推出元腦企智EPAI以來(lái)，成功實(shí)施了智能編程、智能客服大腦和智能投標(biāo)助手等應(yīng)用案例。智能客服大腦利用金融業(yè)務(wù)數(shù)據(jù)構(gòu)建，能解決80%常見問(wèn)題，并能與現(xiàn)有服務(wù)集成，提供自動(dòng)化流程和智能化業(yè)務(wù)支持。智能編程助手借助元腦企智自動(dòng)解析大型代碼庫(kù)，提升開發(fā)效率。智能投標(biāo)助手能快速識(shí)別招標(biāo)文件關(guān)鍵信息，節(jié)省業(yè)務(wù)時(shí)間，提高工作效率。

據(jù)王鵬飛介紹，元腦企智助力金融客戶實(shí)現(xiàn)項(xiàng)目快速實(shí)施，時(shí)間上最短7天，最長(zhǎng)2個(gè)月。以最復(fù)雜的聯(lián)合共創(chuàng)為例，以項(xiàng)目的形式劃分為前期試用、方案確認(rèn)、本地定制開發(fā)、驗(yàn)收落地四個(gè)階段。雖然流程比較長(zhǎng)，但核心的應(yīng)用開發(fā)部分一般2~3周內(nèi)完成；對(duì)于通常的大模型應(yīng)用簡(jiǎn)單驗(yàn)證，不超過(guò)7天即可完成。

元腦企智EPAI，是浪潮信息2024年具有戰(zhàn)略意義的產(chǎn)品，體現(xiàn)了浪潮信息一直在AI領(lǐng)域的前沿不停探索開拓的能力和決心。浪潮信息期望能將自身的AI成果賦能金融行業(yè)等千行百業(yè)，與客戶、合作伙伴共同攜手，加速AI創(chuàng)新落地。