3913
作者：Carol，物聯(lián)網(wǎng)智庫 原創(chuàng)
去年11月，OpenAI以低調(diào)姿態(tài)推出ChatGPT，“大模型時(shí)代”的序幕自此緩緩拉開。
一年后，OpenAI舉辦了首屆DevDay開發(fā)者大會，重磅展示了GPT-4 Turbo等新進(jìn)展，不僅呈現(xiàn)了知識庫更新和處理能力的飛躍，更是再次提醒了全球技術(shù)圈：我們正駛?cè)胍粋€(gè)迅猛發(fā)展的新紀(jì)元。
在這個(gè)紀(jì)元中，大模型不再局限于理論研究或大規(guī)模數(shù)據(jù)中心的應(yīng)用，而是向各類硬件平臺拓展。范圍從高性能服務(wù)器擴(kuò)散至日常移動設(shè)備，乃至在各種邊緣場景中部署大模型。此外，具身智能（Embodied AI）如智能機(jī)器人和自動化系統(tǒng)的應(yīng)用，更是展現(xiàn)了與物理世界互動的新維度。這種技術(shù)應(yīng)用的廣泛擴(kuò)展和深化，不僅彰顯了算力和智能化的進(jìn)步，也正在推動行業(yè)界限的不斷拓寬。
然而，大模型在硬件領(lǐng)域的落地同樣面臨著諸多挑戰(zhàn)。它要求硬件具備足夠的計(jì)算能力來處理復(fù)雜的AI模型，亦需在功耗、體積及成本間尋找平衡點(diǎn)。在此背景下，中國企業(yè)在硬件應(yīng)用方面展示了顯著的發(fā)展和獨(dú)特的創(chuàng)新潛力。從數(shù)據(jù)中心到邊緣計(jì)算設(shè)備，智能手機(jī)到智能機(jī)器人，中國企業(yè)正在開拓大模型在硬件領(lǐng)域的應(yīng)用前景。
為了更直觀地展現(xiàn)國內(nèi)大模型在硬件領(lǐng)域應(yīng)用的現(xiàn)狀，本文將盤點(diǎn)在該領(lǐng)域活躍和具有代表性的中國企業(yè)。希望提供一個(gè)清晰的視角，讓大家了解在這一領(lǐng)域中，中國企業(yè)的活躍態(tài)勢和創(chuàng)新動向。
本次針對大模型在硬件領(lǐng)域落地情況的盤點(diǎn)，將重點(diǎn)分為兩大部分：在邊緣場景中實(shí)現(xiàn)的行業(yè)大模型和具身智能（Embodied AI）。在邊緣場景中實(shí)現(xiàn)的行業(yè)大模型關(guān)注的是如何在資源受限的環(huán)境中高效運(yùn)行先進(jìn)的AI模型；而具身智能Embodied AI則探索將AI技術(shù)與機(jī)器人或其他物理設(shè)備的結(jié)合，實(shí)現(xiàn)更高級別的自動化和智能化。通過對這兩個(gè)領(lǐng)域的深入盤點(diǎn)，不僅能夠展現(xiàn)中國企業(yè)在技術(shù)上的創(chuàng)新和應(yīng)用，也能夠捕捉到整個(gè)行業(yè)未來發(fā)展的脈動。本文將主要盤點(diǎn)在邊緣場景中實(shí)現(xiàn)的行業(yè)大模型部分。
行業(yè)進(jìn)展管窺：在邊緣場景中實(shí)現(xiàn)的大模型飛躍
在我們周圍，智能技術(shù)正不斷地創(chuàng)新和變革。無論是工廠的自動化生產(chǎn)線、醫(yī)療系統(tǒng)中的數(shù)據(jù)分析，還是城市交通的智能管理，這些改變正是行業(yè)大模型技術(shù)在邊緣場景應(yīng)用的直接體現(xiàn)。這些技術(shù)的融入，雖不易察覺，卻在根本上改變了我們的工作和生活方式。
這些大模型在邊緣場景中的應(yīng)用，使得數(shù)據(jù)處理和智能決策不再完全依賴遠(yuǎn)程數(shù)據(jù)中心。它們的魅力在于優(yōu)化現(xiàn)有技術(shù)，提高效率，同時(shí)降低能耗。無論是在工業(yè)自動化、健康監(jiān)測還是智慧城市規(guī)劃中，這些技術(shù)都在提升響應(yīng)速度和處理效率，同時(shí)保護(hù)用戶隱私并節(jié)約資源。
中國企業(yè)在這個(gè)領(lǐng)域展現(xiàn)出顯著的發(fā)展和創(chuàng)新潛力。從智能工廠到智慧醫(yī)療，再到城市交通系統(tǒng)，它們正在將大模型技術(shù)應(yīng)用于實(shí)際場景，推動著行業(yè)向更高效、更智能化的方向發(fā)展。這不僅是對技術(shù)進(jìn)步的回應(yīng)，更是對日益增長的環(huán)保和能效需求的積極回應(yīng)。
在接下來的內(nèi)容中，我們將盤點(diǎn)中國企業(yè)在邊緣場景中應(yīng)用大模型技術(shù)的表現(xiàn)。通過這些盤點(diǎn)，我們可以看到大模型技術(shù)如何在實(shí)際業(yè)務(wù)中發(fā)揮作用，更重要的是，可以更清晰地感受大模型技術(shù)如何成為推動未來社會發(fā)展的重要?jiǎng)恿Α?/p>
1. 華為
華為將大模型運(yùn)用在邊緣場景中的體現(xiàn)，主要集中在其智能手機(jī)和穿戴設(shè)備的AI處理能力上。華為開發(fā)了具有神經(jīng)處理單元（NPU）的麒麟系列處理器，例如麒麟 970 和麒麟 980 芯片。這些NPU專為高效的機(jī)器學(xué)習(xí)任務(wù)設(shè)計(jì)，能夠在手機(jī)和其他智能設(shè)備上實(shí)時(shí)處理復(fù)雜的AI計(jì)算，例如圖像識別和語音處理。這些處理器的關(guān)鍵創(chuàng)新在于它們能夠在非常低的功耗下運(yùn)行大型神經(jīng)網(wǎng)絡(luò)模型，使設(shè)備能夠快速響應(yīng)并進(jìn)行實(shí)時(shí)數(shù)據(jù)處理。
華為旗艦系列手機(jī)已經(jīng)利用NPU來提升攝影體驗(yàn)。通過在設(shè)備端運(yùn)行的大型神經(jīng)網(wǎng)絡(luò)模型，華為的智能手機(jī)能夠?qū)崿F(xiàn)場景優(yōu)化、人臉識別和圖像增強(qiáng)等功能；在華為智能手表和健康追蹤設(shè)備上也集成了NPU，使得這些設(shè)備能夠進(jìn)行健康數(shù)據(jù)的實(shí)時(shí)分析和監(jiān)測。例如，心率監(jiān)測、睡眠質(zhì)量分析和運(yùn)動模式識別等功能，都是通過在設(shè)備上運(yùn)行的機(jī)器學(xué)習(xí)模型實(shí)現(xiàn)的。這些功能的關(guān)鍵在于能夠在設(shè)備上直接處理復(fù)雜的數(shù)據(jù)集，而不依賴遠(yuǎn)程服務(wù)器，從而確保數(shù)據(jù)處理的快速性和隱私性。
此外，華為開發(fā)的盤古大模型 3.0 版本采用了“5+N+X”三層架構(gòu)，以適應(yīng)不同行業(yè)和場景的需求。這三層分別包括：L0層的5個(gè)基礎(chǔ)大模型（自然語言、視覺、多模態(tài)、預(yù)測、科學(xué)計(jì)算）、L1層的N個(gè)行業(yè)通用大模型、以及L2層的用戶自主訓(xùn)練的細(xì)化場景模型。值得注意的是，基于盤古大模型3.0的“5+N+X”三層架構(gòu)，已經(jīng)為煤礦、鐵路、氣象、金融、制造、藥物研發(fā)等不同行業(yè)和場景提供了專門定制的解決方案。雖然這些大模型技術(shù)目前主要在服務(wù)器和云平臺層面應(yīng)用，但它們對硬件設(shè)備的影響是間接的。例如，在云服務(wù)支持的智能應(yīng)用中，這些大模型提供了強(qiáng)大的后端支持，從而使得前端的硬件設(shè)備能夠執(zhí)行復(fù)雜的任務(wù)，如數(shù)據(jù)分析和智能決策。
2. 360
今年，360正式推出了360智腦·視覺大模型。這是360集團(tuán)在大模型技術(shù)上的重要?jiǎng)?chuàng)新，主要專注于視覺數(shù)據(jù)的處理，具備強(qiáng)大的圖像和視頻理解能力。這種視覺大模型不僅提高了對視覺內(nèi)容的認(rèn)知精度，還具有優(yōu)秀的泛化能力，能夠減少對傳統(tǒng)深度學(xué)習(xí)算法大量數(shù)據(jù)的依賴性。因此，360在大模型落地硬件領(lǐng)域的表現(xiàn)，主要集中在其安全產(chǎn)品和智能硬件方面。
多模態(tài)大模型與物聯(lián)網(wǎng)的結(jié)合：360通過將多模態(tài)大模型與物聯(lián)網(wǎng)技術(shù)相結(jié)合，顯著提升了智能硬件的數(shù)據(jù)處理和分析能力。這種結(jié)合使得從物聯(lián)網(wǎng)設(shè)備收集的數(shù)據(jù)能夠被更加有效地融合和學(xué)習(xí)，從而在安防、巡店、看護(hù)等多種場景中產(chǎn)生更大的應(yīng)用價(jià)值。
邊緣計(jì)算的強(qiáng)化：360的新一代智能硬件產(chǎn)品采用了邊緣計(jì)算技術(shù)，能夠在設(shè)備端進(jìn)行數(shù)據(jù)處理和分析，而不完全依賴于云端。這種技術(shù)能夠減少對中央處理服務(wù)器的依賴，降低延遲，提高響應(yīng)速度?；?60智腦·視覺大模型的智能硬件產(chǎn)品，如戶外球機(jī)、槍球一體機(jī)、雙目拼接全景攝像機(jī)、家用攝像機(jī)、可視門鈴、行車記錄儀等，都具備了強(qiáng)大的邊緣計(jì)算能力。能夠在本地處理大量數(shù)據(jù)，而且能夠更有效地適應(yīng)不同的應(yīng)用場景，從而在諸如智能安防等領(lǐng)域中實(shí)現(xiàn)更高效的應(yīng)用。
3. 百度
在今年的“百模大戰(zhàn)”中，百度的“文心一言”可謂是國內(nèi)最早一批大模型先鋒。如今，百度通過將其大模型“文心”與深度學(xué)習(xí)平臺“飛槳”進(jìn)行緊密的技術(shù)升級與協(xié)同優(yōu)化，顯著提升了文心大模型的訓(xùn)練速度和推理效率。近期，百度發(fā)布了飛槳開源框架v2.5，這是百度在大模型落地硬件領(lǐng)域的一個(gè)重要里程碑。這個(gè)框架全面完成了架構(gòu)升級，并在大模型訓(xùn)練、推理和多硬件適配方面帶來了新的功能。特別是在硬件資源層面，飛槳與文心進(jìn)行了協(xié)同優(yōu)化，提升了訓(xùn)練吞吐速度和收斂效率，降低了大模型訓(xùn)練的資源消耗。
智能音箱與智能屏的創(chuàng)新：百度率先推出帶屏智能音箱“小度在家”，開辟了智能音箱的新領(lǐng)域。通過加入屏幕，百度的智能音箱不僅提供聲音交互，還增加了視覺交互，為用戶創(chuàng)造更豐富的智能生活體驗(yàn)。
智能硬件的多樣化：百度通過小度科技推出了包括智能屏、健身鏡、學(xué)習(xí)平板、耳機(jī)、電視等多種智能硬件產(chǎn)品，這些產(chǎn)品通過大模型技術(shù)實(shí)現(xiàn)了更智能的交互和服務(wù)。
AI大模型在教育賽道的應(yīng)用：百度推出的智能學(xué)習(xí)平板集成了大模型技術(shù)，成為教育領(lǐng)域的一個(gè)增長點(diǎn)。通過這種方式，百度將AI大模型技術(shù)應(yīng)用于實(shí)際的消費(fèi)電子產(chǎn)品中，提升了產(chǎn)品的智能化水平。
大模型與硬件產(chǎn)品的深度融合：百度宣布將融合文心一言，打造專門針對智能設(shè)備場景的AI模型“小度靈機(jī)”，并計(jì)劃將其應(yīng)用于小度的全系產(chǎn)品中。
在硬件適配和生態(tài)共建方面，文心大模型與英偉達(dá)、寒武紀(jì)、華為等12家硬件伙伴進(jìn)行適配，覆蓋云和端側(cè)多種硬件類型。其中，百度飛槳與英特爾? OpenVINO? 圍繞模型構(gòu)建、優(yōu)化及部署三個(gè)方面的合作不斷深入，不僅幫助開發(fā)者減少中間環(huán)節(jié)，還能夠讓一些大模型在邊緣部署成為可能，優(yōu)化了整個(gè)的邊緣推理和操作流程。目前，英特爾? OpenVINO? 不僅能夠支持飛槳模型在英特爾 CPU 和集成顯卡上部署、在英特爾獨(dú)立顯卡上部署，還可以通過一行代碼支持飛槳模型在多張獨(dú)立顯卡上部署。與英特爾的合作，不僅加強(qiáng)了大模型技術(shù)在硬件領(lǐng)域的實(shí)用性和可行性，也對推動大模型技術(shù)的廣泛應(yīng)用和行業(yè)創(chuàng)新起到了積極作用。
4. 聯(lián)想
在今年10月底的聯(lián)想的Tech World大會上，聯(lián)想集團(tuán)宣布全面擁抱大模型時(shí)代，將大模型落地規(guī)劃放在端側(cè)大模型上，強(qiáng)調(diào)在端側(cè)運(yùn)行大模型推理，不但可以避開網(wǎng)絡(luò)的限制，同時(shí)端側(cè)大模型因?yàn)槟軌蚪Y(jié)合個(gè)人的數(shù)據(jù)，能夠做到更好的大模型效果，真正達(dá)到「人工智能雙胞胎」的效果。
據(jù)統(tǒng)計(jì)，端側(cè)大模型應(yīng)用方面，聯(lián)想實(shí)現(xiàn)了以下關(guān)鍵進(jìn)展：
AI PC的概念提出和展示：聯(lián)想提出了AI PC的概念，能夠創(chuàng)建個(gè)性化的本地知識庫，并通過模型壓縮技術(shù)運(yùn)行個(gè)人大模型，實(shí)現(xiàn)更自然的AI交互和更高效的生產(chǎn)力。
在手機(jī)端運(yùn)行大模型：推出支持在聯(lián)想手機(jī)端運(yùn)行的大模型 Moto AI。通過用戶不斷與 Moto AI的交互，讓 Moto AI 了解并記住該用戶的喜好、習(xí)慣和個(gè)人風(fēng)格。例如問 Moto AI “是否有我喜歡的歌手在今年的 Austin City Limits 音樂節(jié)上演出？”，大約30秒便可以給出正確答案。雖然目前回答時(shí)間比較長，但端側(cè)大模型支持在飛行模式下運(yùn)行，且能夠利用端側(cè)的個(gè)人信息，理解到「我喜歡的歌手」是誰，并給出較新的大模型內(nèi)置知識（能回答關(guān)于今年音樂節(jié)的內(nèi)容）。
大模型壓縮技術(shù)：為了使大模型能夠在端側(cè)設(shè)備上運(yùn)行，聯(lián)想開發(fā)了一種模型壓縮技術(shù)。這項(xiàng)技術(shù)能夠有效減小大模型的體積，同時(shí)保持其性能，使得原本僅能在云端運(yùn)行的大模型可以在個(gè)人電腦或智能手機(jī)等設(shè)備上運(yùn)行。
個(gè)性化和隱私保護(hù)：通過在端側(cè)運(yùn)行大模型，聯(lián)想的設(shè)備能夠利用本地存儲的個(gè)人數(shù)據(jù)進(jìn)行推理，從而提供更個(gè)性化的服務(wù)和建議。同時(shí)，這種方法確保了個(gè)人數(shù)據(jù)的隱私性，因?yàn)閿?shù)據(jù)不會被發(fā)送到公有云或共享。
端側(cè)與云端的結(jié)合：聯(lián)想的混合人工智能計(jì)劃強(qiáng)調(diào)了端側(cè)大模型與云端大模型的結(jié)合，提供了一個(gè)安全、高效的AI解決方案，既能夠利用云端的強(qiáng)大計(jì)算能力，又能夠確保個(gè)人和企業(yè)數(shù)據(jù)的隱私安全。
5. 新華三
要想更好地適配和滿足AI大模型需求，需要新的存儲產(chǎn)品形態(tài)，對產(chǎn)品硬件和架構(gòu)進(jìn)行重構(gòu)是必然的，對存儲性能和體驗(yàn)的雙重提升，也是新華三未來整體戰(zhàn)略的縮影。具體而言，新華三著重強(qiáng)化AI算力，在優(yōu)化存儲與內(nèi)存、并行計(jì)算和分布式訓(xùn)練、節(jié)能和綠色數(shù)據(jù)中心方面也提出了重要升級，這些措施共同推動了大模型向硬件領(lǐng)域的有效落地。
強(qiáng)化AI算力
服務(wù)器升級：新華三推出的H3C UniServer G6和HPE Gen11系列服務(wù)器，針對AI應(yīng)用進(jìn)行了性能優(yōu)化，AI算力提升高達(dá)10倍，通用算力性能提升53%。
專用AI服務(wù)器：發(fā)布了專門為大模型訓(xùn)練設(shè)計(jì)的H3C UniServer R5500 G6服務(wù)器，以及適用于大規(guī)模推理/訓(xùn)練場景的H3C UniServer R5300 G6。
硬件配置：R5500 G6配備NVIDIA HGX H800 8-GPU模組，支持GPU間高速通信，提升AI應(yīng)用性能。這些服務(wù)器基于模塊化設(shè)計(jì)，可根據(jù)業(yè)務(wù)需求選擇CPU和AI平臺。
存儲與內(nèi)存優(yōu)化
新一代智慧存儲：發(fā)布了X10000智慧存儲，專門優(yōu)化以支持AI應(yīng)用，包括改進(jìn)的AI存儲智慧中樞3.0版。
存儲性能提升：實(shí)現(xiàn)系統(tǒng)資源凈空預(yù)測，提升數(shù)據(jù)分析效率，支持應(yīng)用層面的壓力感知和變化，為AI大模型提供更高效的存儲解決方案。
并行計(jì)算和分布式訓(xùn)練
智算解決方案：推出傲飛算力平臺，支持異構(gòu)計(jì)算資源統(tǒng)一管理和多元算力資源智能調(diào)度。
高性能網(wǎng)絡(luò)聯(lián)接：支持400G RoCE和400G IB兩種組網(wǎng)方式，以優(yōu)化AIGC計(jì)算的連接需求。
分布式存儲能力：提供8000節(jié)點(diǎn)的AI集群調(diào)度能力和60萬IOPS的分布式存儲能力，以滿足高性能并行數(shù)據(jù)處理需求。
節(jié)能和綠色數(shù)據(jù)中心
全棧液冷解決方案：實(shí)現(xiàn)數(shù)據(jù)中心運(yùn)維效率和可靠性的全面提升，同時(shí)提高部署密度和交付效率。
PUE優(yōu)化：通過智能溫控技術(shù)減少關(guān)鍵制冷、散熱環(huán)節(jié)的能耗，降低數(shù)據(jù)中心PUE至1.1以下，實(shí)現(xiàn)節(jié)能減排。
6. 邊無際
邊無際在將大模型技術(shù)應(yīng)用于硬件領(lǐng)域方面，通過開發(fā)ChatIoT，首次將大模型技術(shù)應(yīng)用于物聯(lián)網(wǎng)領(lǐng)域。通過將大模型與物聯(lián)網(wǎng)開發(fā)框架Shifu深度融合，構(gòu)建了新的AIoT生態(tài)?？梢詫?shí)現(xiàn)自然語言面向設(shè)備的編程，并開放標(biāo)準(zhǔn)的API，讓ChatGPT等應(yīng)用能夠充分利用設(shè)備的能力。在邊無際的技術(shù)基礎(chǔ)上，AI大模型可以在設(shè)備互聯(lián)互通的基礎(chǔ)上，進(jìn)行應(yīng)用的下發(fā)與部署。邊無際自主研發(fā)的Shifu作為一個(gè)中間件，將自然語言命令翻譯成設(shè)備特定的命令。
ChatIoT實(shí)現(xiàn)了LLM在物聯(lián)網(wǎng)應(yīng)用中的標(biāo)準(zhǔn)化模式，這使得開發(fā)者可以通過自然語言與物聯(lián)網(wǎng)設(shè)備進(jìn)行交互，無需傳統(tǒng)編程即可構(gòu)建AIoT場景。邊無際的技術(shù)實(shí)現(xiàn)了在物聯(lián)網(wǎng)中將自然語言轉(zhuǎn)換為設(shè)備特定命令的能力，從而使大模型技術(shù)在物聯(lián)網(wǎng)設(shè)備接入和應(yīng)用開發(fā)中發(fā)揮作用，提高了開發(fā)效率，也降低了技術(shù)門檻。
7. 江行智能
江行智能在大模型落地硬件方面的主要成果體現(xiàn)在其DK701智能終端平臺的開發(fā)和應(yīng)用。【9】這一平臺專為新型電力系統(tǒng)業(yè)務(wù)場景設(shè)計(jì)，具備模組化結(jié)構(gòu)，可靈活擴(kuò)展以滿足不同場景需求。DK701智能終端平臺的關(guān)鍵特點(diǎn)包括數(shù)據(jù)采集、數(shù)據(jù)管理、協(xié)議適配、安全管理等多項(xiàng)功能，特別是在數(shù)據(jù)實(shí)效性、運(yùn)行處理效率、隱私安全性方面具有領(lǐng)先優(yōu)勢。
此外，DK701智能終端平臺還支持多元異構(gòu)數(shù)據(jù)統(tǒng)一接入和毫秒級柔性調(diào)控設(shè)備等技術(shù)，適用于資源聚合調(diào)控、能源監(jiān)測、邊緣EMS、碳排放管理等業(yè)務(wù)場景。江行智能的這些創(chuàng)新在邊緣計(jì)算智能終端產(chǎn)品領(lǐng)域?yàn)橥苿犹摂M電廠及電力能源產(chǎn)業(yè)發(fā)展做出了重要貢獻(xiàn)。
8. 宇視科技
宇視科技針對AIoT行業(yè)推出了名為“梧桐”的行業(yè)大模型，專注于滿足AIoT行業(yè)的特定需求【10】。該模型覆蓋計(jì)算機(jī)視覺（CV）、自然語言處理（NLP）和多模態(tài)（MM）等多項(xiàng)能力。宇視還推出了AI長尾算法云訓(xùn)練平臺和邊緣AI推訓(xùn)一體機(jī)，致力于解決AIoT行業(yè)的技術(shù)分層問題、提高效率、挖掘新業(yè)務(wù)藍(lán)海，并加強(qiáng)內(nèi)容保真。通過這些能力，宇視助力AIoT生態(tài)伙伴找到AI高價(jià)值產(chǎn)品落地的控制點(diǎn)，并大大降低AIoT長尾需求的技術(shù)門檻。
梧桐行業(yè)大模型：宇視科技專為AIoT行業(yè)設(shè)計(jì)的大模型，涵蓋計(jì)算機(jī)視覺（CV）、自然語言處理（NLP）、多模態(tài)（MM）等能力。梧桐大模型通過行業(yè)場景學(xué)習(xí)和訓(xùn)練調(diào)優(yōu)，能夠高效地處理行業(yè)特定任務(wù)。
云訓(xùn)練平臺和邊緣AI推訓(xùn)一體機(jī)：這些技術(shù)產(chǎn)品支持AI長尾算法的訓(xùn)練和部署，提高AIoT產(chǎn)品的效率和效果。允許客戶以更低的成本獲取更優(yōu)的AI性能。
數(shù)據(jù)加密和身份認(rèn)證：結(jié)合區(qū)塊鏈技術(shù)，保證數(shù)據(jù)的安全性和不可篡改性，增強(qiáng)監(jiān)測和調(diào)控業(yè)務(wù)的安全可信水平。
9. 曠視科技
礦視科技方面曾強(qiáng)調(diào)過其將專注于“AI in Physical”（物理世界中的人工智能）。也就是將會把重點(diǎn)放在通過智能機(jī)器人等硬件載體對物理世界的改造，而不是僅限于數(shù)字世界的AI應(yīng)用。這種方法強(qiáng)調(diào)在工業(yè)、制造、物流等實(shí)體產(chǎn)業(yè)中實(shí)現(xiàn)AI技術(shù)與硬件載體的結(jié)合，以充分釋放AI的潛力。
智能托盤四向車系統(tǒng)：這是曠視推出的代表性產(chǎn)品之一，展示了他們在軟硬一體化方面的創(chuàng)新。這個(gè)系統(tǒng)使倉儲物流更加標(biāo)準(zhǔn)化、模塊化，提供柔性、成本效益高、易于部署和擴(kuò)展的解決方案，與傳統(tǒng)自動化設(shè)備相比，具有更高的靈活性。
人工智能體育助教-曠視運(yùn)動猿：曠視還推出了面向?qū)W校體育教育的AI體育助教。這個(gè)系統(tǒng)由訓(xùn)練桿和智能塢組成，支持多種體育運(yùn)動項(xiàng)目，顯示了曠視在教育領(lǐng)域的AI應(yīng)用。
大模型的研究和應(yīng)用：曠視對大模型的研究持續(xù)深入，他們專注于核心模型設(shè)計(jì)，并在多模態(tài)大模型方面取得了原創(chuàng)成果。這表明曠視不僅在開發(fā)具體的AI硬件產(chǎn)品上取得進(jìn)展，而且在AI模型的基礎(chǔ)研究和開發(fā)方面也處于領(lǐng)先地位。
軟硬一體化解決方案：曠視堅(jiān)持軟硬一體化的產(chǎn)品策略，通過算法定義硬件，創(chuàng)建標(biāo)準(zhǔn)化的AI產(chǎn)品，簡化客戶接入人工智能的過程。這種方法旨在承接復(fù)雜的場景需求，同時(shí)為用戶提供簡單易用的解決方案。
AIoT（人工智能物聯(lián)網(wǎng)）應(yīng)用：在消費(fèi)物聯(lián)網(wǎng)、城市物聯(lián)網(wǎng)、供應(yīng)鏈物聯(lián)網(wǎng)等領(lǐng)域，曠視提供軟硬一體化的AIoT解決方案，以幫助各行各業(yè)提高效率和降低成本。
10. 商湯科技
在2023年的世界人工智能大會上，商湯科技再次提升了其“商湯日日新SenseNova”大模型體系，同時(shí)推出了一系列更新的大模型產(chǎn)品和成果。除了提升了大模型的核心能力，還加快了其在多個(gè)行業(yè)的實(shí)際應(yīng)用和落地，包括金融、醫(yī)療、電商、移動終端等領(lǐng)域，推動了AI與大模型技術(shù)在端側(cè)落地的進(jìn)程。
商湯SenseChat 2.0：作為一種自然語言處理模型，突破了輸入長度限制，提供不同參數(shù)量級的模型版本，適應(yīng)多樣化的終端和應(yīng)用場景。
商湯秒畫SenseMirage 3.0：參數(shù)量提升至70億，實(shí)現(xiàn)更高級別的圖片細(xì)節(jié)刻畫，強(qiáng)化圖像生成能力。
商湯如影SenseAvatar 2.0：數(shù)字人生成平臺，實(shí)現(xiàn)了語音和口型的顯著流暢度提升，支持4K高清視頻效果。
商湯瓊宇SenseSpace 2.0 和 商湯格物SenseThings 2.0：空間重建和物體紋理還原的顯著提升，優(yōu)化了3D建模和物體識別能力。
11. 寒武紀(jì)：
寒武紀(jì)是中國人工智能芯片領(lǐng)域的先驅(qū)之一。據(jù)寒武紀(jì)2022年度報(bào)告顯示，在互聯(lián)網(wǎng)行業(yè)，寒武紀(jì)的思元370芯片及加速卡與數(shù)家頭部互聯(lián)網(wǎng)企業(yè)在視覺、語音、圖文識別、自然語言處理等場景下完成了適配工作。在處理器設(shè)計(jì)、加速卡開發(fā)和軟件優(yōu)化方面，也為大模型的發(fā)展和應(yīng)用提供了重要的硬件和軟件支持。
AI芯片技術(shù)創(chuàng)新：寒武紀(jì)專注于人工智能芯片的研發(fā)，尤其是在處理器架構(gòu)方面的創(chuàng)新。其芯片產(chǎn)品設(shè)計(jì)旨在優(yōu)化大數(shù)據(jù)處理和機(jī)器學(xué)習(xí)任務(wù)，為大模型的訓(xùn)練和推理提供了強(qiáng)大的硬件支持。
多樣化產(chǎn)品線：寒武紀(jì)推出了多種產(chǎn)品線，如寒武紀(jì)1A、1H、1M系列智能處理器，以及思元100、270、290和370云端智能加速卡系列。這些產(chǎn)品針對不同的應(yīng)用場景，提供了高效的AI處理能力，特別是在大模型訓(xùn)練和推理方面。
新款智能加速卡的發(fā)布：寒武紀(jì)基于思元370云端智能芯片推出的MLU370-X8/M8加速卡，支持芯片間互聯(lián)，滿足多樣化人工智能模型的訓(xùn)練和推理需求。這對于大模型的高效訓(xùn)練和推理至關(guān)重要。
玄思1001智能加速器：寒武紀(jì)的玄思1001智能加速器，集成多張MLU370-M8智能加速卡，提供大容量內(nèi)存支持，支撐智能模型的分布式訓(xùn)練需求。這對于大模型的訓(xùn)練尤其重要，因?yàn)榇竽Ｐ托枰薮蟮挠?jì)算資源和存儲容量。
軟件棧的持續(xù)發(fā)展：寒武紀(jì)不斷推進(jìn)通用性訓(xùn)練軟件棧的研發(fā)和改進(jìn)工作，例如支撐新的硬件平臺、數(shù)據(jù)精度，以及新的框架版本，這對大模型的訓(xùn)練和推理性能有著直接影響。
技術(shù)壁壘與應(yīng)用廣泛性：寒武紀(jì)所研發(fā)的通用型智能芯片產(chǎn)品具有高技術(shù)壁壘，能夠適應(yīng)人工智能領(lǐng)域高度多樣化的應(yīng)用場景，包括視覺、語音、自然語言理解等，這為大模型的應(yīng)用提供了廣闊的空間。
大模型訓(xùn)練與應(yīng)用的探索：寒武紀(jì)與互聯(lián)網(wǎng)企業(yè)的合作，展示了其在大模型訓(xùn)練和應(yīng)用方面的實(shí)際探索，這對于理解和優(yōu)化大模型在實(shí)際場景中的表現(xiàn)至關(guān)重要。
12. 思必馳（AISpeech）：
思必馳在大模型落地硬件領(lǐng)域的發(fā)展重點(diǎn)在于創(chuàng)新通用大模型的設(shè)計(jì)、提升語言交互能力，以及優(yōu)化智能硬件交互的應(yīng)用場景。正如百度通過其“文心一言”大模型與深度學(xué)習(xí)平臺“飛槳”的緊密融合所展現(xiàn)的技術(shù)實(shí)力，思必馳也在通過DFM-2大模型在大模型領(lǐng)域競爭中確立其地位。
DFM-2大模型：發(fā)布了百億級參數(shù)的通用大模型“DFM-2”（Dialogue Foundation Model-2），專注于提供高度精準(zhǔn)和實(shí)時(shí)的語言交互服務(wù)。DFM-2被定位為一個(gè)相對大規(guī)模的行業(yè)大模型，專門針對特定行業(yè)的需要進(jìn)行優(yōu)化。
DFM-2大模型的五大核心能力提升
外部信源增強(qiáng)的精準(zhǔn)推理決策：提供更復(fù)雜、更準(zhǔn)確、更實(shí)時(shí)的信息服務(wù)。
基于深度認(rèn)知的通用語義理解：提高產(chǎn)品的口語理解能力和交互準(zhǔn)確率。
可信主動知識問答：基于文檔理解提供專業(yè)服務(wù)如售后客服、法律咨詢等。
多人設(shè)交互的個(gè)性化：支持單設(shè)備多角色，靈活切換，提供差異化服務(wù)。
復(fù)雜任務(wù)的自動規(guī)劃與執(zhí)行：使機(jī)器人能夠通過大模型拆解和規(guī)劃任務(wù)，執(zhí)行復(fù)雜操作。
在與智能硬件的交互的應(yīng)用場景，則集中在智能汽車、智能家居、政務(wù)服務(wù)、醫(yī)療健康和科學(xué)研究等領(lǐng)域體現(xiàn)，并將針對個(gè)人電腦、智能手機(jī)等端側(cè)設(shè)備優(yōu)化大模型運(yùn)行，以此提升效率和響應(yīng)速度。
13. OPPO
OPPO 在最新一屆ODC開發(fā)者大會上發(fā)布了安第斯大模型（AndesGPT），并喊出“為每個(gè)人打造有用的大模型及智能體”的口號。其能力主要體現(xiàn)在知識、記憶、工具和創(chuàng)作四大核心領(lǐng)域。
知識：能夠融合知識圖譜及通用搜索提供更專業(yè)的問答，也通過?動識別知識依賴模塊、準(zhǔn)確判別引?外部知識實(shí)際、引?精準(zhǔn)召回機(jī)制來將外部知識與模型融合?成結(jié)果，降低“幻覺”的產(chǎn)生。
記憶：具備?時(shí)記憶機(jī)制，支持無限上下文擴(kuò)展，自研SwappedAttention 優(yōu)化首字推理時(shí)長。
工具：理解設(shè)備控制與服務(wù)API，端到端生成指令。在訓(xùn)練階段引?代碼和??本進(jìn)?強(qiáng)化訓(xùn)練，并通過指令構(gòu)建和微調(diào)，提升模型遵循指令的效果。還?持“系統(tǒng)設(shè)置、??應(yīng)?、三?服務(wù)、代碼解釋器”等?具。
創(chuàng)作：AndesGPT 具備文生圖、圖生圖、中國風(fēng)、高清壁紙、全流程支持音樂生成等。
此外，OPPO的生態(tài)為AndesGPT在端側(cè)落地提供了十分大的優(yōu)勢。如今OPPO在智能手表、電腦、平板、智能汽車、智能電動車等基于COLOS系統(tǒng)的終端中都可以同步上線AndesGPT功能。而AndesGPT通過端云協(xié)同的設(shè)計(jì)，也能夠提升針對任務(wù)執(zhí)?、降級應(yīng)答等場景，提升極端場景下的可?性；同時(shí)在云端，OPPO 同樣提供可信的大模型服務(wù)，會結(jié)合機(jī)密計(jì)算技術(shù)，構(gòu)建加密、可信通道，充分保障用戶隱私。值得一提的是，OPPO 還將開源智能體 (Agent) 框架，支持智能體的高效孵化、托管與應(yīng)用，開發(fā)者們很快就可以嘗鮮了。
14. 科大訊飛
在今年10月，科大訊飛發(fā)布了訊飛星火認(rèn)知大模型V3.0（以下簡稱“星火3.0”）在文本生成、語言理解、知識問答、邏輯推理、數(shù)學(xué)能力、代碼能力和多模態(tài)能力方面都有了顯著的提升。據(jù)科大訊飛方面表示，未來星火V3.0將集成與部署進(jìn)一系列賦能行業(yè)與場景的商業(yè)化產(chǎn)品中，包括教育、辦公、醫(yī)療等行業(yè)的AI原生應(yīng)用。例如iFlyCode2.0（智能編程助手），與中科院文獻(xiàn)情報(bào)中心聯(lián)合打造的星火科研助手、教育領(lǐng)域的AI心里伙伴、醫(yī)療領(lǐng)域的曉醫(yī)助手等等。而在C端的智能硬件產(chǎn)品方面，科大訊飛也將大模型的能力落地到其智能辦公本、AI學(xué)習(xí)機(jī)、翻譯機(jī)、錄音筆等產(chǎn)品中。
其中，訊飛智能辦公本、訊飛翻譯機(jī)等C端產(chǎn)品有了星火V3.0的能力加持，能夠?qū)崿F(xiàn)對口語化文本進(jìn)行書面化的語篇規(guī)整；開放式的對話問答能力支持用戶以手寫或語音輸入的方式與大模型進(jìn)行問答互動；加上星火V3.0在語言理解、知識問答及多模態(tài)能力方面的能力，讓訊飛AI硬件產(chǎn)品在本年雙十一銷售額同比增長了126%，直接證明了C端用戶已經(jīng)開始為大模型產(chǎn)品買單了。
大模型的中國力量：從硬件戰(zhàn)場中崛起的未來智能
通過以上盤點(diǎn)感知到，隨著大模型技術(shù)的不斷成熟，中國企業(yè)正展現(xiàn)出在處理能力、能效優(yōu)化和邊緣計(jì)算領(lǐng)域的實(shí)力與飛躍。中國企業(yè)在大模型硬件領(lǐng)域的落地表現(xiàn)不僅彰顯了技術(shù)實(shí)力，更預(yù)示了一個(gè)深刻變革的時(shí)代。從華為的高效AI處理器到360的視覺大模型，再到百度的模型與平臺融合，展示了中國企業(yè)在提升硬件處理能力和優(yōu)化能源消耗方面的具體成就。這些進(jìn)展不僅提高了設(shè)備的智能化水平，也為低功耗、高效能的智能硬件設(shè)備開辟了新的可能性。
展望未來，大模型技術(shù)與硬件的結(jié)合將進(jìn)一步深化，特別是在AIoT、邊緣計(jì)算、智能機(jī)器人等領(lǐng)域，預(yù)計(jì)將迎來技術(shù)革新和應(yīng)用拓展的新浪潮。這不僅是智能化轉(zhuǎn)型的關(guān)鍵驅(qū)動力，也將為眾多行業(yè)如智慧城市、精準(zhǔn)醫(yī)療、工業(yè)自動化等帶來顛覆性的變革。
隨著這些企業(yè)在大模型硬件領(lǐng)域取得更多突破，中國企業(yè)在全球科技舞臺上的作用將越來越重要。這種深度參與和持續(xù)創(chuàng)新不僅將推動國內(nèi)科技生態(tài)的發(fā)展，也將為全球科技創(chuàng)新貢獻(xiàn)中國智慧。
綜合來看，中國企業(yè)在大模型硬件領(lǐng)域的發(fā)展態(tài)勢既成熟又有深度，而在端側(cè)硬件落地方面，與國際上對比也有著數(shù)量級的優(yōu)勢，一切只是時(shí)間問題。隨著技術(shù)的持續(xù)進(jìn)步和應(yīng)用場景的日益豐富，期待中國企業(yè)繼續(xù)在全球技術(shù)舞臺上發(fā)揮關(guān)鍵作用，為全球科技生態(tài)的多樣化和繁榮發(fā)展做出重要貢獻(xiàn)。
參考資料：
【1】《6000 字詳解華為盤古大模型：能否撐起世界 AI 另一極？》來源 | 極客公園；作者 | 極客公園：https://new.qq.com/rain/a/20230707A0ACV600#:~:text=7%20%E6%9C%88%207%20%E6%97%A5
【2】360智腦官網(wǎng)（私有化）：https://qycloud.#/360gpt.html
【3】360智腦官網(wǎng)：https://ai.360.com/
【4】《大模型時(shí)代，重估百度移動生態(tài)》來源 | 礪石商業(yè)評論；作者 | 路言：https://baijiahao.baidu.com/s?id=1777021449558685417&wfr=spider&for=pc
【5】《英特爾正式宣布與百度聯(lián)合發(fā)起飛槳+文心大模型硬件生態(tài)共創(chuàng)計(jì)劃 》來源 | 搜狐；作者 | 鞭牛士：https://news.sohu.com/a/713635814_115060
【6】《聯(lián)想全面擁抱大模型時(shí)代：首提AI PC概念，加強(qiáng)與微軟、英偉達(dá)合作》來源 | 騰訊網(wǎng)；作者 | 騰訊新聞潛望：https://new.qq.com/rain/a/20231025A02HQ900/
【7】《新華三百業(yè)靈犀達(dá)國內(nèi)先進(jìn)水平！率先完成中國信通院大模型標(biāo)準(zhǔn)符合性驗(yàn)證》來源 | 百家號；作者 | 砍柴網(wǎng)：https://baijiahao.baidu.com/s?id=1777635368656458732&wfr=spider&for=pc
【8】《瞄準(zhǔn)新型電力系統(tǒng)，江行智能打造工業(yè)級邊緣計(jì)算智能終端 》來源 | 搜狐；作者 | 賽迪網(wǎng)官方：https://www.sohu.com/a/723598307_120603108
【9】《首個(gè)AIoT行業(yè)大模型官宣，第一批受益者是這群“搬箱人》來源 | 智東西；作者 | 三北：https://baijiahao.baidu.com/s?id=1765696392528200365&wfr=spider&for=pc
【10】《寒武紀(jì)通用型智能芯片產(chǎn)品完整支持商用大模型部署》來源 | 中國網(wǎng)科學(xué)中國；作者 | 投資界 http://science.china.com.cn/2023-08/31/content_42503363.htm
【11】《思必馳發(fā)布通用大模型DFM-2，滿足行業(yè)精度的需求》來源 | 百家號；作者 | 每日熱點(diǎn)匯報(bào)：https://baijiahao.baidu.com/s?id=1771738927118899943&wfr=spider&for=pc
【12】《從訊飛華為聯(lián)手，我們看到了國產(chǎn)大模型的“三級跳”》來源 | 財(cái)經(jīng)無忌；作者 | 山核桃：https://baijiahao.baidu.com/s?id=1780703103894788115&wfr=spider&for=pc
【13】《大模型商業(yè)化落地初顯，科大訊飛智能硬件雙十一銷量增長126%，拿下7項(xiàng)銷冠》來源 | 中國經(jīng)營網(wǎng)；作者 | 佚名：http://www.cb.com.cn/index/show/gd/cv/cv1362085291499
下載ECAD模型
