1662
2024年悄然過半，越來越多的企業(yè)，開始思考AI的落地場景，探索AI如何才能真正賦能用戶。
想要賦能用戶，當然就離不開終端抓手。我們明顯可以看到，端側(cè)AI的發(fā)展正在成為市場關注的焦點。除了集成本地大模型的AI手機大量出現(xiàn)之外，AI PC的概念也不斷走紅。
那么，應用場景更多、用戶規(guī)模更大的物聯(lián)網(wǎng)市場，是否也可以進行AI落地呢？現(xiàn)在越來越火的智能模組、AI模組，有什么特別之處？
就在今天剛剛開幕的MWC世界移動大會（上海站）上，國內(nèi)模組一線廠商廣和通展示了他們的多款智能模組產(chǎn)品及解決方案，讓我們對端側(cè)AI落地有了更全面、更深入的了解。
接下來，小棗君就給大家做一個詳細解讀。
█?智能模組的誕生背景
智能模組在傳統(tǒng)模組的基礎上，通過集成NPU（神經(jīng)網(wǎng)絡處理單元）等計算單元的方式，獲得了更強大的異構(gòu)算力，能夠執(zhí)行機器學習等AI算法，從而實現(xiàn)傳統(tǒng)物聯(lián)網(wǎng)場景的智能化變革。
從本質(zhì)上來看，智能模組是一種AI算力的下沉。
完全基于云端AI的方式，終端的數(shù)據(jù)需要通過網(wǎng)絡上傳云端，云端經(jīng)過計算后，再下發(fā)給終端，會產(chǎn)生更大的時延。如果網(wǎng)絡不穩(wěn)定，也會更加影響用戶體驗。
云端AI，也不滿足部分用戶對信息安全和物理隔離的需求。
云側(cè)AI+端側(cè)AI
采用端側(cè)AI，數(shù)據(jù)的處理在本地完成，時延更短，且不容易受到網(wǎng)絡質(zhì)量的影響。在數(shù)據(jù)隱私保護上，端側(cè)AI也有先天優(yōu)勢。
在成本方面，端側(cè)AI減輕了云端的計算負荷，可以節(jié)約云基礎設施方面的投資。
云側(cè)AI，適合處理對資源消耗較大的訓練任務，以及部分推理任務。而端側(cè)AI，適合處理即時性要求高、交互頻繁的推理任務。
“云+端”的混合AI，已經(jīng)成為當前AI應用落地的主流趨勢。
█?智能模組，有哪些應用場景？
智能模組作為端側(cè)AI的重要算力載體，是目前行業(yè)關注的熱點。
在廣和通的展臺，我們看到了他們此前發(fā)布的SC126、SC138、SC171L、SC171等多款智能模組產(chǎn)品，分別采用了高通QCM2290、高通QCM6125、高通QCM5430/QCS5430、高通QCM6490/QCS6490平臺。
這些智能模組面向入門級、中端、高端，可以滿足客戶對不同平臺、性能、算力、成本的差異化需求。基于這些模組的邊緣AI解決方案，已經(jīng)在機器人、工控機、智慧零售、工業(yè)手持、無人駕駛等領域廣泛應用，擁有大量的成功商用案例。
●?割草機
廣和通不久前發(fā)布的免埋線式割草機行業(yè)解決方案，就是一個典型案例。
根據(jù)廣和通MC產(chǎn)品管理部副總裁趙軼的介紹，整個方案是廣和通基于低速無人自動駕駛平臺打造的。
該方案以廣和通智能模組（SC171）作為主控，基于Linux邊緣AI解決方案，具備AI邊界識別及控制能力，可提供基于RTK+VIO融合定位、規(guī)控和感知算法。方案還可以搭載各類傳感器，賦能機器人的室內(nèi)外精準定位和規(guī)控能力。
廣和通定制了包括雙目攝像頭、RTK定位天線、設備整板等全套硬件，以包括模組、PCBA、整機等多種靈活的商務模式提供給客戶。軟件部分，也全部采用的是廣和通自主研發(fā)的算法（包括定位、行程規(guī)劃等）。
AI訓練方面的工作，也是廣和通完成的。他們使用了近百萬張草地的圖片、視頻去訓練模型，還根據(jù)當?shù)氐膱鼍皵?shù)據(jù)進行收集，對算法模型進行更新，訓練出最符合客戶實地應用的模型，最終交付給客戶。
端側(cè)AI的商業(yè)落地和傳統(tǒng)模式有很大區(qū)別。
對大部分用戶來說，AI是新生事物。很多用戶并不知道AI到底能為自己做什么，也沒有明確的應用場景，甚至連需求都是模糊的。而且，部署AI有一定的技術門檻。包括AI算法的研發(fā)、AI模型的訓練、數(shù)據(jù)的收集和處理，都需要具備相應的研發(fā)力量和資源。
為了更好地服務客戶，廣和通采取的做法，是進一步延伸服務范圍，為用戶提供包括軟件、硬件、算法以及模型訓練等全方位打包服務。
廣和通的免埋線式割草機行業(yè)解決方案，目前正與國內(nèi)外主流廠商合作，展示了其技術、數(shù)據(jù)、方案的領先能力，相信很快就能出現(xiàn)在公眾視野。
除了割草機器人之外，廣和通的方案還覆蓋了服務機器人、清潔機器人、運輸機器人、巡檢機器人等多個垂直領域。
● 具身智能
眾所周知，具身智能（Embodied Intelligence，有物理身體并支持物理交互的智能體）是目前人工智能領域的一個熱門研究方向。
今年1月，斯坦福大學、伯克利大學和谷歌DeepMind團隊合作推出一款名為“Mobile ALOHA”的家用具身機器人，可以炒菜、煮咖啡甚至逗貓，刷屏全網(wǎng)，也吸引了更多企業(yè)投身這一領域。
為了幫助眾多機器人廠商客戶快速復現(xiàn)及驗證Mobile ALOHA的相關算法，更快更好地研發(fā)具身機器人產(chǎn)品，廣和通推出了具身智能機器人開發(fā)平臺——Fibot。
Fibot采用全向輪底盤設計、可拆卸式訓練臂結(jié)構(gòu)，機械臂擁有更多的自由度及臂展范圍。它滿足客戶驗證Mobile ALOHA協(xié)同學習與簡單的示教操作數(shù)據(jù)需求，從而習得機械臂的高級移動操作功能算法。
Fibot還能通過底盤選配的激光雷達或雙目模組，實現(xiàn)室內(nèi)外的空間感知及建圖、路徑規(guī)劃和動態(tài)避障等算法的二次開發(fā)。它還集成了多種深度學習和強化學習AI算法，結(jié)合高效的感知系統(tǒng)與智能決策框架，極大提升了客戶進行二次開發(fā)的效率。
平臺方面，F(xiàn)ibot以廣和通高算力智能模組SC171作為主控，基于高通?QCM6490物聯(lián)網(wǎng)解決方案設計，采用8核高性能處理器，可對數(shù)據(jù)進行高效計算與處理，助力終端實現(xiàn)邊緣計算和AI特性。
廣和通AIC產(chǎn)品管理部總經(jīng)理張泫舜表示：“廣和通具身智能機器人開發(fā)平臺Fibot具備感知、視覺、定位及導航、動作控制等底層能力，能更好地賦能客戶實現(xiàn)AI與機器人相結(jié)合。隨著AI技術的突破性進展，具身智能的演進將成為科技變革的新高地與經(jīng)濟發(fā)展的加速器。”
● 其它應用領域
基于AI算法所帶來的物體檢測、跟蹤、識別能力，使得智能模組解決方案可以更好地落地機器視覺場景。例如面向工業(yè)領域的產(chǎn)品分揀、面向消費領域的車載相機，以及面向交通領域的車流監(jiān)測等。
智慧零售方面，基于智能模組的端側(cè)AI方面可以應用于智能售貨機以及ECR等收銀終端。
智能售貨機可以與用戶進行對話互動，靈活適配多種語言甚至方言，自動處理訂單。不僅節(jié)約了人力成本，也提升了用戶購物體驗。零售商也可以通過智能模組獲得關鍵的消費者數(shù)據(jù)洞察，制定對應的市場戰(zhàn)略。
端側(cè)AI在智能家居領域也有很大的市場。
將FWA（固定無線接入）與AI進行融合，可以實現(xiàn)網(wǎng)絡精準預測和智能選網(wǎng)策略，重塑網(wǎng)絡體驗與優(yōu)化天線性能。在用戶端，5G FWA融合AI、Matter技術，可以使家居設備實現(xiàn)高效互聯(lián)互通。FWA將成為智慧家庭中心管家。
█ 端側(cè)AI的機遇和挑戰(zhàn)
AI落地具有很大的想象空間，以上解決方案只是廣和通眾多應用案例的一小部分。
從整個行業(yè)的發(fā)展來看，端側(cè)AI融合通信是必然趨勢。將AI能力與IoT場景深度融合，將會為用戶帶來巨大的商業(yè)價值，也擁有廣闊的市場前景。
然后，推動端側(cè)AI的落地，并不是一件容易的事情。它也面臨很多挑戰(zhàn)，例如：行業(yè)場景和需求碎片化、標準規(guī)范缺失、技術門檻高、成本和功耗敏感等。
廣和通之所以能夠為用戶提供完善的端側(cè)AI解決方案，和他們多年的通信行業(yè)沉淀以及在AI領域的持續(xù)投入密不可分。
首先，作為模組廠商，廣和通在通信專業(yè)領域擁有雄厚實力，對各項通信技術標準研究透徹，也能夠提供全球范圍內(nèi)的運營商認證。
其次，廣和通在各個垂直行業(yè)有豐富的客戶服務經(jīng)驗，對市場和行業(yè)研究透徹，充分了解用戶的需求。他們能夠針對不同行業(yè)提供定制化的解決方案，符合行業(yè)標準且具備互操作性。
第三，廣和通在AI領域有長遠布局。他們在AI算法等領域投入了大量的研發(fā)資源，進行相關技術儲備。當大模型浪潮到來后，他們在第一時間就推出自己的行業(yè)模型應用，以及智能模組產(chǎn)品。
基于以上幾點，廣和通已經(jīng)在AIoT賽道上搶得先機，并且獲得了市場和用戶的認可。
█ 最后的話
“提速互聯(lián)，智向未來”，是本次廣和通參加MWC展的主題。
基于強大的通信連接能力，深入融合AI人工智能，是整個物聯(lián)網(wǎng)行業(yè)今后的發(fā)展方向。在技術創(chuàng)新的引領下，越來越多的AIoT場景講出現(xiàn)在我們身邊，推動整個社會走向真正的“數(shù)智時代”。
下載ECAD模型
