“技術(shù)演進的速度從來都不是線性的,回顧手機與物聯(lián)網(wǎng)的發(fā)展歷程,我們會發(fā)現(xiàn)第一部手機發(fā)明于1940年代,而手機市場的爆發(fā)式增長卻出現(xiàn)在2000年代后期,同樣的,我們看到了物聯(lián)網(wǎng)幾乎平行的趨勢,經(jīng)歷了自控、互連和智能三個階段。所以,人工智能物聯(lián)網(wǎng)(AIoT)一定是物聯(lián)網(wǎng)(IoT)未來發(fā)展的必然趨勢,也是促進物聯(lián)網(wǎng)騰飛和使整個物聯(lián)網(wǎng)生態(tài)利益均沾的動力?!?在今年的ELEXCON 深圳國際電子展上,Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務拓展副總裁馬健如是說。
圖 | Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務拓展副總裁 馬健
據(jù)悉,在2021年出貨的近300億顆基于Arm架構(gòu)的芯片中,有2/3 (近200億顆)被部署到了物聯(lián)網(wǎng)和嵌入式應用中。
什么是AIoT?
從字面上看,AIoT可以拆解為“AI+IoT”,而IoT已經(jīng)提了那么多年,人們對它的概念已經(jīng)不陌生,所以要弄清楚AIoT,還得先了解AIoT與傳統(tǒng)IoT的區(qū)別。
事實上,AIoT與傳統(tǒng)IoT的區(qū)別在于云邊端協(xié)同的整個系統(tǒng)對于數(shù)據(jù)感知、采集、處理的能力,全鏈路安全可靠性,邊緣設(shè)備實時決策效率,以及創(chuàng)新迭代速度的顯著提升。與此同時,AIoT對系統(tǒng)算力的要求也會更高。
未來,AI算子的落地會根據(jù)應用對延時、安全、帶寬的不同需求出現(xiàn)在傳感器側(cè)或控制端。
對此,馬健表示:“Arm產(chǎn)品將全面支持人工智能的部署,打造物聯(lián)網(wǎng)全面解決方案,助力AIoT智能視覺、智能語音/音頻,以及融合感知等用例的敏捷開發(fā)部署,給予客戶更靈活的選擇?!?/p>
在傳感器側(cè),Arm Cortex-M嵌入式處理器是目前普遍的選擇方案。而Arm今年發(fā)布的最新款Cortex-M85處理器,不僅通過新增Helium技術(shù),大幅度提高機器學習計算性能,同時也增強了安全性、系統(tǒng)可靠性等。此外,Arm也推出助力智能視覺的加速器Mali-C55圖像信號處理器,以及適于終端AI的加速器Ethos U系列,提升端側(cè)AI算力和效率。
在控制側(cè),Arm 看到更多客戶選擇了Arm Cortex-A系列應用處理器,因為它具備更豐富的數(shù)據(jù)處理、更強大的AI與安全支持。Arm最新的Armv9架構(gòu)最重大的升級在于AI和安全,在兼容Armv8架構(gòu)的基礎(chǔ)上,提升了安全性,增加了矢量計算、機器學習和數(shù)據(jù)信號處理等多方面能力,性能表現(xiàn)也得到極大幅度的提升。
AIoT將在哪些領(lǐng)域率先落地?
根據(jù)GSMA發(fā)布的《The mobile economy 2020(2020年移動經(jīng)濟)》報告顯示,2019年全球物聯(lián)網(wǎng)總連接數(shù)達到120億,預計到2025年,全球物聯(lián)網(wǎng)總連接數(shù)規(guī)模將達到246億,年復合增長率高達13%。
此外,根據(jù)IDC發(fā)布的數(shù)據(jù)顯示,2019年全球AIoT市場規(guī)模達到2264億美元,預計到2022年將提升至4820億美元,2019-2022年復合增長率有望達到為28.65%。
根據(jù)以上兩組數(shù)據(jù),可以看出,不論是IoT還是AIoT,全球市場規(guī)模的增長都相當可觀,且AIoT的增長速度快于整體IoT市場。
那么到底在哪些細分領(lǐng)域,AIoT正在優(yōu)先落地呢?馬健告訴與非網(wǎng):“從技術(shù)角度來講,利用AI/ML技術(shù)驅(qū)動的智能視覺、智能音頻、智能語音以及融合感知應用是人工智能物聯(lián)網(wǎng)落地的先發(fā)板塊。從應用角度來講,延續(xù)智慧城市、智能樓宇和智慧家庭的用例,人工智能物聯(lián)網(wǎng)將在工業(yè)物聯(lián)網(wǎng)和醫(yī)療健康領(lǐng)域落地開花?!?/p>
同時,她用MediaTek、研華和Canonical在工業(yè)智能物聯(lián)網(wǎng)領(lǐng)域的聯(lián)合解決方案來舉例,表明AIoT正在朝著高端化的方向發(fā)展,市場對單板計算機 (SBC)的需求正在擴張。為此,MediaTek發(fā)布了基于Arm Cortex-A78、Cortex-A55 CPU、Mali-G57 GPU的AIoT 芯片產(chǎn)品組合Genio 。而作為更下游的研華,已經(jīng)針對以視覺應用為主的IoT市場推出了基于Genio 1200芯片的RSB-3810 SBC。
國內(nèi)外AIoT產(chǎn)業(yè)的差距有多大?
我國的AIoT產(chǎn)業(yè)正從蓄力期過渡至高速發(fā)展期,國內(nèi)市場在人工智能物聯(lián)網(wǎng)方面的用例更豐富,消費者的接受能力也很高。在智能視覺和語音/音頻方面,由于國內(nèi)有豐富的數(shù)據(jù)集支持人工智能訓練,和諸如智慧城市等成熟的用例,國內(nèi)廠家在技術(shù)上也相對領(lǐng)先,生態(tài)系統(tǒng)也日趨成熟。
然而不得不承認的是,我國的自動化和聯(lián)網(wǎng)化程度還和國際發(fā)達水平有著不小的差距,尤其是在工業(yè)物聯(lián)網(wǎng)方面。
撇開基礎(chǔ)差距不談,僅從技術(shù)路線的角度來剖析,可以發(fā)現(xiàn),國外歐美成熟市場在人工智能物聯(lián)網(wǎng)方面更注重軟件定義系統(tǒng)和敏捷開發(fā)迭代,將現(xiàn)代化的CI/CD、DevOps、MLOps、容器和微服務等云原生的概念應用到端和邊緣。Arm在2021年底推出的Arm虛擬硬件 (Arm Virtual Hardware, AVH),就在AWS、GitHub、Tensorflow CI/CD得到了應用,促進AIoT軟件和AI模型的敏捷開發(fā)迭代。同時,歐美市場對于人工智能物聯(lián)網(wǎng)安全也格外重視,以AWS為例,不僅將其主推的FreeRTOS通過了PSA Certified安全認證,而且其IoT云服務督促接入的設(shè)備通過同一認證。
從IoT向AIoT轉(zhuǎn)型過程中的挑戰(zhàn)有哪些?
“AIoT未來是由軟件定義系統(tǒng),敏捷開發(fā)迭代理念及方法,和更開放擁抱合作的文化來支撐的。一個企業(yè)如果可以逐步完成創(chuàng)新文化的轉(zhuǎn)型,那么技術(shù)上的挑戰(zhàn)會迎刃而解。反之,如果不能跳出傳統(tǒng)的思維方式,在員工技能轉(zhuǎn)型、產(chǎn)品開發(fā)流程等方面進行改革,單純評估技術(shù)有可能會事倍功半。”這是馬健對IoT向AIoT轉(zhuǎn)型過程中挑戰(zhàn)的理解。這意味著,從某種程度上來說,文化挑戰(zhàn)大于技術(shù)挑戰(zhàn)。
而單講技術(shù)方面的挑戰(zhàn),馬健又特別著重以下五個方面:
- 低功耗異構(gòu)計算設(shè)備的設(shè)計和實現(xiàn):AIoT將使支持人工智能的算力分布到世界的每個角落,這樣的規(guī)模對能耗和計算效率有極高的要求,如何在AIoT部署的同時保證低碳、綠色計算,將是技術(shù)創(chuàng)新的一大方向;
- 軟硬件協(xié)同創(chuàng)新:AIoT和邊緣智能點燃了AI加速器硬件的創(chuàng)新熱潮,但是邊緣AI硬件加速能力能否完全釋放給應用層,這還需要倚靠工具鏈、底層基礎(chǔ)軟件和AI框架模型的協(xié)同;
- 全鏈路安全:AIoT使數(shù)據(jù)和計算走出數(shù)據(jù)中心,失去物理安全的保護,增大了安全攻擊面。如何保證數(shù)據(jù)在靜止、傳輸和使用中的安全,是影響到AIoT發(fā)展的緊迫問題;
- 敏捷開發(fā)迭代:人工智能模型針對應用的優(yōu)化依賴于使用真實數(shù)據(jù)對模型的重新訓練以及分發(fā),物聯(lián)網(wǎng)安全的提升也依賴于設(shè)備安全軟件的及時更新,這些需求意味著AIoT系統(tǒng)必須要使用敏捷開發(fā)迭代機制,包括將CI/CD、DevOps、MLOps、容器和微服務等云原生的概念應用到端和邊緣;
- 擁抱開放、標準和生態(tài)系統(tǒng)合作:物聯(lián)網(wǎng)的碎片化會直接抑制AIoT的規(guī)模發(fā)展與部署,將非差異化的模塊標準化,以開放的模式合作開發(fā),是減少碎片化,并提高整個生態(tài)系統(tǒng)發(fā)展速度的關(guān)鍵。
隨著市場規(guī)模的擴張,“安全問題”將成為行業(yè)焦點?
根據(jù)《PSA Certified 2022安全性報告》預測,隨著全行業(yè)協(xié)力解決長久以來確保生態(tài)系統(tǒng)安全性速度滯后數(shù)字化轉(zhuǎn)型進度的難題,2022年將成為確保物聯(lián)網(wǎng)安全的一大轉(zhuǎn)折點。物聯(lián)網(wǎng)安全性早已邁過了早期采用階段,其未來的演進方向非常清晰——安全是根本基礎(chǔ),而非可有可無。
對此,馬健表示:“Arm正在分別從認證標準、架構(gòu)創(chuàng)新、IP實踐、軟件賦能等方向,助力產(chǎn)業(yè)安全達標?!?/p>
在認證標準方面,Arm 持續(xù)推動安全性最佳實踐的共同標準,如PSA Certified與PARSEC 等。由 Arm 等公司牽頭構(gòu)建的PSA Certified是一個全球項目,并積極地將安全最佳實踐大規(guī)模地應用于設(shè)備。得益于安全框架和認證計劃,PSA Certified 為原本非常分散的市場帶來了針對物聯(lián)網(wǎng)安全解決方案的整合。PSA Certified 對安全的信任根 (RoT) 的含義進行了標準化,目前,包括 70 款芯片在內(nèi)的100 余個產(chǎn)品均采用了這一標準,為全球物聯(lián)網(wǎng)開發(fā)者簡化了建立在 RoT 基礎(chǔ)上的物聯(lián)網(wǎng)安全開發(fā)。其中,包括阿里云、瑞芯微、恒玄、晶晨等多家中國企業(yè)都有產(chǎn)品通過PSA Certified安全認證。安全的標準化對于生態(tài)系統(tǒng)的蓬勃發(fā)展是至關(guān)重要的,也是必不可少的。
在架構(gòu)創(chuàng)新方面,為了應對保護全球數(shù)據(jù)的技術(shù)挑戰(zhàn),Armv9 引入了 Arm機密計算架構(gòu) (Confidential Compute Architecture, CCA)。 CCA通過在基于硬件的安全環(huán)境中執(zhí)行計算,保護部分代碼和數(shù)據(jù)在使用時不被訪問或修改,甚至不受特權(quán)軟件的影響。CCA 還引入動態(tài)創(chuàng)建機密領(lǐng)域 (Realms) 的概念,機密領(lǐng)域面向所有應用,運行在獨立于安全或非安全環(huán)境之外的環(huán)境中,是存儲數(shù)據(jù)和執(zhí)行代碼的動態(tài)安全區(qū)域,與操作系統(tǒng)或管理程序的特權(quán)模式分離,以實現(xiàn)保護數(shù)據(jù)安全的目的。例如,在商業(yè)應用中,機密領(lǐng)域可以保護系統(tǒng)中商用機密數(shù)據(jù)和代碼,無論它們正被使用、閑置或正在傳輸中。Arm機密計算架構(gòu)建立在Arm TrustZone技術(shù)之上,是軟件容器的硬件版本,允許應用程序輕松地在不同的系統(tǒng)上運行。例如在非安全區(qū)的運行的應用程序可以動態(tài)申請機密領(lǐng)域,以保護自己的算法或數(shù)據(jù)。
在 IP 實踐方面,Arm通過包括適用于 Cortex-A 與Cortex-M 的 Arm TrustZone 等產(chǎn)品組合令最終客戶可以放心部署從云到端的物聯(lián)網(wǎng)應用。TrustZone 旨在保護敏感程序代碼和數(shù)據(jù)在 CPU 中的硬件強制隔離。作為建立 PSA-RoT 的起點之一,它可在同
一芯片內(nèi)提供安全(可信)和非安全(不可信)區(qū)域。TrustZone 在 2004年就已應用于應用級處理器,并于 2016 年被添加到 Cortex-M 系列中,成為在簡單、低功耗的物聯(lián)網(wǎng)終端以及更復雜的設(shè)備中實現(xiàn)隔離的可行選擇。今年新推出的Arm Cortex-M85也搭載了 TrustZone 技術(shù),以增強安全性。此外,它還包括了指針認證和分支目標識別 (Pointer Authentication and Branch Target Identification, PACBTI),這一全新架構(gòu)功能具備增強的軟件攻擊威脅緩解能力,有助于實現(xiàn)物聯(lián)網(wǎng)部署的安全基線 PSA Certified Level 2。
在軟件賦能方面,Arm 在提供卓越的硬件安全功能的同時,也為一些關(guān)鍵的開源軟件項目做出了貢獻,從而確保軟件開發(fā)者能夠輕松且一致地訪問和集成 PSA Certified 規(guī)定的關(guān)鍵基礎(chǔ)安全功能,這些功能也充分利用了 TrustZone等類似功能。
馬健強調(diào):“Arm助力物聯(lián)網(wǎng)的方法旨是協(xié)助Arm的合作伙伴取得成功,以確保他們能夠參與定義全新的市場和經(jīng)濟,而物聯(lián)網(wǎng)將為全球企業(yè)帶來巨大的數(shù)據(jù)和洞察力。信任和安全是這個機會的基礎(chǔ)——而 Arm的生態(tài)系統(tǒng)已經(jīng)步上正確的道路,為新的物聯(lián)網(wǎng)經(jīng)濟鋪墊基石?!?/p>
完善的生態(tài)系統(tǒng)是AIoT產(chǎn)業(yè)良性循環(huán)的基礎(chǔ)
只有把AIoT這些關(guān)鍵技術(shù)和千行百業(yè)的具體應用場景結(jié)合起來,才能激發(fā)它的真正活力,從Arm的角度來看,開發(fā)者是促進AIoT加速發(fā)展的關(guān)鍵因素之一。
目前由于物聯(lián)網(wǎng)硬件的碎片化,開發(fā)者被迫花費大量的時間和精力去做不同硬件平臺之間的底層適配工作,這些其實是不利于他們把精力和資源去開發(fā)真正有價值和差異化的實際應用。
為此,馬健表示:“Arm在大力推動的物聯(lián)網(wǎng)全面解決方案、Arm虛擬硬件,以及生態(tài)系統(tǒng)項目,包括針對 Cortex-A應用處理器的Project Cassini和針對Cortex-M嵌入式處理器的Project Centauri,就是呼吁大家一起合力促進開放生態(tài)標準的建立,打通硬件平臺碎片化的壁壘,引進更先進的開發(fā)模式和示范樣例(CI/CD、DevOps、MLOps等等),助力行業(yè)的積極健康發(fā)展?!?/p>
寫在最后
新冠流行、全球變暖等全球或區(qū)域范圍的社會議題都在促使著各行各業(yè)不斷應用最新的技術(shù),來不斷加強與世界人民息息相關(guān)的安全支柱,包括:食物、醫(yī)療保健、環(huán)境保護、人身安全、社區(qū)安全等。
馬健認為:“2023年將見證人工智能物聯(lián)網(wǎng)被應用于解決最緊迫的全球挑戰(zhàn),諸如智慧農(nóng)業(yè)、智慧醫(yī)療、智慧環(huán)保等方面。”
同時,她還強調(diào):“人工智能物聯(lián)網(wǎng)的豐富應用需要倚靠軟硬件技術(shù)棧提供的基本功能,而Arm已經(jīng)準備就緒,從可支持各種AIoT芯片組合的豐富處理器與系統(tǒng)IP,到包括編譯器、工具鏈、操作系統(tǒng),以及AI框架與模型算法優(yōu)化的強大生態(tài)系統(tǒng),再到通過Arm虛擬硬件引入現(xiàn)代化的開發(fā)方式,提供友好的賦能開發(fā)者機制,Arm與生態(tài)伙伴正在共同推進人工物聯(lián)網(wǎng)的加速落地,實現(xiàn)更豐富的應用創(chuàng)新?!?/p>