652
TinyML微型機(jī)器學(xué)習(xí)技術(shù)正在加速物聯(lián)網(wǎng)行業(yè)的智能革新，但通信功耗限制和模型更新困難仍是阻礙其在真實(shí)場景落地的“最后一公里“難題。近日，縱行科技宣布將和QuickLogic公司聯(lián)合推出ZETA-TinyML開發(fā)套件，以滿足遠(yuǎn)距離、低功耗和成本敏感的嵌入式人工智能產(chǎn)品的原型驗(yàn)證及應(yīng)用需求，打造一站式連接-訓(xùn)練-部署-應(yīng)用的泛在智聯(lián)新生態(tài)。該開發(fā)套件面向企業(yè)、高校、個人開發(fā)者，即日起接受預(yù)定，并從9月份開始發(fā)貨。此開發(fā)套件為那些運(yùn)營商信號難以覆蓋、遠(yuǎn)距離和需要實(shí)時處理的物聯(lián)網(wǎng)應(yīng)用帶來了無限可能，例如偏遠(yuǎn)山區(qū)的環(huán)境監(jiān)測、畜牧群動態(tài)跟蹤、戶外廣告牌的松動檢測；工廠中設(shè)備的預(yù)測性維護(hù)、皮帶機(jī)的啟停和狀態(tài)識別、管道氣體的異常泄露監(jiān)測；智能可穿戴設(shè)備、手勢和語音識別等多種復(fù)雜場景。
1.實(shí)現(xiàn)TinyML應(yīng)用的最后一公里：通訊和升級
在嵌入式設(shè)備部署和運(yùn)行機(jī)器學(xué)習(xí)模型向來困難重重，但越來越多的軟硬件平臺正讓這一切變得容易起來。QuickLogic是其中領(lǐng)先的佼佼者，其超低功耗可編程SOC半導(dǎo)體技術(shù)和旗下SensiML子公司一站式AutoML平臺，為TinyML的訓(xùn)練部署和驗(yàn)證提供了一個完整的解決方案。
QuickFeather低功耗開源代碼硬件開發(fā)工具包（HDK）是一個小型系統(tǒng)，這是第一款Arm CortexR-M4F MCU并完全支持Zephyr RTOS和FreeRTOS，是下一代低功耗、支持機(jī)器學(xué)習(xí)（ML）的物聯(lián)網(wǎng)設(shè)備的理想選擇。與其他基于專有硬件和軟件工具的開發(fā)包不同，QuickFeather基于100%開源硬件并圍繞100%開源軟件（包括Symbiflow FPGA工具）構(gòu)建。
QuickFeather開發(fā)板
SensiML提供了一套完整的TinyML數(shù)據(jù)捕獲、算法生成和驗(yàn)證的工具包解決方案，適用于自動化創(chuàng)建并優(yōu)化AI物聯(lián)網(wǎng)傳感器識別代碼過程的每個步驟。整個工作流使用不斷增長的高級ML和AI算法庫來生成代碼，這些代碼可以在開發(fā)階段或部署后從新數(shù)據(jù)中學(xué)習(xí)。
SensiML工具包流程圖
借助QuickFeather開發(fā)板和SensiML訓(xùn)練平臺，現(xiàn)在可以將一個訓(xùn)練并驗(yàn)證好的機(jī)器學(xué)習(xí)推理模型直接部署到MCU中，但這些對于一個完整的TinyML應(yīng)用來說還不夠。物聯(lián)網(wǎng)的應(yīng)用大部分由電池驅(qū)動，雖然模型已經(jīng)極度壓縮節(jié)省了內(nèi)存和計(jì)算耗能，但模型的推理結(jié)果仍需要上傳，還需要考慮業(yè)務(wù)下行的傳輸要求。一般來說，通信耗能和計(jì)算耗能占比至少為3:1，低功耗傳輸仍是TinyML產(chǎn)品開發(fā)者必須直面的最大挑戰(zhàn)之一。
此外，TinyML模型部署后并非一勞永逸，還存在一些不確定性的升級需求，這些不確定性包括模型參數(shù)調(diào)整、重新訓(xùn)練需求、業(yè)務(wù)邏輯變化等。有線連接更新僅適用于調(diào)試階段，對于安裝到客戶現(xiàn)場的應(yīng)用幾乎不具備可行性。傳統(tǒng)遠(yuǎn)程升級方式（OTA）占用資源且耗電，對于大部分物聯(lián)網(wǎng)場景并不友好，升級困難無疑在某種程度上限制了端側(cè)智能產(chǎn)品的發(fā)展。
所以，當(dāng)一個算法工程師正在為串口打印出的98%模型精度擊掌歡呼時，產(chǎn)品設(shè)計(jì)師卻只是聳聳肩，“很好，還剩最后一公里?！?/p>
2.ZETA+TinyML滿足“低功耗+通信+遠(yuǎn)程升級”需求
ZETA作為國內(nèi)唯一全棧國產(chǎn)化的LPWAN物聯(lián)網(wǎng)通信技術(shù)，解決物聯(lián)網(wǎng)產(chǎn)業(yè)存在的終端功耗高、海量連接、廣域覆蓋能力不足和成本高等困難，非常適合大規(guī)模部署。作為全球首個支持分布式組網(wǎng)的LPWAN通訊標(biāo)準(zhǔn)，ZETA利用搭載Advanced M-FSK調(diào)試解調(diào)的超窄帶技術(shù)，提出“LPWAN2.0泛在物聯(lián)”愿景，旨在以更高性能、更強(qiáng)穿透力、更低成本加速物聯(lián)網(wǎng)在工業(yè)、物流等成本敏感性行業(yè)的應(yīng)用。
ZETA LPWAN 2.0泛在物聯(lián)
ZETA并不局限于傳統(tǒng)LPWAN行業(yè)的低速率場景，針對諸如圖像、振動和聲音等中、高速率應(yīng)用，ZETA與TinyML技術(shù) 深度融合，各種“端智能“傳感器內(nèi)置著機(jī)器學(xué)習(xí)AI算法，以低成本、低功耗和穿透力更強(qiáng)的ZETA通信技術(shù)為載體，使智能泛在物聯(lián)無處不在。
與此同時，針對TinyML遠(yuǎn)程升級難題，ZETA自研差分OTA算法，可在server端對新舊軟件包進(jìn)行對比分析和高效壓縮，在保留遠(yuǎn)距離覆蓋性能基礎(chǔ)上完成低功耗升級。以100kB、10%差異的TinyML模型來說，最終的差分包大小將在11kB以下，而僅要求10kB的額外內(nèi)存空間，幾乎適用于所有物聯(lián)芯片使用。
3.ZETA+ QuickLogic：加速端側(cè)AI產(chǎn)品應(yīng)用進(jìn)程
此次與QuickLogic的合作，將在QuickFeather開發(fā)板基礎(chǔ)上，上疊ZETA高性能通信模組，并搭配ZETA低成本網(wǎng)關(guān)使用。軟件層面，ZETA通信部分SDK將直接集成到SensiML軟件平臺上，可直接生成能部署運(yùn)行的Binary文件，用戶只需配置推理結(jié)果的對應(yīng)關(guān)系。同時，ZETA為開發(fā)者提供云Server服務(wù)，進(jìn)行終端管理、ZETA網(wǎng)絡(luò)配置、協(xié)議解析和差分OTA升級功能，當(dāng)有新的TinyML模型時，可一鍵完成遠(yuǎn)程升級。此開發(fā)套件將幫助那些端側(cè)AI產(chǎn)品的開發(fā)者們進(jìn)一步縮短原型驗(yàn)證周期，提前發(fā)現(xiàn)并評估網(wǎng)絡(luò)環(huán)境帶來的影響，從而加速整個產(chǎn)品的落地進(jìn)程。
ZETA-TinyML開發(fā)套件包
主要技術(shù)指標(biāo)
?
4.ZETA-TinyML開發(fā)套件：豐富泛在物聯(lián)應(yīng)用場景
此開發(fā)套件為那些運(yùn)營商信號難以覆蓋、遠(yuǎn)距離和需要實(shí)時處理的物聯(lián)網(wǎng)應(yīng)用帶來了無限可能，無論是偏遠(yuǎn)山區(qū)的環(huán)境監(jiān)測、畜牧群動態(tài)跟蹤、戶外廣告牌的松動檢測，還是工廠中設(shè)備的預(yù)測性維護(hù)、皮帶機(jī)的啟停和狀態(tài)識別、管道氣體的異常泄露監(jiān)測，抑或是智能可穿戴設(shè)備、手勢和語音識別，都能通過ZETA-TinyML開發(fā)套件來快速完成原型驗(yàn)證和匹配于真實(shí)場景的測試。
聲音和語音分析需求是推動著TinyML應(yīng)用快速發(fā)展的新勁動力，關(guān)鍵詞喚醒應(yīng)用正是到目前為止TinyML的最佳代表作。與此同時，自然界、工廠、城市、家居場景中無時無刻都存在著各種聲音：動物的叫聲、機(jī)器的轟鳴聲、汽車行駛的噪聲、嬰兒的啼哭聲…盡管這些聲音沒有確切的理論模型，但是通過ZETA-TinyML開發(fā)套件，仍能快速完成模型創(chuàng)建和驗(yàn)證，并瞄準(zhǔn)于始終在線的低功耗檢測。比如智能咳嗽檢測以在公共場所排查新冠疫情風(fēng)險、野外珍稀動物的叫聲識別以幫助統(tǒng)計(jì)其活動范圍和數(shù)量、變電站內(nèi)聲音異響檢測以識別變壓器異常放電故障、藍(lán)牙耳機(jī)在使用中識別到地鐵運(yùn)行聲音以自動開啟主動降噪功能…這些音頻分析場景都能在ZETA-TinyML套件上完成開發(fā)和樣機(jī)測試。
?
使用聲音識別皮帶機(jī)脫落故障
QuickLogic中國區(qū)總經(jīng)理張貴表示，“我們非常高興能與縱行科技在嵌入式人工智能領(lǐng)域展開合作，ZETA超低功耗特性和LPWAN2.0的泛在物聯(lián)構(gòu)想與QuickLogic的戰(zhàn)略方向不謀而合。不論你是高校、企業(yè)還是個人開發(fā)者，都能使用ZETA-TinyML套件來激發(fā)你完成一些非常有創(chuàng)意、更具實(shí)用價值的智能物聯(lián)網(wǎng)應(yīng)用，甚至是一款‘殺手級’產(chǎn)品。”?
