1239
AI芯片，有錢就能做？必要但不充分。只有當你足夠成功，才配有名有姓。
兩大陣營
為什么全球CPU、GPU公司只有屈指可數(shù)的幾家，但是人工智能大潮一來，幾年間就涌現(xiàn)出了那么多的AI芯片公司？AI芯片，有錢就能做嗎？
這是芯片工程師的一個“友盡”話題，肯定派認為：與高端通用處理器相比，AI芯片多數(shù)是ASIC，容易多了；否定派認為，AI芯片需要針對算法進行特定設計，應用場景限制更多，是多方面設計思想的完美平衡，尤其是直接面向碎片應用的邊緣計算AI芯片，并不比CPU、GPU容易。
開發(fā)不易落地難，費時燒腦忙全棧——算是邊緣AI芯片開發(fā)的真實寫照了吧。
邊緣計算其實是上世紀九十年代初提出的概念，來源于數(shù)據(jù)內容傳輸網(wǎng)絡，用來服務網(wǎng)頁和視頻內容，當時是從端側服務器所產生的服務，可以更加靠近用戶。
從過去三十年的發(fā)展變遷來看，數(shù)據(jù)類型和體量發(fā)生了巨大變化。最早期是人產生數(shù)據(jù)（比如廣播、電視媒體等），到現(xiàn)在大量智能終端用戶都在產生數(shù)據(jù)，此外，還有機器產生的數(shù)據(jù)，以及元數(shù)據(jù)（描述數(shù)據(jù)的數(shù)據(jù)）……這些數(shù)據(jù)必須要靠近處理數(shù)據(jù)的地方。這些都導致了數(shù)據(jù)類型越來越多元化，遠非傳統(tǒng)CPU或GPU就可以處理的。
邊緣AI芯片設計新挑戰(zhàn)？
英特爾研究院副總裁、英特爾中國研究院院長宋繼強表示，邊緣計算是巨大的創(chuàng)新機會，它是由數(shù)據(jù)和場景驅動的，因此需要進行許多垂直整合，優(yōu)化包括算法、應用負載、異構計算的集成等整套系統(tǒng)，而不只是做好一部分底層技術就可以。
時擎科技總裁于欣認為，邊緣計算AI芯片的最主要挑戰(zhàn)是如何提高算力的效率?，F(xiàn)在已經過了通過粗暴的先進制程來去堆砌算力的時代了，特別是面向應用和算法的時候，如何把芯片的算力發(fā)揮出來，是決定未來AI芯片發(fā)展的一個重要的因素。
靈汐科技副總經理華寶洪提到了AI芯片的三大技術挑戰(zhàn)：
首先是摩爾定律挑戰(zhàn)，半導體光刻技術已經接近極限，目前想要在3nm以下再提升工藝水平已經是極為挑戰(zhàn)的技術難題，而成本、市場與需求之間的平衡，也極大可能難以為繼。相伴而來的還有馮·諾依曼架構的瓶頸：高速處理器與數(shù)據(jù)I/O帶寬間的不平衡，高速處理器和低能效比存儲之間的不平衡等，這些因素嚴重影響了整體效率。
其次是對高能效比與高性價比的兼顧，既要保證邊緣端用戶享受優(yōu)質的算力服務，又要給予合理的價位水平。
最后還需要能適應邊緣計算各種復雜場景的自適應能力。如何去處理動態(tài)的復雜的場景？如何去解決沒有大數(shù)據(jù)情況下有限樣本的泛化？如何去面對真實世界不可被窮舉的數(shù)據(jù)？這些都是現(xiàn)階段AI芯片面臨的挑戰(zhàn)。
Imagination計算業(yè)務產品管理總監(jiān)Rob Fisher也強調，AI芯片要設計足夠靈活的架構以適應新的創(chuàng)新，同時，與可編程設備相比，還要實現(xiàn)高效加速。要達到這一平衡，既需要足夠的固定功能以獲得性能和效率，通常又要有足夠的可編程性以適應新網(wǎng)絡和算法的發(fā)展速度。
傳統(tǒng)芯片開發(fā)模式受沖擊？
邊緣場景復雜、算法復雜、任務碎片化，體現(xiàn)在硬件層面，芯片底層設計要考慮如何用軟件定義硬件，給未來的軟件開發(fā)留出足夠多的調整迭代空間，達到應用場景的多樣化和復雜化；體現(xiàn)在軟件棧層面，包括指令集、底層編譯器、高層編譯器、算法、應用框架支持等全鏈條，都需要有能力覆蓋和支持。這意味著既有的芯片開發(fā)模式，無論硬件還是軟件層面，都在遭受新的沖擊。
靈汐科技華寶洪認為“實現(xiàn)碎片化產業(yè)的融合”非常關鍵。芯片設計首先要考慮邊緣計算場景，進行定制化的優(yōu)化；一旦流片完成，后續(xù)所有場景和復雜任務的更新，都通過軟件來迭代。也就是說，通過軟件定義硬件的模式驅動需求的最終落地，即基于軟硬件解耦技術屏蔽底層硬件的差異，實現(xiàn)碎片化應用的落地。
事實上，對于五花八門的芯片架構，下游廠商往往無法真正做到“高效地利用硬件資源”。 時擎科技于欣表示，這就需要芯片原廠做得更多一些，不再是簡單提供一個芯片，而是針對客戶要求的一個完整的解決方案。這對于芯片原廠的算法和應用開發(fā)能力，肯定是帶來更高挑戰(zhàn)。 “當然還有一種辦法，就是把芯片做得更“好用”，對開發(fā)者更友好”，他補充，“這是兩個努力的方向，本質上也不沖突。畢竟芯片原廠根本的出發(fā)點，還是如何更好地配合客戶，以芯片為核心和基礎，提供客戶所需要的增值服務?！?/p>
如何尋求新突破？
時擎科技于欣認為，AI芯片設計可以遵循兩個大的思路：一是如何對開發(fā)者更友好，從而能夠進行最優(yōu)化設計，讓芯片里的每一個晶體管都能真正派上用場；二是通過專用的架構，讓算法和芯片融合得更緊密。
從目前所看到的主流方向來看，除了智慧安防、智能汽車等，更多是整體智能化生活的演進在驅動著邊緣計算的發(fā)展?！安灰姷帽仨毷切律膱鼍昂驮O備形態(tài)，目前存量的終端設備的智能化升級，也是很大的一個推動力。當然這是一個過程，一定需要時間。而決定這個過程進展快慢的，一方面要看AI技術是否帶來真正的便利，另一方面還要看成本上是否可行、可落地，從這個角度來說，物美和價廉一個都不能少”，于欣補充。
談及下一步的突破點，靈汐科技華寶洪認為“要多向人腦學習”。傳統(tǒng)意義上單純依靠堆大數(shù)據(jù)、高算力的方法或將成為過去式，要想有新的突破，必須有新的思路，而類腦計算就是關鍵之一。從過往的發(fā)展來看，基于碳基已經進化到人腦這個最強大的通用智能體，基于硅芯片已經可以輸出一些強大的機器智能，那么，借鑒腦科學的基本原理發(fā)展類腦計算，從而支撐人工通用智能的發(fā)展，是完全有可能的?！邦惸X計算將有可能成為一把突破傳統(tǒng)AI計算瓶頸、打開通用人工智能大門的鑰匙，從而也就破解了后摩爾時代所帶來的新挑戰(zhàn)”，他表示，“此外，邊緣計算芯片多以SoC為主，可以自研也可以直接采購第三方IP，在此背景下，擁有獨立研發(fā)AI計算 IP核的能力也成為了企業(yè)的核心競爭力和突破點?！?/p>
關于AI芯片應用的驅動力，Imagination Rob Fisher認為，自然語言處理是一大方向。例如最近在語音轉意圖引擎領域的研究和開發(fā)，已經實現(xiàn)了在極低功耗架構中構建精確系統(tǒng)，從而可以加速小型神經網(wǎng)絡。此外還有自動駕駛系統(tǒng)，正在推動芯片設計人員創(chuàng)建極快的加速架構，以實時處理大量的傳感器數(shù)據(jù)。
邊緣訓練尚乏動力？
目前在邊緣側，仍以推理任務居多。如果要進一步滿足低延遲、自適應響應的要求，是否有必要在邊緣側進行一定量的訓練任務？如果要進行訓練，還有哪些挑戰(zhàn)需要解決？
上海雪湖科技有限公司副總裁趙小吾認為，訓練所需要的算力比推理多很多，目前還沒看到太多在邊緣側進行訓練的需求。不過，如果自適應學習模型能滿足邊緣計算設備對精度、性能、功耗和成本的要求，相信未來會看到更多的應用需求。
時擎科技于欣也認為短期內不會出現(xiàn)這種需求。絕大部分的訓練對延時、甚至成本并不是非常敏感，這些任務完全沒有必要放在邊緣去做。他強調，所有的工作任務還是有邊界的，還是要揚長避短地去完成，這是由內在的邏輯決定的，沒有必要為了跨界而去跨界。
靈汐科技華寶洪則表示，車路云協(xié)同、自動駕駛等領域，由于實時性、安全性的要求，均需要在邊緣側進行訓練。未來，在線學習、小樣本學習、復雜場景中實現(xiàn)動態(tài)自適應調整等需求都會在邊緣側的訓練中得到解決。
他認為，一方面，邊緣側仍以CPU、GPU等傳統(tǒng)芯片為主，訓練任務所帶來的高能耗、高價格等是固有的挑戰(zhàn)；另一方面，邊緣側的特點決定了在邊緣進行訓練，將會面臨大數(shù)據(jù)不足、離線訓練時間代價高等難題，這些挑戰(zhàn)嚴重阻滯了邊緣訓練的發(fā)展。邊緣訓練要取得長足發(fā)展，離不開新型計算架構的支撐，實現(xiàn)途徑包括在線學習、小樣本學習等。
方向：走向更強的智能邊緣
智能邊緣確實是一個熱詞，未來的市場空間也非常龐大。但是，業(yè)界當前對它的理解和部署仍在摸索中。比如，電信運營商的移動邊緣計算（Mobile Edge Computing）叫智能邊緣，云廠商、CDN前置的一些業(yè)務類型也可以叫智能邊緣。未來，各行各業(yè)的數(shù)字化轉型雖然都需要進行智能邊緣的部署，但是還要取決于具體的應用需求，例如延遲、帶寬、價格和能耗等方面。
從實現(xiàn)方式來看，現(xiàn)在很多智能邊緣的能力多數(shù)通過一個盒子（邊緣計算盒）的形式在提供，能力非常有限，實際上相當于是對MEC簡單的擴展，是比較弱的智能邊緣。
英特爾宋繼強表示，如果未來要用在智能制造、港口、礦山等領域，需要網(wǎng)絡、計算、存儲等更多功能，那就意味著對數(shù)據(jù)量的處理是巨量的，對AI算力要求更高，而且有實時要求。因此，弱的邊緣肯定是不夠的，一定要向更強的邊緣去演進。
他認為服務機器人是邊緣計算一個非常典型的應用場景，因為持續(xù)學習的能力對于機器人非常重要。例如未來要走入家庭中起到照顧、陪伴作用的機器人，它需要具備長期的、可逐步提高的服務能力，這就需要從具體場景中逐漸學習、構造對場景的理解。通過進一步分析場景中的相互關聯(lián)，形成機器人自己的記憶，才能進行后續(xù)的能力提升。
如果這個學習過程只靠機器人自身完成的話，對硬件的要求太高，這就需要用到邊緣計算，一方面將不需要即時響應的計算卸到邊緣側，另一方面也可以利用邊緣計算進行存儲，相當于通過智能邊緣，幫助機器人這類前端設備，具備了更大的存儲和計算容量，獲得了自體之外的另一個“大腦”。
寫在最后
芯片是工業(yè)技術發(fā)展到極致的體現(xiàn)，包括對零部件精細度、生產環(huán)境、自身工藝的要求等等，是一個龐大的系統(tǒng)工程。對于AI芯片來說，除了面臨傳統(tǒng)芯片的問題，挑戰(zhàn)更進一步。因為在AI應用中，芯片是承載計算功能的基礎部件，軟件是實現(xiàn)AI的核心，這是AI芯片從業(yè)者不得不面對的現(xiàn)實。
不過，經過過去幾代IT產業(yè)不斷給萬物云化、智能化帶來新的推動力，現(xiàn)在已經到了一個把萬物都智能化的關鍵階段。新時代的數(shù)據(jù)盛宴，正是邊緣計算發(fā)力的絕佳時期，邊緣AI芯片挑戰(zhàn)不小，蛋糕也不小。
下載ECAD模型
