在斯坦福大學(xué)舉行的全球芯片行業(yè)年度盛會Hot Chips大會上,全球光電混合計算領(lǐng)軍企業(yè)曦智科技進行了全新光電計算產(chǎn)品Hummingbird的首次公開演示。這是繼美國西部時間8月8日發(fā)布Photowave之后,曦智科技一個月之內(nèi)再次推出新產(chǎn)品。至此,曦智科技從光子矩陣計算(oMAC)、片上光網(wǎng)絡(luò)(oNOC)、片間光網(wǎng)絡(luò)(oNET)三大核心技術(shù)出發(fā),打造的各系列產(chǎn)品均已推出首款硬件,完成了光子計算和光子網(wǎng)絡(luò)兩條產(chǎn)品線的最后一塊“拼圖”。
Hummingbird是首個用于特定領(lǐng)域人工智能(AI)工作負(fù)載的片上光網(wǎng)絡(luò)(oNOC)處理器,采用先進封裝技術(shù),將光芯片和電芯片進行垂直堆疊,集成為一個系統(tǒng)級封裝(System in Package,SiP)。
Hummingbird計算卡
oNOC技術(shù)旨在代替電芯片內(nèi)部或者芯粒之間的電互連網(wǎng)絡(luò),把電信號轉(zhuǎn)成光信號,通過光芯片中的光波導(dǎo)網(wǎng)絡(luò)進行數(shù)據(jù)通信,提高整體計算效率。通過這種方式可實現(xiàn)算力和內(nèi)存擴展,提供更低的延時,更大的互連帶寬,以及更多的拓?fù)浣Y(jié)構(gòu)。
曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示:“光子技術(shù)是解決計算規(guī)模擴展問題的有效方法。隨著AI熱潮推動了算力需求的指數(shù)級增長,傳統(tǒng)的解決方案已經(jīng)很難跟上,業(yè)界可以通過將光子技術(shù)納入下一代產(chǎn)品中來解決擴展問題,Hummingbird驗證了這一點?!?/p>
知名半導(dǎo)體行業(yè)評論人、SemiAnalysis首席分析師Dylan Patel則評論說:“曦智科技正在利用其專有的光子技術(shù)打破內(nèi)存壁壘,這有可能改變半導(dǎo)體行業(yè)?!?/p>
本次發(fā)布的Hummingbird,是繼2021年年底發(fā)布的PACE(Photonic Arithmetic Computing Engine)之后,曦智科技光子計算產(chǎn)品線的第二款產(chǎn)品,也是該產(chǎn)品線首款應(yīng)用oNOC技術(shù)的硬件。
曦智科技光電混合計算新范式
在Hot Chips大會上,曦智科技工程副總裁Maurice(Mo) Steinman詳細介紹了Hummingbird規(guī)格參數(shù),以及曦智科技光電混合計算新范式在滿足數(shù)據(jù)中心對更高算力、更低延時、更低功耗的需求上體現(xiàn)出的優(yōu)勢。
Hummingbird通過硅光芯片上的U型光波導(dǎo)傳播信號,可實現(xiàn)電芯片上64個核之間的all-to-all全通道廣播。這種方式讓Hummingbird相比于傳統(tǒng)數(shù)字互連解決方案顯著降低了延遲和功耗,充分體現(xiàn)了光子技術(shù)在提升計算表現(xiàn)上的優(yōu)越性。
與片上電網(wǎng)絡(luò)不同,曦智科技的oNOC技術(shù)通過計算節(jié)點間全互連拓?fù)浣Y(jié)構(gòu),擴展了計算集群規(guī)模和配置靈活度。
在oNOC架構(gòu)下,芯粒間距離幾乎不會影響功耗和延遲。因此,該技術(shù)非常適合開發(fā)新的、更可靠的拓?fù)浣Y(jié)構(gòu),并且不再局限于相鄰兩個芯片之間的傳輸。Hummingbird使得在單個電芯片或芯粒系統(tǒng)中更高效地利用算力成為可能。借助oNOC,將工作負(fù)載映射到不同硬件變得更加容易,為計算系統(tǒng)設(shè)計選擇合適的拓?fù)浣Y(jié)構(gòu)也變得更加靈活。
值得一提的是,Hummingbird還內(nèi)置了曦智科技自主研發(fā)的小型化單/多波長激光光源Moonstone,可實現(xiàn)多至8個通道波長的高功率光輸出,這是曦智科技在推動光電混合計算產(chǎn)品化和商業(yè)化過程中的又一技術(shù)突破。
Hummingbird的電芯片和光芯片被共同封裝并集成到一個PCIe板卡上,適用于通用的服務(wù)器。結(jié)合曦智科技的軟件開發(fā)工具包(SDK),機器學(xué)習(xí)和人工智能工作負(fù)載可以充分利用oNOC的優(yōu)勢實現(xiàn)性能優(yōu)化。此外,oNOC和Hummingbird IP還可以根據(jù)客戶應(yīng)用場景進行定制。
Hummingbird可集成在標(biāo)準(zhǔn)PCIe板卡上,具有良好的通用性
Hummingbird的后續(xù)版本將采用光罩拼接技術(shù)(reticle-stitching)以支持芯粒架構(gòu),從而實現(xiàn)更好的可擴展性,在提高能效比的基礎(chǔ)上進一步突破算力瓶頸的制約。
隨著Photowave和Hummingbird兩款光電混合產(chǎn)品的發(fā)布,曦智科技產(chǎn)品市場化進程取得了階段性進展。曦智科技接下來將持續(xù)推動產(chǎn)品迭代進程,拓寬產(chǎn)品應(yīng)用領(lǐng)域,為客戶提供一系列算力躍遷解決方案。