1304
福布斯中國(guó)在上海浦東香格里拉大酒店隆重舉辦了2024福布斯中國(guó)人工智能科技企業(yè)峰會(huì)。在此次盛會(huì)上，愛(ài)芯元智憑借其卓越的技術(shù)創(chuàng)新和市場(chǎng)影響力，從眾多競(jìng)爭(zhēng)者中脫穎而出，成功登上福布斯中國(guó)人工智能科技企業(yè)TOP50榜單。這一殊榮不僅是對(duì)愛(ài)芯元智在人工智能領(lǐng)域所取得成就的高度肯定，也標(biāo)志著其在推動(dòng)智能科技進(jìn)步和普惠方面的領(lǐng)先地位。
公開(kāi)資料顯示，愛(ài)芯元智半導(dǎo)體股份有限公司成立于2019年5月，致力于打造世界領(lǐng)先的人工智能感知與邊緣計(jì)算芯片，擁有愛(ài)芯智眸AI-ISP和愛(ài)芯通元混合精度NPU兩大核心自研技術(shù)，廣泛服務(wù)于智慧城市、智能駕駛、機(jī)器人以及AR/VR等巨大的邊緣和端側(cè)設(shè)備市場(chǎng)。
其中，愛(ài)芯元智混合精度NPU“愛(ài)芯通元”正式亮相于去年7月，其第三代人工智能芯片AX650N在端側(cè)和邊緣側(cè)部署Transformer的領(lǐng)先優(yōu)勢(shì)公之于眾。這款NPU采用多線程異構(gòu)多核設(shè)計(jì)，專(zhuān)為高效支持混合精度算法而打造，原生支持Transformer網(wǎng)絡(luò)結(jié)構(gòu)，為大模型在邊緣側(cè)和端側(cè)的應(yīng)用提供了堅(jiān)實(shí)的基礎(chǔ)。愛(ài)芯通元混合精度NPU以算子為原子指令集，可編程數(shù)據(jù)流架構(gòu)，實(shí)現(xiàn)算子、網(wǎng)絡(luò)微結(jié)構(gòu)、數(shù)據(jù)流和內(nèi)存訪問(wèn)的優(yōu)化，大幅提升了能效比。其在運(yùn)行SwinT模型時(shí)，量化精度達(dá)到了高于市面平均水平的80.45%，并且具有416 FPS的高性能和199 FPS/W的低功耗表現(xiàn)，顯著領(lǐng)先于同類(lèi)產(chǎn)品。此外，愛(ài)芯通元NPU還提供了成熟易用的編譯器，極大降低了AI軟件的開(kāi)發(fā)和部署成本，使客戶能夠在一小時(shí)內(nèi)快速上手，推動(dòng)AI計(jì)算的蓬勃發(fā)展。
愛(ài)芯元智自研的愛(ài)芯智眸AI-ISP結(jié)合愛(ài)芯通元混合精度NPU，顛覆了傳統(tǒng)圖像處理技術(shù)，不僅極大提高了AI識(shí)別率，還解決了低照和寬動(dòng)態(tài)成像的難題，實(shí)現(xiàn)了黑光全彩成像，并顯著降低了設(shè)備的綜合成本。
截至目前，愛(ài)芯通元NPU完成了多個(gè)主流大語(yǔ)言模型的適配，包括Llama 3、Phi-3-mini、Llama 2、TinyLlama、Phi-2、Qwen1.5和ChatGLM3等，在高效支持復(fù)雜AI任務(wù)的同時(shí)，確保了大模型技術(shù)在端側(cè)和邊緣側(cè)的普及。AX650N對(duì)Llama 3 8B Int8版本的適配以及Int4量化處理進(jìn)一步提升了每秒token處理數(shù)，滿足了流暢的人機(jī)交流需求。這一系列突破源自愛(ài)芯元智團(tuán)隊(duì)對(duì)NPU工具鏈的持續(xù)優(yōu)化，確保了大語(yǔ)言模型在其平臺(tái)上的高效運(yùn)行。
作為AI處理器，愛(ài)芯通元NPU通過(guò)在不同精度級(jí)別上分配計(jì)算任務(wù)，提升硬件利用率和計(jì)算吞吐量，縮短AI-ISP在圖像信號(hào)處理中的推理時(shí)間，實(shí)現(xiàn)實(shí)時(shí)或近實(shí)時(shí)的圖像分析和理解。其系統(tǒng)級(jí)集成設(shè)計(jì)簡(jiǎn)化了架構(gòu)，減少了數(shù)據(jù)傳輸開(kāi)銷(xiāo)，提高了整體系統(tǒng)的集成度和效率。愛(ài)芯通元NPU還支持混合精度計(jì)算，使高精度模型可以經(jīng)過(guò)量化后在低精度模式下運(yùn)行，增強(qiáng)了AI-ISP對(duì)預(yù)訓(xùn)練模型的兼容性，便于快速部署和更新算法。
愛(ài)芯通元NPU不僅實(shí)現(xiàn)了在端側(cè)和邊緣側(cè)高效部署AI大模型的目標(biāo)，還通過(guò)減少內(nèi)存墻和功耗墻的阻礙，在有限的面積和功耗下提供了更高的有效算力。這一突破性進(jìn)展將大大降低AI部署成本，使更多行業(yè)能夠受益于先進(jìn)的人工智能技術(shù)，加速智能助手在終端設(shè)備上的普及，推動(dòng)AI技術(shù)在智慧城市、智能駕駛和AIoT等領(lǐng)域的廣泛應(yīng)用。愛(ài)芯元智的創(chuàng)新不僅體現(xiàn)了其在AI芯片領(lǐng)域的領(lǐng)導(dǎo)地位，也展示了其助力各行各業(yè)實(shí)現(xiàn)智能化轉(zhuǎn)型的堅(jiān)定承諾。
愛(ài)芯元智的創(chuàng)新不僅體現(xiàn)在技術(shù)上，也體現(xiàn)在其市場(chǎng)應(yīng)用中。愛(ài)芯元智的前端IPC芯片已成功移植并優(yōu)化了市場(chǎng)上主流算法，實(shí)現(xiàn)了與后端芯片的無(wú)縫對(duì)接，并與成熟的算法廠商深度合作，打造出易于復(fù)制、快速部署的解決方案。
在創(chuàng)新的征途上，愛(ài)芯元智將繼續(xù)秉承“普惠AI造就美好生活”的理念，深耕AI技術(shù)，不斷推動(dòng)端側(cè)和邊緣側(cè)的智能化、精準(zhǔn)化和高效化。隨著5G技術(shù)的普及和物聯(lián)網(wǎng)（IoT）設(shè)備的增多，端側(cè)AI的應(yīng)用場(chǎng)景也在不斷擴(kuò)展。從智能家居到工業(yè)自動(dòng)化，從智能交通到智慧城市，端側(cè)AI正在成為連接物理世界和數(shù)字世界的橋梁。愛(ài)芯元智也將致力于構(gòu)建開(kāi)放、合作、共贏的生態(tài)系統(tǒng)，與各方伙伴攜手，共同開(kāi)拓AI技術(shù)的無(wú)限可能，為各種智慧應(yīng)用場(chǎng)景提供強(qiáng)大的底層技術(shù)支持，助力全社會(huì)智慧愿景的實(shí)現(xiàn)。
下載ECAD模型
