隨著算法、芯片、場(chǎng)景的深度融合，端側(cè)AI計(jì)算正在化身為終端智能化的核心引擎，尤其是在IoT物聯(lián)網(wǎng)領(lǐng)域，助推各類終端設(shè)備完成在AI浪潮下的精妙進(jìn)化。從智家到智駕，從安防到教育，端側(cè)AI正在重塑每一個(gè)終端應(yīng)用場(chǎng)景的智能體驗(yàn)。放眼未來，隨著RISC-V、可重構(gòu)計(jì)算、存算一體等技術(shù)的持續(xù)突破，端側(cè)AI賦能下的IoT終端生態(tài)有望真正實(shí)現(xiàn)“智能無處不在”的愿景。

“AI中樞”大顯身手，重塑萬物智聯(lián)新生態(tài)

炎炎夏日，在一顆端側(cè)AI控制芯片的幫助下，AI空調(diào)在實(shí)時(shí)感知人體位置及冷熱狀態(tài)之后，可以智能調(diào)節(jié)送風(fēng)角度與溫度，讓用戶舒爽；在自動(dòng)識(shí)別無人狀態(tài)之后，主動(dòng)切換至高效的節(jié)能模式，為家庭省點(diǎn)。

開車途中，在端側(cè)AI服務(wù)器的加持下，司機(jī)可以享受到智能座艙主動(dòng)提供的多種服務(wù)：在車載AI助手的安排下，車內(nèi)播放了駕駛員最愛的幾首歌曲，導(dǎo)航系統(tǒng)自動(dòng)調(diào)度出了回家最快捷的路線。

在校園、工地、餐飲等領(lǐng)域，搭載端側(cè)AI芯片的AI邊緣計(jì)算盒子設(shè)備正在大顯身手：監(jiān)測(cè)校園周邊的逗留、徘徊、入侵等可疑人員；實(shí)時(shí)監(jiān)測(cè)工程進(jìn)展和工地安全情況，并發(fā)現(xiàn)存在的潛在風(fēng)險(xiǎn)；實(shí)時(shí)進(jìn)行口罩/帽子佩戴、廚師服裝穿著、鼠患識(shí)別等監(jiān)測(cè)和異常識(shí)別，提升餐飲企業(yè)的食品安全水平……

可以看到，在家居、汽車、教育、安防等領(lǐng)域，IoT終端智能化正在迎來一場(chǎng)以“端側(cè)AI”為核心的技術(shù)之變。在這場(chǎng)革命中，端側(cè)AI芯片作為技術(shù)底座與賦能核心，正悄然重塑終端產(chǎn)業(yè)的發(fā)展格局與路徑。工信部相關(guān)數(shù)據(jù)顯示，截至2024年7月末，我國移動(dòng)物聯(lián)網(wǎng)終端用戶數(shù)達(dá)25.47億戶，占移動(dòng)網(wǎng)終端連接數(shù)的比重達(dá)59%。中研普華預(yù)計(jì)，2025年基于AI的物聯(lián)網(wǎng)解決方案市場(chǎng)規(guī)模將達(dá)5200億元。今年3月，聯(lián)想集團(tuán)董事長兼首席執(zhí)行官楊元慶表示，得益于算力與模型優(yōu)化，端側(cè)人工智能的進(jìn)步速度將呈現(xiàn)指數(shù)級(jí)躍升，兩者進(jìn)步的疊加效應(yīng)有望在未來12個(gè)月實(shí)現(xiàn)3倍的整體性能提升。他認(rèn)為，算力和模型效率是驅(qū)動(dòng)端側(cè)AI性能的兩個(gè)因素。拿前者來說，摩爾定律雖然停滯（也有人稱之為失效），但當(dāng)AI芯片重新激發(fā)市場(chǎng)活力，摩爾定律可能一點(diǎn)都不會(huì)停止，甚至?xí)铀佟?/p>

“在AI終端落地進(jìn)程里，端側(cè)AI芯片是絕對(duì)的‘中樞大腦’，承載著‘本地化算力供給、隱私數(shù)據(jù)保護(hù)、個(gè)性化體驗(yàn)塑造’三重使命。”清微智能聯(lián)合創(chuàng)始人、產(chǎn)品工程VP李秀冬向《中國電子報(bào)》記者表示，從更宏觀視角看，端側(cè)AI芯片打破了智能終端對(duì)云端算力的過度依賴，降低了網(wǎng)絡(luò)延遲與帶寬限制，推動(dòng) AI 終端從“云端附庸”進(jìn)化為獨(dú)立、自主、智能的“本地伙伴”，這是AI在終端領(lǐng)域從概念走向普及的關(guān)鍵支撐。

從發(fā)展趨勢(shì)來看，端側(cè)AI正在朝著“高算力、高能效、即插即用”等方向進(jìn)化，并在此過程中重塑終端生態(tài)，IoT領(lǐng)域也不例外。而支持這一變化的正是芯片的架構(gòu)創(chuàng)新。

今年7月，從“存算一體”技術(shù)著手的后摩智能發(fā)布了全新的端邊大模型AI芯片M50。與傳統(tǒng)架構(gòu)相比，適配了端側(cè)與邊緣設(shè)備“算得快又吃得少”的需求，該芯片的能效能提升5~10倍。這一變化有助于賦能筆記本、平板電腦、學(xué)習(xí)機(jī)等消費(fèi)終端的本地推理能力，無需聯(lián)網(wǎng)即可完成智能交互、內(nèi)容生成等任務(wù)，用戶隱私數(shù)據(jù)亦可閉環(huán)留存。后摩智能CEO吳強(qiáng)表示：“我們的目標(biāo)是讓大模型算力像電力一樣隨處可得、隨取隨用，真正走進(jìn)每一條產(chǎn)線、每一臺(tái)設(shè)備、每一個(gè)人的指尖?！?/p>

IoT領(lǐng)域場(chǎng)景豐富、終端多元化，需要一套芯片有更高使用效率。清微智能提出“可重構(gòu)芯片”的概念，亦是通過架構(gòu)創(chuàng)新提升能效、進(jìn)行多場(chǎng)景適配：在處理不同AI任務(wù)時(shí)（如教育場(chǎng)景中的圖像識(shí)別、自然語言處理），可靈活調(diào)配算力以降低功耗；在場(chǎng)景適配上，一套芯片架構(gòu)適配多樣場(chǎng)景需求，可根據(jù)不同應(yīng)用切換計(jì)算模式。“未來終端會(huì)集成更多傳感器，需要芯片能夠協(xié)同處理多源數(shù)據(jù)，實(shí)現(xiàn)更全面、精準(zhǔn)的智能感知與決策?！崩钚愣硎尽?/p>

端側(cè)AI全“芯”進(jìn)化，助力物聯(lián)終端升維革命

在端側(cè)AI計(jì)算賦能下，終端設(shè)備從過去“被動(dòng)執(zhí)行命令”的工具，逐漸轉(zhuǎn)變?yōu)椤爸鲃?dòng)感知、實(shí)時(shí)決策”的智能伙伴。在李秀冬看來，從核心價(jià)值看，端側(cè) AI 芯片將成為智能終端的“智能靈魂”，不再局限于簡單的數(shù)據(jù)運(yùn)算，而是主動(dòng)學(xué)習(xí)用戶習(xí)慣、環(huán)境變化，實(shí)現(xiàn)智能交互的自進(jìn)化。長遠(yuǎn)趨勢(shì)上，一方面是與邊緣計(jì)算、云計(jì)算深度協(xié)同，構(gòu)建 “端-邊-云”一體化智能體系；另一方面，面向細(xì)分行業(yè)的定制化芯片會(huì)成為主流。

端側(cè)AI技術(shù)不斷下沉，推動(dòng)物聯(lián)網(wǎng)智能終端領(lǐng)域升維發(fā)展。在這背后，關(guān)鍵之處是端側(cè)AI沿著“算力與能效協(xié)同、場(chǎng)景與芯片耦合、生態(tài)與標(biāo)準(zhǔn)構(gòu)建”三條主線的持續(xù)進(jìn)化。

一是算力與能效的協(xié)同進(jìn)化。從傳統(tǒng)架構(gòu)到存算一體、可重構(gòu)計(jì)算，端側(cè)AI芯片設(shè)計(jì)思路正從“拼命堆算力”轉(zhuǎn)向“精準(zhǔn)配算力”。無論是清微智能的TX5系列還是后摩智能的存算一體M50，它們通過架構(gòu)創(chuàng)新實(shí)現(xiàn)能效比提升數(shù)倍甚至十倍，讓終端設(shè)備在有限功耗下實(shí)現(xiàn)復(fù)雜AI任務(wù)，真正讓AI變得“可用、好用、用得久”。

二是場(chǎng)景與芯片的深度耦合。端側(cè)AI芯片不再追求“一顆芯片走天下”，而是走向場(chǎng)景化、垂直化。

針對(duì)車載場(chǎng)景，瑞芯微布局智能座艙、車載儀表、車載視覺、車載音頻、視頻傳輸和協(xié)處理器六大領(lǐng)域，車載芯片覆蓋10K DMIPS算力、20K、70K到300K的DMIPS算力，能對(duì)車機(jī)里的不同算力需求提供對(duì)應(yīng)解決方案，其推出的高端車規(guī)級(jí)智能座艙芯片RK3588M適用于汽車儀表、智能座艙、中控系統(tǒng)和信息娛樂域控制單元（DCU）等多元應(yīng)用場(chǎng)景。

面向智能穿戴場(chǎng)景，恒玄科技專注于低功耗無限計(jì)算SoC芯片研發(fā)，為端側(cè)設(shè)備提升續(xù)航能力。其推出的BES2800系列芯片憑借超低功耗架構(gòu)與高度集成化設(shè)計(jì)，在多款耳機(jī)和智能手表、智能眼鏡等終端中量產(chǎn)落地。這些理解行業(yè)痛點(diǎn)、精準(zhǔn)定義應(yīng)用場(chǎng)景的端側(cè)AI芯片，讓端側(cè)設(shè)備的價(jià)值真正釋放。

三是生態(tài)與標(biāo)準(zhǔn)的加速構(gòu)建。RISC-V等開源架構(gòu)的崛起，讓中國企業(yè)在標(biāo)準(zhǔn)制定、生態(tài)建設(shè)上正逐漸贏得更多話語權(quán)，也為相關(guān)芯片企業(yè)提供了換道超車的機(jī)遇。

基于RISC-V 開放指令集、構(gòu)建軟硬一體解決方案，正成為端側(cè)AI芯片的主流路徑。海思基于自研 RISC-V 內(nèi)核推出應(yīng)用于智能家電智能、工業(yè)控制領(lǐng)域的MCU芯片。比如，Hi3066M 芯片針對(duì)家電端側(cè)智能化需求，內(nèi)置eAI引擎，為空調(diào)、冰箱、洗衣機(jī)等家電帶來AI節(jié)能、智能檢測(cè)等創(chuàng)新應(yīng)用，突破傳統(tǒng)算法瓶頸。

特普斯微電子聯(lián)合玄鐵等IP企業(yè)推出了邊緣AI推理系統(tǒng)級(jí)芯片EA6530。這是一款將高算力的推理 NPU、玄鐵 C920 的雙四核 CPU 集群、高性能媒體處理單元和配套存儲(chǔ)及連接資源集成在一起的芯片，可支持多元化的、工業(yè)級(jí)的邊緣AI推理應(yīng)用。特普斯微電子市場(chǎng)總監(jiān)杜云海表示，RISC-V 因生態(tài)成熟度等因素多應(yīng)用于中低端嵌入式場(chǎng)景，現(xiàn)在隨著玄鐵等CPU廠商不斷推出高性能的產(chǎn)品和建設(shè)完善的軟件生態(tài)，高端邊緣AI設(shè)備使用場(chǎng)景正快速增長。

另一家創(chuàng)新企業(yè)銀河邊緣科技有限公司推出了專為智能家電、工業(yè)控制等領(lǐng)域深度定制的端側(cè)AI控制芯片RC605，采用全國產(chǎn)RISC-V內(nèi)核與NPU架構(gòu)，融合了AI控制算法與自適應(yīng)變頻控制算法。其核心亮點(diǎn)在于從實(shí)際應(yīng)用場(chǎng)景出發(fā)，瞄準(zhǔn)行業(yè)痛點(diǎn)，實(shí)現(xiàn)了家電智能化控制的全面升級(jí)，目前已在商用空調(diào)領(lǐng)域?qū)崿F(xiàn)量產(chǎn)，可實(shí)現(xiàn)節(jié)能30%。

當(dāng)前，欣欣向榮的端側(cè)AI芯片正在加速推動(dòng)IoT等領(lǐng)域迎來終端升級(jí)，不過在此過程中尚存一些需要繼續(xù)攻克的挑戰(zhàn)。李秀冬總結(jié)道，一是算法與芯片的適配難題，不同終端場(chǎng)景需要各異的AI算法，如何將復(fù)雜算法高效部署在端側(cè)芯片上，確保性能與精度，是行業(yè)難題。二是場(chǎng)景的碎片化問題，市場(chǎng)上這對(duì)芯片的兼容性提出極高要求。三是成本控制與性能提升的矛盾。要讓端側(cè)AI芯片普及，必須平衡成本與性能。