隨著算法、芯片、場景的深度融合,端側AI計算正在化身為終端智能化的核心引擎,尤其是在IoT物聯網領域,助推各類終端設備完成在AI浪潮下的精妙進化。從智家到智駕,從安防到教育,端側AI正在重塑每一個終端應用場景的智能體驗。放眼未來,隨著RISC-V、可重構計算、存算一體等技術的持續(xù)突破,端側AI賦能下的IoT終端生態(tài)有望真正實現“智能無處不在”的愿景。
“AI中樞”大顯身手,重塑萬物智聯新生態(tài)
炎炎夏日,在一顆端側AI控制芯片的幫助下,AI空調在實時感知人體位置及冷熱狀態(tài)之后,可以智能調節(jié)送風角度與溫度,讓用戶舒爽;在自動識別無人狀態(tài)之后,主動切換至高效的節(jié)能模式,為家庭省點。
開車途中,在端側AI服務器的加持下,司機可以享受到智能座艙主動提供的多種服務:在車載AI助手的安排下,車內播放了駕駛員最愛的幾首歌曲,導航系統(tǒng)自動調度出了回家最快捷的路線。
在校園、工地、餐飲等領域,搭載端側AI芯片的AI邊緣計算盒子設備正在大顯身手:監(jiān)測校園周邊的逗留、徘徊、入侵等可疑人員;實時監(jiān)測工程進展和工地安全情況,并發(fā)現存在的潛在風險;實時進行口罩/帽子佩戴、廚師服裝穿著、鼠患識別等監(jiān)測和異常識別,提升餐飲企業(yè)的食品安全水平……
可以看到,在家居、汽車、教育、安防等領域,IoT終端智能化正在迎來一場以“端側AI”為核心的技術之變。在這場革命中,端側AI芯片作為技術底座與賦能核心,正悄然重塑終端產業(yè)的發(fā)展格局與路徑。工信部相關數據顯示,截至2024年7月末,我國移動物聯網終端用戶數達25.47億戶,占移動網終端連接數的比重達59%。中研普華預計,2025年基于AI的物聯網解決方案市場規(guī)模將達5200億元。今年3月,聯想集團董事長兼首席執(zhí)行官楊元慶表示,得益于算力與模型優(yōu)化,端側人工智能的進步速度將呈現指數級躍升,兩者進步的疊加效應有望在未來12個月實現3倍的整體性能提升。他認為,算力和模型效率是驅動端側AI性能的兩個因素。拿前者來說,摩爾定律雖然停滯(也有人稱之為失效),但當AI芯片重新激發(fā)市場活力,摩爾定律可能一點都不會停止,甚至會加速。
“在AI終端落地進程里,端側AI芯片是絕對的‘中樞大腦’,承載著‘本地化算力供給、隱私數據保護、個性化體驗塑造’三重使命。”清微智能聯合創(chuàng)始人、產品工程VP李秀冬向《中國電子報》記者表示,從更宏觀視角看,端側AI芯片打破了智能終端對云端算力的過度依賴,降低了網絡延遲與帶寬限制,推動 AI 終端從“云端附庸”進化為獨立、自主、智能的“本地伙伴”,這是AI在終端領域從概念走向普及的關鍵支撐。
從發(fā)展趨勢來看,端側AI正在朝著“高算力、高能效、即插即用”等方向進化,并在此過程中重塑終端生態(tài),IoT領域也不例外。而支持這一變化的正是芯片的架構創(chuàng)新。
今年7月,從“存算一體”技術著手的后摩智能發(fā)布了全新的端邊大模型AI芯片M50。與傳統(tǒng)架構相比,適配了端側與邊緣設備“算得快又吃得少”的需求,該芯片的能效能提升5~10倍。這一變化有助于賦能筆記本、平板電腦、學習機等消費終端的本地推理能力,無需聯網即可完成智能交互、內容生成等任務,用戶隱私數據亦可閉環(huán)留存。后摩智能CEO吳強表示:“我們的目標是讓大模型算力像電力一樣隨處可得、隨取隨用,真正走進每一條產線、每一臺設備、每一個人的指尖?!?/p>
IoT領域場景豐富、終端多元化,需要一套芯片有更高使用效率。清微智能提出“可重構芯片”的概念,亦是通過架構創(chuàng)新提升能效、進行多場景適配:在處理不同AI任務時(如教育場景中的圖像識別、自然語言處理),可靈活調配算力以降低功耗;在場景適配上,一套芯片架構適配多樣場景需求,可根據不同應用切換計算模式?!拔磥斫K端會集成更多傳感器,需要芯片能夠協(xié)同處理多源數據,實現更全面、精準的智能感知與決策?!崩钚愣硎尽?/p>
端側AI全“芯”進化,助力物聯終端升維革命
在端側AI計算賦能下,終端設備從過去“被動執(zhí)行命令”的工具,逐漸轉變?yōu)椤爸鲃痈兄?、實時決策”的智能伙伴。在李秀冬看來,從核心價值看,端側 AI 芯片將成為智能終端的“智能靈魂”,不再局限于簡單的數據運算,而是主動學習用戶習慣、環(huán)境變化,實現智能交互的自進化。長遠趨勢上,一方面是與邊緣計算、云計算深度協(xié)同,構建 “端-邊-云”一體化智能體系;另一方面,面向細分行業(yè)的定制化芯片會成為主流。
端側AI技術不斷下沉,推動物聯網智能終端領域升維發(fā)展。在這背后,關鍵之處是端側AI沿著“算力與能效協(xié)同、場景與芯片耦合、生態(tài)與標準構建”三條主線的持續(xù)進化。
一是算力與能效的協(xié)同進化。從傳統(tǒng)架構到存算一體、可重構計算,端側AI芯片設計思路正從“拼命堆算力”轉向“精準配算力”。無論是清微智能的TX5系列還是后摩智能的存算一體M50,它們通過架構創(chuàng)新實現能效比提升數倍甚至十倍,讓終端設備在有限功耗下實現復雜AI任務,真正讓AI變得“可用、好用、用得久”。
二是場景與芯片的深度耦合。端側AI芯片不再追求“一顆芯片走天下”,而是走向場景化、垂直化。
針對車載場景,瑞芯微布局智能座艙、車載儀表、車載視覺、車載音頻、視頻傳輸和協(xié)處理器六大領域,車載芯片覆蓋10K DMIPS算力、20K、70K到300K的DMIPS算力,能對車機里的不同算力需求提供對應解決方案,其推出的高端車規(guī)級智能座艙芯片RK3588M適用于汽車儀表、智能座艙、中控系統(tǒng)和信息娛樂域控制單元(DCU)等多元應用場景。
面向智能穿戴場景,恒玄科技專注于低功耗無限計算SoC芯片研發(fā),為端側設備提升續(xù)航能力。其推出的BES2800系列芯片憑借超低功耗架構與高度集成化設計,在多款耳機和智能手表、智能眼鏡等終端中量產落地。這些理解行業(yè)痛點、精準定義應用場景的端側AI芯片,讓端側設備的價值真正釋放。
三是生態(tài)與標準的加速構建。RISC-V等開源架構的崛起,讓中國企業(yè)在標準制定、生態(tài)建設上正逐漸贏得更多話語權,也為相關芯片企業(yè)提供了換道超車的機遇。
基于RISC-V 開放指令集、構建軟硬一體解決方案,正成為端側AI芯片的主流路徑。海思基于自研 RISC-V 內核推出應用于智能家電智能、工業(yè)控制領域的MCU芯片。比如,Hi3066M 芯片針對家電端側智能化需求,內置eAI引擎,為空調、冰箱、洗衣機等家電帶來AI節(jié)能、智能檢測等創(chuàng)新應用,突破傳統(tǒng)算法瓶頸。
特普斯微電子聯合玄鐵等IP企業(yè)推出了邊緣AI推理系統(tǒng)級芯片EA6530。這是一款將高算力的推理 NPU、玄鐵 C920 的雙四核 CPU 集群、高性能媒體處理單元和配套存儲及連接資源集成在一起的芯片,可支持多元化的、工業(yè)級的邊緣AI推理應用。特普斯微電子市場總監(jiān)杜云海表示,RISC-V 因生態(tài)成熟度等因素多應用于中低端嵌入式場景,現在隨著玄鐵等CPU廠商不斷推出高性能的產品和建設完善的軟件生態(tài),高端邊緣AI設備使用場景正快速增長。
另一家創(chuàng)新企業(yè)銀河邊緣科技有限公司推出了專為智能家電、工業(yè)控制等領域深度定制的端側AI控制芯片RC605,采用全國產RISC-V內核與NPU架構,融合了AI控制算法與自適應變頻控制算法。其核心亮點在于從實際應用場景出發(fā),瞄準行業(yè)痛點,實現了家電智能化控制的全面升級,目前已在商用空調領域實現量產,可實現節(jié)能30%。
當前,欣欣向榮的端側AI芯片正在加速推動IoT等領域迎來終端升級,不過在此過程中尚存一些需要繼續(xù)攻克的挑戰(zhàn)。李秀冬總結道,一是算法與芯片的適配難題,不同終端場景需要各異的AI算法,如何將復雜算法高效部署在端側芯片上,確保性能與精度,是行業(yè)難題。二是場景的碎片化問題,市場上這對芯片的兼容性提出極高要求。三是成本控制與性能提升的矛盾。要讓端側AI芯片普及,必須平衡成本與性能。
- QQ:61149512