端側AI，又稱設備端AI、終端AI，指將AI計算能力從云端向終端設備轉移的技術。端側AI具備保護隱私、可提供個性化服務、節(jié)省帶寬、可提高系統(tǒng)可靠性、低延遲等優(yōu)勢，在汽車制造、智能安防、智能家居、消費電子等領域擁有潛在應用價值。
 受市場前景吸引，我國已有多家企業(yè)布局端側AI行業(yè)研發(fā)及應用賽道，主要包括科默羅、泰凌微、炬芯科技、中科創(chuàng)達、星宸科技、萬興科技、云天勵飛等。泰凌微為我國端側AI代表企業(yè)，其推出的TL721x及TL751x系列芯片具備邊緣AI運算能力，將于2025年實現(xiàn)批量化生產(chǎn)。伴隨本土企業(yè)持續(xù)發(fā)力，我國端側AI行業(yè)發(fā)展速度將不斷加快。預計到2025年，我國端側AI將進入商用化元年。
端側AI在眾多領域擁有潛在應用價值，主要包括汽車制造、智能安防、智能家居、消費電子等。消費電子領域為端側AI最大需求端，其可用于AI手機、AI PC以及智能穿戴設備中。在智能眼鏡中，端側AI能夠優(yōu)化人機交互體驗，用戶直接利用智能眼鏡就可完成音頻播放、錄像、拍照等操作。
受益于技術進步，智能眼鏡行業(yè)景氣度不斷提升。在全球方面，Ray-Ban Meta眼鏡為雷朋公司與Meta公司合作推出的新一代智能眼鏡，其2024年銷量有望突破200萬臺。在本土方面，經(jīng)過多年發(fā)展，我國已有多家企業(yè)推出集成多模態(tài)AI大模型的智能眼鏡，包括百度、Rokid、閃極科技等。未來隨著智能眼鏡更新迭代速度加快，端側AI市場空間將進一步擴展。
雖然端側AI應用前景廣闊，但行業(yè)發(fā)展仍面臨以下挑戰(zhàn)。一、端側AI需在復雜場景中應用，在提高芯片計算能力以及降低功耗方面仍有待改善；二、目前，端側AI市場參與者眾多，行業(yè)存在技術同質化以及無序競爭等問題；三、與云端AI相比，端側AI存在響應速度慢、模型規(guī)模小等問題，目前尚未實現(xiàn)大規(guī)模應用，市場占比較低。
端側AI在眾多領域擁有潛在應用價值，未來伴隨我國消費電子行業(yè)景氣度提升，其市場空間將進一步擴展。但目前，我國端側AI行業(yè)尚處于起步階段，仍面臨諸多問題亟待解決。未來隨著本土企業(yè)持續(xù)發(fā)力以及技術進步，我國端側AI行業(yè)發(fā)展速度有望加快。