你的位置:首頁(yè) > 互連技術(shù) > 正文

基于硬件加速的超低功耗邊緣智能,讓頭疼的“云端求助”走向本地自主化決策

發(fā)布時(shí)間:2022-11-03 來源:ADI 責(zé)任編輯:wenwei

【導(dǎo)讀】知乎上有好事者對(duì)《西游記》的故事線做過統(tǒng)計(jì),從保護(hù)唐僧遭遇各種艱難險(xiǎn)阻到最終取得真經(jīng),神通廣大的孫悟空一路上遇到各種危險(xiǎn),共求助22次,觀音菩薩和天庭諸神不斷出面幫大圣搞定各種凡間險(xiǎn)惡。每次惡斗不贏吃盡苦頭后,大圣總是會(huì)想法脫離妖魔圍困跳入云端,駕著跟斗云去尋求各路神仙,一番口舌糾纏之后,盡管總能及時(shí)出手相助化險(xiǎn)為夷,但師傅唐僧和師弟八戒、沙僧難免要苦熬一陣,或遭遇一番皮肉之苦。


這像極了人工智能日益普及的今天,越來越多的終端設(shè)備依靠云端的“大神”(中心算力)實(shí)現(xiàn)各種智能功能,盡管看起來方便,但其實(shí)很多場(chǎng)景難免面臨各種問題和潛在隱患,甚至是各種事故風(fēng)險(xiǎn)。“邊緣端設(shè)備監(jiān)測(cè)的各種數(shù)據(jù)通過網(wǎng)絡(luò)傳輸?shù)皆贫?,不僅可能帶來很多應(yīng)用場(chǎng)景下不能容忍的延遲問題,還可能因?yàn)殡[私數(shù)據(jù)的泄露導(dǎo)致嚴(yán)重的數(shù)據(jù)安全?!盇DI公司資深業(yè)務(wù)經(jīng)理李勇在最近的一次演講中表示。市場(chǎng)分析數(shù)據(jù)顯示,2020年中國(guó)邊緣計(jì)算市場(chǎng)規(guī)模為91億元,未來成長(zhǎng)空間非常廣闊,預(yù)計(jì)到2030年中國(guó)邊緣計(jì)算市場(chǎng)規(guī)模將接近2500億元。


算力下沉,亟待邊緣智能賦能多類應(yīng)用場(chǎng)景


根據(jù)Gartner預(yù)測(cè),2025年將有75%的數(shù)據(jù)產(chǎn)生在數(shù)據(jù)中心和云之外并在邊緣側(cè)進(jìn)行處理。邊緣計(jì)算在降低時(shí)延、帶寬需求、保護(hù)隱私數(shù)據(jù)等多方面的價(jià)值已經(jīng)被廣泛認(rèn)可,在產(chǎn)業(yè)數(shù)智化中的應(yīng)用也不斷涌現(xiàn)。邊緣計(jì)算作為靠近數(shù)據(jù)源頭,融合了網(wǎng)絡(luò)、存儲(chǔ)、計(jì)算與應(yīng)用能力的分布式計(jì)算平臺(tái),可以對(duì)數(shù)據(jù)在本地進(jìn)行實(shí)時(shí)分析處理,數(shù)據(jù)不必實(shí)時(shí)回傳至云端,縮短延時(shí),減少網(wǎng)絡(luò)帶寬資源需求,確保應(yīng)用安全高效運(yùn)行。


“失火而取水于海,海水雖多,火必不滅矣,遠(yuǎn)水不救近火也?!薄俄n非子·說林上》上這句話,簡(jiǎn)單二十多字說明了一個(gè)樸素而重要的道理,即使在科技發(fā)展日新月異的今天依然有其現(xiàn)實(shí)意義。在智能應(yīng)用中,因?yàn)闀r(shí)間敏感性而舍云端(遠(yuǎn))智能而用邊緣(近)智能的應(yīng)用場(chǎng)景比比皆是。


例如森林火災(zāi)監(jiān)測(cè),公路、鐵路或者是大壩塌方監(jiān)測(cè),這些地方都普遍比較偏僻,通常沒有很好的通信網(wǎng)絡(luò),但快速?zèng)Q策和預(yù)警非常關(guān)鍵,因此必須進(jìn)行邊緣端快速判定。“這種應(yīng)用時(shí)間敏感性非常高,傳統(tǒng)的云端監(jiān)測(cè),可能需要發(fā)送一組圖片到云端,對(duì)網(wǎng)絡(luò)流量要求比較高。通過監(jiān)測(cè)端自主智能識(shí)別,在狀況發(fā)生時(shí)只需要發(fā)短信息就可以快速實(shí)現(xiàn)安全告警,避免更嚴(yán)重的災(zāi)害損失發(fā)生?!?李勇指出。


9.jpg


“這些應(yīng)用除了需要邊緣端快速智能決策,對(duì)功耗敏感性也決定了需要進(jìn)行邊緣端自主決策,任何一次更換電池的運(yùn)維成本可能比設(shè)備本身更貴。”李勇道出了另外一個(gè)關(guān)鍵點(diǎn)。邊緣智能決策的好處是避免頻繁的數(shù)據(jù)傳輸、數(shù)據(jù)采集導(dǎo)致的高功耗,因此這也讓這些應(yīng)用場(chǎng)景對(duì)邊緣智能方案的低功耗特性提出更高的要求,當(dāng)前市場(chǎng)通用的MCU或FPGA的智能解決方案,在電池供電的低功耗邊緣端智能應(yīng)用中依然面臨挑戰(zhàn),市場(chǎng)需要更具超低功耗特性的新一代解決方案。


今年3·15晚會(huì)暴露的“行走的追蹤器”——兒童智能手表被黑客入侵成為了竊聽器;2021年,某品牌攝像頭事件數(shù)萬條家庭偷拍視頻被傳播售賣;2021年家庭物聯(lián)網(wǎng)Pink事件,導(dǎo)致國(guó)內(nèi)受控智能家居設(shè)備超過百萬......近年來,隨著具備音頻監(jiān)測(cè)和視頻監(jiān)測(cè)功能的智能設(shè)備的普及,類似的信息安全事故層出不窮?!斑@些智能設(shè)備需要將邊緣端監(jiān)測(cè)的數(shù)據(jù)傳到云端進(jìn)行數(shù)據(jù)處理,沒有人希望家里有一個(gè)設(shè)備可能隨時(shí)通過畫面或語音監(jiān)測(cè)你家里活動(dòng)情況,你不能確定這些音頻和圖像數(shù)據(jù)是否會(huì)被別有用心的人所利用?!崩钣轮赋觥?/p>


讓智能從云端走向邊緣,這四大核心能力不可或缺 


AI技術(shù)使機(jī)器能夠以之前完全不可能的方式來觀察、聆聽和感知世界。過去,將AI推理布置到邊緣意味著從傳感器、攝像機(jī)和麥克風(fēng)收集數(shù)據(jù),然后將數(shù)據(jù)發(fā)送到云端實(shí)現(xiàn)推理算法,再將結(jié)果送回到邊緣。由于延遲和能耗較大,這種架構(gòu)對(duì)于邊緣智能的普及極具挑戰(zhàn)。作為替代方案,低功耗微控制器可用于實(shí)施簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)運(yùn)算,但延遲會(huì)受到影響,且只能在邊緣執(zhí)行簡(jiǎn)單任務(wù),對(duì)于更加復(fù)雜的邊緣智能如何落地?ADI集成神經(jīng)網(wǎng)絡(luò)加速器的MAX78000低功耗微控制器通過獨(dú)特的架構(gòu)設(shè)計(jì)提供了新的選擇,在算力、功耗、延遲和集成度等方面實(shí)現(xiàn)了關(guān)鍵性能的平衡,為機(jī)器視覺、面部識(shí)別、目標(biāo)檢測(cè)和分類、時(shí)序數(shù)據(jù)處理和音頻處理等應(yīng)用提供了一個(gè)理想選擇。


10.jpg


邊緣智能的典型應(yīng)用場(chǎng)景是聲音識(shí)別和圖像識(shí)別,而眾所周知,卷積神經(jīng)網(wǎng)絡(luò)(CNN)是廣泛重視的一種高效識(shí)別方法。卷積神經(jīng)網(wǎng)絡(luò)以其局部權(quán)值共享的特殊結(jié)構(gòu)在模式識(shí)別方面有著獨(dú)特的優(yōu)越性,CNN算法在人工智能之機(jī)器學(xué)習(xí)、語音識(shí)別、文檔分析、語言檢測(cè)和圖像識(shí)別等領(lǐng)域等有著廣泛應(yīng)用。MAX78000的核心即是神經(jīng)網(wǎng)絡(luò)加速器,它是針對(duì)語音和圖像識(shí)別專門設(shè)計(jì)的運(yùn)算加速硬件,可以最大限度地減少卷積神經(jīng)網(wǎng)絡(luò)的功耗和延遲。


“我們看到市場(chǎng)上有很多邊緣智能處理器實(shí)際上只是支持軟件的算法,而不是硬件實(shí)現(xiàn)加速。MAX78000采用了64個(gè)CNN處理器,并行的處理器可以支持最多的卷積預(yù)算層數(shù)和通道數(shù)?!崩钣轮赋?,“MAX78000的CNN加速器完全是專有的,而且非常新穎,它的設(shè)計(jì)目標(biāo)是最小化數(shù)據(jù)移動(dòng),這是眾所周知的對(duì)芯片功耗的一個(gè)重大負(fù)擔(dān),尤其是在處理CNN中復(fù)雜的配置時(shí)。”


11.jpg


此外,MAX78000還集成了兩個(gè)MCU核心用于系統(tǒng)控制,即Arm Cortex-M4處理器和32位RISC-V處理器,其中Arm Cortex-M4F處理器以100MHz運(yùn)行,客戶可以編寫任何系統(tǒng)管理代碼,RISC-V處理器的獨(dú)特功能是支持以低功耗將數(shù)據(jù)快速加載到神經(jīng)網(wǎng)絡(luò)加速器,用戶可使用任何一種微控制器內(nèi)核將數(shù)據(jù)輸入到卷積神經(jīng)網(wǎng)絡(luò)的引擎中。而MAX78000具有432KB的權(quán)重存儲(chǔ)空間,與運(yùn)行在低功耗微控制器上的軟件解決方案相比,在配置并加載了數(shù)據(jù)后,MAX78000運(yùn)行AI推理的速度快了100倍,功耗還不到其1%。 


“低功耗是很多邊緣智能應(yīng)用場(chǎng)景的關(guān)鍵要求,MAX78000除了基于CNN加速器和雙核處理器架構(gòu),還提供高效的片內(nèi)電源管理,集成單電感多輸出 (SIMO) 開關(guān)模式電源,最大限度地延長(zhǎng)電池供電的物聯(lián)網(wǎng)設(shè)備的續(xù)航時(shí)間。”李勇表示,“很多應(yīng)用需要產(chǎn)品集成度高、體積小,基于MCU或GPU或FPGA的方案很可能放不進(jìn)去,這些方案通常還需要片外存儲(chǔ)器、PMIC,方案無論成本、尺寸還是功耗都具有很大挑戰(zhàn)性?!?/p>


1666063114865496.png


優(yōu)化聲音識(shí)別和圖像識(shí)別應(yīng)用,聚焦邊緣智能主賽道


5G與物聯(lián)網(wǎng)的發(fā)展以及各行業(yè)的智能化轉(zhuǎn)型升級(jí)帶來了爆發(fā)式的數(shù)據(jù)增長(zhǎng),而海量的數(shù)據(jù)將在邊緣側(cè)積累,建立在邊緣的數(shù)據(jù)分析與處理將成為智能市場(chǎng)增長(zhǎng)的主力?!盎谠朴?jì)算的邊緣智能可能只適合一些大企業(yè)的應(yīng)用,例如幾萬個(gè)、幾十萬個(gè)客戶來支持一個(gè)服務(wù)器,能夠支撐云端的成本。很多基本的控制應(yīng)用,邊緣端的自主智能更具成本效應(yīng),也符合隱私保護(hù)的考慮?!崩钣轮赋觥?/p>


隨著數(shù)據(jù)規(guī)模的不斷擴(kuò)大,云計(jì)算在時(shí)效性、傳輸距離、安全性等方面的不足使得其在工業(yè)制造、自動(dòng)駕駛、遠(yuǎn)程醫(yī)療等場(chǎng)景下明顯力不從心,邊緣側(cè)的重要性日益顯現(xiàn)。更靠近數(shù)據(jù)源的邊緣計(jì)算不僅能提供低時(shí)延、高可靠服務(wù),還能同時(shí)保證數(shù)據(jù)安全、處理實(shí)時(shí)性。IDC預(yù)測(cè),未來超過50%的數(shù)據(jù)需要在邊緣側(cè)進(jìn)行儲(chǔ)存、分析和計(jì)算,這就對(duì)邊緣側(cè)的硬件系統(tǒng)提出了更高的要求。


邊緣智能中,聲音智能識(shí)別和圖像智能識(shí)別是其中最主要的應(yīng)用領(lǐng)域,僅智能音箱2021年市場(chǎng)出貨量就達(dá)3896萬臺(tái),各種基于人臉識(shí)別的智能門禁、考勤機(jī)、閘機(jī)應(yīng)用層出不窮?!盎谡Z音與人臉識(shí)別的邊緣智能是當(dāng)前市場(chǎng)的重要領(lǐng)域,ADI的MAX78000針對(duì)這類應(yīng)用從產(chǎn)品方案到工具優(yōu)化以及生態(tài)上提供了豐富的支持。”李勇表示,“智能識(shí)別數(shù)據(jù)的收集和數(shù)學(xué)模型的建立跟訓(xùn)練很重要,為此ADI提供了聲音識(shí)別和face ID 識(shí)別demo程序供客戶下載和學(xué)習(xí),在其基礎(chǔ)上進(jìn)行修改。我們也有非常有經(jīng)驗(yàn)的第三方生態(tài)伙伴,提供數(shù)學(xué)模型的訓(xùn)練與數(shù)據(jù)的收集。”


13.jpg


據(jù)悉,MAX78000目前已經(jīng)在森林防火監(jiān)測(cè)、地質(zhì)災(zāi)害監(jiān)測(cè)以及智能家居等領(lǐng)域獲得廣泛應(yīng)用?!昂芏囝愃频⒉簧婕暗焦舶踩膽?yīng)用也需要實(shí)現(xiàn)本地快速智能決策,比如有用戶就針對(duì)摩托騎行愛好者希望在騎行中能對(duì)頭戴攝像頭實(shí)現(xiàn)隨時(shí)隨地的語音控制開發(fā)產(chǎn)品,類似的還有助聽器的語音控制、風(fēng)力發(fā)電設(shè)備的安全監(jiān)測(cè)這樣的預(yù)測(cè)性維護(hù)等等?!崩钣卵a(bǔ)充道,“這種基于超低功耗硬件算力,高集成度、小尺寸且低成本的邊緣智能解決方案的推出,正在為越來越多的應(yīng)用領(lǐng)域提供真正可行的智能賦能方案,我們看到類似的各種創(chuàng)新應(yīng)用正在層出不窮地推出?!?/p>



免責(zé)聲明:本文為轉(zhuǎn)載文章,轉(zhuǎn)載此文目的在于傳遞更多信息,版權(quán)歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權(quán)問題,請(qǐng)聯(lián)系小編進(jìn)行處理。


推薦閱讀:


實(shí)時(shí)處理如何驅(qū)動(dòng)高性能電源系統(tǒng)

如何打造一款極致體驗(yàn)的3D人臉智能門鎖

ADI和Keysight Technologies強(qiáng)強(qiáng)聯(lián)手 共推相控陣技術(shù)加速部署

利用高壓電池管理架構(gòu)降低組件成本

基于三重采樣Δ-Σ ADC的數(shù)字電容式MEMS麥克風(fēng),可有效提高信噪比

特別推薦
技術(shù)文章更多>>
技術(shù)白皮書下載更多>>
熱門搜索
?

關(guān)閉

?

關(guān)閉