在本地進行人工智能計算的四個優點
發布時間:2022-10-28 責任編輯:lina
【導讀】為什麼人們需要更低功耗的人工智能?麻省理工學院(MIT)副教授Vivienne Sze此前在接受采訪時表示,人工智能應用正在向智能手機、微型機器人、互聯網連接設備和其他功率和處理能力有限的設備轉移,意味著數據處理不再需要在雲端、cangkufuwuqijijiashangjinxing,congyunshangxiezaijisuanshiwomennenggoukuodarengongzhinengdeyingxiangfanwei,tongguojianshaoyuyuanchengfuwuqitongxinzaochengdeyanchilaijiakuaixiangyingshijian。
為什麼人們需要更低功耗的人工智能?麻省理工學院(MIT)副教授Vivienne Sze此前在接受采訪時表示,人工智能應用正在向智能手機、微型機器人、互聯網連接設備和其他功率和處理能力有限的設備轉移,意味著數據處理不再需要在雲端、cangkufuwuqijijiashangjinxing,congyunshangxiezaijisuanshiwomennenggoukuodarengongzhinengdeyingxiangfanwei,tongguojianshaoyuyuanchengfuwuqitongxinzaochengdeyanchilaijiakuaixiangyingshijian。
現在,人工智能的本地化部署有了一個專屬名稱——邊緣智能,也可叫做邊緣人工智能。隨著5G、人工智能和網絡安全三大領域相互滲透,智慧工廠和自動駕駛兩大典型的物聯網應用引發數據爆發式增長,傳統雲端處理、邊端執行的模式已經出現明顯的瓶頸,終端硬件搭配AI模型和軟件算法已經是大勢所趨,成為人工智能發展的下一個關鍵階段。
本ben文wen我wo們men將jiang重zhong點dian討tao論lun傳chuan統tong人ren工gong智zhi能neng麵mian臨lin的de挑tiao戰zhan,以yi及ji邊bian緣yuan智zhi能neng會hui帶dai來lai哪na些xie好hao處chu。同tong時shi,也ye會hui為wei大da家jia推tui薦jian貿mao澤ze電dian子zi上shang在zai售shou的de,適shi用yong於yu部bu署shu邊bian緣yuan智zhi能neng的de元yuan器qi件jian,推tui動dong產chan業ye大da升sheng級ji。
邊緣智能的四大典型優勢
自上世紀50年代人工智能概念被提出以後,產業發展至今經曆了數次的高潮和寒冬。雖然有低穀,但人類對人工智能技術的探索從沒有停止過。2006年至今,我們經曆了人工智能產業新一輪發展大潮,在此過程中,“算力+算法+數據”正式被定義為人工智能產業的三駕馬車,雲計算平台作為算力提供源,大幅提升了人工智能算法模型的體量。
根據前瞻產業研究院的統計數據,從2016年到2020年全球人工智能產業市場規模實現了數倍的增長,從2016年的593億美元快速增長到了2020年的2,335億美元。市場的高速增長不僅給企業帶來巨大的投資回報,同時也賦予社會發展肉眼可見的便利性。
圖1:全球人工智能市場規模(圖源:前瞻產業研究院)
然而,在電信業務、政府、安防、金融四大傳統人工智能應用領域取得突破之後,全球人工智能發展遇到了新的阻力,發生了巨大的變化。根據市場分析機構IDC的預測,未來人工智能發展不再僅僅是雲端集中式,會更加注重落地和實踐,趨向廣泛化、縱向化,打通人工智能技術和廣泛行業的最後一公裏。
在這種大趨勢下,傳統人工智能應用框架出現了明顯的技術瓶頸,包括數據瓶頸、泛化瓶頸、能耗瓶頸、預義鴻溝瓶頸、kejieshixingpingjinghekekaoxingpingjingdeng。zaizhemeduopingjingbeihou,yigexiangtongdeyuanyinshiciqianderengongzhinengyingyongkuangjiali,suoyouyingyongdoushiyiyunjisuanweiyituo,shujudoubixufanhuidaoyunduan,geichulixiaolv、信息安全、部署成本帶來了極大的挑戰。
圖2:傳統人工智能應用框架(圖源:前瞻產業研究院)
suizherengongzhinengluodidaoyuelaiyueduodexifenchangjingli,wanquanyilaiyunjisuanderengongzhinengyuelaiyuebushiying,yejietichudejiejuefanganbianshibianyuanzhineng。dangran,bianyuanzhinenghechuantongdeyunduanzhinengjuebushitidaiguanxi,ershigenghaodebuchong。tongguoxiafangbianyuanjisuanchanyelianmeng(ECC)發布的邊緣計算參考架構能夠看出,邊緣智能和雲端智能並不割裂,隻是應用程序和邊緣端緊密結合。
圖3:邊緣計算參考架構(圖源:邊緣計算產業聯盟(ECC))
從係統框架來看,邊緣智能方案大致可以分為基礎資源層、虛擬化層、邊緣虛擬服務層,實際上就是雲端智能的下沉,一般而言,具體的業務切分由規則引擎來負責。如下圖4所(suo)示(shi),當(dang)計(ji)算(suan)資(zi)源(yuan)遷(qian)移(yi)到(dao)邊(bian)緣(yuan)端(duan)之(zhi)後(hou),邊(bian)緣(yuan)智(zhi)能(neng)方(fang)案(an)將(jiang)獨(du)立(li)擁(yong)有(you)操(cao)作(zuo)係(xi)統(tong)以(yi)及(ji)相(xiang)關(guan)的(de)硬(ying)件(jian)資(zi)源(yuan),這(zhe)也(ye)就(jiu)是(shi)為(wei)什(shen)麼(me)我(wo)們(men)上(shang)麵(mian)提(ti)到(dao),邊(bian)緣(yuan)智(zhi)能(neng)的(de)核(he)心(xin)要(yao)義(yi)是(shi)應(ying)用(yong)程(cheng)序(xu)和(he)邊(bian)緣(yuan)端(duan)深(shen)度(du)融(rong)合(he)。
圖4:基於規則引擎的邊緣智能方案(圖源:論文《一種基於規則引擎的邊緣計算技術研究及實施方案》)
計算和任務處理直接在邊緣端進行,這讓邊緣智能方案具備四大突出的技術優勢。
實時性好
首先是實時數據處理、提(ti)高(gao)響(xiang)應(ying)速(su)度(du)。相(xiang)較(jiao)於(yu)傳(chuan)統(tong)海(hai)量(liang)數(shu)據(ju)無(wu)差(cha)別(bie)上(shang)雲(yun)而(er)言(yan),邊(bian)緣(yuan)智(zhi)能(neng)由(you)於(yu)更(geng)靠(kao)近(jin)用(yong)戶(hu)終(zhong)端(duan)裝(zhuang)置(zhi),可(ke)以(yi)加(jia)快(kuai)數(shu)據(ju)的(de)處(chu)理(li)與(yu)傳(chuan)送(song)速(su)度(du),減(jian)少(shao)延(yan)遲(chi)。這(zhe)種(zhong)實(shi)時(shi)性(xing)對(dui)自(zi)動(dong)駕(jia)駛(shi)、工業機器人等應用有重要價值。
帶寬需求小
其次是減少互聯網帶寬依賴。根據IDC的統計數據,2021年,全球創造了82.5ZB的數據,未來五年全球數據規模還將以21.2%的年複合增長率快速發展,到2026年達到216ZB。ruguozhexieshujuquanbusongdaoyunshujuzhongxinquchuli,namejianghuiduiwangluodaikuanzaochengjudadechuanshuyali。erbianyuanzhinengyixiezaidefangshijiangdabufenbianyuanduanchanshengdejuliangshujujishichuli,bangzhujianqingwangluodaikuandeyali。
功耗低
第三是降低係統功耗。根據工信部數據,2021年中國數據中心耗電量2,166億千瓦時,占社會用電量比例達2.6%,相當於1.3個上海市的總社會用電量。通過雲邊結合的方式,數據中心可以更加專注在AI大模型的訓練和運轉,邊緣智能方案極為強調能耗比,將有助於降低整體功耗。
安全性好
最後,邊緣智能能夠更好地保護用戶的數據隱私和數據安全。邊緣智能方案在終端就可以對數據進行清洗、預處理、聚合、篩選等操作,數據不用完全返回雲端再做處理,或者最終傳輸到雲端的數據為脫敏數據,降低了隱私、機密數據泄露的風險,提升了數據的安全性。
憑借上述這些突出的技術優勢,邊緣智能在智能駕駛、智慧工廠、智慧能源和智能家居等領域應用廣泛,提升了人工智能的應用深度和廣度,豐富了“AI+”deshijiyingyong。dangran,xiangyaodazaogaoxiaowendingdebianyuanzhinengfangan,libukaidianziyuanqijiandezhichi。zuoweiquanqiuzhimingxiandedianziyuanqijianfenxiaopingtai,maozedianzixiaoshoudedianziyuanqijianbianjigezhongbianyuanzhinengjiejuefangan,zhulidazaoditanzhinengdeshuzixinshijie。xiamian,womenjiulaiweidajiatuijianjikuanjuyoudaibiaoxing、可用於邊緣智能的元器件產品。
Microchip機器學習整體解決方案
上述內容已經提到,邊緣智能是雲端智能的下沉,也就是說將人工智能的模型置於邊緣端。目前,雲端配合最理想的方式是:將機器學習的訓練模型放置在雲端,通過雲端大算力的優勢提升訓練的效率;將機器學習的推理、決策和執行模型放置在邊緣,需要的計算和存儲資源相對較小,保障了部署的靈活性,並降低係統反應的時間。
因此,我們通過Microchip機器學習整體解決方案能夠看到,在邊緣一側,元器件會涉及到更善於終端推理的FPGA,更利於係統集成和部署的MCU/MPU,以及其他幫助工程師打造邊緣機器學習方案的模擬器件和安全器件。目前,Microchip這份完整的機器學習方案已經在貿澤電子全麵上線,接下來我們就來係統地看一下這份方案,以及方案裏麵的具體器件。
圖5:Microchip機器學習整體解決方案(圖源:Microchip)
綜合而言,Microchip機器學習整體解決方案是一個包括軟件和硬件工具套件、參考設計以及矽平台的係統方案,非常適合用於需要具有高級性能的簡單易用的應用。也就是說,無論你是AI和機器學習方麵的新手,還是尋求高性能、經驗豐富的工程師大牛,都能夠在Microchip機器學習整體解決方案裏找到適合自己的軟硬件組合。
在矽器件方麵,Microchip廣泛的矽器件產品組合包括MCU、MPU和FPGA。為幫助工程師使用這些器件,Microchip準備了全麵豐富的軟件工具包,允許工程師朋友使用流行的ML框架,包括TensorFlow、Keras、Caffe和ONNX涵蓋的許多其他框架,以及TinyML和TensorFlow Lite中的框架。這些豐富的開發套件組合起來,構成了Microchip矽器件背後的開發生態係統。
比如,在使用Microchip的MCU或MPU器件時,MPLAB開發生態係統將與Microchip的開發板以及機器學習設計合作夥伴提供的軟件套件和解決方案無縫集成,提供MPLAB X集成開發環境(IDE)、MPLAB XC C編譯器、MPLAB Data Visualizer等開發工具,顯著提升開發者的開發效率。
在使用Microchip的FPGA器件時,該公司先進的VectorBlox加速器軟件開發套件(SDK)可以讓開發者輕鬆編程高能效神經網絡。VectorBlox加速器SDK還附帶了基於PolarFire視頻套件構建智能AI相機平台的說明,讓開發者可以更加方便地評估不同的卷積神經網絡(CNN)。
此外,圍繞豐富的矽器件,Microchip還提供了豐富的評估套件,包括帶有TDK InvenSense 6軸MEMS運動傳感器的SAM D21機器學習評估套件和帶Bosch IMU的SAM D21機器學習評估套件。
通過全麵的軟硬件組合,以及Microchip經過驗證的參考設計和經驗豐富的合作夥伴網絡,可以幫助廣大機器學習開發者降低風險、縮短上市時間、降低功耗和應用成本。開發者可以借助這些資源設計各種應用程序,用於數據中心、自動駕駛汽車、安全和監控、電子圍欄、增強和虛擬現實耳機頭顯、無人機、機器人、衛星圖像和通訊中心等領域。
上麵我們對Microchip機器學習解決方案進行了全麵介紹,接下來我們通過一款具體的方案,看一下Microchip方案在機器學習方麵的出色性能。在此,我們為大家展開介紹上麵提到的帶有TDK InvenSense 6軸MEMS運動傳感器的SAM D21機器學習評估套件,貿澤電子上該評估套件的物料號為EV18H79A,大家可以通過搜索此物料號,在貿澤電子平台快速找到這款評估套件,並且通過該評估套件的詳情頁就可以看到我們上述提到的Microchip機器學習整體解決方案。
圖6:EV18H79A(圖源:貿澤電子)
EV18H79A SAMD21機器學習評估套件基於Arm® Cortex®-M0+的32位MCU打造,帶有板載調試器(nEDBG)、ATECC608A CryptoAuthentication安全元件IC和完全認證的ATWINC1510 Wi-Fi網絡控製器。作為一款麵向機器學習應用的多功能傳感器開發工具,EV18H79A上集成了Microchip MCP9808高精度溫度傳感器、光傳感器以及帶有TDK InvenSense ICM-42688-P、高精度6軸MEMS的附加板,幫助開發者收集數據以訓練和創建機器學習模型。
此外,為了讓開發者更快上手EV18H79A SAMD21機器學習評估套件,Microchip還提供了用戶指南和項目示例,進一步幫助大家縮短開發周期。
可用於AIoT應用的ESP-EYE開發板
我們都知道,人工智能和物聯網融合而成的AIoT是邊緣智能典型的應用場景,當然也可以說,邊緣智能是AIoT落地的重要推動技術。那麼,接下來我們為大家推薦一款來自製造商Espressif Systems(樂鑫科技)、可用於AIoT場景的ESP-EYE開發板。
圖7:ESP-EYE(圖源:貿澤電子)
ESP-EYE是專注於AIoT智能物聯網領域的圖像識別與語音處理開發板,板載ESP32係列芯片,集成200萬像素攝像頭、數字麥克風,擁有8MB PSRAM和4MB閃存的豐富存儲,支持Wi-Fi圖像傳輸與MicroUSB調試與供電。基於以上豐富的配置和功能,開發者可以基於ESP-EYE實現語音喚醒、人臉檢測、人臉識別等交互功能,可廣泛應用於智能物聯網領域的應用開發。
同時,為了幫助開發者提升開發效率,Espressif Systems為ESP-EYE準備了全麵的用戶指南,讓大家可在Linux、MacOS、Windows操作係統中完成軟件燒寫,並實現上述AIoT相關功能,可協助用戶開發高度集成的AI解決方案。
邊緣智能未來發展趨勢
作zuo為wei傳chuan統tong雲yun端duan智zhi能neng的de重zhong要yao補bu充chong和he延yan伸shen,邊bian緣yuan智zhi能neng具ju有you無wu窮qiong的de魅mei力li,是shi未wei來lai人ren工gong智zhi能neng領ling域yu發fa展zhan的de重zhong要yao方fang向xiang,相xiang關guan廠chang商shang也ye將jiang以yi芯xin片pian和he軟ruan件jian技ji術shu為wei抓zhua手shou,積ji極ji推tui動dong邊bian緣yuan智zhi能neng的de發fa展zhan。
麵向未來,邊緣智能將呈現四大明顯的發展趨勢。首先是核心芯片集成度更高、算力更強,整體方案更加智能;其次是係統架構更加靈活,更容易開發和部署;第三是邊緣智能方案的能效比將不斷提升,使得更多的AI負載將卸載到邊緣端;最後是邊緣智能的生態將更加成熟,圍繞核心硬件將會有更加豐富的配套工具和開發環境。
erzaibianyuanzhinengjishubuduantishengdeguochengzhong,dianziyuanqijianshizhongdoujiangshizhenggefanganzuihexindebufenzhiyi,maozedianzijiangchixuweixingyedailaiqianyandeyuanqijianchanpin,zhulishixiangenghaodebianyuanzhinengfangan。
免責聲明:本文為轉載文章,轉載此文目的在於傳遞更多信息,版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權問題,請聯係小編進行處理。
推薦閱讀:
安森美和Ride Vision合作,為摩托車騎行者提供先進的安全方案
- 噪聲中提取真值!瑞盟科技推出MSA2240電流檢測芯片賦能多元高端測量場景
- 10MHz高頻運行!氮矽科技發布集成驅動GaN芯片,助力電源能效再攀新高
- 失真度僅0.002%!力芯微推出超低內阻、超低失真4PST模擬開關
- 一“芯”雙電!聖邦微電子發布雙輸出電源芯片,簡化AFE與音頻設計
- 一機適配萬端:金升陽推出1200W可編程電源,賦能高端裝備製造
- 算力爆發遇上電源革新,大聯大世平集團攜手晶豐明源線上研討會解鎖應用落地
- 築基AI4S:摩爾線程全功能GPU加速中國生命科學自主生態
- 一秒檢測,成本降至萬分之一,光引科技把幾十萬的台式光譜儀“搬”到了手腕上
- AI服務器電源機櫃Power Rack HVDC MW級測試方案
- 突破工藝邊界,奎芯科技LPDDR5X IP矽驗證通過,速率達9600Mbps
- 車規與基於V2X的車輛協同主動避撞技術展望
- 數字隔離助力新能源汽車安全隔離的新挑戰
- 汽車模塊拋負載的解決方案
- 車用連接器的安全創新應用
- Melexis Actuators Business Unit
- Position / Current Sensors - Triaxis Hall




