選擇AI處理器離不開的“三項原則”
發布時間:2019-12-19 責任編輯:lina
【導讀】移動設備上的人工智能已經不再依賴於雲端連接,今年 CES 最熱門的產品演示和最近宣布的旗艦智能手機都論證了這一觀點。人工智能已經進入終端設備,並且迅速成為一個市場賣點。
移動設備上的人工智能已經不再依賴於雲端連接,今年 CES 最熱門的產品演示和最近宣布的旗艦智能手機都論證了這一觀點。人工智能已經進入終端設備,並且迅速成為一個市場賣點。包括安全、yinsihexiangyingshijianzaineidezhexieyinsu,shidegaiqushibijiangjixukuodadaogengduodezhongduanshebeishang。weilemanzuxuqiu,jihumeigexinpianxingyedewanjiadoutuichulebutongbanben、不同命名的人工智能處理器,像“深度學習引擎”、“神經處理器”、“人工智能引擎”等等。
說(shuo)起(qi)人(ren)工(gong)智(zhi)能(neng)好(hao)像(xiang)我(wo)們(men)想(xiang)到(dao)的(de)是(shi)機(ji)器(qi)視(shi)覺(jiao),指(zhi)紋(wen)識(shi)別(bie),人(ren)臉(lian)識(shi)別(bie),視(shi)網(wang)膜(mo)識(shi)別(bie),虹(hong)膜(mo)識(shi)別(bie),掌(zhang)紋(wen)識(shi)別(bie),自(zi)動(dong)規(gui)劃(hua),智(zhi)能(neng)搜(sou)索(suo),博(bo)弈(yi),自(zi)動(dong)程(cheng)序(xu)設(she)計(ji),智(zhi)能(neng)控(kong)製(zhi)等(deng);然而其核心內容是離不開嵌入式的。
然ran而er,並bing非fei所suo有you的de人ren工gong智zhi能neng處chu理li器qi都dou是shi一yi樣yang的de。現xian實shi是shi,許xu多duo所suo謂wei的de人ren工gong智zhi能neng引yin擎qing就jiu是shi傳chuan統tong的de嵌qian入ru式shi處chu理li器qi加jia上shang一yi個ge矢shi量liang向xiang量liang處chu理li單dan元yuan。這zhe裏li還hai有you一yi些xie其qi它ta功gong能neng對dui於yu人ren工gong智zhi能neng處chu理li前qian端duan化hua至zhi關guan重zhong要yao。
優化嵌入式係統的工作負載
在(zai)雲(yun)計(ji)算(suan)處(chu)理(li)過(guo)程(cheng)中(zhong),采(cai)用(yong)浮(fu)點(dian)計(ji)算(suan)進(jin)行(xing)訓(xun)練(lian),定(ding)點(dian)計(ji)算(suan)進(jin)行(xing)推(tui)理(li),從(cong)而(er)實(shi)現(xian)最(zui)大(da)的(de)準(zhun)確(que)性(xing)。用(yong)大(da)型(xing)服(fu)務(wu)器(qi)群(qun)組(zu)進(jin)行(xing)數(shu)據(ju)處(chu)理(li),能(neng)耗(hao)和(he)大(da)小(xiao)必(bi)須(xu)考(kao)慮(lv),但(dan)他(ta)們(men)相(xiang)較(jiao)於(yu)有(you)邊(bian)緣(yuan)約(yue)束(shu)的(de)處(chu)理(li)幾(ji)乎(hu)是(shi)無(wu)限(xian)的(de)。
在移動設備上,功耗、性能和麵積(PPA)的可行性設計至關重要。因此在嵌入式 SoC 芯片上,優先采用更有效的定點計算。

dangjiangwangluocongfudianzhuanhuanweidingdianshi,huibukebimiandisunshidiaoyixiejingdu。ranerzhengquedeshejikeyiyouhuajingdusunshi,congerdadaoyuyuanshixunlianwangluojihuxiangtongdejieguo。
控製精度的方法之一是在 8 位和 16 位整數精度之間做出選擇。雖然 8 位精度可以節省帶寬和計算資源,但是許多商用的神經網絡仍然需要采用 16 位精度以保證準確性。
神經網絡的每一層都有不同的約束和冗餘,因此為每一層選擇更高的精度是至關重要的。
針對開發人員和 SoC 設計者,一個工具可以自動輸出優化的圖形編譯器和可執行文件,例如 CEVA 網絡生成器,從上市時間的角度來看是一個巨大的優勢。
此外,保持為每一層選擇更高精度(8 位或 16 位)的靈活性也是很重要的。這使每一層都可以在優化精度和性能之間進行權衡,然後一鍵生成高效和精確的嵌入式網絡推理。

專用硬件來處理真正的人工智能算法
VPU 使(shi)用(yong)靈(ling)活(huo),但(dan)許(xu)多(duo)常(chang)見(jian)的(de)神(shen)經(jing)網(wang)絡(luo)需(xu)要(yao)的(de)大(da)量(liang)帶(dai)寬(kuan)通(tong)道(dao)對(dui)標(biao)準(zhun)處(chu)理(li)器(qi)指(zhi)令(ling)集(ji)提(ti)出(chu)了(le)挑(tiao)戰(zhan)。因(yin)此(ci),必(bi)須(xu)有(you)專(zhuan)門(men)的(de)硬(ying)件(jian)來(lai)處(chu)理(li)這(zhe)些(xie)複(fu)雜(za)的(de)計(ji)算(suan)。
例如 NeuPro AI 處理器包括專用的引擎處理矩陣乘法、完全連接層、激活層和彙聚層。這種先進的專用 AI 引擎結合完全可編程工作的 NeuPro VPU,可以支持所有其它層類型和神經網絡拓撲。
這些模塊之間的直接連接允許數據無縫交換,不再需要寫入內存。此外,優化的 DDR 帶寬和先進的 DMA 控製器采用動態流水線處理,可以進一步提高速度,同時降低功耗。

明天未知的人工智能算法
人工智能仍然是一個新興且快速發展的領域。神經網絡的應用場景快速增加,例如目標識別、語音和聲音分析、5G 通信等。保持一種適應性的解決方案,滿足未來趨勢是確保芯片設計成功唯一途徑。
yinci,manzuxianyousuanfadezhuanyongyingjiankendingshibugoude,haibixudapeiyigewanquankebianchengdepingtai。zaisuanfayizhibuduangaijindeqingkuangxia,jisuanjimonifangzhenshijiyushijijieguojinxingjuecedeguanjiangongju,bingqiejianshaoleshangshishijian。
CDNN PC 仿真包允許 SoC 設計人員在開發真實硬件之前,就可以使用 PC 環境權衡自己的設計。

另一個滿足未來需求的寶貴特征是可擴展性。NeuPro AI 產品家族可以應用於廣泛的目標市場,從輕量型的物聯網和可穿戴設備(2 TOPs)到高性能的行業監控和自動駕駛應用(12.5 TOPs)。
在移動端實現旗艦 AI 處理器的競賽已經開始。 許多人快速趕上了這一趨勢,使用人工智能作為自己產品的賣點,但並不是所有產品裏都具備相同的智能水平。
如果想要創建一個在不斷發展的人工智能領域保持“聰明”的智能設備,應該確保在選擇 AI 處理器時,檢查上述提到的所有特性。
特別推薦
- 噪聲中提取真值!瑞盟科技推出MSA2240電流檢測芯片賦能多元高端測量場景
- 10MHz高頻運行!氮矽科技發布集成驅動GaN芯片,助力電源能效再攀新高
- 失真度僅0.002%!力芯微推出超低內阻、超低失真4PST模擬開關
- 一“芯”雙電!聖邦微電子發布雙輸出電源芯片,簡化AFE與音頻設計
- 一機適配萬端:金升陽推出1200W可編程電源,賦能高端裝備製造
技術文章更多>>
- 博世半導體亮相北京車展:以技術創新驅動智能出行
- 超低功耗微控製器模塊為工程師帶來新的機遇——第1部分:Eclipse項目設置
- 英偉達吳新宙北京車展解讀:以五層架構與開放生態,加速汽車駛向L4
- 三星上演罕見對峙:工會集會討薪,股東隔街抗議
- 摩爾線程實現DeepSeek-V4“Day-0”支持,國產GPU適配再提速
技術白皮書下載更多>>
- 車規與基於V2X的車輛協同主動避撞技術展望
- 數字隔離助力新能源汽車安全隔離的新挑戰
- 汽車模塊拋負載的解決方案
- 車用連接器的安全創新應用
- Melexis Actuators Business Unit
- Position / Current Sensors - Triaxis Hall
熱門搜索
電纜連接器
電力電子
電力繼電器
電力線通信
電流保險絲
電流表
電流傳感器
電流互感器
電路保護
電路圖
電路圖符號
電路圖知識
電腦OA
電腦電源
電腦自動斷電
電能表接線
電容觸控屏
電容器
電容器單位
電容器公式
電聲器件
電位器
電位器接法
電壓表
電壓傳感器
電壓互感器
電源變壓器
電源風扇
電源管理
電源管理IC

