詳解FPGA如何實現FP16格式點積級聯運算-測試測量-電子元件技術網

你的位置：首頁 > 測試測量 > 正文

詳解FPGA如何實現FP16格式點積級聯運算

發布時間：2020-08-13 責任編輯：lina

【導讀】通過使用Achronix Speedster7t FPGA中的機器學習加速器MLP72，開發人員可以輕鬆選擇浮點/定點格式和多種位寬，或快速應用塊浮點，並通過內部級聯可以達到理想性能。

通過使用Achronix Speedster7t FPGA中的機器學習加速器MLP72，開發人員可以輕鬆選擇浮點/定點格式和多種位寬，或快速應用塊浮點，並通過內部級聯可以達到理想性能。

shenjingwangluojiagouzhongdehexinzhiyijiushijuanjiceng，juanjidezuijibencaozuojiushidianji。xiangliangchengfadejieguoshixiangliangdemeigeyuansudezonghexiangchengzaiyiqi，tongchangchengzhiweidianji。cixiangliangchengfaruxiasuoshi：

詳解FPGA如何實現FP16格式點積級聯運算

圖1點積操作

該總和S由每個矢量元素的總和相乘而成，因此

本文講述的是使用FP16格式的點積運算實例，展示了MLP72支持的數字類型和乘數的範圍。

此設計實現了同時處理8對FP16輸入的點積。該設計包含四個MLP72，使用MLP內部的級聯路徑連接。每個MLP72將兩個並行乘法的結果相加

，每個乘法都是i_a輸入乘以i_b輸入（均為FP16格式）的結果。來自每個MLP72的總和沿著MLP72的列級聯到上麵的下一個MLP72塊。在最後一個MLP72中，在每個周期上，計算八個並行FP16乘法的總和。

最終結果是多個輸入周期內的累加總和，其中累加由i_first和i_last輸入控製。i_first輸入信號指示累加和歸零的第一組輸入。i_last信號指示要累加和加到累加的最後一組輸入。最終的i_last值可在之後的六個周期使用，並使用i_last o_valid進行限定。兩次運算之間可以無空拍。

配置說明

表1 FP16點積配置表

端口說明

詳解FPGA如何實現FP16格式點積級聯運算

表2 FP16點積端口說明表

時序圖

詳解FPGA如何實現FP16格式點積級聯運算

圖2 FP16點積時序圖

其中，

詳解FPGA如何實現FP16格式點積級聯運算

那麼，以上運算功能如何對應到MLP內部呢？其後的細節已分為MLP72中的多個功能階段進行說明。

進位鏈

首先請看下圖，MLP之間的進位鏈結構，這是MLP內部的專用走線，可以保證級聯的高效執行。

詳解FPGA如何實現FP16格式點積級聯運算

圖3 MLP進位鏈

乘法階段

下圖是MLP中浮點乘法功能階段，其中寄存器代表一級可選延遲。

詳解FPGA如何實現FP16格式點積級聯運算

圖4 MLP乘法功能階段框圖

MLP72浮點乘法級包括兩個24位全浮點乘法器和一個24位全浮點加法器。兩個乘法器執行A×B和C×D的並行計算。加法器將兩個結果相加得到A×B + C×D。

乘法階段有兩個輸出。下半部分輸出可以在A×B或（A×B + C×D）之間選擇。上半部分輸出始終為C×D。

乘法器和加法器使用的數字格式由字節選擇參數以及和參數設置的格式確定。

浮點輸出具有與整數輸出級相同的路徑和結構。MLP72可以配置為在特定階段選擇整數或等效浮點輸入。輸出支持兩個24位全浮點加法器，可以對其進行加法或累加配置。進一步可以加載加法器（開始累加），可以將其設置為減法，並支持可選的舍入模式。

最終輸出階段支持將浮點輸出格式化為MLP72支持的三種浮點格式中的任何一種。此功能使MLP72可以外部支持大小一致的浮點輸入和輸出（例如fp16或bfloat16），而在內部以fp24執行所有計算。

詳解FPGA如何實現FP16格式點積級聯運算

圖5 MLP浮點輸出階段框圖

需要強調的是本設計輸入和輸出都是FP16格式，中間計算過程，即進位鏈上的fwdo_out和fwdi_dout 都是FP24格式。具體邏輯框圖如下所示：

詳解FPGA如何實現FP16格式點積級聯運算

圖6 FP16點積邏輯框圖

MLP內部數據流示意圖：

詳解FPGA如何實現FP16格式點積級聯運算

圖7 FP16點積在MLP內部數據流圖

最終ACE的時序結果如下：

詳解FPGA如何實現FP16格式點積級聯運算

（來源：Achronix，作者：楊宇，Achronix資深現場應用工程師）

免責聲明：本文為轉載文章，轉載此文目的在於傳遞更多信息，版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權問題，請電話或者郵箱聯係小編進行侵刪。

推薦閱讀：
電容ESR測量表電路
貿澤電子推出Microchip和Vishay電阻式電流傳感解決方案網站
如何通過可變增益放大器LMH6505實現AGC電路設計？
什麼？！4mA至20mA電流環路的誤差小於0.2%？!
開環電流傳感器與閉環電流傳感器的區別分析

要采購傳感器麼，點這裏了解一下價格!

上一篇：Limata創新型的LUVIR技術加速PCB防焊量產製程

下一篇：關於開關頻率，你需要考慮這些事兒~

特別推薦

技術文章更多>>

技術白皮書下載更多>>

熱門搜索

友情鏈接(QQ：317243736)

我愛方案網 ICGOO元器件商城創芯在線檢測芯片查詢天天IC網電子產品世界無線通信模塊控製工程網電子開發網電子技術應用與非網世紀電源網 21ic電子技術資料下載電源網電子發燒友網中電網中國工業電器網連接器礦山設備網工博士智慧農業工業路由器天工網乾坤芯電子元器件采購網亞馬遜KOL 聚合物鋰電池工業自動化設備企業查詢工業路由器元器件商城連接器 USB中文網今日招標網塑料機械網農業機械中國IT產經新聞網高低溫試驗箱

關閉

關閉