【導讀】使用瑞芯微RK3588本地部署DeepSeek，意味著千元級硬件即可本地化高效運行1.5B/7B DeepSeek模型

，無需聯網就可在zai本ben地di處chu理li數shu據ju
，不bu需xu要yao將jiang數shu據ju傳chuan輸shu到dao雲yun端duan，減jian少shao了le網wang絡luo延yan遲chi，可ke以yi快kuai速su響xiang應ying應ying用yong，同tong時shi也ye減jian少shao了le數shu據ju傳chuan輸shu到dao雲yun端duan時shi被bei竊qie取qu的de問wen題ti
，不bu需xu要yao借jie助zhu雲yun端duan就jiu可ke以yi處chu理li數shu據ju
，也ye就jiu降jiang低di了le成cheng本ben。快kuai包bao平ping台tai可提供安全穩定且即插即用的RK3588開發板及主控芯片，幫助工程師快速實現DeepSeek應用部署。

摘要

使用瑞芯微RK3588本地部署DeepSeek，意味著千元級硬件即可本地化高效運行1.5B/7B DeepSeek模(mo)型(xing)，無(wu)需(xu)聯(lian)網(wang)就(jiu)可(ke)在(zai)本(ben)地(di)處(chu)理(li)數(shu)據(ju)


，不(bu)需(xu)要(yao)將(jiang)數(shu)據(ju)傳(chuan)輸(shu)到(dao)雲(yun)端(duan)，減(jian)少(shao)了(le)網(wang)絡(luo)延(yan)遲(chi)，可(ke)以(yi)快(kuai)速(su)響(xiang)應(ying)應(ying)用(yong)，同(tong)時(shi)也(ye)減(jian)少(shao)了(le)數(shu)據(ju)傳(chuan)輸(shu)到(dao)雲(yun)端(duan)時(shi)被(bei)竊(qie)取(qu)的(de)問(wen)題(ti)，不(bu)需(xu)要(yao)借(jie)助(zhu)雲(yun)端(duan)就(jiu)可(ke)以(yi)處(chu)理(li)數(shu)據(ju)，也(ye)就(jiu)降(jiang)低(di)了(le)成(cheng)本(ben)。快(kuai)包(bao)平(ping)台(tai)可(ke)提(ti)供(gong)安(an)全(quan)穩(wen)定(ding)且(qie)即(ji)插(cha)即(ji)用(yong)的(de)RK3588開發板及主控芯片，幫助工程師快速實現DeepSeek應用部署。

掃碼可申請免費樣片以及獲取產品技術規格書

RK3588是瑞芯微電子推出的一款高性能處理器，采用先進的8nm製程工藝，集成了四核Cortex-A76和四核Cortex-A55 CPU
，以及Mali-G610 MP4 GPU。更重要的是，RK3588內置了獨立的NPU（神經網絡處理單元）
，可提供高達6TOPS的AI算力，為運行複雜的深度學習模型提供了強勁動力。

AI界新星DeepSeek（中文名：深度求索）在近期迅速崛起

，憑借低成本
、高性能的AI模型火爆全網。其核心是一個強大的語言模型，能夠理解自然語言並生成高質量文本，此外DeepSeek免費向全球開發者開放

，加速了AI技術普及。

在RK3588上部署Deepseek可以通過瑞芯微官方的 RKLLM量化部署
，步驟如下：

DeepSeek轉換完成的RKLLM模型如下圖所示：

(圖源訊為
，下同)

然後將其傳輸到開發板上
，使用對應的可執行文件運行即可
，運行之後如下圖所示：

接下來向該模型提出問題即可，回複內容如下所示：

在回複的過程中查看CPU和NPU的利用率，可以看到CPU的占用率為84%，並且調用了NPU的3個核心進行加速推理：

本地部署，釋放邊緣AI潛力

• 更低延遲： 本地處理數據，無需網絡傳輸，顯著降低延遲，滿足實時性要求高的應用場景
  ，例如工業機器視覺、自動駕駛等。
• 更高隱私： 敏感數據無需上傳至雲端
  ，有效保護用戶隱私和數據安全，適用於智慧醫療、金融支付等領域。
• 更低成本： 減少對雲服務的依賴，降低網絡帶寬和雲存儲成本
  ，更適合大規模部署。

• 智能安防： 在智能攝像頭、門禁係統等設備中，利用DeepSeek實現人臉識別、行為分析
  
  、異常檢測等功能
  
  ，提升安防效率和準確性。
• 工業視覺： 在工業生產線中，利用DeepSeek實現產品質量檢測、設備狀態監控、機器人引導等功能，提高生產效率和產品質量。
• 智慧醫療： 在醫療影像設備中
  ，利用DeepSeek輔助醫生進行疾病診斷和治療方案製定，提高診斷準確性和效率。
• 其他領域： 包括智能零售、智慧交通、智能家居等
  
  ，RK3588和DeepSeek的組合將為各行各業帶來創新應用。

快包電子平台推出了很多設計優化的RK3588主板方案，它們都是穩定出貨、即插即用，在具體場景實現應用的產品。

瑞芯微RK3588工控機開發板

方案簡介：

方案基於Rockchip新一代旗艦 RK3588處理器開發設計，采用先進8nm製程工藝集成4核Cortex-A76+4核Cortex-A55架構，主頻最高達2.4GHZ，支持8K超清顯示，四屏異顯，內置瑞芯微自研三核NPU
，綜合算力可達6TOPS。

應用場景：

AGV、邊緣計算、智慧大屏

、高端平板、智能NVR、可視化網關等領域。

瑞芯微3588直播一體機

方案簡介：

瑞芯微 3588 直播機是一款即插即用直播機方案，方案可供直播機設備終端製造商開發自定義直播機。該直播機主板采用RK3588高端8核處理器，6T算力
，屏幕分辨率最大可支持1920*1080，並配有兩個USB3.0
、一個Type-C全功能接口
，方便客戶組合外設
，設置WiFi和4G互聯
，監控外設錄像/編輯
，快速導入產品創新。

應用場景：

瑞芯微RK3588邊緣計算盒子

瑞芯微RK3588邊緣計算盒子，主頻高達2.4GHz，適用於邊緣計算，廣告機，miniPC整機
，工控一體機，零售機和快遞櫃。支持安卓12係統，內嵌高性能AI加速硬件

，支持6T算力NPU.板載LPDDR4/LPDDR4X 8G內存
，EMMC標配128GB（最大可選512GB）
，支持WIFI6通信、10000M以太網。可直接驅動1920*1080液晶屏。

應用場景：

掃碼可申請免費樣片以及獲取產品技術規格書

免責聲明：本文為轉載文章，轉載此文目的在於傳遞更多信息，版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權問題，請聯係小編進行處理。

推薦閱讀：

以太網PHY芯片的國產替代方案與應用

芝識課堂——運算放大器（一），電路設計圖中給力的“三角形”

人形機器人中的毫米波雷達感應和傳感器融合

ST 新款微型單片降壓轉換器，用於智能電表、家電和工業電源轉換器提供低電壓電源

Type-C端口水汽檢測(LPD)技術介紹