DeepSeek AI最新發布的多模態大模型Janus-Pro,以及之前發布的大型語言模型DeepSeek-R1、DeepSeek-V3及DeepSeek-V2,一經發布,就在AI領域引起了熱烈反響,多項創新技術顯著提升了模型的性能與效率。DeepSeek系列模型首發即支持昇騰平臺,神州數碼旗下神州鯤泰推理服務器產品搭載昇騰硬件,可全面支持DeepSeek系列模型的快速部署,可為用戶帶來更快、更高效、更便捷的AI開發和應用體驗。
2025年2月4日,DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上線昇騰社區,支持一鍵獲取DeepSeek系列模型,支持昇騰硬件平臺上開箱即用,推理快速部署,帶來更快、更高效、更便捷的AI開發和應用體驗,歡迎廣大開發者體驗使用。
下面以Deepseek-V3為例,
演示在昇騰社區如何高效獲取模型及使用
1硬件要求
部署DeepSeek-V3模型需配置4臺KunTai A924推理服務器(每臺搭載8張昇騰推理卡)
2模型調用實踐
一、 權重轉換
GPU:
NPU:
二、 加載鏡像
在昇騰社區/開發資源下載適配DeepSeek-V3的鏡像包:
mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64
完成之后,請使用docker images命令確認查找具體鏡像名稱與標簽。
三、 容器啟動
提供的MindIE鏡像預置了DeepSeek-V3模型推理腳本,從您信任的來源自行獲取權重后,放置在從上述下載的模型代碼的主目錄下,修改模型文件夾屬組為1001,執行權限為750,啟動容器。
四、 服務化測試
配置服務化環境變量,expandable_segments-使能內存池擴展段功能,即虛擬內存特性。
修改服務化參數
拉起服務化
圖片出現“Daemon start success!”,則認為服務成功啟動。
更深入了解DeepSeek系列模型在昇騰上的使用方法及指導文檔,可登錄昇騰社區模型庫專區學習了解!
更多DeepSeek模型獲取鏈接可參考:
DeepSeek-R1
https://www.hiascend.com/software/modelzoo/models/detail/68457b8a51324310aad9a0f55c3e56e3
(掃碼獲?。?/p>
DeepSeek-V3:
https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15
(掃碼獲取)
Janus-Pro
https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9
(掃碼獲?。?/p>
未經數字化報網授權,嚴禁轉載或鏡像,違者必究。
特別提醒:如內容、圖片、視頻出現侵權問題,請發送郵箱:[email protected]。
風險提示:數字化報網呈現的所有信息僅作為學習分享,不構成投資建議,一切投資操作信息不能作為投資依據。本網站所報道的文章資料、圖片、數據等信息來源于互聯網,僅供參考使用,相關侵權責任由信息來源第三方承擔。
數字化報(數字化商業報告)是國內數字經濟創新門戶網站,以數字技術創新發展為中心,融合數字經濟和實體經濟發展,聚焦制造業、服務業、農業等產業數字化轉型,致力為讀者提供最新、最權威、最全面的科技和數字領域資訊。數字化報并非新聞媒體,不提供新聞信息服務,提供商業信息服務;
Copyright ? 2013-2023 數字化報(數字化報商業報告)
數字化報并非新聞媒體,不提供新聞信息服務,提供商業信息服務
浙ICP備2023000407號數字化報網(杭州)信息科技有限公司 版權所有浙公網安備 33012702000464號