久久久91-久久久91精品国产一区二区-久久久91精品国产一区二区三区-久久久999国产精品-久久久999久久久精品

ABB
關注中國自動化產業發展的先行者!
CAIAC 2025
2025工業安全大會
OICT公益講堂
當前位置:首頁 >> 資訊 >> 企業資訊

資訊頻道

軟硬協同優化,安謀科技新一代“周易”NPU實現DeepSeek-R1端側高效部署
  • 點擊數:558     發布時間:2025-02-15 16:09:45
  • 分享到:
近日,搭載安謀科技最新一代“周易”NPU處理器的硬件平臺成功運行DeepSeek-R1系列模型,性能卓越、成本優異,為用戶帶來了更高效、便捷的AI應用體驗。這款創新性NPU處理器采用專為大模型特性優化的架構設計,其beta版本在2024年底已面向早期用戶開放評估測試,并獲得了廣泛認可與積極反饋。預計今年上半年,這款備受期待的NPU產品將正式亮相市場,屆時將為更多用戶帶來突破性的端側算力體驗。

導 語

全球計算聯盟理事單位、白金會員單位安謀科技(中國)有限公司,其新一代 “周易” NPU搭載的硬件平臺成功運行DeepSeek-R1。該NPU處理器采用專為大模型特性優化的架構設計,已面向早期用戶開放評估測試,并得到廣泛認可與積極反饋,預計今年上半年將正式亮相市場。

歡迎更多的會員單位踴躍投稿分享!投稿郵箱:icd@gccorg.com


近日,搭載安謀科技最新一代“周易”NPU處理器的硬件平臺成功運行DeepSeek-R1系列模型,性能卓越、成本優異,為用戶帶來了更高效、便捷的AI應用體驗。這款創新性NPU處理器采用專為大模型特性優化的架構設計,其beta版本在2024年底已面向早期用戶開放評估測試,并獲得了廣泛認可與積極反饋。預計今年上半年,這款備受期待的NPU產品將正式亮相市場,屆時將為更多用戶帶來突破性的端側算力體驗。

17400390481.png

DeepSeek自發布以來,憑借其出色的性能表現和低成本訓練模式,迅速成為AI領域的焦點。在DeepSeek-R1的1.5B和7B蒸餾版本推出后,安謀科技新一代“周易”NPU處理器短時間內在Emulation平臺上完成了部署與優化,并在FPGA平臺上成功實現了端到端應用的演示。

經過嚴苛的測試驗證,新一代“周易”NPU處理器在運行DeepSeek-R1的1.5B和7B蒸餾版本時表現優異。在標準單批次輸入、上下文長度為1024的測試環境中,其在首字計算階段的算力利用率突破40%,解碼階段的有效帶寬利用率高達80%以上。其帶寬利用率呈現高線性特性,能夠靈活適配16GB/s至256GB/s的系統帶寬需求。在7B版本、1024上下文長度的場景下,該處理器在充分保障模型應用精度的同時,最高處理速度可達40 tokens/s,并支持動態長度的模型推理輸入。面對復雜AI任務時,“周易”NPU處理器憑借其卓越的計算性能、高帶寬利用率和能效比,展現出顯著的技術優勢,為終端設備的智能化升級提供了強勁“芯”動力。

17400390741.png

新一代“周易”NPU處理器對DeepSeek等最新大模型的高效適配和調優,得益于其軟件棧對大模型的成熟支持。軟件棧提供高效的量化編譯工具,能夠在顯著壓縮模型體積的同時,保持高性能推理能力,并通過靈活的編譯選項滿足多樣化需求。此外,軟件棧針對大模型進行了深度優化,包括動態推理優化和硬件算力潛力的挖掘,從而顯著提升推理速度和吞吐量。目前,軟件棧已支持Llama、Qwen、DeepSeek、ChatGLM和MiniCPM等多種主流大模型,并提供了與Hugging Face模型庫的對接工具鏈,方便用戶直接部署主流模型。

在硬件層面,新一代“周易”NPU處理器突破了傳統設計限制,將對外帶寬提高至256GB/s,有效解決了大模型計算的帶寬瓶頸問題。為滿足端側大模型對高精度的需求,該NPU處理器全面支持FP16計算,并提供完整的int4軟硬量化加速方案,確保模型高效穩定運行。針對端側模型的低首字延遲需求,“周易”NPU處理器通過軟硬協同優化,實現了多核算力的高效擴展。在7nm制程工藝下,單Cluster算力最高可達80 TOPS,能夠輕松應對超過16K上下文長度的大模型部署需求,同時滿足多模態場景及思維鏈計算的高算力要求。此外,該NPU處理器還具備強大的多任務并行處理能力,通過細粒度的任務調度和優先級資源分配,實現多任務靈活切換,確保傳統語音、視覺業務與大模型應用高效協同,為用戶帶來更加流暢的使用體驗。

目前,安謀科技正在積極拓展DeepSeek系列模型在端側加速卡的應用場景,通過提升模型推理性能,加速端側AI應用的商業化落地進程。依托雄厚的技術積累、生態系統優勢以及前瞻性布局,安謀科技將持續推動AI大模型技術在PC、手機、智能汽車、機器人、可穿戴設備等多終端領域的深度應用與創新,全面加速端側AI生態的構建與完善。


熱點新聞

推薦產品

x
  • 在線反饋
1.我有以下需求:



2.詳細的需求:
姓名:
單位:
電話:
郵件:
主站蜘蛛池模板: 亚洲 欧美 日韩在线 | 国产日韩欧美综合在线 | 有没有毛片网站 | 永久免费影院 | 欧美日韩中文国产一区 | 在线观看网站黄 | 欧美人超级乱淫片免费 | 美女被免费网站视频九色 | 亚洲高清在线观看视频 | 国产精品成人久久久 | 亚洲成在人网站天堂一区二区 | 国产精品拍拍拍福利在线观看 | 欧美一级片a | 看黄色一级毛片 | 欧美日韩你懂的 | 亚洲欧美日产综合一区二区三区 | 亚洲成人精品 | 青青草一区国产97 | 成人无遮挡毛片免费看 | 亚洲精品国产综合一线久久 | 欧美一区二区三区视频 | 国产乱人伦精品一区二区 | 国产日韩视频在线 | 日本vs欧美一区二区三区 | 国产一级视频播放 | 2021国产精品自拍 | 欧美亚洲国产精品久久久久 | 国产91成人精品亚洲精品 | 在线日韩国产 | 91短视频版高清在线观看免费 | 日韩一区二区三区四区五区 | 日韩伦理中文字幕 | 性插免费视频 | 精品一区二区三区在线观看 | 国产妇女在线 | 麻豆va在线精品免费播放 | 日韩激情视频网站 | 精品国产成人a在线观看 | 亚洲乱码视频 | 在线视频国产一区 | 久久国内精品自在自线400部o |