久久久91-久久久91精品国产一区二区-久久久91精品国产一区二区三区-久久久999国产精品-久久久999久久久精品

★軟通智慧科技有限公司李巍峰

1　背景

在今年兩會(huì)期間，政府確立了“適度超前建設(shè)數(shù)字基礎(chǔ)設(shè)施，加快形成全國一體化算力體系”的2024年工作任務(wù)。黑龍江省深入貫徹習(xí)近平總書記的重要指示，圍繞發(fā)展新質(zhì)生產(chǎn)力，結(jié)合自身產(chǎn)業(yè)發(fā)展優(yōu)勢(shì)，通過開展人工智能+行動(dòng)強(qiáng)化數(shù)字產(chǎn)品制造、智能機(jī)器人等重點(diǎn)產(chǎn)業(yè)鏈。

在此背景下，為服務(wù)國家戰(zhàn)略，支撐地方產(chǎn)業(yè)數(shù)字化發(fā)展，加快人工智能與經(jīng)濟(jì)社會(huì)各領(lǐng)域深度融合，哈爾濱數(shù)字龍江智算中心項(xiàng)目落地哈爾濱道外區(qū)，一方面助力黑龍江省落實(shí)國家“星網(wǎng)工程”、“星地融算”等國家級(jí)戰(zhàn)略樞紐節(jié)點(diǎn)布局，另一方面，面向區(qū)域產(chǎn)業(yè)，通過項(xiàng)目、基地、人才、資金的一體化配置，實(shí)現(xiàn)科技創(chuàng)新引領(lǐng)產(chǎn)業(yè)創(chuàng)新，促成地方產(chǎn)業(yè)與算力發(fā)展相互促進(jìn)、共同前進(jìn)的良好態(tài)勢(shì)。

數(shù)字龍江智算中心定位區(qū)域“人工智能+行動(dòng)”核心載體，國家一體化算力網(wǎng)絡(luò)樞紐節(jié)點(diǎn)大科學(xué)裝置，通過二期建設(shè)完成，并于2024年7月全面上線運(yùn)營(yíng)。數(shù)字龍江智算中心上線后，采用“算力+產(chǎn)業(yè)”雙輪驅(qū)動(dòng)模式，基于一體化公共算力服務(wù)平臺(tái)，服務(wù)AI、大模型及國產(chǎn)GPU芯片等智算中心上下游企業(yè)。這些企業(yè)與AI、新金融、芯片設(shè)計(jì)、裝備制造、新能源、工業(yè)材料、城市治理、科研教育等行業(yè)和場(chǎng)景深度融合，推動(dòng)傳統(tǒng)產(chǎn)業(yè)的數(shù)字化轉(zhuǎn)型，加速AI大模型產(chǎn)業(yè)向本地集聚。

2　案例實(shí)施與應(yīng)用

數(shù)字龍江智算中心作為新型數(shù)字基礎(chǔ)設(shè)施，覆蓋了云計(jì)算、人工智能、大數(shù)據(jù)等諸多技術(shù)領(lǐng)域，具備數(shù)字化、智能化的特點(diǎn)，是數(shù)字經(jīng)濟(jì)時(shí)代支撐社會(huì)生產(chǎn)力數(shù)字化的基礎(chǔ)設(shè)施，也是數(shù)據(jù)要素的重要載體。

數(shù)字龍江智算中心采用“集中部署、分級(jí)應(yīng)用”的總體思路，采用基于高并發(fā)和數(shù)據(jù)資源處理的計(jì)算架構(gòu)設(shè)計(jì)，參考五橫三縱的總體框架體系，采用多層架構(gòu)設(shè)計(jì)，由展現(xiàn)層、應(yīng)用層、應(yīng)用支撐層、數(shù)據(jù)層、基礎(chǔ)軟硬件平臺(tái)、能源基礎(chǔ)設(shè)施，以及安全保障體系、運(yùn)維管理系統(tǒng)構(gòu)成。

其總體架構(gòu)圖如圖1所示。

圖1 總體架構(gòu)圖

其中，展現(xiàn)層通過集成各應(yīng)用系統(tǒng)接口，整合匯總各種數(shù)據(jù)，以門戶網(wǎng)站、客戶端或手機(jī)APP形式對(duì)外提供政務(wù)辦公、行業(yè)智能應(yīng)用、信息咨詢等各類服務(wù)內(nèi)容。

應(yīng)用層采用云原生技術(shù)，部署了大模型應(yīng)用平臺(tái)、AI開發(fā)平臺(tái)、數(shù)據(jù)治理平臺(tái)云服務(wù)平臺(tái)等平臺(tái)系統(tǒng)。各平臺(tái)基于底層豐富的計(jì)算、存儲(chǔ)及網(wǎng)絡(luò)資源，支撐政府、企業(yè)及個(gè)人應(yīng)用上云，同時(shí)，為云內(nèi)用戶提供用戶管理、接入管理、資源管理、授權(quán)管理、流程管理和安全審計(jì)等統(tǒng)一管理界面。

數(shù)據(jù)層針對(duì)結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)等多種數(shù)據(jù)類型，提供關(guān)系型數(shù)據(jù)庫、非關(guān)系型數(shù)據(jù)庫、向量數(shù)據(jù)庫等多種數(shù)據(jù)處理、分析、存儲(chǔ)能力供應(yīng)用層各類應(yīng)用系統(tǒng)使用。

基礎(chǔ)軟硬件平臺(tái)利用云計(jì)算、軟件定義存儲(chǔ)、軟件定義網(wǎng)絡(luò)等技術(shù)將底層網(wǎng)絡(luò)設(shè)備、服務(wù)器、存儲(chǔ)備份設(shè)備、安全設(shè)備等基礎(chǔ)硬件產(chǎn)品資源化，為上層業(yè)務(wù)提供精細(xì)化計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)資源。

運(yùn)維管理系統(tǒng)結(jié)合智算中心底層軟硬件設(shè)備進(jìn)行設(shè)計(jì)，支持軟硬件設(shè)備及基礎(chǔ)軟件平臺(tái)系統(tǒng)的運(yùn)行監(jiān)控、異常報(bào)警、事件自動(dòng)處理、態(tài)勢(shì)分析等功能。

安全保障系統(tǒng)依據(jù)信息系統(tǒng)等級(jí)保護(hù)要求進(jìn)行建設(shè)，實(shí)現(xiàn)了融合安全統(tǒng)一可視化管理，管理員可在統(tǒng)一界面下進(jìn)行日常安全巡檢、集中策略下發(fā)、配置調(diào)整和設(shè)備監(jiān)控等全域安全操作，同時(shí)，可實(shí)現(xiàn)針對(duì)入侵等安全事件及時(shí)調(diào)整安全策略，實(shí)時(shí)修正防御規(guī)則，以構(gòu)建數(shù)據(jù)中心零信任安全防護(hù)體系。

目前，數(shù)字龍江智算中心已入駐8大科研聯(lián)合實(shí)驗(yàn)室，支撐實(shí)驗(yàn)室十余個(gè)課題小組開展大模型算法研發(fā)、行業(yè)數(shù)據(jù)分析等科研活動(dòng)所需的算力及數(shù)據(jù)需求。同時(shí)，基于智算中心各類應(yīng)用平臺(tái)，數(shù)字龍江智算中心為行業(yè)頭部大模型企業(yè)面向區(qū)域提供包括人工智能遷移部署在內(nèi)的25項(xiàng)管家式服務(wù)及5類19項(xiàng)大模型MaaS服務(wù)。

3　應(yīng)用創(chuàng)新

智算中心是數(shù)字基建發(fā)展的重要組成部分，其設(shè)計(jì)、建設(shè)、運(yùn)營(yíng)涉及數(shù)據(jù)中心機(jī)電配套、硬件設(shè)備實(shí)施、軟件系統(tǒng)設(shè)計(jì)、安全合規(guī)保障、服務(wù)內(nèi)容設(shè)計(jì)等多方面內(nèi)容，是一項(xiàng)規(guī)模體量特別龐大、涉及技術(shù)特別復(fù)雜、服務(wù)要求特別高、客戶需要變化特別快的創(chuàng)新性系統(tǒng)性工程。

智算中心的建設(shè)和運(yùn)營(yíng)往往眾多重點(diǎn)及難點(diǎn)，包括：算力硬件技術(shù)路線多樣，難以實(shí)現(xiàn)統(tǒng)一管理、統(tǒng)籌調(diào)度；算力需求迅猛發(fā)展，算力設(shè)備供應(yīng)緊張，建設(shè)周期壓力大；算力服務(wù)重點(diǎn)從高性價(jià)比向高性能轉(zhuǎn)移；算法應(yīng)用賦能業(yè)務(wù)場(chǎng)景周期長(zhǎng)，新型應(yīng)用落地不夠敏捷；算法應(yīng)用賦能業(yè)務(wù)場(chǎng)景周期長(zhǎng)，新型應(yīng)用落地不夠敏捷。

軟通智慧基于在智算中心建設(shè)運(yùn)營(yíng)方面的豐富經(jīng)驗(yàn)，積累沉淀了諸多技術(shù)和人才儲(chǔ)備，圍繞智算中心規(guī)劃、建設(shè)、運(yùn)營(yíng)全流程打造了靈暢算力服務(wù)體系，基于該體系，軟通智慧在數(shù)字龍江智算中心建設(shè)過程中通過架構(gòu)創(chuàng)新、聯(lián)合優(yōu)化、AI工程化服務(wù)、體系保障幾個(gè)方面充分保障了數(shù)字龍江智算中心建設(shè)運(yùn)營(yíng)工作順利開展。

3.1　架構(gòu)創(chuàng)新

數(shù)字龍江智算中心整體建設(shè)遵循“分區(qū)+分層+分平面+安全”的全新設(shè)計(jì)理念。將智算中心進(jìn)行模塊化、標(biāo)準(zhǔn)化，便于日常運(yùn)維管理和日后擴(kuò)展，如圖2所示。

圖2

分區(qū)是指按照業(yè)務(wù)特點(diǎn)和安全要求劃分不同的業(yè)務(wù)區(qū)域，各區(qū)塊間通過核心交換機(jī)連接在一起，不同類型的流量，通過VRF進(jìn)行隔離。其中：

（1）AI訓(xùn)練算力存儲(chǔ)區(qū)+調(diào)度區(qū)主要部署人工智能融合賦能的計(jì)算和存儲(chǔ)節(jié)點(diǎn)包含調(diào)度功能模塊，向人工智能融合賦能平臺(tái)提供塊存儲(chǔ)、對(duì)象存儲(chǔ)、文件存儲(chǔ)，還有提供人工智能融合賦能平臺(tái)中AI計(jì)算能力，主要由人工智能服務(wù)器+存儲(chǔ)構(gòu)成。

（2）云資源區(qū)主要為提高超算中心資源利用率，提供基礎(chǔ)軟硬件層包括創(chuàng)建業(yè)務(wù)虛擬機(jī)。業(yè)務(wù)虛擬機(jī)提供CPU、內(nèi)存資源，并通過增加分布式存儲(chǔ)共享的方式提供共享存儲(chǔ)資源，是人工智能融合賦能平臺(tái)的核心系統(tǒng)之一；云資源區(qū)網(wǎng)絡(luò)采用扁平化二層數(shù)據(jù)中心Spine-Leaf組網(wǎng)架構(gòu)組網(wǎng)，通過部署雙機(jī)高性能數(shù)據(jù)中心盒式交換機(jī)作為機(jī)柜TOR接入交換機(jī)對(duì)服務(wù)器或存儲(chǔ)設(shè)備進(jìn)行網(wǎng)絡(luò)接入，采用堆疊部署，形成統(tǒng)一管理控制界面后與雙機(jī)集群核心交換機(jī)之間通過雙鏈路上行，設(shè)計(jì)速率為2*100GE保障高速率轉(zhuǎn)發(fā)，10GE下行連接服務(wù)器或存儲(chǔ)設(shè)備。

（3）外部接入?yún)^(qū)承擔(dān)人工智能融合賦能平臺(tái)互聯(lián)網(wǎng)區(qū)的網(wǎng)絡(luò)交換職責(zé)，主要為平臺(tái)提供流量統(tǒng)計(jì)、防火墻、EIP、VPN等功能。內(nèi)部網(wǎng)絡(luò)相互訪問，以及內(nèi)部與外部相互訪問都通過該區(qū)域完成。提供網(wǎng)絡(luò)安全能力，檢測(cè)掃描外部訪問內(nèi)部的網(wǎng)絡(luò)流量，保障平臺(tái)安全能力。使用出口路由器與MPLSVPN承載網(wǎng)絡(luò)、Internet網(wǎng)絡(luò)、DCN網(wǎng)絡(luò)等進(jìn)行互聯(lián)。

（4）運(yùn)維管理區(qū)：該區(qū)域主要用于運(yùn)維、運(yùn)營(yíng)和管理接入，運(yùn)維管理區(qū)部署所有安全審計(jì)以及安全管理設(shè)備，包括網(wǎng)管平臺(tái)、漏洞掃描、運(yùn)維審計(jì)、數(shù)據(jù)庫審計(jì)、日志審計(jì)、殺毒軟件、WAF、態(tài)勢(shì)感知等，做到融合安全統(tǒng)一可視化管理，方便管理員日常安全巡檢、集中策略下發(fā)、配置調(diào)整和設(shè)備監(jiān)控，可以限制數(shù)據(jù)中心業(yè)務(wù)的非授權(quán)IP訪問權(quán)限，同時(shí)關(guān)閉不必要的通訊端口，收集前端防火墻、邊界墻實(shí)現(xiàn)對(duì)來自外部網(wǎng)絡(luò)的攻擊行為記錄、溯源、記錄攻擊目標(biāo)、攻擊類型和攻擊時(shí)間。所有安全設(shè)備為態(tài)勢(shì)感知提供海量數(shù)據(jù)，態(tài)勢(shì)感知通過AI大數(shù)據(jù)分析的能力對(duì)入侵等安全事件可以及時(shí)地調(diào)整安全策略配置，及時(shí)修正防御規(guī)則，靈活地對(duì)匹配IT資源、攻擊類型、協(xié)議等的攻擊報(bào)文采取相應(yīng)的動(dòng)作，構(gòu)建數(shù)據(jù)中心零信任安全防護(hù)體系。

分層是指采用核心層和接入層兩層扁平結(jié)構(gòu)。

分平面是指采用AI高性能計(jì)算平面、業(yè)務(wù)平面、管理平面等分離的設(shè)計(jì)方法，各自獨(dú)立組網(wǎng)，保證平臺(tái)可靠性。同時(shí)避免了各類網(wǎng)絡(luò)之間的競(jìng)爭(zhēng)和由此產(chǎn)生的擁塞，從而提高提高系統(tǒng)的可擴(kuò)展性、安全性和可維護(hù)性。

安全是指在不同業(yè)務(wù)區(qū)域之間、在數(shù)據(jù)中心出口等位置部署安全設(shè)備，實(shí)現(xiàn)業(yè)務(wù)安全訪問和數(shù)據(jù)安全保障。

3.2　計(jì)算優(yōu)化

人工智能芯片作為支撐智算中心算力的核心部件，在單臺(tái)智算服務(wù)器中，其成本能占到整臺(tái)服務(wù)器成本的80%以上。然而，數(shù)據(jù)表明，大部分用戶的智能算力芯片利用率只有10%到30%。大量算力的閑置無疑是對(duì)智算中心成本的巨大浪費(fèi)。因此，對(duì)智算中心智算集群進(jìn)行調(diào)優(yōu)，以提高整體算力使用率無疑是智算中心建設(shè)運(yùn)營(yíng)的重點(diǎn)。

站在整個(gè)智算中心的角度來看，計(jì)算的優(yōu)化分為三個(gè)方面：

（1）單訓(xùn)練任務(wù)的優(yōu)化

目前人工智能算法開發(fā)都依賴于TensorFlow、Pytorch、Mindspore等深度學(xué)習(xí)框架，這些基礎(chǔ)軟件的設(shè)計(jì)目標(biāo)之一是提升單個(gè)訓(xùn)練任務(wù)的計(jì)算性能，而在訓(xùn)練過程中，數(shù)據(jù)的讀取、芯片之間的通信吞吐都是影響訓(xùn)練效率的關(guān)鍵因素。因此，網(wǎng)絡(luò)系統(tǒng)、存儲(chǔ)系統(tǒng)及計(jì)算系統(tǒng)的聯(lián)合調(diào)優(yōu)尤為重要，資源分配平臺(tái)需要充分了解服務(wù)器硬件的內(nèi)部拓?fù)浼罢w網(wǎng)絡(luò)架構(gòu)，才能有效發(fā)現(xiàn)數(shù)據(jù)傳輸?shù)淖疃搪窂健⒈苊饩W(wǎng)絡(luò)可能產(chǎn)生的擁塞。龍江智算中心云平臺(tái)通過自動(dòng)化NUMA設(shè)置、內(nèi)核參數(shù)配置、網(wǎng)路擁塞策略調(diào)整等多種手段保證了單任務(wù)計(jì)算達(dá)到理論性能上限。

（2）多任務(wù)調(diào)度優(yōu)化

智算中心作為面向公共的算力服務(wù)平臺(tái)，訓(xùn)練任務(wù)是非常多樣化的，單機(jī)單卡、單機(jī)多卡、多機(jī)多卡任務(wù)對(duì)于資源規(guī)模的要求均不同。不合理的算力芯片調(diào)度策略會(huì)導(dǎo)致智算中心內(nèi)資源碎片化嚴(yán)重，同時(shí)任務(wù)資源等待時(shí)長(zhǎng)增加，如圖3所示。

圖3

龍江智算中心算力調(diào)度平臺(tái)一方面通過資源分配算法優(yōu)化，通過底層拓?fù)湫畔⒎治鰧?shí)現(xiàn)GPU資源的精細(xì)化資源調(diào)度，另一方面，通過資源調(diào)度算法支持細(xì)粒度的GPU資源共享與回收，通過支持不同算力芯片的上報(bào)和管理，幫助AI訓(xùn)練任務(wù)根據(jù)實(shí)際需求選擇合適的GPU類型，提升計(jì)算效率。

3.3　AI工程化服務(wù)

針對(duì)AI應(yīng)用開發(fā)定制化程度高、訓(xùn)練數(shù)據(jù)集生成難的問題，龍江智算中心通過搭建人工智能開發(fā)平臺(tái)，提供一站式人工智能解決方案。平臺(tái)面向人工智能研究中的數(shù)據(jù)處理、算法開發(fā)、模型訓(xùn)練、算力管理和推理應(yīng)用等各個(gè)流程的技術(shù)難點(diǎn)，提供了模型開發(fā)平臺(tái)、集成高性能分布式深度學(xué)習(xí)框架、先進(jìn)算法模型庫、視覺模型煉知平臺(tái)、數(shù)據(jù)可視化分析平臺(tái)等一系列平臺(tái)工具，幫助平臺(tái)用戶高效開展分布式人工智能算法訓(xùn)練、數(shù)據(jù)處理和可視分析、模型煉知和輕量化等人工智能算法開發(fā)工作。平臺(tái)整體功能架構(gòu)如圖4所示。

圖4 平臺(tái)整體功能架構(gòu)

同時(shí)，軟通智慧基于平臺(tái)能力，圍繞數(shù)據(jù)工程及算法工程兩方面為智算中心企業(yè)提供定制化服務(wù)。數(shù)據(jù)工程方面，圍繞業(yè)務(wù)數(shù)據(jù)清洗、訓(xùn)練數(shù)據(jù)標(biāo)注及數(shù)據(jù)價(jià)值發(fā)掘，協(xié)助客戶為智算中心用戶提供定制化軟件開發(fā)及數(shù)據(jù)治理服務(wù)。算法工程方面，面向用戶場(chǎng)景及行業(yè)痛點(diǎn)，協(xié)助客戶為智算中心用戶提供算力芯片適配服務(wù)、應(yīng)用云化服務(wù)及場(chǎng)景解決方案打造服務(wù)。

4　效益分析

借助軟通智慧靈暢算力服務(wù)體系的全方位服務(wù)保障，數(shù)字龍江智算中心建設(shè)運(yùn)營(yíng)至今已完成130P算力需求的簽約，為現(xiàn)有算力規(guī)模的130%，達(dá)到上限即可滿載運(yùn)營(yíng)。同時(shí)項(xiàng)目發(fā)揮智算中心平臺(tái)優(yōu)勢(shì)，積極整合央國企資源，截至目前已與星網(wǎng)集團(tuán)達(dá)成合作，并將科技部學(xué)術(shù)認(rèn)偽大模型、組織部人才畫像大模型、中國科學(xué)院紫東太初大模型等12個(gè)科研、行業(yè)大模型引入黑龍江，在全國范圍首個(gè)實(shí)現(xiàn)大模型訓(xùn)練場(chǎng)的智算中心。

今年，三期項(xiàng)目計(jì)劃通過產(chǎn)業(yè)聯(lián)盟投資18億元，提升域內(nèi)算力達(dá)500P，建成數(shù)字龍江智算中心國家一體化算力網(wǎng)絡(luò)鏈接衛(wèi)星互聯(lián)網(wǎng)服務(wù)網(wǎng)絡(luò)的地基門戶，形成東數(shù)西算骨干節(jié)點(diǎn)、天數(shù)地算的首發(fā)節(jié)點(diǎn)、星地融算的樞紐節(jié)點(diǎn)戰(zhàn)略格局。目前，運(yùn)營(yíng)公司已成功完成180P算力服務(wù)協(xié)議的簽約。

5　案例意義

數(shù)字龍江智算中心建設(shè)運(yùn)營(yíng)的成功是軟通智慧靈暢算力服務(wù)體系加速人工智能大模型賦能千行百業(yè)、助力區(qū)域數(shù)字基建發(fā)展的一次成功實(shí)踐。靈暢算力服務(wù)體系圍繞智算中心規(guī)劃、建設(shè)、運(yùn)營(yíng)全流程打造，覆蓋了智算中心從規(guī)劃設(shè)計(jì)、建設(shè)集成到運(yùn)營(yíng)運(yùn)維各階段客戶所需的各類技術(shù)及人員服務(wù)需求。實(shí)踐表明，靈暢算力服務(wù)體系為區(qū)域智算中心建設(shè)、運(yùn)營(yíng)提供了一套成熟、先進(jìn)的技術(shù)服務(wù)標(biāo)準(zhǔn)，通過靈暢算力服務(wù)體系，可幫助智算中心實(shí)現(xiàn)交付標(biāo)準(zhǔn)、易于管理、性能高效、整體安全可控的建設(shè)目標(biāo)，同時(shí)智算中心作為數(shù)字基建核心出現(xiàn)建而不用、用而不好的問題，切實(shí)幫助區(qū)域通過發(fā)展數(shù)字基建帶動(dòng)地方產(chǎn)業(yè)轉(zhuǎn)型升級(jí)，進(jìn)而實(shí)現(xiàn)地方數(shù)字經(jīng)濟(jì)快速發(fā)展。

作者簡(jiǎn)介：

李巍峰（1985-），浙江東陽人，現(xiàn)任軟通智慧新算力系統(tǒng)部總裁，主要研究方向?yàn)槿斯ぶ悄堋?shù)據(jù)中心建設(shè)，帶領(lǐng)團(tuán)隊(duì)在人工智能領(lǐng)域取得顯著突破性進(jìn)展，在多地實(shí)現(xiàn)區(qū)域級(jí)智算中心落地。

摘自《自動(dòng)化博覽》2024年10月刊