每一次技術革新都引領產(chǎn)業(yè)進入全新的時代，互聯(lián)網(wǎng)的出現(xiàn)實現(xiàn)了全球的互聯(lián)互通，云計算普及讓萬物“上云”，而今，生成式AI的浪潮，正帶來下一場顛覆性變革：智能算力需求持續(xù)增長，芯片與服務器呈現(xiàn)更高功率、更高算效，傳統(tǒng)數(shù)據(jù)中心向智算中心轉變。
右二：中國信息與通信研究院產(chǎn)業(yè)與規(guī)劃研究所副總工程師王青；右一：京東云裸金屬產(chǎn)品研發(fā)負責人徐梓耀
日前，在中國IDC圈與京東云聯(lián)合主辦的“京東云直播活動——智算專場”迎來第二場直播：【大模型時代，我們需要什么樣的智算中心?】，中國信息與通信研究院產(chǎn)業(yè)與規(guī)劃研究所副總工程師王青與京東云裸金屬產(chǎn)品研發(fā)負責人徐梓耀兩位嘉賓，帶來大模型時代的算力新需求、智算中心特點、軟硬件及運維新需求等分享。
大模型時代
圖文生成、無人駕駛……ChatGPT橫空出世至今不到兩年的時間，大模型已經(jīng)從實驗室走到產(chǎn)業(yè)化，背后離不開算力支持。
業(yè)界戲言“無算力不模型”。在直播中，中國信息與通信研究院產(chǎn)業(yè)與規(guī)劃研究所副總工程師王青分析，大模型帶來的算力需求變化主要體現(xiàn)在規(guī)模、性能和異構性等方面。
首先，大模型的參數(shù)規(guī)模與對算力的消耗成正比，參數(shù)規(guī)模越大，對算力的需求越大，隨著大模型參數(shù)量從千億邁向萬億，未來萬卡集群成為新一輪大模型基建賽道競爭的配置。
其次，大模型對算力性能的提升需求迫切，包括：①加速芯片和微架構創(chuàng)新等使得芯片能支撐更高精度的計算和更復雜的算法，提升大模型訓練效率。②智算中心部署層級分為芯片級、單服務器節(jié)點級、多服務器集群級，大模型發(fā)展對智能算力擴展性提出高要求，多以服務器單點或集群模式部署以提供并行計算能力。③軟件優(yōu)化，通過強化大模型加速庫能力建設，向用戶提供高效編程接口、優(yōu)化編譯器等工具，提升算力效率和性能。
最后，隨著大模型應用不斷拓展，對異構算力的需求也日益增加，并且涵蓋GPU、CPU、NPU等多種芯片類型、多種算力類型，以及國內外芯片結合等多樣化算力需求。
京東云裸金屬產(chǎn)品研發(fā)負責人徐梓耀通過對芯片、服務器、多服務器集群三個層級的分析，指出：智算服務的本質是利用IDC中的“分布式智能計算”環(huán)境，通過“互聯(lián)網(wǎng)”為客戶提供“本地化體驗”的“智能計算服務”能力。
從傳統(tǒng)數(shù)據(jù)中心到智算中心大不同
大模型帶來算力需求變化的背景下，以通用算力為主的算力格局迎來改變，智能算力成為增長主力，作為算力的物理承載，傳統(tǒng)數(shù)據(jù)中心也向智算中心演變。
與傳統(tǒng)數(shù)據(jù)中心相比，智算中心有何不同?
王青與徐梓耀兩位嘉賓一致認為，主要集中在計算、網(wǎng)絡和存儲三方面。
王青認為，大模型參數(shù)量和訓練數(shù)據(jù)復雜性快速增長，對AI算力平臺的建設提出了新的要求，即需要從數(shù)據(jù)中心規(guī)模化算力部署的角度，統(tǒng)籌考慮大模型分布式訓練對于計算、網(wǎng)絡和存儲的需求特點，并集成平臺軟件、結合應用實踐，充分關注數(shù)據(jù)傳輸、任務調度、并行優(yōu)化、資源利用率等，設計和構建高性能、高速互聯(lián)、存算平衡可擴展集群系統(tǒng)，以滿足AI大模型的訓練需求。整體來看，智算基礎設施的部署涉及計算、網(wǎng)絡、存儲三大維度的橫向協(xié)同，也需要兼顧軟件平臺與硬件資源的縱向協(xié)同。
徐梓耀表示，對于智算在計算、網(wǎng)絡、存儲三方面的變化，京東云都有相應產(chǎn)品與解決方案滿足。
第一，在計算方面，智算服務對IDC機柜的配電要求更高，需要進行定制改造滿足不同AI服務器的需求。
“阿爾法”T系列(風液型)智能算力模塊
為此，京東云推出 “阿爾法”T系列(風液型)與L系列(液冷型)兩種智能算力模塊，分別可滿足算力密度20-50kW/柜與20-100kW/柜以上數(shù)據(jù)中心部署需求。智能算力模塊均采用預制化模式，最快45天交付，支持47U-60U。其中L系列采用全預制化+冷板液冷系統(tǒng)，液冷機柜、CDU及室外冷卻設備等配置完善，可支持最高100KW/機柜功率密度。
第二，在網(wǎng)絡方面，智算服務要支持百億、千億甚至萬億參數(shù)的深度學習大模型，對數(shù)據(jù)中心網(wǎng)絡提出更高定制要求，除以太網(wǎng)外，支持RDMA能力的高速無損IB網(wǎng)絡或RoCE網(wǎng)絡是強需。
他介紹，京東提供算力網(wǎng)絡定制服務能力，H100/H800卡建議使用400G IB網(wǎng)絡，機器8張400G IB網(wǎng)絡滿配;A100/A800 卡建議使用200G網(wǎng)絡，IB或者RoCe都可以。
第三，在存儲方面，智算服務需要海量的訓練數(shù)據(jù)，對數(shù)據(jù)中心的存儲系統(tǒng)也提出定制需求，高性能的共享存儲也成為標配。
京東自研的存算分離的分布式存儲系統(tǒng)——云海，屏蔽底層存儲的異構(支持國產(chǎn))，實現(xiàn)數(shù)據(jù)的同意存儲與管理，EB級存儲容量、萬億級可管理的文件數(shù)量，適配國產(chǎn)服務器。云海有兩種產(chǎn)品形態(tài)，公有云上為云海統(tǒng)一平臺，也提供私有化部署云海存儲一體機。
此外，徐梓耀還介紹了京東云融合智算服務，以及滿足智算中心綠色節(jié)能低碳運維需求的智能精維平臺。平臺分硬件節(jié)能與運維節(jié)能兩個層面，其中運維節(jié)能的相關產(chǎn)品——節(jié)能寶，能將傳統(tǒng)數(shù)據(jù)中心能耗降低15%左右，節(jié)能效果十分客觀。
當天直播中，王青與徐梓耀兩位嘉賓還圍繞智算中心主要用戶與應用場景、智算格局與未來發(fā)展、通用數(shù)據(jù)中心的改造等話題，帶來了深入分析與內容分享。
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。
為什么企業(yè)數(shù)字化轉型建設總是信息部...
