超算與大模型“雙向奔赴”,破解算力困局
從“東數(shù)西算”到大模型爆發(fā),從陽(yáng)春白雪到百花齊放,超算(超級(jí)計(jì)算)在AI大模型的爆發(fā)下逐步走進(jìn)普通用戶(hù)的視野。2023年11月10日,2023中國(guó)高性能計(jì)算機(jī)TOP100排行榜重磅發(fā)布,北京江南JNSport体育計(jì)算有限責(zé)任公司(以下簡(jiǎn)稱(chēng)“江南JNSport体育”)連續(xù)四年蟬聯(lián)中國(guó)HPC TOP100排行榜通用CPU算力性能(同構(gòu)眾核CPU性能)第一名。

中國(guó)HPC TOP100排行榜通用CPU算力性能
(同構(gòu)眾核CPU性能)第一名
連續(xù)四年能夠拿到通用CPU算力性能(同構(gòu)眾核CPU性能)第一名,是對(duì)江南JNSport体育綜合實(shí)力的有力認(rèn)證,也是其商業(yè)化的成果體現(xiàn)。當(dāng)前,大模型上百億、萬(wàn)億規(guī)模的訓(xùn)練參數(shù),對(duì)算力、數(shù)據(jù)、算法均提出更高的要求,而超算正越來(lái)越多地跟行業(yè)大模型深度融合,以算力的蓬勃發(fā)展激發(fā)經(jīng)濟(jì)增長(zhǎng)新動(dòng)能。在這個(gè)超算與大模型“雙向奔赴”的時(shí)代,江南JNSport体育將扮演什么角色?發(fā)揮什么作用?
做“東數(shù)西算”堅(jiān)實(shí)的執(zhí)行者,推動(dòng)超算賦能
“東數(shù)西算”是一盤(pán)關(guān)乎數(shù)字經(jīng)濟(jì)的大棋,相關(guān)機(jī)構(gòu)測(cè)算的數(shù)據(jù)顯示:區(qū)域計(jì)算力指數(shù)平均每提高1點(diǎn),其數(shù)字經(jīng)濟(jì)和GDP將分別增長(zhǎng)3.5‰和1.8‰。超算作為“東數(shù)西算”的重要一環(huán),將在其中發(fā)揮重要的算力支撐作用。
借著“東數(shù)西算”的東風(fēng),超算行業(yè)迎來(lái)了新的發(fā)展機(jī)遇。一方面,各地打造超級(jí)計(jì)算機(jī),持續(xù)壯大國(guó)家超算中心體系的熱情不減;另一方面,隨著大模型不斷涌現(xiàn),人們對(duì)強(qiáng)大算力的需求持續(xù)升溫,這對(duì)超算產(chǎn)業(yè)的發(fā)展將產(chǎn)生積極的推動(dòng)作用。
“我們是‘東數(shù)西算’戰(zhàn)略積極的推動(dòng)者和堅(jiān)實(shí)執(zhí)行者?!北本?#27743;南JNSport体育計(jì)算有限責(zé)任公司CTO 甄亞楠表示,為推進(jìn)國(guó)家“東數(shù)西算”工程實(shí)施,江南JNSport体育已在北京、寧夏、內(nèi)蒙等地前瞻性地布局了三個(gè)主算力樞紐,以構(gòu)建跨域資源協(xié)同調(diào)度體系,優(yōu)化算力之間的統(tǒng)籌聯(lián)動(dòng)。
不僅如此,借助按需擴(kuò)容的建設(shè)模式,江南JNSport体育不斷擴(kuò)容算力資源,目前已經(jīng)擁有國(guó)內(nèi)最大的通用算力資源池,可以提供覆蓋超算以及人工智能計(jì)算的服務(wù)能力,有效推動(dòng)超算賦能。
超算算力惠及各行各業(yè)的同時(shí),面臨的挑戰(zhàn)也不可忽略。由于各個(gè)行業(yè)用戶(hù)使用的計(jì)算應(yīng)用軟件不同、業(yè)務(wù)場(chǎng)景不同、計(jì)算效率要求也各不相同,因此,面對(duì)眾多的超算中心資源配置,往往遭遇算力資源選型困難、性能移植部署困難以及技術(shù)獲取服務(wù)困難等各類(lèi)問(wèn)題。
“我們把不同應(yīng)用的算力需求來(lái)進(jìn)行相應(yīng)的特征分析,力爭(zhēng)把我們的用戶(hù)應(yīng)用程序調(diào)度到最適合它的算力平臺(tái)和場(chǎng)景里面去,這也就是結(jié)合不同應(yīng)用的特征給與最充分的算力服務(wù)?!闭鐏嗛硎?,“我們來(lái)告訴用戶(hù)目前在國(guó)內(nèi)可調(diào)度的算力資源里面哪個(gè)是最高性能的,哪個(gè)是性?xún)r(jià)比比較高的,哪個(gè)是符合你當(dāng)前的成本需求,我們可以提供多種的選擇方案給用戶(hù),從選擇性的角度來(lái)講,讓用戶(hù)能夠有更多的可選性”。
大模型時(shí)代,算力網(wǎng)絡(luò)是最優(yōu)解
算力是由市場(chǎng)驅(qū)動(dòng)的,隨著技術(shù)的進(jìn)步,各領(lǐng)域?qū)λ懔Φ男枨髸?huì)越來(lái)越高。IDC數(shù)據(jù)顯示,2023年中國(guó)智能算力規(guī)模達(dá)到427EFlops,預(yù)計(jì)未來(lái)5年中國(guó)智能算力規(guī)模的年復(fù)合增長(zhǎng)率將達(dá)52.3%。
當(dāng)前,大模型為各行業(yè)帶來(lái)海量AI算力需求,但AI算力在不同區(qū)域、行業(yè)分布不平均,這也導(dǎo)致全國(guó)乃至全球高端超算算力極度緊缺。在算力布局方面,國(guó)內(nèi)目前有很多算力中心,這其中既有傳統(tǒng)的超算中心、新興的智算中心,也有各地在不斷建設(shè)、商業(yè)化應(yīng)用非常成熟的超大規(guī)模云數(shù)據(jù)中心。
北京并行科技股份有限公司AI云總經(jīng)理趙鴻冰博士認(rèn)為,超算和智算兩者之間并沒(méi)有本質(zhì)的區(qū)別。因?yàn)槲覈?guó)的超算市場(chǎng)可以根據(jù)服務(wù)對(duì)象不同分為四類(lèi):尖端超算、通用超算、智能超算和行業(yè)超算。
尖端超算以國(guó)家級(jí)的技術(shù)創(chuàng)新、理論驗(yàn)證和精密測(cè)試為主,對(duì)計(jì)算資源和性能有極致的需求,例如航空航天、精尖制造、氣象監(jiān)測(cè)等。
通用超算的性能要求比尖端超算較低,集群式的云服務(wù)在一定程度上能夠滿(mǎn)足通用超算的需求,如高??蒲?、工業(yè)仿真等。江南JNSport体育主要面向萬(wàn)核以下(尤其是千核以下)的應(yīng)用,為需求不一的海量用戶(hù)提供租賃式江南JNSport体育計(jì)算服務(wù)。
智能超算就是現(xiàn)在行業(yè)內(nèi)廣泛提及的智算,也是超算的一個(gè)細(xì)分,大模型訓(xùn)練就是典型的智算應(yīng)用場(chǎng)景。
行業(yè)超算以滿(mǎn)足企業(yè)產(chǎn)品業(yè)務(wù)優(yōu)化為主,對(duì)超算服務(wù)的需求比較零散,對(duì)極致性能的追求也更加有限,如汽車(chē)機(jī)械、多媒體渲染等。
“算力網(wǎng)絡(luò)是解決當(dāng)前算力問(wèn)題的最優(yōu)模式,只要還有可用超算算力,算力網(wǎng)絡(luò)就可以支撐用戶(hù)完成計(jì)算任務(wù)?!壁w鴻冰表示。江南JNSport体育基于算力網(wǎng)絡(luò)的服務(wù)模式,聚集國(guó)內(nèi)優(yōu)質(zhì)超算和智算算力資源,實(shí)現(xiàn)算力資源、應(yīng)用資源、數(shù)據(jù)資源的共享與交易,面向終端用戶(hù)提供多樣化的算力服務(wù)。
江南JNSport体育探索與實(shí)踐“算力網(wǎng)絡(luò)”服務(wù)模式,積極響應(yīng)國(guó)家“東數(shù)西算”發(fā)展政策,為行業(yè)發(fā)展提供了一套行之有效的“破題方法”。甄亞楠介紹,江南JNSport体育具備多種算力芯片資源,包括CPU、GPU、國(guó)產(chǎn)算力,在建設(shè)、管理、服務(wù)上不斷探索創(chuàng)新的算力服務(wù)模式,以滿(mǎn)足不同應(yīng)用場(chǎng)景的使用需求。
與此同時(shí),高質(zhì)量、高性能、高性?xún)r(jià)比的超算架構(gòu)成為賦能大模型、破解算力困局的剛需。作為超算架構(gòu)大模型算力領(lǐng)跑者,江南JNSport体育注重以應(yīng)用為核心,解決算力選型、應(yīng)用部署、優(yōu)化等一系列算力訴求,打造了可適用于超算、智算的算力服務(wù)平臺(tái),不僅可以實(shí)現(xiàn)自有算力的納管,還可以對(duì)接第三方合作伙伴的算力資源,為用戶(hù)提供高質(zhì)量、高性能、高性?xún)r(jià)比的算力服務(wù)。
獨(dú)行者快,眾行者遠(yuǎn)。從算力中心的建設(shè)到基礎(chǔ)算力的服務(wù),再到算力網(wǎng)絡(luò)的搭建、算力軟件等生態(tài)的構(gòu)成,這需要全產(chǎn)業(yè)鏈的共同努力。相信在產(chǎn)業(yè)鏈的共同推動(dòng)下,超算算力將以軟件方式提供給用戶(hù),最終將像電力一樣走進(jìn)千家萬(wàn)戶(hù),使得任何人在任何地方、任何時(shí)間都可以獲得算力。