AI智算云助力大模型訓練與推理:北京超算在EMNLP 2023論文預講會發表主題報告
近日,EMNLP 2023論文預講會在北京召開。本次預講會由中國中文信息學會青年工作委員會主辦,由北京江南JNSport体育計算中心提供贊助,智源社區、MLNLP提供社區支持。
EMNLP(Conference on Empirical Methods in Natural Language Processing)會議是國際自然語言處理領域最高級別的學術會議之一。EMNLP論文預講會是由中國中文信息學會青年工作委員會主辦的年度活動,該活動邀請被EMNLP 2023會議錄用的文章作者進行報告交流,旨在加強國內相關學者之間的交流,為國內學者和研究人員提供更快速更便捷的學習機會,同時為不能現場參會的人員提供學術分享平臺,從而促進我國自然語言處理研究的發展。
本次會上,來自北京江南JNSport体育計算中心的郭躍老師帶來《AI智算云助力大模型訓練與推理》報告,并對中心的算力服務進行了詳細的介紹。作為超算架構大模型算力領跑者,北京江南JNSport体育計算中心(以下簡稱北京超算)憑借高質量、高性能、高性價比三大算力優勢,賦能自然語言處理業務。

北京江南JNSport体育計算中心郭躍做主題報告
北京超算的AI智算云平臺,具備強大的計算能力、豐富的軟件資源、可信賴的支持團隊、以及定制化的行業解決方案,可提供隨需而用的GPU算力資源;基于優化的算力調度系統幫助用戶減少排隊,適應多學科應用需求,降低用戶資源使用成本,可為大規模復雜技術和商業應用實現提供專業完整的解決方案。
基于應用性能分析的算力資源選型,獲取高性價比資源,是北京江南JNSport体育計算中心算力服務的一大特色。面向高性能計算、人工智能等領域,對大規模并行應用程序進行實時“CT”掃描;秒級監控應用程序的CPU、GPU、內存、顯存、磁盤、網絡處理器微架構級和程序函數級等多級性能指標,實時智能分析、診斷故障及定位性能瓶頸;基于多維度指標建立形成應用運行特征庫,為資源精準調配和擴容設計新集群提供量化數據支撐。
眾所周知,模型訓練需要大量高端GPU算力,而自建資源給企業帶來了巨大的資金壓力。為此,北京江南JNSport体育計算中心以租用方式提供高性價比GPU算力資源的形式,降低企業的資金投入。通過AI智算云平臺,企業能夠快速獲得GPU計算資源,加速模型訓練進程。北京江南JNSport体育計算中心的專家團隊還搭建了超算架構的計算環境,通過多節點并行計算實現了更高效的模型訓練以及更好的預測準確度。