4月26日,中國電信粵港澳大灣區智算昇騰超節點在粵港澳大灣區一體化數據中心正式商用發布,標志著最強智能算力注入粵港澳大灣區國家級算力樞紐節點。廣東省委常委、副省長張國智,中國電信董事長柯瑞文,韶關市委書記陳少榮,華為公司董事、質量流程IT總裁陶景文出席并致辭。中國電信云網發展部(國際部)總經理董濤發表主題演講,中電信人工智能科技有限公司副總經理楊戈匯報基于超節點的大模型研發計劃。中國電信廣東公司總經理張濤、副總經理王湘江、副總經理李進出席活動。
華為助力中國電信打造的智算昇騰超節點成為粵港澳大灣區內最快部署、最先投產、最先進的智算集群,滿足高性能高可靠的大模型訓練需求和高吞吐低時延的大模型推理需求,為大灣區人工智能產業高質量發展注入了新動能,開啟賦能政務、制造、教育醫療等行業智能化。這不僅是技術的突破,更是對區域和國家數字經濟發展的有力推動。
陶景文介紹,大模型參數量級跨越式增長,頂尖AI公司日均tokens消耗突破12萬億量級,多模態融合交互,層出不窮的AI新應用都對算力效率提出了更高要求。中國電信率先推出全球首個智算昇騰超節點商用集群,該超節點采用昇騰AI基礎軟硬件,結合高速總線互聯,具備大規模、高性能、高可用等特性。超節點架構成功突破算力瓶頸,使用TB級全互聯帶寬、內存統一編址及統一通信協議等前沿技術,實現訓練效率提升2.7倍。其還運用大規模專家并行推理集群解決方案,通過多專家負載均衡和極致通信優化,實現高吞吐和低時延,大幅提升推理效率,能夠充分滿足未來千億至萬億級 MOE 大模型的訓練與推理需求。
華為將繼續加大力度,支撐中國電信基于昇騰超節點優化、迭代自研星辰大模型,升級大模型能力,為用戶提供更優質的服務;同時,基于昇騰超節點對外賦能,促進 AI 賦能政務辦公和服務升級,加速AI在實體經濟中落地。助力中國電信進一步鞏固在國內人工智能領域的產業引領地位,強化算力布局先發優勢,持續推進智算服務升級。
陶景文最后總結:"展望未來,華為將秉持開放、合作、共贏理念,與中國電信及廣大合作伙伴,持續加大AI研發投入,深化在基礎設施建設、產業生態培育、行業創新應用等方面的合作,把粵港澳大灣區昇騰超節點智算集群打造成國內領先、國際一流的智算平臺,為大灣區數字經濟發展提供算力支撐。”