韩国三级一区-韩国三级香港三级日本三级la-韩国三级香港三级日本三级-韩国三级视频网站-日韩欧美一及在线播放-日韩欧美一二三区

首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|低空經濟|智能汽車|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 頭條資訊 >> 正文

信通院栗蔚:大模型推理應用重塑云智算技術體系

2025年4月16日 07:10  CAICT算力互聯網  

2025年4月10日-11日期間,由中國移動主辦的“2025中國移動云智算大會——由云向智,共繪算網新生態” 在江蘇蘇州舉行。中國信息通信研究院云計算與大數據研究所副所長栗蔚出席大會,并發表“大模型推理應用重塑云智算技術體系”主題演講。

大模型推理應用正重塑云智算技術體系,成為推動智能化轉型的核心引擎。從算力需求的結構性轉換到技術架構的深度重構,再到大模型推理服務質量的場景化演進,云智算技術正邁向從“算力供給”到“智能賦能”的新范式,為數字經濟的高效、普惠與可持續發展提供堅實技術支撐。

“人工智能+算力+云”融合,加速我國數字經濟蓬勃發展。

栗蔚指出,大模型推理性能驅動算力結構轉型,從以訓練為主轉向以推理為核心,從當前70%以上用于集中式訓練到未來70%以上用于分布式推理。全球云計算市場規模持續增長。2024年全球云計算市場規模達7,022億美元,增速 19.7%。國內市場云計算市場規模總計8,378億元,較2023年增長35.9%,其中以中國移動為代表的運營商占三分之一以上份額,走在全球運營商前列。數字產業化市場來看,以大模型為主線的人工智能技術創新活躍,顯著促進我國全要素生產率提升,對經濟增長的整體貢獻達到22.5%

破局與重構:大模型推理加速的云智算技術突破

栗蔚指出,從數字化時代向智能化時代的演進中,云智算技術正聚焦于大模型推理場景與應用,呈現“1+3”的破局與重構趨勢。商業模式破局,隨大模型產業從預訓練競賽轉向推理服務效能優化,商業模式逐步由單純的技術競賽過渡到價值共享與產業落地,強調高效推理技術與垂直應用場景結合以實現商業閉環;“云+算力互聯”重構,一縱一橫推動了云計算與分散算力資源的有效整合,催生了MaaS、AaaS等新型服務模式,并構建了“一點接入、全算貫通”的算力互聯網架構,賦能全域大模型推理調度;“云+大模型”重構,芯片、框架和模型三位一體的協同優化進一步提升了異構推理性能;算力部署演進,政企大模型部署經歷了從云原生到私有化場景的一體機方案,直至未來邁向云邊端協同的發展路徑。

可用性與性能是衡量大模型推理云服務質量的關鍵

栗蔚指出,隨著云智算技術架構的深度重構,可用性與性能是衡量大模型推理云服務質量的關鍵。可用性方面,DeepSeek官網服務的頻繁繁忙現象,折射出大模型推理服務接入后的首要挑戰——如何保障服務的穩定性和連續性。性能方面,以TTFT、TPOT、延遲、單卡吞吐量和上下文長度為代表的“快、穩、密、異”四大指標是客戶端關注推理性能的焦點。通用基線場景中,各云廠商通過優化整合“云+算力互聯+大模型”,在昇騰910B、H20等芯片上的適配優化提升推理表現。行業應用場景中,因輸入輸出特性的差異,定制化需求顯著,需依賴硬件互聯效率與容錯機制的協同進化來突破分布式推理性能瓶頸,而算力互聯調度則是提高資源利用率的核心基石。

中國信息通信研究院工作開展

未來,中國信通院將不斷深化大模型推理領域的研究探索,推動AI Cloud與算力互通體系建設,持續開展大模型推理云服務性能測試,強化產業協同與合作,提升各行業智能化水平,構建一個開放、合作、共贏的人工智能、算力和云計算深度融合的生態,為企業數智化轉型注入活力。

編 輯:章芳
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
推薦新聞              
 
人物
高通徐晧:利用6G和AI重塑移動連接的未來
精彩視頻
全球6G大會|高通展示三大6G原型系統 更好服務智能時代
6G技術新突破!6G全息超表面寬帶移動通信系統樣機發布
全球6G大會 | 中國通信標準化協會聞庫:5G垂直應用痛點值得挖掘,設計6G時要加以考慮
全球6G大會 | 高通徐晧:“人工智能+6G”帶來更多應用場景 中國6G占據優勢
精彩專題
通信產業2024年業績盤點
3·15權益日 | 共筑滿意消費 守護信息通信安全防線
聚焦2025全國兩會
2025年世界移動通信大會
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像