博客 / 詳情

返回

雲原生研發突破,國際頂會認可!

近日,由天翼雲與中國電信雲計算研究院聯合完成的論文《gShare: Efficient GPU Sharing with Aggressive Scheduling in Multi-tenant FaaS platform》,獲計算機系統領域國際頂級會議ASPLOS 2026長文收錄。該研究面向AI智能應用場景,提出了一套針對GPU FaaS雲函數的高效資源共享與調度機制,標誌着天翼雲在Serverless GPU的細粒度算力供給與多租户資源優化領域實現重要突破。

 

ASPLOS(International Conference on Architectural Support for Programming Languages and Operating Systems)是國際計算機體系結構四大旗艦會議之一,獲中國計算機學會(CCF)最高推薦級別A類認證,在全球學術界與產業界享有極高聲譽。本屆ASPLOS夏季評審輪次共收到840篇投稿,僅錄用89篇,錄取率低至10%,論文質量與創新性要求極為嚴苛。此次聯合研究成果成功入選,彰顯了中國電信天翼雲在“AI+雲”融合創新上的前瞻佈局與自主攻堅能力。

gShare GPU動態共享技術

破解Serverless場景GPU供給難題

隨着大語言模型、AI智能體等應用加速落地,算力需求正呈現“泛在化、動態化、碎片化”新特徵。傳統雲計算GPU資源供給模型普遍存在資源分配粒度粗、彈性不足、租户成本高等痛點,難以適應中小模型推理、邊緣智能等場景對高性價比、靈活彈性的GPU算力需求。

天翼雲公有云事業部與基礎架構事業部,攜手中國電信雲計算研究院,基於目前流行的Serverless函數式編程範式,共同開展了面向AI智能應用的高效GPU雲函數課題研究,並基於自研evGPU技術研發出面向多租户的低成本GPU函數共享調度系統gShare。該系統以微虛擬機作為安全隔離環境與函數運行載體,通過三大核心技術創新實現GPU資源的“時空動態”高效利用

01基於vGPU的細粒度算力分配——精確匹配用户資源需求

該系統底層設計採用近乎零開銷的自研虛擬化技術,實現對VM到物理GPU設備間任意粒度的算力切片供給,租户函數實例可根據自身業務實際消耗按需申請vGPU資源,徹底告別傳統GPU整卡獨佔的粗放模式,降低資源浪費。

02基於超售的資源定價與調度策略——釋放用户函數閒置算力
該系統資源創新性地採用了GPU與CPU和內存資源管理的解耦設計,通過vGPU熱插拔和快速顯存交換技術,允許函數到GPU切片間映射關係的運行時動態調整,同時結合deadline感知的延遲調度設計以實現資源超售。租户可根據需要選擇不同共享粒度並享受相應價格折扣,從而實現閒置GPU算力的高效回收利用和成本-性能最優平衡

03跨資源池的統一調度與管理架構——支撐泛在智能業務場景

該系統可適配包括TensorFlow Serving, PyTorch, vLLM, and SGLang在內的主流AI推理框架,其設計也天然兼容跨異構資源池的統一調度與管理架構,除可部署在傳統的數據中心集中式GPU資源池之外,還能夠部署在分佈廣泛、具有零散和碎片化資源的邊緣分佈式算力節點,為構建中國電信“中心-邊緣”協同的分層多級泛在算力供給體系提供核心技術支撐。

 

基於vGPU重映射的動態共享GPU雲函數設計

測試結果表明,gShare相關成果可顯著提升Serverless平台內部的GPU資源利用率,降低企業採購與運營成本。同時,雲租户可根據實際GPU共享力度享受對應的價格折扣,真正實現“用得省、用得好”。

目前,gShare相關研究成果已在天翼雲函數計算產品中實現落地部署。依託中國電信的泛在雲網基礎設施與息壤算力互聯調度平台,該技術可進一步拓展至邊緣大模型推理、雲遊戲等邊緣計算場景,實現從中心到邊緣的全場景算力靈活供給。未來,天翼雲將持續深化泛在算力與智能調度等領域的探索,通過提供無處不在、彈性高效、成本可控的AI算力,推動智能算力走向普惠,賦能各行業智能化轉型。

[論文信息:Yanan Yang, Zhengxiong Jiang, Meiqi Zhu, Hongqiang Xu, Yujun Wang, Liang Li, Jiansong Zhang, Jie Wu. gShare: Efficient GPU Sharing with Aggressive Scheduling in Multi-tenant FaaS platform. International Conference on Architectural Support for Programming Languages and Operating Systems (ASPLOS) 2026. Pittsburgh, USA. (Accepted)]

user avatar
0 位用戶收藏了這個故事!

發佈 評論

Some HTML is okay.