博客 / 詳情

返回

AI Infra平台市場報告:京東雲穩居前三

近日,賽迪顧問發佈《2025中國AI Infra平台市場研究報告》,憑藉在異構算力調度、GPU池化管理等領域的技術創新和實踐成果,京東雲在“2024年中國AI Infra 平台算力管理層市場廠商競爭力象限分析圖”中穩居產品能力前三。

在這裏插入圖片描述

賽迪在報告中指出:當前AI Infra平台已形成“算力管理層—模型管理層—應用管理層”三層能力體系。其中,算力管理層占主導地位,2024年市場份額達64.6%,異構算力精細化納管正成為AI Infra平台標配。京東雲依託京東集團豐富的業務場景,聚焦“異構算力+極致推理”,致力於構建新一代人工智能基礎設施(AI Infra)。其核心平台JoyScale通過軟硬件協同優化,實現對華為昇騰、寒武紀、海光等國產芯片的高性能異構計算支持,並藉助算力池化與智能調度,提升集羣利用效率,實現國產算力的統一納管與高效運維。

面向大模型訓練、推理的算力需求,京東雲推出的JoyScale AI算力平台,作為基於京東內部統一GPU池化實踐打磨的同源同棧AI基礎設施算力平台,支持訓練任務和推理服務統一調度和資源共享,支持10+家國產AI算力卡,20+訓練推理框架,也是目前業界唯一同時支持英偉達顯卡和昇騰NPU遠程調用的算力平台,為AI應用的高效運行提供強大的算力支持。

在這裏插入圖片描述

JoyScale AI算力平台,具備四大核心優勢:

  • 極致算力性能。行業領先的內核態池化引擎,提供多卡聚合、單卡切分、多機多卡集羣化調度、推理加速等差異化能力,滿足大參數模型集羣化部署要求,JoyScale作為通過信通院最高等級雙認證的AI算力平台,可以滿足金融級數據安全、性能和穩定性要求,整體推理性能提升50%。
  • 高效異構算力調度。JoyScale全面適配十餘家國產算力,兼容適配昇騰、寒武紀、海光等多種國產加速卡,支持異構算力統一納管、精細化運維,雲原生AI調度能力,極致提升AI任務部署密度,整體資源利用率提升70%。
  • 深度國產AI生態合作。京東雲和眾多國產芯片廠商深度合作,互相開放運行時Runtime層代碼,通過GPU/NPU切分池化技術,從內核層屏蔽異構廠商硬件的複雜性,實現更高效的AI算力。
  • 支持超20種AI訓推框架。訓練框架支持PyTorch、TensorFlow、DeepSpeed,MindSpore等;推理框架支持vllm,sglang,MindIE,triton,TensorRT-LLM等。

當前,基於京東集團複雜場景實踐,京東雲已經構建了一站式大模型產品矩陣,從底層的智算基礎設施,到中間層的模型服務和工具,再到上層的Agent應用開發,支持國央企快速部署大模型及AI應用,重塑AI生產力。

user avatar
0 位用戶收藏了這個故事!

發佈 評論

Some HTML is okay.