在最新一期「雲原生 AI」主題分享中，演講者從 Kubernetes 的經典架構出發，討論了在 AI 時代環境快速變化的背景下，這一基礎設施所面臨的挑戰與可見的演進方向。隨着大模型訓練、推理和數據處理的規模不斷擴大，資源管理、成本控制以及對異構硬件的適配成為 Kubernetes 必須迴應的核心議題。

PPT 中重點提到，GPU、RDMA、KND 等非傳統 CPU/內存資源正在成為計算負載的主角，但傳統的 Device Plugin 模式常常只能整塊分配硬件，導致靈活度不足和資源浪費。為此，社區與生態正在推動 Dynamic Resource Allocation（DRA）等新能力，使非標資源具備更細粒度的動態創建、分配和擴展能力。圍繞 DRA 的生態也在不斷演進，例如針對高性能網絡設備的 DRANET 項目。

另外，在調度層面，越來越多面向 AI 負載的調度器或擴展被引入，例如 Volcano、Karpenter 等解決方案，用於更好地管理大規模訓練與推理任務的資源需求。在推理場景中，KServe 作為 CNCF 的孵化項目，提供了 AI 推理服務的標準化路徑，而 llm-d、Kthena 等項目則進一步擴展了在大模型推理領域的自治與調度能力。

演講還展示了當前 CNCF 在雲原生 AI（CNAI）領域的生態全景。從硬件資源管理到調度框架、推理服務、存儲方案和網絡加速，相關項目正在快速增長。這一趨勢表明 Kubernetes 仍然是 AI 應用基礎設施的重要組成部分，只是它需要持續吸收新能力以應對多樣化的計算需求。

總體而言，這份演講展示了 Kubernetes 如何在 AI 時代重獲活力：通過更精細的資源抽象、更智能的調度體系以及更完善的推理服務生態，讓雲原生體系能夠繼續承載不斷擴大的 AI 工作負載。

詳情可查看完整版 PPT 內容：https://www.oschina.net/doc/531