Ray 成為 PyTorch 基金會託管項目 - 新聞 詳情

PyTorch 基金會宣佈 Ray 成為最新託管項目。Ray 最初由 Anyscale 開發,是一個開源的分佈式計算框架,支持 AI 工作負載,包括數據處理、大規模模型訓練和推理。

根據介紹,在 AI 競爭中,工程團隊常因手工搭建、系統分散而遇到複雜性和計算資源浪費,導致生產週期加長。Ray 旨在消除分佈式計算瓶頸,促進 AI 創新。它與 PyTorch、vLLM 互補,為團隊提供從單機到數千節點無縫執行數據處理、模型訓練和服務的能力。自加州大學伯克利分校開發以來,Ray 已獲得 GitHub 超過 3.9 萬顆星,下載量超過 2.37 億。

Linux 基金會 AI 總經理兼 PyTorch 基金會執行董事 Matt White 表示:“PyTorch 基金會致力於打造開放、互操作且適合生產的 AI 生態系統。將 Ray 納入 PyTorch 基金會,配合 vLLM 和 DeepSpeed 等項目,我們統一了構建下一代 AI 系統所需的關鍵組件。Ray 的加入增強了我們支持開發者高效訓練、服務和部署大規模 AI 模型的使命。”

Ray 針對現代 AI 的獨特計算需求,提供分佈式工作負載執行框架,包括:

  • 多模態數據處理:並行高效處理大規模、多樣化數據集(文本、圖像、音頻、視頻)。
  • 預訓練與後調優:支持 PyTorch 及其他 ML 框架,跨數千 GPU 擴展預訓練和後期調整任務。
  • 分佈式推理:支持生產環境模型服務,高吞吐、低延遲,協調集羣中動態異構工作負載。

Anyscale 將 Ray 捐獻給 PyTorch 基金會,彰顯了其對開放治理和 Ray 及開源 AI 長期可持續發展的承諾。

Anyscale 聯合創始人 Robert Nishihara 表示:“我們的目標是讓分佈式計算像寫 Python 代碼一樣簡單。加入 PyTorch 基金會,幫助我們保持這一使命,確保 Ray 持續作為開放、社區驅動的開發者和組織基礎。”