tag 多節點

標籤
貢獻3
17
07:06 PM · Nov 30 ,2025
u_11543695 頭像 u_16213617 頭像 u_16877077 頭像

@多節點 / 博客 RSS 訂閱

u_11543695 頭像

王廣緒 - （Multi-Node NvLink）、NCCL超節點集合通信

NCCL、ACCL等集合通信庫發展的早期，並沒有超節點（SuperNode/SuperPod）的概念，這些集合通信庫是如何支撐超節點集合通信的？ AllReduce、AlltoAll等集合通信，是現在大模型訓練/推理必不可少的底層支撐。並且隨着大模型參數量不斷上升，對集合通信性能的要求越來越高，超節點（SuperNode/SuperPod）應運而生。 哈哈哈，本文分享

多級 , 服務器 , 移動開發 , 多節點 , ios

收藏 評論

u_16213617 頭像

mob64ca140088a9 - Nimbus storm

storm集羣在生產環境部署之後，通常會是如下的結構。從圖中可以看出zookeeper和supervisor都是多節點，任意1個zookeeper節點宕機或supervisor節點宕機均不會對系統整體運行造成影響，但nimbus和ui都是單節點。ui的單節點對系統的穩定運行沒有影響，僅提供storm-ui頁面展示統計信息。但nimbus承載了集羣

Nimbus storm , Storm , 大數據 , 配置文件 , zookeeper , 多節點

收藏 評論

u_16877077 頭像

愛串門的小馬駒 - 超節點集合通信MNNVL(Multi-Node NvLink)

視頻説明： MNNVL 超節點集合通信初識、NCCL、SuperPod、SuperNode，scale-up，Multi-Node NvLink、啥是超節點_嗶哩嗶哩_bilibili 前言 NCCL、ACCL等集合通信庫發展的早期，並沒有超節點（SuperNode/SuperPod）的概念，這些集合通信庫是如何支撐超節點集合通信的？ AllReduce、

多級 , 服務器 , 多節點 , 集羣

收藏 評論