NCCL、ACCL等集合通信庫發展的早期,並沒有超節點(SuperNode/SuperPod)的概念,這些集合通信庫是如何支撐超節點集合通信的? AllReduce、AlltoAll等集合通信,是現在大模型訓練/推理必不可少的底層支撐。並且隨着大模型參數量不斷上升,對集合通信性能的要求越來越高,超節點(SuperNode/SuperPod)應運而生。 哈哈哈,本文分享
不用 Web 服務器也能跑 PHP?這事比你想的有意思 如果你寫了一段時間 PHP,腦子裏大概是這個畫面: 瀏覽器 → Web 服務器(Apache/Nginx)→ PHP → 返回 HTML 這條路徑實在太經典了,以至於很多人心裏,PHP 就等於 Web 開發。寫個腳本,扔到 public/ 或 htdocs/ 目錄,配個虛擬主機,然後通過 HTTP 訪問 —— 好像這就