tag 集羣

標籤
貢獻37
100
11:17 AM · Nov 03 ,2025

@集羣 / 博客 RSS 訂閱

代碼魔術師之手 - 大數據Flink進階(十三):Flink 任務提交模式-

一、Flink部署 環境版本: Flink1.17.0 hadoop2.7.6 jdk1.8 1.集羣角色 客户端(client):代碼由客户端獲取並做轉換,之後提交給jobmanager Jobmanager就是Flink集羣裏的"管理者",對作業進行中央調度管理;獲取到客户端提交的任務後,進一步進行任

服務器 , jar , 客户端 , flink , 集羣

收藏 評論

Leojx - 高併發集羣架構圖譜(生產級全鏈路視角)

1.接入層 ┌────────────────────────────────────────────┐ │ - CDN / API網關(WAF) │ │────────────────────────────────────────────│ │ - 網關服務(Kong / Nginx + Lua)

高併發 , 架構設計 , 集羣 , 後端

收藏 評論

五歲小孩 - 分佈式和微服務和集羣的含義及區別

分佈式系統 多個人做同一件事件 分佈式系統是指由多個相互獨立的計算機節點組成的系統,這些節點通過網絡協議進行通信和協作,共同完成一個或多個應用程序的任務。分佈式系統的優點在於它們可以提供更高的可用性、可伸縮性和可靠性,但同時也需要更多的複雜性和管理工作。 微服務 ==微服務是一種基於分佈式系統的架構模式==,它將一個大型應用程序拆分成多個較小的、自治的服務。這些服務可以獨立開發、測試、部署和擴展

微服務 , 架構設計 , 分佈式 , 集羣

收藏 評論

ICollection - RabbitMQ的安裝集羣、鏡像隊列配置

1 RabbitMQ集羣簡介   RabbitMQ 集羣是一個或多個節點的邏輯分組,每個節點共享用户、虛擬主機、隊列、流、交換機、綁定、運行時參數和其他分佈式狀態。   集羣中的節點名稱必須是唯一的。在集羣中,節點使用節點名稱來識別和相互聯繫。這意味着每個節點名稱的主機名部分必須可以解析。CLI 工具也使用節點名稱來識別和尋址節點。當節點啓動時,它會檢查是否已為其分配了節點名稱。如果未顯式配

rabbitmq , 集羣

收藏 評論

ICollection - 銀河麒麟下Redis的安裝和集羣配置

1 Redis集羣簡介   Redis集羣和高可用有幾種方式:其中一種是主從複製,實現數據的多機備份和讀操作的負載均衡。一主多從,主庫支持讀寫操作,從庫只支持讀。在主從複製基礎上,哨兵實現了自動化的故障恢復。通過哨兵監控主節點狀態,主節點宕機時自動切換到從節點。另外一種是集羣,多節點分片存儲,結合主從複製,實現故障切換。本例主要介紹主從複製加哨兵模式和集羣模式。 2 Redis配置規劃 2.1 R

redis , 集羣

收藏 評論

ICollection - RabbitMQ的安裝集羣、仲裁隊列配置

1 RabbitMQ集羣簡介   RabbitMQ 集羣是一個或多個節點的邏輯分組,每個節點共享用户、虛擬主機、隊列、流、交換機、綁定、運行時參數和其他分佈式狀態。 集羣中的節點名稱必須是唯一的。在集羣中,節點使用節點名稱來識別和相互聯繫。這意味着每個節點名稱的主機名部分必須可以解析。CLI工具也使用節點名稱來識別和尋址節點。當節點啓動時,它會檢查是否已為其分配了節點名稱。如果未顯式配置值,

rabbitmq , 消息隊列 , 集羣

收藏 評論

修狗 - VastbaseG100集羣部署實操

背景 近日的工作涉及到數據庫的集羣部署,為了熟悉過程,參考VastgbaseG100官方文檔進行部署。 參考文檔 https://docs.vastdata.com.cn/zh/docs/VastbaseG100Ver2.2.15/do... 實操 這裏採用HAS+DCS+Vastbase的解決方案,詳情可參考 海量智庫第8期|Vastbase G100核心技術介紹之高可用軟件實現原理 概述

數據庫 , 集羣

收藏 評論

極限實驗室 - INFINI Labs 產品更新 | Console 1.24.0 操作日誌審計功能發佈

INFINI Labs 產品又更新啦~,包括 Console,Gateway 1.24.0。本次各產品更新了很多亮點功能,如 Console 增加操作日誌審計功能,優化數據探索字段統計,修復 Gateway 增加認證後添加實例失敗等問題。以下是本次更新的詳細説明。 INFINI Console v1.24.0 INFINI Console 是一款非常輕量級的多集羣、跨版本的搜索基礎設施統一管控平

bug , 集羣 , 網關

收藏 評論

墨天輪 - YashanDB發佈會圓滿收官,V23.1三大新品引領國產數據庫技術與應用突破!

11月8日,YashanDB 2023年度產品發佈會在線上成功召開。本次產品發佈會以“惟實·勵新”為主題,宣佈崖山數據庫系統YashanDB 內核能力、產品形態、生態創新全面升級,標誌着YashanDB商業化進程又邁出了重要一步! 據瞭解,深算院自主研發的崖山數據庫系統YashanDB,基於自研的數據庫前沿基礎理論突破,從核心理論到關鍵系統均為中國原創、性能指標國際領先,是國內率先實現自主可控技術

oracle , MySQL , 數據倉庫 , 數據庫 , 集羣

收藏 評論

雲掣科技 - 開源大數據集羣部署(三)集羣mysql數據庫部署

開源大數據集羣部署(一)集羣實施規劃 開源大數據集羣部署(二)集羣基礎環境實施準備 作者:櫰木 本文將介紹mysql部署,其中在hd1.dtstack.com主機root權限下安裝配置 1 解壓文件 解壓名為mysql-8.0.31-linux-glibc2.12-x86_64.tar.xz的壓縮包,其內容解壓到/opt/目錄下。然後通過符號鏈接將目錄/opt/mysql-8.0.31

大數據 , MySQL , 數據庫 , 集羣

收藏 評論

金海境科技 - 【服務器數據恢復】ERP/CRM系統SQL Server數據庫結構損壞碎片重組數據恢復案例 - 金海境科技

一:客户信息 河北某食品集團 二:案例描述 客户向我們反饋公司運行ERP/CRM的一台DELL服務器由於突然斷電,服務器中一台VPS不可用,虛擬磁盤上的數據庫文件丟失。 三:解決方案 案例評估 服務器上4塊硬盤搭建了一個RAID10的磁盤陣列環境,安裝了Citrix XenServer的虛擬化操作系統,虛擬機採用Windows Serv

服務器 , 數據 , 數據庫 , 集羣

收藏 評論

今晚加個牛腿吃 - Flink 全方位科普

Apache Flink 是一款由 Apache 軟件基金會開發的開源分佈式流處理框架,核心定位是 “處理無界和有界數據流”—— 簡單説,不管是實時產生的無限數據流(比如電商實時訂單、直播彈幕、物聯網設備數據),還是有限的批量數據(比如歷史交易報表、離線日誌),Flink 都能高性能、低延遲地處理,是大數據領域實時計算的核心工具之一。 一、核心特點(新手能看懂的人話版)

服務器 , 大數據 , 數據 , 集羣 , 實時計算

收藏 評論

Cosann - eck部署的fleet-server訪問elasticsearch報錯x509處理方法

背景 自建K8s集羣使用Helm部署ECK,ECK內部使用自簽證書處理服務間傳輸加密 報錯信息 {"log.level":"error","@timestamp":"2025-12-18T08:10:53.731Z","message":"Error dialing x509: certificate signed by unknown authority","compone

elasticsearch , 服務器 , fleet-server , elastic , eck , bash , 集羣

收藏 評論

ICollection - 達夢數據庫V8數據守護集羣配置[1]

1 概述 1.1 達夢數據庫集羣簡介   達夢數據庫提供了三種集羣,分別為數據守護集羣(Data Watch - DMDW)、共享存儲集羣(Data Shared Cluster - DMDSC)、分佈式集羣(Distributed Processing Cluster - DMDPC)。   其中,數據守護集羣由一個主庫和多個實時歸檔備庫組成,主庫提供完成的數據庫功能,備庫只提供只讀服務。

集羣 , 達夢數據庫

收藏 評論

ICollection - 達夢數據庫V8數據守護集羣配置[4]

8 啓動停止集羣 8.1 首次啓動集羣   使用管理員賬户啓動主庫數據庫服務。 kylin@KL1:~$ sudo systemctl start DmServiceDMSERVER1   使用管理員賬户啓動從庫數據庫服務。 kylin@KL2:~$ sudo systemctl start DmServiceDMSERVER2   使用dameng賬户通過連接主庫,設置OGUID值,並主庫為pr

集羣 , 達夢數據庫

收藏 評論

小陳運維 - Redis Cluster集羣模式部署

Redis Cluster模式部署 Redis的哨兵模式基本已經可以實現高可用,讀寫分離 ,但是在這種模式下每台 Redis 服務器都存儲相同的數據,很浪費內存,所以在 redis3.0上加入了Cluster 集羣模式,實現了 Redis 的分佈式存儲,也就是説每台 Redis 節點上存儲不同的內容。下面是Cluster 集羣模式的一些特點: Sentinel模式基本可以滿足一般生產的需求,具

內存 , 緩存 , Linux , redis集羣 , 集羣

收藏 評論

Cosann - K8s 證書自動化:使用 Cert-manager + alidns-webhook 自動簽發 Let's Encrypt 公有證書

K8s 證書自動化:使用 Cert-manager + alidns-webhook 自動簽發 Let's Encrypt 公有證書 一、背景介紹:為什麼選擇 Cert-manager 1. 為什麼使用 Cert-manager 在傳統的環境中,為服務配置TLS通常意味着:手動生成CSR,提交給CA,等待審核,下載證書,並定時在90天內完成續期。這是一個高風險、重複性的

K8s , 服務器 , devops , dns , cert-manager , 雲原生 , 集羣

收藏 評論

百度Geek説 - 百度百舸萬卡集羣的訓練穩定性系統設計和實踐

01 AI 訓練穩定性的演進歷程 2012 年 ImageNet 競賽中 AlexNet 的橫空出世,開啓了現代 AI 發展的新紀元。彼時我們不會想到,十年後支撐 AI 訓練的 GPU 集羣會從研究室裏的幾台服務器,發展成需要專門供電系統的萬卡級計算矩陣。在這個算力爆發式增長的過程中,訓練系統的穩定性管理正經歷着從「簡單運維」到「精密工程」的深刻變革。 1.1 標早期的小模型時代:手動運維的黃金年

集羣 , 大模型

收藏 評論

雲掣科技 - 開源大數據集羣部署(六)Keytab文件生成

作者:櫰木 Keytab文件用於在不輸入密碼的情況下對主體(用户或服務)進行身份驗證。以下是創建Kerberos身份驗證的步驟。 1、創建keytab文件 除了使用明文密碼登錄之外,Kerberos還可以使用keytab密碼文件登陸,現在為testcuser創建它的keytab文件 ipa-getkeytab -s ipa.hdp.hadoop -p testcuser@HDP.HADOOP

大數據 , 開源 , 集羣

收藏 評論

大成鵬通信 - 10G~800G Infiniband物理層吞吐量、線速度、編碼開銷、帶寬整理

Infiniband專為高性能計算設計,採用原生RDMA技術,提供超低延遲和高吞吐量,支持無阻塞Fat-Tree拓撲,在大型模型訓練(如千卡GPU集羣)中能顯著減少通信瓶頸,但其有別於以太網的物理層標準,對光模塊設計研發提出了不一樣的要求。今天整理40G~800G IB物理層吞吐量、線速度、編碼開銷、帶寬,為各位在IB設備選型提供快速參考。IB物理層通道數支持1/2/4/8/12

服務器 , 數據 , 高性能計算 , 集羣

收藏 評論

SelectDB技術團隊 - SelectDB 多計算集羣核心設計要點揭秘與場景應用

需求起源 SelectDB 設計多計算集羣架構初衷主要源於兩類典型的使用場景: 寫入與讀取隔離:傳統數倉架構中,數據的寫入和讀取在同一個計算集羣,當遇到業務寫入高峯期或突增的寫入壓力時,容易因資源相互搶佔影響查詢服務的性能和穩定性。如果能引入多個計算集羣,通過獨立的計算集羣分別進行寫入、讀取操作,即使在寫入壓力非常高時,也可放心執行計算任務,無需擔心影響到服務的穩定性。 在線業務和離線業務隔

大數據 , 數據倉庫 , 數據庫 , 雲原生 , 集羣

收藏 評論

星融元Asterfusion - 800G光模塊:SR8、DR8、FR4、LR4與ZR技術對比

邁向800G:技術演進、核心突破與未來展望 儘管400G數據中心時代正全面展開,但技術發展的腳步並未停歇。800G的實現並非一蹴而就,而是在400G堅實技術基礎上持續演進,並通過創新突破應對新挑戰。本文將從技術驅動、核心突破、部署策略及未來趨勢等方面,系統闡述800G的技術發展路徑。 從400G到800G:技術演進的堅實基礎 PAM4編碼的深化應用:在400G中

服務器 , 800G , 數據中心 , 光模塊 , 集羣

收藏 評論

阿里雲開發者 - 構建集羣runner併發數在哪裏設置呢?

在雲效中,構建集羣的 Runner 併發數可以在構建集羣的設置中進行配置。具體操作步驟如下: 登錄雲效控制枱,進入構建集羣頁面。 找到需要配置的構建集羣,點擊其對應的“管理”按鈕。 在構建集羣的設置頁面中,可以看到“Runner 併發數”設置項。 在“Runner 併發數”設置項中,可以設置該構建集羣中 Runner 的最大併發數。默認情況下,該值為 1,即每次只能執行一個構建任務。 完整內容請點

構建工具 , 雲計算 , 阿里雲 , 集羣

收藏 評論

SelectDB技術團隊 - Doris Catalog 已上線!性能提升 200x,全面優於 JDBC Catalog,跨集羣查詢邁入高性能分析時代

“統一”是 Apache Doris 長期以來秉持的設計理念之一。在這一理念指引下,構建完善的 Catalog 生態是實現異構數據源統一查詢分析的關鍵。目前,Doris 已支持 Iceberg、Paimon、Hudi 等數據湖 Catalog,以及 JDBC Catalog,用户無需遷移數據,即可對不同數據湖和傳統數據庫進行聯邦查詢分析。 本文聚焦 Doris 多集羣間的查詢分析。實現跨 Dori

數據庫 , apache-doris , dorisdb , 集羣

收藏 評論