tag 分佈式

標籤
貢獻88
118
05:27 PM · Oct 25 ,2025

@分佈式 / 博客 RSS 訂閱

PingCAP - PingCAP“一號員工”唐劉:回顧我與 TiDB 的十年成長之旅

導讀 作為 PingCAP 的“一號員工”,TiDB 研發副總裁唐劉親歷了 TiDB 從一個開源小項目到全球知名分佈式數據庫的蜕變。本文,唐劉從親歷者視角,回顧了 TiDB 的技術演進、產品迭代和全球化歷程,還分享了自己從程序員到技術管理者的成長與感悟。 這是一段關於技術理想、客户成功與團隊協作的旅程,也是一次對開源精神、創新勇氣和商業智慧的深度剖析。通過唐劉的視角,我們得以窺見 TiDB 背後的

數據庫 , 分佈式

收藏 評論

用户bPddcxP - 華納雲:分佈式存儲如何提高數據安全性?

華納雲分佈式存儲通過多種技術和機制顯著提高了數據安全性,以下是其主要方式: 1、數據冗餘與備份 分佈式存儲將數據分散存儲在多個節點上,並通過冗餘備份機制確保數據的可靠性。例如,數據可以被分割成多個片段,並在不同節點上存儲多個副本。即使某個節點發生故障或數據丟失,其他節點上的副本仍可保證數據的完整性和可用性。 2、數據加密 數據在存儲和傳輸過程中均會進行加密處理。分佈式存儲系統通常採用強加密算法(如

分佈式

收藏 評論

xuxueli - XXL-MQ v1.4.0 | 輕量級分佈式消息隊列

Release Notes: 1、【重構】XXL-MQ 核心代碼重構,基於“存算分離”與“分區機制”設計思想。在輕量級、分佈式的基礎上,強化高吞吐、海量消息及水平擴展能力。; 2、【新增】存算分離:消息中心(Broker)與消息存儲層(Store)解耦。消息中心 提供消息OpenApi以及消息控制枱管理能力;消息存儲層 提供消息存儲能力。得益於存算分離系統設計,消息中心支持水平擴展,支持線性

mq , 消息隊列 , 分佈式 , kafka

收藏 評論

曾深愛過的火車_d2oImJ - SpringBoot中@Scheduled和Quartz的區別是什麼?分佈式定時任務框架選型實戰

今天為大家帶來的是@Scheduled和Quartz對比分析: 新手常見困惑: 剛學SpringBoot時,我發現用@Scheduled寫定時任務特別簡單。但當我看到同事在項目裏用Quartz時,代碼突然變得複雜起來——為什麼要用這些複雜的配置?難道註解不香嗎? 今天,我們就用最直白的方式,手把手對比這兩種方案。 1. 定位與設計目標 1.1. @Scheduled註解 輕量級單機調度:Spr

quartz , spring-boot-編程思想 , 分佈式

收藏 評論

百度Geek説 - BaikalDB 架構演進實錄:打造融合向量化與 MPP 的 HTAP 查詢引擎

導讀 BaikalDB作為服務百度商業產品的分佈式存儲系統,支撐了整個廣告庫海量物料的存儲和OLTP事務處理。隨着數據不斷增長,離線計算時效性和資源需求壓力突顯,基於同一份數據進行OLAP處理也更為經濟便捷,BaikalDB如何在OLTP系統內實現適合大數據分析場景的查詢引擎以應對挑戰? 01 BaikalDB應對OLAP場景的挑戰 BaikalDB是面向百度商業產品系統的需求而設計的分佈式存儲系

數據 , 架構 , 分佈式

收藏 評論

趙渝強老師 - 【趙渝強老師】基於PostgreSQL的分佈式數據庫:Citus

由於PostgreSQL具有強大的功能和良好的可擴展性,因此基於PostgreSQL很容易就可以實現分佈式架構。Citus便是具體的一種實現方式。它以擴展的插件形式與PostgreSQL進行集成,且獨立於PostgreSQL內核,部署也比較簡單。Citus是現在非常流行的基於PostgreSQL的分佈式解決方案。 一、 Citus基礎 下面是百度百科中對分佈式數據庫的定義: 分佈式數據庫系統通

數據庫 , postgresql , 開源 , 分佈式 , SQL

收藏 評論

鏡舟科技 - 什麼是 MPP 數據庫?解鎖海量數據分析的關鍵技術

為什麼需要 MPP 數據庫? 在數據爆炸的時代,傳統數據庫處理 TB 甚至 PB 級數據時往往力不從心,查詢緩慢,無法支撐實時分析需求。這種情況下,MPP 數據庫成為解決大規模數據分析性能瓶頸的關鍵技術。 想象一下:一個電商平台在大促期間,原本穩定的系統突然卡死;一個數據彙總應用在處理全年數據時崩潰。這些都是我們在高併發、高吞吐量場景下常見的問題。為什麼會這樣?因為系統設計時沒有考慮極限情況下的數

查詢優化 , 數據庫 , starrocks , 數據分析 , 分佈式

收藏 評論

老紀的技術嘮嗑局 - 單機分佈式一體化數據庫的架構設計與優化

作者:楊志豐,OceanBase產品總經理、首席架構師 首先為大家推薦這個 OceanBase 開源負責人老紀的公眾號 “老紀的技術嘮嗑局”,會持續更新和 #數據庫、#AI、#技術架構 相關的各種技術內容。歡迎感興趣的朋友們關注! 本文摘自《OceanBase社區版在泛互場景的應用案例研究》,歡迎點擊鏈接閲讀詳細內容。 綜述 在OceanBase 十餘年的技術演進中,共經歷了三次大的架構升級

數據庫設計 , 分佈式

收藏 評論

KaiwuDB - 直播預告 | KWDB 分佈式架構探究

《KW 加油站》第五期大咖專場來襲~ 快動手預約直播,搶佔技術高地!

數據庫 , 直播 , 分佈式

收藏 評論

gvison - 三步搞定 Go 分佈式任務!sasynq 庫讓異步任務變得如此簡單

Go 後台任務的“坑”,你踩過幾個? 在 Go 應用開發中,總有一些任務不適合現場完成,比如: 發郵件/發短信:用户點擊按鈕後,還要乾等?體驗太糟糕! 大計算量任務:生成報表、數據分析,CPU 一直被佔,其他請求全卡住? 定時任務:凌晨跑統計、每小時同步數據,難道要寫個死循環 time.Sleep? 所以,聰明的我們會把這些任務扔進異步任務隊列,讓後台“工人”(Worker)慢慢處理。

定時任務 , 分佈式 , go

收藏 評論

五歲小孩 - 分佈式理論 CAP + Base

簡介 在分佈式系統的設計中,分佈式系統有三個指標 CAP,但是沒有一種設計可以同時滿足 CAP (一致性,可用性,分區容錯性 )3個特性,只能滿足其中 2 個 CAP 簡介 CAP 描述 C 一致性 Consistency,一致性 強調的是 分佈式系統中各個節點之間的數據一致性;不管訪問哪個節點,返回的數據都是一致的,否則節點不可用(拒絕服務

redis , 分佈式 , cap

收藏 評論

五歲小孩 - 分佈式和微服務和集羣的含義及區別

分佈式系統 多個人做同一件事件 分佈式系統是指由多個相互獨立的計算機節點組成的系統,這些節點通過網絡協議進行通信和協作,共同完成一個或多個應用程序的任務。分佈式系統的優點在於它們可以提供更高的可用性、可伸縮性和可靠性,但同時也需要更多的複雜性和管理工作。 微服務 ==微服務是一種基於分佈式系統的架構模式==,它將一個大型應用程序拆分成多個較小的、自治的服務。這些服務可以獨立開發、測試、部署和擴展

微服務 , 架構設計 , 分佈式 , 集羣

收藏 評論

KaiwuDB - KWDB 分佈式架構探究——數據分佈與特性

本期直播我們邀請到 KaiwuDB 高級研發工程師馮友旭為大家分享《KWDB 分佈式架構探究——數據分佈與特性》,點擊下方視頻觀看完整版回放 ↓↓↓ KWDB 分佈式架構探究——數據分佈與特性 📌以下為重點內容節選,點擊上方視頻查看完整版內容。 背景介紹 數據分佈在數據庫中的作用至關重要,它直接影響到數據庫系統的性能、可擴展性、可用性、管理效率和成本。特別是在處理海量數據和高併發請求的現代應用中

架構 , 數據庫 , 分佈式

收藏 評論

xuxueli - XXL-JOB v3.2.0 | 分佈式任務調度平台

Release Notes 1、【強化】AI任務(ollamaJobHandler)優化:針對 “model” 模型配置信息,從執行器側文件類配置調整至調度中心“任務參數”動態配置,支持集成多模型、並結合任務動態配置切換。 2、【安全】登錄認證重構:密碼加密算法從Md5改為Sha256;登錄態改為登錄後動態隨機生成;提升系統安全性;(需要針對用户表進行字段調整,同時需要重新初始化密碼信

任務調度 , JAVA , 分佈式

收藏 評論

阿里雲大數據AI - ODPS 十五週年實錄 | Data + AI,MaxCompute 下一個15年的新增長引擎

ODPS十五週年實錄|Data+AI,MaxCompute下一個15年的新增長引擎 本文根據ODPS十五週年·年度升級發佈實錄整理而成,演講信息如下: 於得水(得水):阿里雲智能集團計算平台事業部資深技術專家 活動:【數據進化·AI啓航】ODPS年度升級發佈 此次演講內容共分為三個部分: 第一部分,介紹MaxCompute面向Python和AI生態計算的演進歷史。從最初的SDKLibrary到表示

大數據 , 人工智能 , 分佈式 , SQL , Python

收藏 評論

百度Geek説 - BaikalDB MCP Server :鏈接數據庫和AI的直通橋

導讀 BaikalDB作為服務百度商業產品的分佈式存儲系統,支撐了整個廣告庫海量物料的存儲。在大語言模型LLM蓬勃發展的現在,想在大模型裏使用BaikalDB裏的數據進行分析,都需要複雜的定製開發。看BaikalDB如何藉助模型上下文協議(MCP),讓數據庫對話像聊天一樣簡單——無需編寫代碼,大語言模型即可完成複雜數據分析。 01 引言 在2025年以前,大語言模型(Large Language

llm , 人工智能 , 分佈式

收藏 評論

程序員阿偉 - 《微服務冪等性踩坑實錄:從資損到全鏈路零故障的7個關鍵突破》

去年電商平台“618”大促結束後的第三天,財務部門在進行訂單與支付流水對賬時,發現了一組異常數據:用户張先生的一筆2999元家電訂單,支付記錄顯示“成功扣款兩次”,但訂單系統中對應的物流單號僅有一個,且商品已發貨。財務同事第一時間將問題反饋到技術部,我們隨即成立應急小組,從支付回調日誌、訂單狀態變更記錄、數據庫操作日誌三個維度展開溯源。順着第三方支付平台的回調日誌查看,發現該筆訂單在大促高峯期(當

分佈式

收藏 評論

gvison - 從單兵作戰到兵團壓測:PerfTest 分佈式集羣壓測實戰

前言 在前一篇文章中,我們詳細介紹了 perftest 的單機壓測能力,展示了它如何通過極簡的命令行實現對 HTTP/1.1、HTTP/2、HTTP/3 與 WebSocket 的高性能測試。然而,當業務系統龐大、服務部署分佈式、網絡鏈路複雜時,單機的壓測能力顯然無法滿足真實生產環境的模擬需求。 幸運的是,perftest 不止於單機。它同樣支持 分佈式集羣壓測,通過 Collector + Ag

壓力測試 , 分佈式 , 測試工具

收藏 評論

程序員阿偉 - 《日誌驅動系統優化:分佈式架構下從排障到業務賦能的實戰案例》

接手公司遺留的分佈式業務系統時,我最先面臨的不是業務邏輯的複雜,而是日誌體系的混亂—某次用户提交訂單後支付狀態異常,運維同事在十幾台服務器的日誌文件裏翻找了近3小時,才從一堆無格式的打印信息中找到關鍵報錯,而這樣的低效排查,在團隊裏幾乎是常態。當時系統包含用户中心、訂單處理、資源調度三個核心模塊,分屬Java、Go兩種技術棧,日誌要麼直接輸出到本地文件,要麼零散丟進消息隊列,既沒有統一的字段規範,

架構 , 分佈式

收藏 評論

Java烘焙師 - 架構師必備:限流方案選型(使用篇)

大家好,我是Java烘焙師。為了避免突增流量引起服務雪崩,需要對接口、存儲資源做限流保護,根據系統負載情況設置合適的限流值。下面結合筆者的經驗和思考,對主要限流方案的選型做一下總結,本篇先看如何使用,下一篇再看背後的原理。 下面介紹幾種常見限流方案的使用方法、優缺點: 單機限流:Guava RateLimiter 同時支持單機限流、集羣限流:Sentinel 分佈式限流:Redisson

redis , 限流 , sentinel , 架構 , 分佈式

收藏 評論

代碼天地 - AI智能體(Agent)應用開發入門手冊

就目前調研下來的功能來説。開發AI智能體,入門選langchain沒錯,架構很成熟,能力很強,基本上所有的場景都可以覆蓋,可以很好管理起大型的AI應用架構。而且js、java、python各種語言都支持。 上手很快,但是用好的話還是多花些時間學習他的底層實現邏輯。 這篇文檔,會介紹一下AI應用開發的一些基礎知識。 連接模型 MCP的介紹以及如何

服務器 , 數據 , 搜索 , 工作流程 , 分佈式

收藏 評論

ghpsyn - spring boot + dubbo + zookeeper 搭建及問題解決 - IT浪子技術博客 -

目錄 🎯分佈式理論 🎃分佈式系統 🎃Dubbo框架 🎃單一應用架構 🎃垂直應用架構 🎃分佈式服務架構 🎃流動計算架構 🎯什麼是RPC? 🎃RPC基本原理 🎯Dubbo 🎃什麼是dubbo? ✨dubbo基本概念 ✨調用關係説明 🎃window下安裝

dubbo , 雲計算 , zookeeper , 雲原生 , 分佈式

收藏 評論

柳隨風 - Windows decker desktop構建rabbitMq的容器

目錄 RabbitMQ項目使用集羣的好處 1. 擴展規模 2. 數據冗餘 3. 高可用 RabbitMQ集羣搭建 RabbitMQ集羣原理 RabbitMQ集羣搭建步驟 單節點安裝Rabbitmq 複製Erlan

erlang , 雲計算 , 學習 , rabbitmq , 雲原生 , 分佈式 , 高可用

收藏 評論