博客 / 列表

clougence - 用一條表達式,穩定同步上萬張表

在現代業務環境中,“表太多” 已成為數據庫同步領域越來越普遍的現象。一個成熟的業務背後,數據庫中經常有幾千張甚至上萬張表。在這種規模下,一旦某張表未被同步,下游數倉和分析鏈路就可能出現斷層。 在這樣的背景下,如何實現海量表穩定、可擴展的數據遷移同步,成為一個亟待解決的問題。本文將圍繞這一挑戰展開分析,並分享一種新的解決思路 —— 基於表達式的表名匹配機制。 上萬張表同步,難在哪裏? 多表同步的挑戰

數據同步 , 大數據 , MySQL

clougence - 百草味數據架構升級實踐:打造 Always Ready 的企業級數據平台

朱齊天,百草味數據部負責人 前言 百草味是國內知名的休閒零食品牌,業務覆蓋線上電商平台與線下零售渠道,服務用户超過 2 億。隨着商品 SKU 數量劇增和渠道多元化發展,百草味在供應鏈、運營、銷售等環節積累了海量數據,對數據的依賴也日益增強。 在這一背景下,百草味選擇與 CloudCanal 合作,構建統一的數據集成平台,支撐數據驅動的業務運營與決策。 業務背景 百草味的業務涵蓋從原料採購、生

大數據 , MySQL , 數據庫 , starrocks , 數據分析

clougence - Kafka vs RabbitMQ vs RocketMQ vs Pulsar:四大開源消息中間件全面對比

消息中間件應用廣泛,Kafka、RabbitMQ 、RocketMQ 和 Pulsar 更是其中的佼佼者,經常被放在一起比較。 從數據遷移同步行業來看,Kafka 用户佔了大多數,因為在大數據生態中,其是核心組件之一。RocketMQ 在國內也比較流行,主要應用在在線業務場景,這和它的技術特性和發展路徑緊密相關。相比之下,RabbitMQ 和 Pulsar 的使用量在國內相對少些。 那麼,它們到底

rocketmq , rabbitmq , 消息中間件 , kafka , pulsar

clougence - 大數據時代,數據脱敏助力企業信息安全

大數據時代,數據已成為許多企業的重要資產與發展基石。然而,由於沒有恰當的保護措施,企業內部員工泄漏數據的情況頻頻發生。有數據顯示,在數據泄露事件中有 80% 為企業內部人員所為,快遞、酒店、銀行、房產中介、教育培訓等各行各業無一倖免。這對數據庫的使用管理提出了更高的要求。團隊開發使用數據庫時如何加強數據安全和隱私保護呢?數據脱敏 提供了一種數據安全防護的新範式。 什麼是數據脱敏 數據脱敏(Data

信息安全 , 大數據 , 數據庫 , 數據安全