高併發
13 篇文章

Slack 訊息投遞之旅:Gateway Server、Channel Server 與 Vitess 分片 MySQL
依 Slack 工程部落格三篇原文(2017 Flannel、2020 Vitess、2023 Real-time Messaging)整理一則訊息的路徑:Envoy 與 Gateway Server 接住 WebSocket,Admin Server 依雜湊環找到 Channel Server 扇出,訊息資料在遷移 Vitess 時改按頻道分片。

Twitter 2023 年開源的「為你推薦」管線:Earlybird 檢索、Heavy Ranker 評分與重排
依 Twitter 2023 年 3 月開源的程式碼與官方部落格,拆解「為你推薦」時間軸的四段管線:從每天約 5 億則推文中以 Earlybird、GraphJet 與 SimClusters 取出約 1,500 則候選,經約 4,800 萬參數的 MaskNet 預測十種互動機率並加權計分,再做可見性過濾與多樣性重排。

受 Reddit 啟發的高併發社群儲存參考設計:EAV 模型、多層快取、留言樹與熱門排行
以 Reddit 公開過的做法為參考,整理社群論壇的高併發儲存設計:EAV 實體模型、Memcached 與排行列表快取、巢狀留言樹,以及 Hot Ranking 排行演算法。文中區分哪些是 Reddit 公開過的,哪些是參考設計。

高併發飯店預訂系統架構:房型庫存模型、防超賣鎖策略與兩階段狀態機流轉
深入剖析連鎖飯店與 OTA 預訂系統(Hotel Reservation System)核心架構:從房間號到「房型日期庫存矩陣」的資料模型重構、悲觀鎖 vs 樂觀鎖 vs 原子條件更新(Atomic Constraint)防超賣權衡、10% 超賣額度(Overbooking Buffer)精算,以及結合冪等鍵與延遲佇列的兩階段預扣釋放生命週期。

搜尋框即時自動補全(Typeahead / Autocomplete)高併發架構:Trie 字典樹動態評分、前綴分片與邊緣快取實戰
深度剖析 Google 與 Twitter 搜尋自動補全架構:從傳統 Trie 的 O(p + n) 遍歷瓶頸,到 Top-K 預存常數時間 O(p) 檢索、二級前綴分片防熱點傾斜、多級快取體系以及 Flink 串流動態衰減評分閉環實戰。

全球分散式定時任務調度系統:分級時間輪(Hierarchical Timing Wheel)與分散式協調實戰
深入解析千萬級延時任務架構:從單層時間輪 Round 遍歷退化,到 Kafka / Netty 分級時間輪(時/分/秒)O(1) 級聯降級演進,再到全球分散式調度中心選主、分區雜湊槽分發與 CAS 狀態機防重實戰。

告別 Redis:Shopify 如何用 MySQL 8 SKIP LOCKED 扛住黑五百萬級庫存預扣
深度剖析 Shopify 捨棄 Redis 轉向 MySQL 統一儲存架構的庫存預扣(Oversell Protection)演進:藉由有界單元池、複合主鍵、READ COMMITTED 隔離級別消除間隙鎖,並透過 ProxySQL 連線標記治理找出真正的系統水力學瓶頸。

CPU 多核心快取架構(L1/L2/L3)與 False Sharing(偽共享)優化:MESI 協定、快取行對齊與記憶體屏障
CPU 多級快取階層(L1/L2/L3)與 Cache Line(64 Bytes)、MESI 快取一致性協定狀態機、False Sharing(偽共享)造成的效能懸崖與位元組填充對齊(Cache Line Padding / @Contended),以及記憶體屏障(Memory Barriers)的原理。

Redis 核心架構與單執行緒反應器模式:aeEventLoop、極致記憶體資料結構與多執行緒 I/O 演進
深入剖析高效能記憶體資料庫 Redis 的底層核心架構:為什麼 Redis 選擇單執行緒?aeEventLoop 反應器模式 (Reactor)、五大核心資料結構底層實作(SDS、Dict 漸進式 Rehash、ZipList/ListPack、SkipList 跳躍表)與 Redis 6.0+ 多執行緒網路 I/O 演進。

Linux I/O 多工架構演進:select vs. poll vs. epoll 底層原理與 Reactor 模式
高效能網路伺服器的基礎:傳統同步阻塞 I/O 的 C10K 瓶頸、select 的 1024 限制與 O(N) 線性輪詢、poll 的鏈結串列結構、epoll 的紅黑樹與就緒雙向鏈結串列 O(1) 回呼機制,以及水平觸發 (LT) vs. 邊緣觸發 (ET) 實戰。

S3 大檔案分段上傳(Multipart Upload)與斷點續傳架構:平行傳輸、ETag 驗證與分散式合併
深入解析 AWS S3 分段上傳(Multipart Upload)架構原理:大檔案單次傳輸崩潰根因、三階段上傳協議(Initiate、Upload Part、Complete)、平行傳輸與頻寬最大化、斷點續傳狀態機、分片逾時清理與儲存引擎內部合併機制。

McDonald's 百萬級即時訂單事件驅動架構:從 AWS Serverless、SQS 削峰到 DynamoDB 全球狀態機
深度解析全球麥當勞 40,000+ 家門市與億級行動點餐背後的雲端事件驅動架構:API Gateway 邊界防禦、Lambda 彈性接入、SQS 削峰、DynamoDB 狀態機與 KVS 廚房即時履約。

高併發秒殺庫存扣減架構:樂觀鎖、悲觀鎖、Redis 分散式鎖爭議與分段加鎖實踐
深入剖析電商秒殺與高頻交易場景下的庫存扣減架構:對比 SELECT FOR UPDATE 悲觀鎖、CAS 版本號樂觀鎖與 Redis Lua 分散式鎖;復盤 Martin Kleppmann 對 Redlock 的批判(GC 停頓、時鐘漂移與 Fencing Token 解法);詳解 10 萬 QPS 分段庫存(Inventory Segment Sharding)與非同步削峰落地策略。