Cụm bài Cache trong system design: 1. Cache nhiều tầng và bộ đếm · 2. Rate limiting
Các bài cache-aside và sự cố cache nói về một tầng cache trước database. Bài này nhìn ở mức hệ thống: cache nằm ở những tầng nào, một Redis chịu được bao nhiêu, và giải hai case study bộ đếm hay gặp trong phỏng vấn.
1. Cache nằm ở đâu
Ý chính: mỗi tầng cache một loại dữ liệu khác nhau, với cách xoá khác nhau. Chọn tầng theo câu hỏi “dữ liệu này cũ bao lâu thì chấp nhận được, và ai được xem”.
| Tầng | Cache gì | Cách làm mới | Ghi chú |
|---|---|---|---|
| Client (trình duyệt, app) | Response, ảnh, file tĩnh | Cache-Control, ETag |
Không xoá từ server được, chỉ chờ hết hạn |
| CDN | HTML/JS/CSS, ảnh, video | TTL, purge qua API, tên file có hash | Gần người dùng, giảm băng thông gốc |
| Reverse proxy (Nginx) | File tĩnh, response GET công khai | TTL, proxy_cache_bypass |
Chặn bớt request trước app |
| Local cache trong service | Cấu hình, danh mục, dữ liệu nóng nhỏ | TTL ngắn, sự kiện xoá | Nhanh nhất (ns), mỗi instance một bản |
| Remote cache (Redis) | Kết quả truy vấn, kết quả tính, dữ liệu dùng chung | Cache-aside, TTL | Chung mọi instance, mất ~0,5 ms mạng |
| Database | Buffer pool, page cache | Tự quản lý | MySQL 8.0 đã bỏ query cache |
Hai mẹo hay dùng:
- Tên file có hash nội dung (
app.3f9a1c.js) + TTL 1 năm: không bao giờ cần purge CDN, đổi nội dung là đổi tên. - Local + remote (near cache): Caffeine trong JVM với TTL vài giây trước Redis, dành cho key cực nóng. Đổi lại mỗi instance có thể cũ vài giây.
2. Ba công dụng và cái giá
Ý chính: cache không chỉ để đọc nhanh. Nó còn làm buffer và nơi chia sẻ dữ liệu, mỗi vai có rủi ro riêng.
- Tăng tốc: đọc từ RAM thay vì đĩa và tính toán lại.
- Buffer (đệm): chỗ giữ tạm dữ liệu trước khi chuyển sang thành phần khác, ví dụ gom bộ đếm rồi ghi DB theo lô. Buffer khác cache: dữ liệu trong buffer chưa có ở nơi khác, mất là mất thật. Message queue là một buffer bền.
- Chia sẻ dữ liệu: các instance dùng chung session, kết quả, hoặc phản hồi. Ví dụ request-reply qua Kafka dùng Redis làm “bể phản hồi” để instance nào nhận reply cũng giao được cho instance đang chờ; phân tích chi tiết ở case study request-reply qua Kafka.
Cái giá chung: dữ liệu không nhất quán với nguồn, tốn RAM, tốn băng thông mạng (value to). Riêng Redis: một luồng xử lý lệnh nên lệnh chậm (KEYS, value vài MB) chặn mọi client; Pub/Sub với rất nhiều channel làm UNSUBSCRIBE tốn CPU.
3. Một Redis chịu được bao nhiêu
Ý chính: dùng các con số dưới để tính số node trong phỏng vấn, và nhớ rằng giới hạn thật thường là CPU một luồng và kích thước value, không phải RAM.
| Chỉ số (một instance, phần cứng thông thường) | Giá trị tham khảo |
|---|---|
SET |
~50.000 lệnh/s |
GET |
~80.000 lệnh/s |
| Số key | ~250 triệu thực tế (lý thuyết 2³² ≈ 4,3 tỷ) |
| RAM nên dùng | ≤ 32 GB (fork khi snapshot, thời gian khởi động và đồng bộ replica) |
| Kết nối | maxclients mặc định 10.000, giới hạn bởi file descriptor |
Pipeline (gửi nhiều lệnh một lượt) đẩy throughput lên vài trăm nghìn lệnh/s. Đo bằng redis-benchmark hoặc k6 với payload thật. Redis Cluster chia key vào 16.384 slot trên nhiều master; chi tiết ở Redis persistence, replication và Cluster.
4. Case study: bộ đếm cho mạng xã hội
Ý chính: đếm like/comment/share/view của bài và follower của người dùng ở 1 triệu QPS: lưu bộ đếm trong Redis, nguồn sự thật cho “ai đã like” ở DB, đồng bộ bất đồng bộ.
Yêu cầu. Chức năng: số like, comment, share, view của bài; số bài, follower, following của người. Phi chức năng: chính xác (không đếm hai lần), nhanh, sẵn sàng cao, không mất khi restart. Quy mô: 1 tỷ user, 200 triệu DAU, 1 triệu QPS.
Ước lượng. Giả sử 1M QPS gồm ~900K đọc bộ đếm (mỗi bài hiện trên feed kèm 4 số) và ~100K ghi (view chiếm phần lớn, like ít hơn). Bài cần giữ bộ đếm nóng: giả sử 500 triệu bài trong 30 ngày gần nhất × 4 bộ đếm.
Thiết kế đơn giản: một bảng post_count. SELECT theo post_id thì ổn, nhưng UPDATE post_count SET like_count = like_count + 1 WHERE post_id = ? khi một bài viral nhận 10.000 like/s là 10.000 transaction tranh một dòng: khoá dòng nối đuôi nhau, mỗi node chỉ vài trăm TPS loại này. Hai cách vá:
- Gom lô: cộng dồn trong bộ nhớ rồi
UPDATE ... + 37mỗi giây. Giảm số lần ghi nhưng một service phải giữ trạng thái, crash là mất phần chưa ghi. - Queue trước DB: like vào Kafka, consumer gom rồi ghi. Bền hơn, nhưng số hiển thị trễ vài giây.
Lời giải tốt hơn: Redis làm bộ đếm.
- Chính xác:
HINCRBY post:{id} like 1là một lệnh atomic, không race. - Nhanh: đọc/ghi trong RAM; Cluster để chia tải 1M QPS (~15–20 master tính theo 50–80K lệnh/s, thêm replica cho đọc).
- Tiết kiệm RAM: dùng hash nhỏ thay vì key riêng cho mỗi bộ đếm. Hash ít field được lưu dạng listpack rất gọn; gom 1.000 bài vào một hash (
cnt:{post_id / 1000}với field{post_id}:like) giảm overhead mỗi key. - Dữ liệu lớn: bài cũ ít ai xem để ở tầng lạnh: Redis Enterprise auto-tiering (RAM + SSD) hoặc Pika (tương thích giao thức Redis, lưu trên đĩa bằng RocksDB), hoặc chỉ giữ ở DB và nạp lại khi cần.
flowchart LR
U[User like] --> API[Like service]
API -->|INSERT ... ON CONFLICT DO NOTHING| DB[(post_like)]
API -->|nếu insert mới: HINCRBY| R[(Redis counters)]
R -->|job mỗi 5 s, gom lô| DB2[(post_count)]
F[Feed service] -->|HMGET| R
Bền vững, key nóng và đối soát
- Bền: Redis bật AOF
everysec(mất tối đa ~1 s khi crash). Job định kỳ đọc bộ đếm đã đổi (đánh dấu bài “bẩn” trong một SET) và ghi xuốngpost_counttheo lô; khi Redis mất dữ liệu, nạp lại từpost_count+ đếm lại từpost_likecho bài nóng. - Key nóng: một bài viral làm một slot nóng. Chia bộ đếm thành N key con (
post:{id}:like#0..#15), mỗi lần ghi chọn ngẫu nhiên một key, đọc thì cộng N key (hoặc cache tổng ở local vài giây). Hoặc gom tăng trong bộ nhớ service 100 ms rồi mớiHINCRBY. - Đối soát: job hằng đêm so
count(*)từpost_likevới bộ đếm cho mẫu bài, sửa lệch. - Follower: cùng mô hình; bảng
follow(follower_id, followee_id)unique là nguồn sự thật, bộ đếm trong Redis.
5. Case study: bộ đếm thông báo broadcast chưa đọc
Ý chính: khi một thông báo gửi cho mọi người, đừng tăng 10 triệu bộ đếm; mỗi user chỉ lưu “đã đọc tới thông báo nào”, số chưa đọc tính ra lúc cần.
Yêu cầu. Hiển thị số thông báo broadcast (khuyến mãi, thông báo hệ thống) chưa đọc; tính ở server, không ở frontend. Chính xác, độ trễ thấp. 10 triệu user.
- Cách 1, đếm cho mọi user: mỗi broadcast
INCR unread:{user}cho 10 triệu user. 10 triệu lệnh, ở ~50K lệnh/s mất ~200 s mỗi broadcast (hoặc vài giây với pipeline và nhiều node), và phần lớn user không hề mở app. - Cách 2, con trỏ mỗi user: broadcast có ID tăng dần (lưu trong một ZSET hay bảng
broadcast). Mỗi user lưulast_read_id. Số chưa đọc = số broadcast cóid > last_read_id(ZCOUNT broadcasts (last_read +inf), hoặc đơn giảnlatest_id − last_read_idnếu ID liên tục. Đọc hết thì cập nhật con trỏ. Client lấy số này khi mở app hoặc poll định kỳ.
Cách 2 tốn một số mỗi user và O(log n) mỗi lần đọc. Chỉ cần lưu ý broadcast có đối tượng (chỉ gửi user VIP) thì phải lọc theo nhóm, ví dụ một ZSET broadcast cho mỗi phân khúc.
6. Năm bài toán nhỏ giải bằng Redis
Ý chính: nhiều yêu cầu “nhanh, ít bộ nhớ” có cấu trúc dữ liệu Redis may đo; nhận ra đúng cấu trúc là nửa lời giải.
| Bài toán | Cấu trúc | Ý chính |
|---|---|---|
| Đọc-tính-ghi bị race từ nhiều client | Lua script (hoặc WATCH/MULTI) |
Lua chạy atomic, đơn giản và nhanh hơn optimistic lock WATCH |
| Hẹn giờ chạy một việc (huỷ đơn sau 15 phút) | ZSET, score = thời điểm chạy | Worker ZRANGEBYSCORE lấy việc tới hạn; xem case study tự huỷ cuốc xe |
| Đếm IP truy cập duy nhất mỗi ngày, sai số < 5% | HyperLogLog | 12 KB mỗi bộ đếm bất kể số phần tử, sai số chuẩn 0,81% |
| Phân loại sách theo thể loại, tìm sách vừa “Fiction” vừa “Adventure” | Bitmap | Mỗi thể loại một bitmap theo book_id; giao bằng BITOP AND |
| API công khai “username đã có chưa”, chống dò đổ vào DB | Bloom filter | “Không có” là chắc chắn; “có” có thể sai nhẹ, khi đó mới hỏi DB |
Bài tập
Bài 1: Ước lượng Redis cho bộ đếm
Đề: 500 triệu bài nóng, mỗi bài 4 bộ đếm (like, comment, share, view). Lưu mỗi bộ đếm một key string thì tốn bao nhiêu RAM? Gom theo hash 1.000 bài thì sao? Cần bao nhiêu node nếu mỗi node dùng 25 GB?
Lời giải Bài 1
- Key riêng: mỗi key string nhỏ tốn ~70–90 byte (dictEntry, SDS của key, robj, overhead allocator). 2 tỷ key × ~80 B ≈ 160 GB, cộng phân mảnh ~1,3 lần ≈ 210 GB → 9 node 25 GB. Còn vượt mức “250 triệu key/instance” thực tế, cần ≥ 8 node chỉ vì số key.
- Hash gom 1.000 bài (field
{post_id}:{loại}, 4.000 field/hash): vượt ngưỡng listpack mặc định (hash-max-listpack-entries 128), nên gom nhỏ hơn: 32 bài/hash = 128 field. Mỗi field listpack ~15–20 byte → 2 tỷ × ~18 B ≈ 36 GB, cộng overhead key hash (15,6 triệu key × ~100 B ≈ 1,6 GB) ≈ 40 GB → 2 node, thêm replica. - Kết luận: gom hash nhỏ tiết kiệm ~5 lần RAM. Cái giá: không đặt TTL riêng cho từng bộ đếm (Redis 7.4 mới có TTL theo field), và lệnh đọc phải biết cách tính key hash.
- Throughput: 1M QPS vẫn cần ~15–20 master, nên số node bị quyết định bởi CPU chứ không phải RAM. Đây là điều nên nói ra trong phỏng vấn.
Ghi nhớ
- Kể được sáu tầng cache, mỗi tầng cache gì và làm mới thế nào.
- Phân biệt được cache và buffer, và biết vì sao buffer mất là mất thật.
- Nói được con số giới hạn của một Redis và dùng nó để tính số node.
- Thiết kế được bộ đếm like chính xác: nguồn sự thật unique ở DB, bộ đếm ở Redis, xử lý key nóng.
- Giải thích được con trỏ “đã đọc tới đâu” cho thông báo broadcast.
Câu hỏi phỏng vấn
Mid
Vì sao không đếm like bằng UPDATE count = count + 1 trên database?
Mọi like của một bài tranh khoá cùng một dòng, nên bài viral biến thành hàng đợi khoá, mỗi node chỉ được vài trăm cập nhật/s cho dòng đó.
Cách khác: tăng trong Redis (atomic, trong RAM) rồi ghi xuống DB theo lô; hoặc gom trong queue rồi ghi. Nguồn sự thật “ai like” vẫn ở DB với unique.
Cache và buffer khác nhau thế nào?
Cache giữ bản sao của dữ liệu đã có ở nguồn, mất thì đọc lại; buffer giữ dữ liệu chưa tới đích, mất là mất thật.
Vì vậy buffer cần độ bền (queue, AOF) hoặc chấp nhận mất có giới hạn, còn cache chỉ cần TTL và cách làm mới.
Redis đơn luồng thì có race condition không?
Mỗi lệnh đơn lẻ là atomic, nhưng chuỗi đọc ở client, tính, rồi ghi vẫn race giữa các client.
Gộp chuỗi đó vào Lua script hoặc dùng WATCH/MULTI (retry khi key đổi). Lua thường đơn giản và nhanh hơn.
Senior
Thiết kế bộ đếm like/view cho 1 tỷ user, 1 triệu QPS.
Like: bảng post_like unique là nguồn sự thật, Redis hash giữ bộ đếm, job gom lô ghi post_count. View: chỉ cần xấp xỉ, đếm trong Redis (HLL nếu cần duy nhất), có thể lấy mẫu.
Redis Cluster ~15–20 master cho 1M QPS, hash nhỏ để tiết kiệm RAM, bài lạnh ra tầng đĩa. Key nóng: chia bộ đếm thành nhiều key con hoặc gom tăng trong service 100 ms. Bền: AOF everysec + nạp lại từ DB, đối soát hằng đêm.
Số thông báo broadcast chưa đọc cho 10 triệu user?
Lưu con trỏ last_read_id mỗi user và đếm số broadcast có id lớn hơn, thay vì tăng 10 triệu bộ đếm mỗi lần gửi.
Ghi O(1) khi gửi broadcast, đọc O(log n) bằng ZCOUNT. Broadcast theo phân khúc thì mỗi phân khúc một ZSET và cộng các phân khúc của user.
Khi nào dùng local cache trong JVM thay vì Redis?
Khi dữ liệu nhỏ, đọc cực nhiều, và chấp nhận cũ vài giây: cấu hình, danh mục, key siêu nóng.
Local cache (Caffeine) đọc trong ns, không tốn mạng, chịu được Redis chết. Đổi lại mỗi instance một bản, xoá đồng loạt cần pub/sub hoặc TTL ngắn, và tốn heap (ảnh hưởng GC). Hay dùng kết hợp: local TTL 5 s trước Redis.
Kiểm tra username đã tồn tại ở API công khai, chống bị dò làm sập DB?
Bloom filter (RedisBloom BF.EXISTS) trước DB: trả “chưa có” ngay khi filter nói không; chỉ khi filter nói “có thể có” mới hỏi DB.
Thêm rate limit theo IP. Kích thước: 100 triệu username, tỉ lệ sai 1% cần ~120 MB. Bloom filter không xoá được phần tử; username bị xoá thì dùng Cuckoo filter hoặc dựng lại định kỳ.
Từ vựng tiếng Anh
| Term | Phát âm | Nghĩa | Ví dụ câu tiếng Anh dùng trong phỏng vấn |
|---|---|---|---|
| cache tier | /kæʃ tɪr/ | tầng cache | “Each cache tier has its own invalidation story.” |
| purge | /pɝːdʒ/ | xoá khỏi CDN | “We never purge the CDN because file names carry a content hash.” |
| near cache | /nɪr kæʃ/ | cache cục bộ trước cache chung | “A near cache with a five-second TTL absorbs the hottest keys.” |
| hot key | /hɑːt kiː/ | key nóng | “A viral post turns its counter into a hot key.” |
| write-behind | /raɪt bɪˈhaɪnd/ | ghi sau, theo lô | “Counters are flushed to the database write-behind every few seconds.” |
| source of truth | /sɔːrs əv truːθ/ | nguồn sự thật | “The like table is the source of truth, Redis only holds the count.” |
| fan-out | /ˈfæn.aʊt/ | toả ra nhiều đích | “Incrementing ten million counters is a fan-out we can avoid.” |
| read pointer | /riːd ˈpɔɪn.t̬ɚ/ | con trỏ đã đọc | “Each user keeps a read pointer into the broadcast stream.” |
| false positive | /fɔːls ˈpɑː.zə.t̬ɪv/ | báo có nhầm | “A Bloom filter has false positives but never false negatives.” |
| cardinality estimate | /ˌkɑːr.dəˈnæl.ə.ti ˈes.tə.mət/ | ước lượng số phần tử khác nhau | “HyperLogLog gives a cardinality estimate within one percent.” |
Ghi chép dựa trên khoá System Design (Ronin Engineer), viết lại theo cách hiểu của mình.