Đến nội dung chính
notes.vinhnq.com

Tìm kiếm

System DesignSenior16 phút đọc

Giao tiếp trong system design, phần 1: đường đi của một message, Protobuf, REST hay gRPC

Ôn 11 thẻ
Trong bài này

Cụm bài Giao tiếp trong system design: 1. Đường đi của một message, REST hay gRPC · 2. Bất đồng bộ, realtime và case study phát hiện gian lận

Chọn cách giao tiếp giữa các thành phần là quyết định kiến trúc khó đổi nhất sau database. Bài này tách một lần gọi thành từng tầng để biết mỗi tầng quyết định điều gì, rồi đi vào hai lựa chọn đồng bộ hay gặp nhất: định dạng dữ liệu (JSON hay Protobuf) và giao thức giữa backend (REST hay gRPC).

1. Năm điều cần cân nhắc

Ý chính: khi hai thành phần nói chuyện, hãy hỏi: message có tới được không (delivery guarantee), đổi interface có làm vỡ bên kia không (tương thích), nhanh và tiết kiệm tới đâu (hiệu năng), lỗi thì sao (xử lý lỗi), ai được nghe (bảo mật).

  • Delivery guarantee: gọi đồng bộ không retry là at-most-once (tối đa một lần, có thể mất). Có retry thành at-least-once (có thể trùng). Muốn hiệu quả như exactly-once thì bên nhận phải idempotent (xem idempotency trong hệ phân tán).
  • Tương thích: client cũ và server mới phải sống chung trong lúc triển khai cuốn chiếu (rolling deploy).
  • Hiệu năng, hiệu quả: latency, throughput, CPU cho serialize, băng thông.
  • Xử lý lỗi: timeout, retry, mã lỗi rõ ràng, circuit breaker.
  • Bảo mật: TLS hoặc mTLS giữa service, xác thực, phân quyền.

Khoá học nhấn mạnh: trong thực tế đừng đặt hiệu năng lên đầu. Một giao thức nhanh hơn 20% mà đội không debug được thì là lựa chọn tồi.

2. Đường đi của một message

Ý chính: mỗi lần gọi đi qua cùng một chuỗi tầng ở hai phía, và mỗi tầng gánh một mối lo khác nhau. Khi chọn công nghệ, quyết định theo thứ tự: mô hình network I/O → mô hình xử lý → protocol → serialization.

flowchart LR
  subgraph Client
    A[Logic] --> B[Serialization]
    B --> C[Protocol]
    C --> D[Mô hình xử lý]
    D --> E[Network I/O]
  end
  E --> N((Mạng))
  subgraph Server
    F[Network I/O] --> G[Mô hình xử lý]
    G --> H[Protocol]
    H --> I[Deserialization]
    I --> J[Logic]
  end
  N --> F
Tầng Gánh mối lo Ví dụ lựa chọn
Logic Xử lý lỗi Timeout, retry, fallback
Serialization Tương thích, hiệu năng JSON, Protobuf, Avro
Protocol Delivery guarantee, hiệu quả, bảo mật HTTP/1.1, HTTP/2, AMQP, Kafka protocol, MQTT
Mô hình xử lý Hiệu năng Thread-per-request, Reactor, virtual thread
Network I/O Hiệu quả Blocking, non-blocking, multiplexing (epoll)

Network I/O. Năm mô hình I/O của Unix và epoll đã có bài riêng: I/O model, epoll và file descriptor. Điều cần nhớ ở đây: multiplexing I/O (một system call theo dõi nhiều kết nối) là nền của mọi server chịu tải cao.

Mô hình xử lý. Có hai kiểu chính:

  • Thread-per-request (truyền thống): mỗi request một thread, thread vừa đọc socket (blocking) vừa xử lý. Đơn giản, nhưng số thread bị giới hạn bởi pool, và nhiều thread thì tốn context switch.
  • Reactor: tách việc chờ I/O khỏi việc tính toán. Main reactor nhận kết nối mới; sub reactor (event loop) theo dõi đọc/ghi trên nhiều kết nối; việc decode, tính toán, encode được giao cho worker pool. Netty, Nginx, Redis đều theo kiểu này.

Virtual thread của Java 21 là con đường thứ ba: viết code kiểu blocking, runtime tự multiplex lên epoll. Chi tiết Tomcat, Netty và virtual thread ở bài I/O model.

Protocol. HTTP/2 mang lại bốn thứ so với HTTP/1.1: multiplexing (nhiều request trên một connection TCP), nén header (HPACK), binary framing, và server push. Bảng so sánh HTTP/1.1, 2, 3 đầy đủ ở bài web và HTTP.

3. Serialization: JSON hay Protobuf

Ý chính: JSON là text, đọc được, schema tuỳ chọn, tương thích dễ. Protobuf là binary, nhỏ và nhanh hơn nhiều, nhưng cần schema định nghĩa trước, khó debug, và có luật tương thích nghiêm ngặt.

JSON (text) Protobuf (binary)
Tương thích Cao: thêm field thoải mái nếu bên đọc bỏ qua field lạ Cao nếu giữ luật; đổi số thứ tự hay kiểu field là vỡ
Độ phức tạp Thấp, schema tuỳ chọn, đọc bằng mắt được Cao hơn: cần file .proto, sinh code, khó debug
Hiệu năng Chậm hơn, to hơn Nhỏ hơn vài lần, parse nhanh hơn
Khi nào dùng Yêu cầu hiệu năng không quá cao, API công khai Service nội bộ tải cao, message trong Kafka với schema registry

Luật tương thích của Protobuf, tóm gọn:

  • Trên đường truyền, field được nhận diện bằng số thứ tự, không phải tên. Đổi số = đổi nghĩa dữ liệu.
  • Thêm field mới với số mới: an toàn, bên cũ bỏ qua field lạ.
  • Xoá field: đánh dấu reserved cả số lẫn tên để không ai dùng lại.
  • Đổi kiểu field: hầu như luôn vỡ (vài cặp như int32 và int64 đọc được nhau nhưng có thể bị cắt số).
Một thay đổi Protobuf an toàn và một thay đổi phá vỡ

Phiên bản 1:

syntax = "proto3";

message Order {
  string id = 1;
  int64 amount = 2;      // đơn vị nhỏ nhất của tiền tệ
  string note = 3;
}

Phiên bản 2 an toàn: xoá note nhưng giữ chỗ, thêm field mới với số mới.

message Order {
  reserved 3;
  reserved "note";
  string id = 1;
  int64 amount = 2;
  string currency = 4;   // client cũ không biết field 4, bỏ qua
  optional string coupon = 5;  // optional để phân biệt "không gửi" với chuỗi rỗng
}

Phiên bản phá vỡ: đổi amount sang số 4, hoặc đổi kiểu sang string. Client cũ gửi số tiền ở field 2, server mới đọc field 4 và thấy 0, hoặc parse lỗi. Bắt lỗi này tự động bằng buf breaking trong CI, hoặc để schema registry chặn ở chế độ BACKWARD.

Về phía JSON trong Spring Boot: ObjectMapper do Spring Boot cấu hình đã tắt FAIL_ON_UNKNOWN_PROPERTIES, nên client bỏ qua field lạ. Nhưng một new ObjectMapper() tự tạo thì vẫn bật, và một field mới phía server sẽ làm client đó ném lỗi. Đây là lỗi tương thích JSON hay gặp nhất.

4. Giữa backend: REST hay gRPC

Ý chính: REST tương thích với mọi thứ (trình duyệt, load balancer, mọi ngôn ngữ) và đủ nhanh cho đa số trường hợp. gRPC nhanh hơn nhờ HTTP/2 và Protobuf, có streaming và hợp đồng chặt, đổi lại cần sinh code và cân bằng tải khó hơn.

REST gRPC
Tương thích Trình duyệt, load balancer, công cụ, mọi ngôn ngữ đều hiểu Trình duyệt cần gRPC-Web và proxy; công cụ ít hơn
Hiệu năng Thường trên HTTP/1.1 với JSON HTTP/2, Protobuf, gọi bất đồng bộ, streaming hai chiều
Độ phức tạp Thấp Cần file .proto, sinh code, quản lý phiên bản schema
Cân bằng tải Load balancer L4 hay L7 đều được Cần load balancer L7 hoặc cân bằng phía client
Khi nào dùng Yêu cầu hiệu năng không quá cao, API công khai Service nội bộ tải cao, cần streaming, đa ngôn ngữ cần hợp đồng chặt

Một hướng giữa: REST trên HTTP/2 (Spring Boot bật bằng server.http2.enabled=true) lấy được multiplexing và nén header mà không đổi cách lập trình.

Deadline và lỗi khi gọi gRPC từ Java

gRPC truyền deadline (hạn chót tuyệt đối) qua mọi bước gọi, nên service phía sau biết còn bao nhiêu thời gian và tự bỏ việc khi hết hạn. Đây là cách làm “timeout theo ngân sách” mà REST phải tự xây bằng header.

OrderReply reply = orderStub
        .withDeadlineAfter(300, TimeUnit.MILLISECONDS)   // cả chuỗi gọi phía sau dùng chung hạn chót này
        .getOrder(OrderRequest.newBuilder().setId(id).build());

Khi gọi lỗi, client nhận StatusRuntimeException:

  • UNAVAILABLE: server không tới được, an toàn để retry với backoff.
  • DEADLINE_EXCEEDED: hết hạn chót; retry chỉ khi thao tác idempotent và còn ngân sách thời gian.
  • INVALID_ARGUMENT, NOT_FOUND, FAILED_PRECONDITION: lỗi nghiệp vụ, không retry.

gRPC có sẵn cấu hình retry trong service config (số lần, mã lỗi được retry, backoff), nhưng chỉ nên bật cho method idempotent. Cách thiết kế timeout và retry chung ở bài timeout, retry và circuit breaker.

Bài tập

Bài 1: Chọn giao thức cho ba tình huống

Đề (tự đặt): chọn REST hay gRPC, JSON hay Protobuf, và giải thích: (a) API cho đối tác bên ngoài tích hợp thanh toán; (b) service định giá được 5 service Java khác gọi tổng cộng 30K RPS, mỗi lần trả về vài trăm byte; (c) ứng dụng mobile tải danh sách sản phẩm.

Lời giải bài 1
  • (a) REST + JSON. Đối tác dùng đủ loại ngôn ngữ và công cụ, cần đọc được tài liệu OpenAPI, thử bằng curl. Tương thích và dễ tích hợp quan trọng hơn vài mili giây. Thêm idempotency key và chữ ký request.
  • (b) gRPC + Protobuf. Nội bộ, tải cao, message nhỏ: lợi ích về CPU serialize và multiplexing rõ rệt. Hợp đồng chặt giúp 5 đội không vỡ nhau. Nhớ bật cân bằng tải theo request (mục 4) và đặt deadline.
  • (c) REST + JSON qua HTTP/2 là mặc định an toàn: CDN, cache HTTP, công cụ debug đều sẵn. Chỉ cân nhắc gRPC hoặc Protobuf nếu đo thấy băng thông di động là vấn đề thật; khi đó vẫn cần một lớp gateway cho web.

Bài 2: Review một thay đổi file .proto

Đề (tự đặt): một PR đổi message sau. Thay đổi nào phá vỡ client cũ?

// trước
message User { string id = 1; string name = 2; int32 age = 3; string email = 4; }
// sau
message User { string id = 1; string full_name = 2; string age = 3; string phone = 4; }
Lời giải bài 2
  • name → full_name cùng số 2: không vỡ trên đường truyền binary (số giữ nguyên), nhưng vỡ nếu có ai dùng JSON mapping của Protobuf, vì tên field JSON đổi.
  • age từ int32 sang string cùng số 3: vỡ. Kiểu wire khác nhau, client cũ parse sai hoặc bỏ qua.
  • email bị thay bằng phone dùng lại số 4: vỡ nặng nhất, vì client cũ sẽ đọc số điện thoại vào field email mà không có lỗi nào báo.

Sửa: giữ age là int32, nếu cần chuỗi thì thêm field mới số 5; xoá email bằng reserved 4; reserved "email"; và thêm phone = 6. Thêm buf breaking vào CI để PR kiểu này bị chặn tự động.

Ghi nhớ

  • Kể được năm điều cân nhắc khi chọn cách giao tiếp, và vì sao không đặt hiệu năng lên đầu.
  • Vẽ được đường đi của một message và nói mỗi tầng gánh mối lo gì.
  • Phân biệt được Reactor pattern với Actor model.
  • Nêu được luật tương thích của Protobuf: số thứ tự, thêm, xoá với reserved, đổi kiểu.
  • Giải thích được vì sao gRPC trên Kubernetes dồn tải vào một pod và ba cách sửa.

Câu hỏi phỏng vấn

Junior

JSON và Protobuf khác nhau thế nào?

JSON là text, đọc được bằng mắt, không bắt buộc schema; Protobuf là binary, nhỏ và nhanh hơn, nhưng cần file schema và sinh code.

JSON hợp với API công khai và debug; Protobuf hợp với service nội bộ tải cao và message trong Kafka.

HTTP/2 cải thiện gì so với HTTP/1.1?

Multiplexing nhiều request trên một connection TCP, nén header, và khung nhị phân thay cho text.

Nó hết nghẽn đầu hàng ở tầng HTTP nhưng vẫn còn ở tầng TCP; HTTP/3 trên QUIC giải nốt phần đó.

Mid

Khi nào bạn chọn gRPC thay vì REST?

Khi gọi nội bộ giữa service với tải cao và message nhỏ, khi cần streaming, hoặc khi nhiều ngôn ngữ cần một hợp đồng chặt.

Cho API công khai, trình duyệt, đối tác thì REST vẫn tốt hơn vì ai cũng gọi được và công cụ đầy đủ.

Làm sao thêm field vào một message Protobuf mà không vỡ client cũ?

Thêm field với số thứ tự mới chưa từng dùng; client cũ sẽ bỏ qua field lạ. Không đổi số hay kiểu của field cũ.

Khi xoá field, đánh dấu reserved cả số và tên. Đưa buf breaking hoặc schema registry vào CI để chặn thay đổi phá vỡ.

Reactor pattern hoạt động thế nào?

Một hoặc vài event loop dùng epoll theo dõi rất nhiều kết nối; khi một kết nối sẵn sàng thì gọi handler, còn việc nặng giao cho worker pool.

Main reactor nhận kết nối, sub reactor xử lý đọc/ghi, worker làm decode, tính toán, encode. Quy tắc sống còn: không chặn event loop.

Senior

Bạn scale service gRPC từ 3 lên 10 pod nhưng 7 pod mới gần như không nhận request. Vì sao?

Kubernetes Service cân bằng theo connection, mà client gRPC giữ một connection HTTP/2 lâu dài, nên mọi request vẫn đi vào các pod cũ.

Sửa bằng headless Service với client round_robin, hoặc proxy L7/service mesh, hoặc đặt MAX_CONNECTION_AGE để client kết nối lại định kỳ.

Một request đi qua 4 service gọi đồng bộ. Bạn thiết kế timeout thế nào?

Đặt một ngân sách thời gian cho cả request và truyền deadline xuống từng bước, mỗi bước dùng phần còn lại, thay vì mỗi service tự đặt timeout cố định.

gRPC có sẵn deadline propagation; với REST thì tự truyền qua header. Retry chỉ ở một tầng và chỉ cho thao tác idempotent, để không nhân số lần gọi lên theo cấp số.

Từ vựng tiếng Anh

Term Phát âm Nghĩa Ví dụ câu tiếng Anh dùng trong phỏng vấn
serialization /ˌsɪr.i.ə.ləˈzeɪ.ʃən/ chuyển object thành byte “Protobuf serialization is smaller and faster than JSON.”
backward compatible /ˈbæk.wɚd kəmˈpæt.ə.bəl/ tương thích ngược “Adding a new field with a new number is backward compatible.”
breaking change /ˈbreɪ.kɪŋ tʃeɪndʒ/ thay đổi phá vỡ “Reusing a field number is a breaking change.”
event loop /ɪˈvent luːp/ vòng lặp sự kiện “Never block the event loop with a JDBC call.”
multiplexing /ˈmʌl.tɪ.plek.sɪŋ/ ghép nhiều luồng trên một kênh “HTTP/2 multiplexes many requests over one connection.”
head-of-line blocking /hed əv laɪn ˈblɑː.kɪŋ/ nghẽn đầu hàng “QUIC removes TCP-level head-of-line blocking.”
client-side load balancing /ˈklaɪ.ənt saɪd loʊd ˈbæl.ən.sɪŋ/ cân bằng tải phía client “We enabled client-side load balancing with round robin.”
deadline propagation /ˈded.laɪn ˌprɑː.pəˈɡeɪ.ʃən/ truyền hạn chót qua các bước “Deadline propagation lets downstream services stop early.”
code generation /koʊd ˌdʒen.əˈreɪ.ʃən/ sinh code “gRPC needs code generation from the proto files.”
wire format /waɪr ˈfɔːr.mæt/ định dạng trên đường truyền “On the wire, fields are identified by number, not name.”

Ghi chép dựa trên khoá System Design (Ronin Engineer), viết lại theo cách hiểu của mình.