Cùng một ứng dụng Spring Boot, có team scale từ 2 lên 20 pod trong một phút và rollback trong 30 giây; có team phải build lại jar cho từng môi trường và sợ mất session mỗi lần scale. Khác biệt nằm ở cách viết ứng dụng, không ở công cụ. Bài này đi qua 12 yếu tố với Java 21 + Spring Boot 3 + Docker + Kubernetes, kèm một ứng dụng nhỏ chỉ dùng JDK để thử config qua môi trường và graceful shutdown (đã chạy với JDK 21).
Sơ đồ tóm tắt:
flowchart LR
A["Một codebase"] --> B["Build image một lần"]
B --> C["Release = image + config"]
E["Config từ môi trường"] --> C
C --> D["Process không trạng thái"]
F["Backing service qua URL"] --> D
D --> G["Scale bằng process"]
D --> H["Tắt êm khi SIGTERM"]
D --> I["Log ra stdout"]
C --> J["Admin: chạy một lần"]
Tổng quan
Ý chính: 12 nguyên tắc do Adam Wiggins và các kỹ sư Heroku viết năm 2011, đúc kết từ việc vận hành hàng trăm nghìn ứng dụng. Phần lớn vẫn là nền của Docker và Kubernetes: một container image chạy được ở mọi môi trường chính là một ứng dụng 12-factor.
| # | Yếu tố | Một câu |
|---|---|---|
| I | Codebase | Một codebase trong version control, nhiều lần deploy |
| II | Dependencies | Khai báo và cô lập dependency tường minh |
| III | Config | Lưu config trong môi trường |
| IV | Backing services | Coi dịch vụ phụ trợ là tài nguyên gắn vào |
| V | Build, release, run | Tách hẳn giai đoạn build và run |
| VI | Processes | Chạy ứng dụng như một hay nhiều process không trạng thái |
| VII | Port binding | Cung cấp dịch vụ qua port binding |
| VIII | Concurrency | Scale ra bằng mô hình process |
| IX | Disposability | Khởi động nhanh, tắt êm |
| X | Dev/prod parity | Giữ dev, staging, production giống nhau nhất có thể |
| XI | Logs | Coi log là dòng sự kiện |
| XII | Admin processes | Chạy việc quản trị như process chạy một lần |
I. Codebase: một codebase, nhiều deploy
Ý chính: một ứng dụng = một repo (hoặc một thư mục rõ ràng trong monorepo). Staging, production, máy dev đều là deploy của cùng codebase, có thể ở các commit khác nhau.
- Nhiều ứng dụng dùng chung code: tách thành thư viện có version, không copy.
- Dấu hiệu vi phạm: nhiều repo cùng là “một ứng dụng” và luôn phải deploy cùng lúc (thật ra là một distributed monolith).
II. Dependencies: khai báo và cô lập
Ý chính: mọi dependency khai báo trong pom.xml/build.gradle với version cố định; build không dựa vào thứ “có sẵn trên máy”. Container image là cách cô lập triệt để nhất.
Maven/Gradle gần như làm sẵn, nhưng vẫn lọt ở ba chỗ:
- Công cụ hệ thống dùng lúc chạy (
curl, font, ImageMagick) không có trong image. - Version động (
LATEST,+trong Gradle) làm build hôm nay khác hôm qua. Dùng wrapper và lock file. - JDK “cái nào có trên server” thay vì ghi rõ trong image (
eclipse-temurin:21-jre).
III. Config: lưu trong môi trường
Ý chính: config là mọi thứ khác nhau giữa các lần deploy (URL database, thông tin đăng nhập, hostname, feature flag theo môi trường) và phải đưa vào từ môi trường. Phép thử: có thể mở mã nguồn repo ngay bây giờ mà không lộ thông tin đăng nhập nào không?
Không phải config: wiring nội bộ không đổi giữa môi trường (bean nào inject vào đâu, route nào map vào controller nào).
12factor.net phản đối hai cách: hằng số trong code, và gom config thành “môi trường” có tên (dev, test, prod). Lý do: mỗi deploy mới (staging-2, máy một dev, môi trường demo) lại cần thêm một nhóm, tổ hợp nhanh chóng khó quản lý. Mỗi biến nên độc lập và đặt cho từng deploy.
Spring Boot hợp với điều này nhờ relaxed binding (tự khớp tên thuộc tính với tên biến môi trường): spring.datasource.url đọc được từ SPRING_DATASOURCE_URL, app.payment.timeout từ APP_PAYMENT_TIMEOUT.
# application.yml: giá trị mặc định an toàn cho local, production ghi đè bằng env
spring:
datasource:
url: ${DATABASE_URL:jdbc:postgresql://localhost:5432/booking}
username: ${DATABASE_USER:booking}
password: ${DATABASE_PASSWORD:}
app:
payment:
timeout: ${PAYMENT_TIMEOUT:5s}
// Gom config vào record, kiểm tra lúc khởi động: thiếu là không start
@Validated
@ConfigurationProperties("app.payment")
record PaymentProperties(@NotNull URI baseUrl, @NotNull Duration timeout, @NotBlank String secretKey) {}
Thứ tự ưu tiên giữa các nguồn cấu hình, @ConfigurationProperties và profile của Spring Boot: Spring Boot từ bên trong.
Biến môi trường hay secret manager cho secret
Các nguyên tắc còn lại với secret (quét trong CI, lỡ commit thì xoay khoá trước rồi mới dọn lịch sử Git, xoay vòng không downtime bằng cách chấp nhận khoá cũ và mới song song, che secret trong log) có ở Encoding, hash, mã hoá và chữ ký.
IV. Backing services: tài nguyên gắn vào
Ý chính: database, Redis, Kafka, SMTP, S3, API bên thứ ba đều là backing service, trỏ tới qua URL và thông tin đăng nhập trong config. Đổi PostgreSQL tự host sang RDS chỉ là đổi DATABASE_URL, không sửa code.
Hệ quả: ứng dụng phải chịu được backing service chậm hoặc mất kết nối. Cần timeout, retry có giới hạn, circuit breaker (ngắt gọi tạm thời khi bên kia lỗi liên tục), và health check phân biệt “tôi chết” với “database chết”.
Cũng phải biết backing service hứa gì khi chính nó hỏng. Ví dụ Redis replication bất đồng bộ: master trả “OK” rồi chết trước khi replica nhận lệnh thì sau failover write đó mất. RDB hay AOF, Sentinel hay Cluster mất bao nhiêu dữ liệu có ở Redis: persistence, replication, Sentinel và Cluster.
V. Build, release, run: tách hẳn ba giai đoạn
Ý chính: build tạo artifact, release = artifact + config với id bất biến, run chạy process từ release. Image build một lần và promote qua mọi môi trường, nên thứ chạy ở production đúng là thứ đã test.
- Build: code ở một commit thành artifact chạy được (jar, rồi image). Chạy trong CI.
- Release: artifact + config của một môi trường, có id không đổi (v42). Sửa gì cũng tạo release mới.
- Run: chạy process từ một release.
Hệ quả thực tế:
- dev → staging → prod dùng cùng image, không build lại.
- Tag image theo commit SHA hay version (
booking:a1b2c3), không dùnglatest, nếu không sẽ không biết production chạy gì và rollback không xác định. - Rollback = chạy lại release trước (image cũ + config cũ):
kubectl rollout undo, hoặc GitOps (Argo CD, Flux) giữ release dưới dạng commit trong repo cấu hình.
Một pipeline GitHub Actions làm đúng ba giai đoạn này (build image một lần từ main, promote cùng digest qua staging lên production, rollback bằng digest cũ) có ở CI/CD cho backend.
VI. Processes: không trạng thái, không chia sẻ
Ý chính: process không giữ trạng thái cần sống lâu hơn một request; mọi thứ cần giữ nằm ở backing service. Request sau gần như chắc chắn tới process khác.
Bộ nhớ và đĩa local chỉ là cache ngắn hạn trong một request (ví dụ xử lý file upload trước khi đẩy lên S3). Vi phạm hay gặp:
HttpSessiontrong bộ nhớ Tomcat, “chữa” bằng sticky session (load balancer luôn gửi một người dùng về cùng một server). 12factor.net nói rõ đó là vi phạm. Dùng token không trạng thái (JWT) hoặc Spring Session với Redis.- File upload lưu vào
/tmp/uploadsrồi request sau đọc lại. - Cache local (Caffeine) bị coi là nguồn dữ liệu: mỗi pod một bản, lệch nhau.
@Scheduledtrong ứng dụng web.
VII. Port binding: tự mở port
Ý chính: ứng dụng tự chứa web server và mở port, không cần deploy vào một web server có sẵn. Spring Boot với Tomcat/Jetty/Netty nhúng là đúng mô hình này (khác thời WAR deploy vào Tomcat dùng chung).
- Port đọc từ config:
server.port=${PORT:8080}. - Ứng dụng này thành backing service của ứng dụng khác qua URL.
- Tách port cho actuator (
management.server.port=8081) để health check và metric không mở ra Internet cùng API.
VIII. Concurrency: scale bằng process
Ý chính: chia việc theo loại process (web nhận HTTP, worker xử lý hàng đợi), mỗi loại scale độc lập bằng cách thêm process. Trên Kubernetes: mỗi loại là một Deployment từ cùng image, khác lệnh chạy, scale bằng replicas hay HPA.
Ứng dụng không tự daemon hoá hay ghi file PID; nền tảng quản lý process. 12-factor không cấm thread: process là đơn vị để scale ra, bên trong vẫn dùng virtual thread hoặc pool.
Scale bằng thread hay bằng process: so sánh chi tiết
IX. Disposability: khởi động nhanh, tắt êm
Ý chính: process có thể bị bật hoặc dừng bất cứ lúc nào (deploy, scale, node bị thu hồi). Nên phải khởi động nhanh, tắt êm khi nhận SIGTERM, và chịu được chết đột ngột.
- Khởi động nhanh (vài giây): lazy init có chọn lọc, bớt auto-configuration không dùng, Class Data Sharing (CDS) hoặc CRaC, native image nếu thật cần.
- Tắt êm khi nhận SIGTERM (tín hiệu “hãy dừng” mà nền tảng gửi trước): process web ngừng nhận kết nối mới, làm xong request đang chạy rồi thoát. Worker trả job đang làm về hàng đợi (NACK, không commit offset).
- Chịu được chết đột ngột: mất điện,
SIGKILL. Job phải reentrant (chạy lại từ đầu vẫn đúng): trong transaction hoặc idempotent (xem Idempotency phần 1).
Với Spring Boot, từ 3.4 graceful shutdown bật mặc định cho web server nhúng (trước đó phải đặt server.shutdown=graceful). Thời gian chờ mỗi phase là spring.lifecycle.timeout-per-shutdown-phase (mặc định 30s). Phần còn lại nằm ở container và Kubernetes. Graceful shutdown, preStop và readiness phối hợp thế nào trong một rolling update có ở Chiến lược deploy.
Ứng dụng thử chỉ dùng JDK: config từ môi trường, SIGTERM và kết quả chạy
Ứng dụng đọc config từ môi trường và từ chối khởi động nếu thiếu, mở port theo PORT, log JSON ra stdout. Khi nhận SIGTERM nó báo “chưa sẵn sàng”, chờ request đang chạy xong rồi mới dừng.
import com.sun.net.httpserver.HttpServer;
import java.net.InetSocketAddress;
import java.net.URI;
import java.time.Duration;
import java.time.Instant;
import java.util.ArrayList;
import java.util.List;
import java.util.Map;
import java.util.concurrent.Executors;
import java.util.concurrent.atomic.AtomicBoolean;
public class App {
/** Mọi config lấy từ môi trường và được kiểm tra một lần lúc khởi động. */
record Config(int port, URI databaseUrl, Duration shutdownGrace) {
static Config fromEnv(Map<String, String> env) {
List<String> errors = new ArrayList<>();
int port = 8080;
try { port = Integer.parseInt(env.getOrDefault("PORT", "8080")); }
catch (NumberFormatException e) { errors.add("PORT must be a number"); }
String db = env.get("DATABASE_URL");
if (db == null || db.isBlank()) errors.add("DATABASE_URL is required");
Duration grace = Duration.parse(env.getOrDefault("SHUTDOWN_GRACE", "PT20S"));
if (!errors.isEmpty()) throw new IllegalStateException("Invalid config: " + errors);
return new Config(port, URI.create(db), grace);
}
@Override public String toString() { // không bao giờ log mật khẩu
return "Config[port=" + port + ", db=" + databaseUrl.getHost() + ", grace=" + shutdownGrace + "]";
}
}
public static void main(String[] args) throws Exception {
Config config = Config.fromEnv(System.getenv());
log("starting " + config);
AtomicBoolean ready = new AtomicBoolean(false);
HttpServer server = HttpServer.create(new InetSocketAddress(config.port()), 0);
server.setExecutor(Executors.newVirtualThreadPerTaskExecutor());
server.createContext("/ready", ex -> {
ex.sendResponseHeaders(ready.get() ? 200 : 503, -1);
ex.close();
});
server.createContext("/work", ex -> { // giả lập request mất 2 giây
try { Thread.sleep(2000); } catch (InterruptedException e) { Thread.currentThread().interrupt(); }
byte[] body = "done\n".getBytes();
ex.sendResponseHeaders(200, body.length);
ex.getResponseBody().write(body);
ex.close();
});
server.start();
ready.set(true);
log("listening on :" + config.port());
Runtime.getRuntime().addShutdownHook(new Thread(() -> {
log("SIGTERM received, failing readiness and draining");
ready.set(false);
// stop(n): không nhận exchange mới, chờ tối đa n giây cho exchange đang chạy
server.stop((int) config.shutdownGrace().toSeconds());
log("stopped cleanly");
}));
}
static void log(String msg) { // log là dòng sự kiện trên stdout
System.out.println("{\"ts\":\"" + Instant.now() + "\",\"msg\":\"" + msg + "\"}");
}
}
Thiếu config thì dừng ngay với một lỗi gom đủ mọi vấn đề:
$ PORT=abc java App.java
Exception in thread "main" java.lang.IllegalStateException: Invalid config: [PORT must be a number, DATABASE_URL is required]
Có config, gửi một request /work (mất 2 giây) rồi kill -TERM sau 0,3 giây:
{"ts":"...33.521Z","msg":"starting Config[port=18081, db=db.internal, grace=PT5S]"}
{"ts":"...33.543Z","msg":"listening on :18081"}
{"ts":"...35.195Z","msg":"SIGTERM received, failing readiness and draining"}
{"ts":"...36.976Z","msg":"stopped cleanly"}
work: done
Request đang chạy vẫn nhận done, process thoát sau khi nó xong, và mật khẩu trong DATABASE_URL không xuất hiện trong log.
Vì sao PID 1 đặc biệt, exit code 143 với 137 khác nhau thế nào, khi nào cần init thật như tini (docker run --init) để chuyển tín hiệu và dọn process zombie: xem Hệ điều hành cho backend.
X. Dev/prod parity: dev giống production
Ý chính: thu hẹp ba khoảng cách giữa dev và production: thời gian (code viết hôm nay, vài tuần sau mới lên), con người (dev viết, ops deploy), công cụ (dev dùng H2/SQLite, production dùng PostgreSQL).
Cách thu hẹp: deploy liên tục nhiều lần mỗi ngày, người viết code tham gia deploy và theo dõi, dùng cùng loại backing service ở mọi nơi. Khoảng cách công cụ gây bug khó chịu nhất: test pass trên H2, production lỗi vì khác cú pháp, lock, kiểu dữ liệu.
Cách mình chọn: Testcontainers (chạy PostgreSQL, Kafka, Redis thật trong Docker khi test) cho mọi test chạm database và broker.
H2 hay Testcontainers: so sánh chi tiết
XI. Logs: dòng sự kiện ra stdout
Ý chính: ứng dụng không quản lý file log (không tự ghi file, không tự xoay vòng). Nó ghi từng sự kiện ra stdout theo dòng; môi trường chạy (Docker, Kubernetes, agent như Fluent Bit, Vector, OTel Collector) thu, gắn metadata, chuyển tới kho log.
Logback của Spring Boot mặc định log ra console; chỉ không đặt logging.file.name trong container. Nên log JSON có cấu trúc (Spring Boot 3.4: logging.structured.format.console=ecs hoặc logstash) kèm trace id, để lọc theo field thay vì regex.
Tinh thần này (ứng dụng chỉ phát sự kiện, không quyết định chúng đi đâu) nay áp dụng cho cả metric và trace qua OpenTelemetry, xem Distributed tracing với OpenTelemetry.
XII. Admin processes: việc quản trị chạy một lần
Ý chính: migration, script sửa dữ liệu, console REPL chạy như process chạy một lần, cùng release (cùng image, cùng code) và cùng config với process thường. Code quản trị nằm cùng repo, deploy cùng ứng dụng để không lệch version.
Trên Kubernetes: một Job (hoặc init container, hook của Helm/Argo CD) chạy từ cùng image, khác lệnh. Không SSH vào pod production để chạy SQL bằng tay: không review, không lịch sử, không lặp lại được.
Migration chạy lúc khởi động thì đơn giản; chạy thành Job riêng trước rollout thì an toàn hơn. Dù cách nào, migration phải tương thích ngược (expand → migrate → contract). Cách đặt Flyway thành một bước riêng trong pipeline, trước rollout, có ở CI/CD cho backend.
Migration lúc khởi động hay Job riêng: so sánh chi tiết
Những gì 12-factor không nói, hoặc đã cần hiểu lại
Ý chính: tinh thần vẫn đúng, nhưng vài khái niệm cần hiểu rộng ra và còn thiếu vài mảng.
- Viết năm 2011 cho PaaS kiểu Heroku. Nay Kubernetes gánh phần lớn yếu tố V, VI, VIII, IX, XI ở tầng nền tảng, nhưng ứng dụng vẫn phải viết đúng (config ngoài, không trạng thái, xử lý SIGTERM).
- “Biến môi trường” nên hiểu là “do môi trường cung cấp”: ConfigMap, Secret mount thành file, secret manager. “Logs” thành telemetry: log có cấu trúc, metric, trace.
- Còn thiếu: health check, bảo mật giữa service, API contract, chịu lỗi khi backing service chậm. “Beyond the Twelve-Factor App” (Kevin Hoffman, 2016) bổ sung API first, telemetry, authentication and authorization.
- Tháng 11/2024 Heroku mở mã nguồn 12-factor cho cộng đồng duy trì; chủ đề được bàn nhiều nhất là logging, telemetry và định danh ứng dụng.
Bài tập
Bài 1: Chấm điểm một ứng dụng
Đề: một service Spring Boot có các đặc điểm sau. Chỉ ra yếu tố bị vi phạm và cách sửa. (a) application-prod.yml trong repo chứa mật khẩu DB. (b) CI build jar cho staging, sau khi test xong thì build lại jar cho production. (c) Session đăng nhập lưu trong HttpSession, load balancer bật sticky session. (d) Log ghi vào /app/logs/app.log. (e) Job đối soát @Scheduled(cron = "0 0 2 * * *") trong cùng ứng dụng, chạy 4 replica. (f) Migration chạy bằng cách dev SSH vào server và chạy psql -f. (g) Test dùng H2, production dùng PostgreSQL 16. (h) Dockerfile có ENTRYPOINT java -jar app.jar.
Lời giải bài 1
| Yếu tố | Sửa | |
|---|---|---|
| a | III Config | Bỏ khỏi repo, đổi mật khẩu (đã lộ trong lịch sử Git), đưa vào Secret/secret manager, thêm quét secret trong CI |
| b | V Build, release, run | Build image một lần, tag bằng commit SHA, promote cùng image từ staging lên production |
| c | VI Processes | Spring Session với Redis hoặc token không trạng thái; tắt sticky session |
| d | XI Logs | Log ra stdout dạng JSON, để nền tảng thu |
| e | VI/VIII | Tách thành CronJob hoặc worker 1 replica, hoặc ShedLock; job phải idempotent |
| f | XII Admin processes | Flyway trong repo, chạy bằng Kubernetes Job từ cùng image trước khi rollout |
| g | X Dev/prod parity | Testcontainers PostgreSQL 16 |
| h | IX Disposability | ENTRYPOINT ["java", "-jar", "/app/app.jar"] để JVM nhận SIGTERM |
Bài 2: Cấu hình tắt êm trên Kubernetes
Đề: service xử lý request tối đa khoảng 10 giây. Mỗi lần deploy, client thấy vài chục lỗi 502 và “connection reset”. Viết cấu hình Spring Boot và Kubernetes để deploy không lỗi.
Lời giải bài 2
# application.yml
server:
shutdown: graceful # mặc định từ Spring Boot 3.4, ghi rõ cho bản cũ
spring:
lifecycle:
timeout-per-shutdown-phase: 20s
management:
endpoint:
health:
probes:
enabled: true # /actuator/health/liveness và /readiness
# deployment.yaml (trích)
spec:
template:
spec:
terminationGracePeriodSeconds: 40 # > preStop (5) + drain (20) + dư
containers:
- name: booking
image: registry.example.com/booking:a1b2c3
readinessProbe:
httpGet: { path: /actuator/health/readiness, port: 8081 }
periodSeconds: 5
livenessProbe:
httpGet: { path: /actuator/health/liveness, port: 8081 }
periodSeconds: 10
lifecycle:
preStop:
sleep: { seconds: 5 } # Kubernetes 1.30+; bản cũ: exec ["sleep", "5"] (cần sleep trong image)
Thứ tự khi tắt:
preStopcho ingress và kube-proxy vài giây gỡ pod khỏi danh sách trước khi ứng dụng đóng listener.- Spring nhận SIGTERM, readiness chuyển sang
REFUSING_TRAFFIC, web server ngừng nhận kết nối mới và chờ tối đa 20 giây cho request đang chạy (gấp đôi request dài nhất). terminationGracePeriodSecondsbao trọn cả hai, cộng phần dư cho đóng connection pool, flush log và span.
Kèm ENTRYPOINT dạng exec và maxUnavailable: 0 trong chiến lược rolling update. Mình chưa chạy cấu hình Kubernetes này; phần graceful shutdown của JVM đã thử ở mục IX.
Ghi nhớ
- Giải thích được config theo 12-factor là gì, phép thử “mở mã nguồn repo”, và vì sao
application-prod.ymlchứa mật khẩu là vi phạm. - Biết vì sao build image một lần, tag bằng commit SHA, và rollback chỉ là chạy lại release trước.
- Kể được ít nhất ba vi phạm “process có trạng thái” trong Spring Boot, gồm
@Scheduledtrên nhiều replica, và cách sửa. - Mô tả được chuỗi tắt pod không rơi request:
ENTRYPOINTexec,preStop, readiness, graceful shutdown, grace period. - Biết khi nào chạy migration lúc khởi động, khi nào thành Job, và vì sao phải expand/contract.
Câu hỏi phỏng vấn
Junior
12-Factor App là gì, vì sao còn quan trọng?
12 nguyên tắc viết ứng dụng chạy tốt trên cloud, do Heroku đúc kết năm 2011. Nó còn quan trọng vì Docker và Kubernetes giả định ứng dụng tuân theo phần lớn các nguyên tắc đó.
Cụ thể: config ngoài image, process không trạng thái scale ngang được, log ra stdout, tắt êm khi nhận SIGTERM. Ứng dụng vi phạm vẫn chạy được trên Kubernetes nhưng khó scale, khó deploy không lỗi.
Vì sao không nên ghi log ra file trong container?
Vì filesystem của container là tạm: xoá container là mất log, kubectl logs không đọc được file, và file lớn dần làm đầy đĩa node.
Ứng dụng nên ghi sự kiện ra stdout, nền tảng thu và chuyển tới kho log; ứng dụng không cần biết log đi đâu.
Mid
Config theo 12-factor nghĩa là gì? Spring profile có vi phạm không?
Config là những gì khác nhau giữa các deploy, phải nằm ngoài code và đưa vào qua môi trường. Profile chứa giá trị theo môi trường là vi phạm; profile cho khác biệt về hành vi thì chấp nhận được.
Config gồm URL, thông tin đăng nhập, hostname; phép thử là mở mã nguồn repo ngay mà không lộ secret. application-prod.yml có URL, mật khẩu thì secret vào Git, image gắn với môi trường, thêm môi trường phải thêm file. Giá trị nên đi qua env, ConfigMap, Secret.
Process không trạng thái nghĩa là gì trong một ứng dụng Spring Boot?
Không có gì cần sống lâu hơn một request nằm trong bộ nhớ hay đĩa của process.
Session ở Redis hoặc token, file upload lên object storage, dữ liệu ở database. Như vậy request nào tới pod nào cũng được, scale và restart không mất gì, không cần sticky session. Cache local được phép nhưng chỉ là cache, mất đi không sai dữ liệu.
Build, release, run khác nhau thế nào và vì sao phải tách?
Build tạo artifact (image), release là artifact cộng config của một môi trường với id bất biến, run là chạy process từ release. Tách ra để build một lần và promote cùng image qua mọi môi trường.
Nhờ đó thứ chạy ở production đúng là thứ đã test, rollback chỉ là chạy release trước, và không ai sửa code trên server. Vì vậy tag image bằng commit SHA, không dùng latest.
Một service gọi Redis bị chậm làm mọi request treo. Yếu tố “backing service” gợi ý gì?
Backing service có thể chậm, chết hay bị thay bất cứ lúc nào, nên ứng dụng phải coi đó là chuyện bình thường: timeout ngắn, retry có giới hạn, circuit breaker, fallback nếu Redis chỉ là cache.
Health check cũng phải phân biệt: Redis chết không có nghĩa process chết, nên không đưa nó vào liveness, nếu không Kubernetes sẽ restart hàng loạt pod khoẻ.
Senior
Làm sao để deploy một service Spring Boot trên Kubernetes không làm rơi request nào?
Ứng dụng phải nhận được SIGTERM và tắt êm; Kubernetes phải gỡ pod khỏi load balancer trước khi ứng dụng đóng listener, và chỉ gửi traffic tới pod mới khi nó sẵn sàng.
- Ứng dụng:
ENTRYPOINTdạng exec, graceful shutdown (mặc định từ Boot 3.4) với timeout lớn hơn request dài nhất, readiness chuyển lỗi khi bắt đầu tắt. - Kubernetes:
preStopsleep vài giây,terminationGracePeriodSecondslớn hơn preStop cộng thời gian drain, rolling update vớimaxUnavailable: 0và readiness đúng nghĩa. - Worker: không commit offset hay ack tới khi xong, job idempotent để chạy lại an toàn.
Migration database nên chạy ở đâu khi có nhiều replica và rolling update?
Mình thích chạy thành Job riêng từ cùng image trước khi rollout, với tài khoản có quyền DDL. Quan trọng hơn chỗ chạy: migration phải tương thích ngược theo expand/contract.
Job riêng giúp lỗi migration chặn rollout và ứng dụng chỉ cần quyền DML. Chạy lúc khởi động đơn giản và Flyway có khoá nên không chạy hai lần, nhưng migration dài làm pod trượt startup probe. Expand/contract cần vì lúc rolling update pod cũ và mới cùng chạy trên schema mới.
Theo bạn, phần nào của 12-factor đã lỗi thời hoặc thiếu?
Tinh thần vẫn đúng, nhưng config và log cần hiểu rộng ra, và còn thiếu health check, bảo mật giữa service, API contract, chịu lỗi khi backing service chậm.
Config không chỉ là biến môi trường mà gồm Secret mount thành file và secret manager có xoay vòng; log mở rộng thành telemetry có cấu trúc gồm cả metric và trace. Kubernetes đã gánh phần quản lý process, nên trách nhiệm của ứng dụng tập trung vào không trạng thái, config ngoài và xử lý vòng đời đúng.
Bạn thêm @Scheduled vào một service đang chạy 6 replica. Bạn sẽ hỏi gì khi review?
Câu đầu tiên: job sẽ chạy 6 lần, có chấp nhận được không? Sau đó là idempotent, shutdown và giám sát.
- Nếu không chấp nhận: tách thành CronJob hoặc worker một replica, hoặc khoá phân tán như ShedLock.
- Job có idempotent không, vì kể cả có khoá thì lease hết hạn hay retry vẫn có thể chạy chồng.
- Job chạy lâu có chặn graceful shutdown không; pod bị kill giữa chừng thì lần sau có chạy tiếp đúng không.
- Có metric và cảnh báo khi job không chạy hoặc lỗi không.
Từ vựng tiếng Anh
| Term | Phát âm | Nghĩa | Ví dụ câu tiếng Anh dùng trong phỏng vấn |
|---|---|---|---|
| twelve-factor app | /twelv ˈfæktə æp/ | ứng dụng theo 12 nguyên tắc | “Our services follow the twelve-factor model, so the same image runs everywhere.” |
| externalized configuration | /ɪkˈstɜːnəlaɪzd kənˌfɪɡəˈreɪʃn/ | config tách khỏi code | “With externalized configuration we promote one image from staging to prod.” |
| backing service | /ˈbækɪŋ ˈsɜːvɪs/ | dịch vụ phụ trợ gắn vào | “Swapping the database is just a change of the backing service URL.” |
| immutable release | /ɪˈmjuːtəbl rɪˈliːs/ | release không đổi | “Every release is immutable and tagged with the commit SHA.” |
| stateless process | /ˈsteɪtləs ˈprəʊses/ | process không giữ trạng thái | “Because the processes are stateless, any pod can serve any request.” |
| sticky session | /ˈstɪki ˈseʃn/ | gắn người dùng vào một server | “Sticky sessions hide state problems until a pod dies.” |
| disposability | /dɪˌspəʊzəˈbɪləti/ | có thể khởi động và dừng bất cứ lúc nào | “Disposability means a pod can be killed at any moment without losing work.” |
| graceful shutdown | /ˈɡreɪsfl ˈʃʌtdaʊn/ | tắt êm | “On SIGTERM we stop accepting traffic and drain in-flight requests.” |
| dev/prod parity | /dev prɒd ˈpærəti/ | dev giống production | “Testcontainers gives us dev/prod parity for the database.” |
| one-off process | /ˌwʌn ˈɒf ˈprəʊses/ | process chạy một lần | “Migrations run as a one-off Kubernetes Job from the same image.” |
Tham khảo
- The Twelve-Factor App (đặc biệt III. Config, VI. Processes, IX. Disposability, XII. Admin processes)
- Twelve-Factor App Methodology is now Open Source
- Spring Boot: Graceful shutdown
- Kubernetes: Pod lifecycle, termination of pods
Ghi chép dựa trên 12factor.net và kinh nghiệm thực tế, viết lại theo cách hiểu của mình.