Cụm bài Cron job: 1. Biểu thức cron và @Scheduled · 2. Xoá dữ liệu cũ an toàn
Hệ thống xoá mềm (soft delete: đổi status thành INACTIVE thay vì xoá dòng) nên bảng phình mãi, index to ra, query và backup chậm dần. Bài này chỉ cách viết cron job backup rồi xoá cứng dòng INACTIVE quá X tháng mà không làm hại database production. Lên lịch (biểu thức cron, @Scheduled, ShedLock, idempotency) đã có ở phần 1.
1. Xoá dữ liệu cũ an toàn
Ý chính: xoá từng batch nhỏ, mỗi batch một transaction ngắn, archive trước khi xoá trong cùng transaction đó. Job phải dừng giữa chừng được, chạy lại được và báo động được khi nó không chạy.
Job chỉ nhanh nếu bảng có sẵn status, cột kỹ thuật updated_at và index trên chúng từ lúc thiết kế. Xoá mềm là một trạng thái trong vòng đời entity; bộ cột kỹ thuật nên có ở mọi bảng entity được bàn ở Quy trình data modeling và table template.
Đừng xoá một phát hết
Ý chính: một câu DELETE lớn là một transaction lớn, và cả database trả giá cho nó.
-- Nguy hiểm trên bảng lớn
DELETE FROM orders WHERE status = 'INACTIVE' AND updated_at < now() - interval '6 months';
Cách tìm một transaction “quá lớn” như vậy đang chạy trên production (innodb_trx.trx_rows_modified, pg_stat_activity) và ba loại transaction gây hại còn lại (chạy lâu, treo giữa chừng, bị bỏ rơi) có ở Transaction gây hại.
Xoá theo batch, mỗi batch một transaction
Ý chính: lặp lại “lấy N id, archive, xoá, commit, nghỉ” cho tới khi hết dòng thoả điều kiện.
flowchart TD
S[Job bắt đầu, giành lock] --> Q[Lấy tối đa N id thoả điều kiện]
Q --> E{Còn dòng nào?}
E -- không --> D[Ghi log, metric, nhả lock]
E -- có --> A[Copy sang bảng archive]
A --> X[Xoá N dòng đó]
X --> C[Commit transaction của batch]
C --> P[Nghỉ ngắn để DB thở]
P --> Q
PostgreSQL làm backup và xoá trong một câu lệnh (cùng transaction) bằng data-modifying CTE, tức mệnh đề WITH chứa cả INSERT/DELETE:
WITH batch AS (
SELECT id
FROM products
WHERE status = 'INACTIVE' AND updated_at < :cutoff
ORDER BY id
LIMIT :batchSize
FOR UPDATE SKIP LOCKED
),
archived AS (
INSERT INTO products_archive -- cùng các cột như products + cột archived_at ở cuối
SELECT p.*, now()
FROM products p
JOIN batch b ON b.id = p.id
RETURNING id
)
DELETE FROM products p
USING archived a
WHERE p.id = a.id;
MySQL hỗ trợ DELETE ... ORDER BY id LIMIT 1000 trực tiếp trên một bảng. Vì vậy có thể INSERT INTO ... SELECT ... LIMIT rồi DELETE theo cùng danh sách id trong một transaction.
Bốn điểm cần nghĩ:
- Index cho điều kiện lọc:
(status, updated_at)hoặc partial indexWHERE status = 'INACTIVE'(index chỉ chứa các dòng thoả điều kiện). Không có index thì mỗi batch là một full scan. - Kích thước batch: 500-5000 dòng tuỳ độ rộng dòng; đo thời gian mỗi batch, giữ dưới một vài giây.
- Khoá ngoại: xoá bảng con trước (
order_itemstrướcorders), hoặc chỉ xoá cha khi mọi con cũng đủ điều kiện. Cẩn thận vớiON DELETE CASCADEtrên bảng lớn: một dòng cha có thể kéo hàng chục nghìn dòng con vào cùng transaction. - Giờ thấp điểm và giới hạn tổng thời gian chạy: dừng sau X phút, lần sau làm tiếp. Xoá theo điều kiện nên tiếp tục ở đâu cũng đúng.
Backup trước khi xoá
Ý chính: xoá cứng không đảo ngược được, nên phải có bản sao trước; bảng archive cùng DB là cách duy nhất atomic với lệnh xoá.
Archive cũng là dữ liệu: cần thời hạn lưu trữ (retention) và tuân theo quy định về dữ liệu cá nhân. Dữ liệu cá nhân người dùng đã yêu cầu xoá thì có khi phải xoá hẳn chứ không được archive.
Giải pháp thay thế ở quy mô lớn: partition
Ý chính: nếu bảng chia partition theo thời gian, dọn dữ liệu cũ là bỏ cả một partition, giống vứt nguyên một ngăn tủ thay vì nhặt từng tờ giấy.
Số đo DELETE so với DETACH PARTITION và cái giá của partition
Con số đo thật nằm ở mục partition của bài JOIN chạy thế nào và khi nào partition bảng. Trên PostgreSQL, bỏ dữ liệu một tháng (khoảng 65.000 dòng):
| Cách | Thời gian | Tác dụng phụ |
|---|---|---|
DELETE |
316 ms | sinh WAL và dead tuple |
DETACH PARTITION |
2 ms | không |
Bài đó cũng chỉ ra cái giá của partition: khoá chính và unique phải chứa partition key, và truy vấn không lọc theo partition key phải đọc mọi partition.
Quan sát được
Ý chính: job lỗi thì còn có log; job không chạy thì chẳng có gì để log, nên phải alert theo “lần thành công gần nhất”.
- Log khi bắt đầu, khi kết thúc, số dòng đã archive/xoá, thời gian chạy.
- Metric:
job_last_success_timestamp,rows_deleted_total, thời gian chạy. - Alert “job không chạy thành công trong 25 giờ” (dead man’s switch: công tắc báo động khi tín hiệu “tôi còn sống” ngừng tới).
Bài tập
Đề
Đề (diễn đạt lại): hoàn thiện pet project; viết một job chạy vào 00:00:00 ngày 1 tháng 6 hàng năm để xoá các bản ghi ở trạng thái INACTIVE trong các bảng của hệ thống.
Lời giải
Lời giải dùng @Scheduled, ShedLock (@SchedulerLock) và Clock như đã giải thích ở phần 1.
Biểu thức cron cho Spring: 0 0 0 1 6 * (giây phút giờ ngày tháng thứ), với zone = "Asia/Ho_Chi_Minh". Mình đã kiểm tra: các lần chạy kế tiếp là 01/06/2026, 01/06/2027, 01/06/2028…
Các lựa chọn chính:
lockAtMostFor(3h) dài hơnmax-duration(2h) để lock không hết hạn khi job còn chạy.- Xoá theo điều kiện + batch: chạy lại bao nhiêu lần cũng an toàn (idempotent), dừng giữa chừng không sao.
- Archive và xoá trong cùng transaction: không bao giờ có dòng bị xoá mà chưa được backup.
Lời giải: code đầy đủ (cấu hình, PurgeTarget, service, job) và test gợi ý
Cấu hình để dễ đổi lịch mà không phải build lại:
jobs:
purge-inactive:
cron: "0 0 0 1 6 *"
zone: "Asia/Ho_Chi_Minh"
retention: P6M # chỉ xoá dòng INACTIVE quá 6 tháng
batch-size: 1000
max-duration: PT2H
@ConfigurationProperties("jobs.purge-inactive")
public record PurgeProperties(String cron, String zone, Period retention,
int batchSize, Duration maxDuration) {}
Mỗi bảng được mô tả bằng một PurgeTarget; thứ tự trong danh sách là thứ tự xoá (con trước cha):
public record PurgeTarget(String table, String archiveTable) {}
@Configuration
@EnableConfigurationProperties(PurgeProperties.class)
class PurgeTargets {
@Bean
List<PurgeTarget> purgeTargets() {
return List.of(
new PurgeTarget("order_items", "order_items_archive"),
new PurgeTarget("orders", "orders_archive"),
new PurgeTarget("products", "products_archive"),
new PurgeTarget("categories", "categories_archive"));
}
}
Service làm việc thật, mỗi batch một transaction:
@Service
@Slf4j
public class InactivePurgeService {
private final JdbcTemplate jdbc;
private final TransactionTemplate tx;
private final List<PurgeTarget> targets;
private final PurgeProperties props;
private final Clock clock;
public InactivePurgeService(JdbcTemplate jdbc, PlatformTransactionManager txManager,
List<PurgeTarget> targets, PurgeProperties props, Clock clock) {
this.jdbc = jdbc;
this.tx = new TransactionTemplate(txManager);
this.targets = targets;
this.props = props;
this.clock = clock;
}
public void purgeAll() {
Instant deadline = clock.instant().plus(props.maxDuration());
OffsetDateTime cutoff = OffsetDateTime.now(clock).minus(props.retention());
for (PurgeTarget target : targets) {
long total = 0;
int deleted;
do {
if (clock.instant().isAfter(deadline)) {
log.warn("Purge stopped at {} (time budget used up), {} rows so far", target.table(), total);
return; // lần sau làm tiếp, vì xoá theo điều kiện
}
deleted = tx.execute(status -> purgeBatch(target, cutoff));
total += deleted;
} while (deleted == props.batchSize());
log.info("Purged {} rows from {}", total, target.table());
}
}
private int purgeBatch(PurgeTarget t, OffsetDateTime cutoff) {
// Tên bảng lấy từ cấu hình nội bộ (không phải input người dùng) nên ghép chuỗi được
String sql = """
WITH batch AS (
SELECT id FROM %1$s
WHERE status = 'INACTIVE' AND updated_at < ?
ORDER BY id
LIMIT ?
FOR UPDATE SKIP LOCKED
),
archived AS (
INSERT INTO %2$s
SELECT src.*, now() FROM %1$s src JOIN batch b ON b.id = src.id
RETURNING id
)
DELETE FROM %1$s src USING archived a WHERE src.id = a.id
""".formatted(t.table(), t.archiveTable());
return jdbc.update(sql, cutoff, props.batchSize());
}
}
Job chỉ làm nhiệm vụ lên lịch và giành lock:
@Component
@Slf4j
class InactivePurgeJob {
private final InactivePurgeService service;
InactivePurgeJob(InactivePurgeService service) {
this.service = service;
}
@Scheduled(cron = "${jobs.purge-inactive.cron}", zone = "${jobs.purge-inactive.zone}")
@SchedulerLock(name = "purge-inactive", lockAtMostFor = "PT3H", lockAtLeastFor = "PT1M")
void run() {
long start = System.nanoTime();
log.info("purge-inactive started");
try {
service.purgeAll();
log.info("purge-inactive finished in {} ms", (System.nanoTime() - start) / 1_000_000);
} catch (RuntimeException e) {
log.error("purge-inactive failed", e); // + metric/alert
throw e;
}
}
}
Test gợi ý:
- Dùng Testcontainers PostgreSQL; chèn dòng
ACTIVE,INACTIVEmới,INACTIVEcũ; injectClockcố định. - Chạy
purgeAll()vớibatchSize = 2; kiểm tra chỉ dòngINACTIVEcũ biến mất khỏi bảng chính và có mặt trong bảng archive. - Chạy lần hai, kiểm tra không có gì thay đổi.
Ghi nhớ
- Giải thích được vì sao một câu
DELETEhàng triệu dòng làm hại cả database (lock, WAL/binlog, replica, rollback). - Viết được vòng lặp xoá theo batch và nêu được bốn điểm cần nghĩ: index, kích thước batch, khoá ngoại, giới hạn thời gian.
- Biết vì sao archive và xoá phải cùng transaction, và phải làm gì khi backup ra object storage.
- Biết khi nào
DROP PARTITIONthay được xoá theo batch và khi nào không. - Giải thích được dead man’s switch và vì sao job hàng đêm an toàn hơn job mỗi năm một lần.
Câu hỏi phỏng vấn
Junior
Soft delete và hard delete khác nhau thế nào? Vì sao vẫn cần job xoá cứng?
Soft delete chỉ đánh dấu dòng, hard delete xoá hẳn dòng. Chỉ soft delete thì bảng phình mãi, nên cần job định kỳ archive rồi xoá cứng dòng quá thời hạn lưu giữ.
- Soft delete (
status = 'INACTIVE'hoặcdeleted_at): dữ liệu vẫn nằm trong bảng, khôi phục được, giữ được lịch sử và khoá ngoại không gãy. - Cái giá nếu không dọn: index to, query và backup chậm dần, có khi vi phạm quy định về dữ liệu cá nhân.
Mid
Vì sao archive và xoá nên nằm trong cùng một transaction?
Để không bao giờ có trạng thái nửa vời: hoặc cả archive và xoá cùng xảy ra, hoặc không gì cả.
- Archive xong rồi xoá trong transaction khác: job chết ở giữa để lại dòng ở cả hai bảng (chạy lại thì archive trùng).
- Xoá trước rồi archive lỗi: mất dữ liệu.
- Cùng transaction: ví dụ một câu lệnh với data-modifying CTE trên PostgreSQL.
- Backup ra object storage thì không atomic được: phải xác nhận file ghi xong và số dòng khớp rồi mới xoá.
FOR UPDATE SKIP LOCKED giúp gì trong job xoá theo batch?
FOR UPDATE khoá các dòng vừa chọn để không ai sửa chúng giữa lúc archive và xoá; SKIP LOCKED bỏ qua dòng đang bị transaction khác khoá thay vì đứng chờ.
- Job không bị kẹt sau một giao dịch của người dùng.
- Nếu lỡ có hai lần chạy song song, mỗi lần lấy một nhóm dòng khác nhau thay vì tranh nhau.
- Có trên PostgreSQL 9.5+ và MySQL 8.0+.
Bạn chọn kích thước batch cho job xoá như thế nào?
Bắt đầu khoảng 500–5000 dòng tuỳ độ rộng dòng và số index, rồi đo và chỉnh.
- Mục tiêu: mỗi batch commit trong dưới một vài giây, giữ lock ngắn, replication lag không tăng, WAL/binlog không dồn.
- Batch quá nhỏ: tổng thời gian dài vì chi phí mỗi transaction. Quá lớn: quay lại đúng vấn đề của một câu DELETE khổng lồ.
- Thêm nghỉ ngắn giữa các batch và giới hạn tổng thời gian chạy.
Senior
Bạn sẽ xoá 50 triệu dòng cũ khỏi một bảng production đang chạy như thế nào?
Không dùng một câu DELETE: xoá theo batch nhỏ, mỗi batch một transaction ngắn, archive trước khi xoá trong cùng transaction.
- Có index cho điều kiện lọc.
- Nghỉ giữa các batch, theo dõi replication lag.
- Chạy giờ thấp điểm với giới hạn thời gian.
- Về lâu dài, partition theo thời gian để dọn bằng DROP PARTITION.
Làm sao biết một cron job đã âm thầm ngừng chạy?
Dùng dead man’s switch: alert khi lần chạy thành công gần nhất quá cũ. Log và alert theo lỗi không đủ, vì job không chạy thì không sinh ra lỗi nào.
- Mỗi lần chạy thành công thì ghi metric
job_last_success_timestamp(hoặc ping một dịch vụ heartbeat). - Alert khi giá trị đó cũ hơn chu kỳ cộng biên an toàn (job hàng ngày thì 25 giờ).
- Kèm metric số dòng đã xử lý và thời gian chạy để thấy job chạy nhưng không làm gì.
Từ vựng tiếng Anh
| Term | Phát âm | Nghĩa | Ví dụ câu trong phỏng vấn |
|---|---|---|---|
| soft delete / hard delete | /sɒft dɪˈliːt/ | xoá mềm / xoá cứng | “We soft delete first and hard delete after six months.” |
| purge | /pɜːrdʒ/ | dọn sạch, xoá hẳn | “A nightly job purges inactive rows older than six months.” |
| archive | /ˈɑːrkaɪv/ | lưu trữ | “Rows are archived in the same transaction before they’re deleted.” |
| batch | /bætʃ/ | lô | “Deleting in small batches keeps transactions short.” |
| replication lag | /ˌrɛplɪˈkeɪʃən læɡ/ | độ trễ bản sao | “A huge delete can cause replication lag on read replicas.” |
| retention | /rɪˈtɛnʃən/ | thời hạn lưu giữ | “Our retention policy keeps archived data for two years.” |
| off-peak hours | /ɒf piːk/ | giờ thấp điểm | “Heavy cleanup runs during off-peak hours.” |
| dead man’s switch | /dɛd mænz swɪtʃ/ | cảnh báo khi không có tín hiệu | “We alert if the job hasn’t reported success in 25 hours.” |
| time budget | /taɪm ˈbʌdʒɪt/ | giới hạn thời gian chạy | “The job stops when its time budget runs out and resumes next time.” |
Ghi chép dựa trên khoá Fundamentals of Backend (Ronin Engineer), viết lại theo cách hiểu của mình.