Quản lý hoạt động giữ lại dữ liệu bằng các chính sách TTL

Trang này mô tả cách sử dụng bảng điều khiển Google Cloud và Google Cloud CLI để định cấu hình chính sách thời gian tồn tại (TTL). Trước khi đọc trang này, bạn nên tìm hiểu về mô hình dữ liệu Cloud Firestore.

Tổng quan về thời gian tồn tại

Sử dụng chính sách TTL để tự động xoá dữ liệu cũ khỏi cơ sở dữ liệu. Chính sách TTL chỉ định một trường nhất định làm thời gian hết hạn cho các tài liệu trong một nhóm tập hợp nhất định. Với TTL, bạn có thể giảm chi phí lưu trữ bằng cách dọn dẹp dữ liệu lỗi thời. Dữ liệu thường bị xoá trong vòng 24 giờ sau ngày hết hạn.

Giá

Các thao tác xoá TTL được tính vào chi phí xoá tài liệu của bạn. Để biết giá của các thao tác xoá, hãy xem giá Cloud Firestore.

Giới hạn và ràng buộc

  • Bạn chỉ có thể đánh dấu một trường cho mỗi nhóm tập hợp làm trường TTL.
  • Bạn được phép có tối đa 500 cấu hình ở cấp trường. Một cấu hình trường có thể chứa nhiều cấu hình cho cùng một trường. Ví dụ: một trường được miễn lập chỉ mục và một chính sách TTL trên cùng một số lượng trường được tính là một cấu hình trường trong hạn mức.
  • Đối với khách hàng sử dụng Firestore ở chế độ Datastore, bạn không thể dùng TTL với chế độ đồng thời là Optimistic With Entity Groups (Đồng thời với nhóm thực thể). Hãy cân nhắc thay đổi chế độ đồng thời thành Chế độ đồng thời lạc quan.

Xoá TTL

Hãy lưu ý những hành vi chính sau đây của việc xoá dựa trên TTL:

  • Việc xoá thông qua TTL không phải là một quy trình diễn ra ngay lập tức. Các chứng từ đã hết hạn vẫn xuất hiện trong các truy vấn và yêu cầu tra cứu cho đến khi quy trình TTL thực sự xoá các chứng từ đó. Tính kịp thời của việc xoá giao dịch TTL để giảm tổng chi phí sở hữu cho việc xoá. Dữ liệu thường bị xoá trong vòng 24 giờ sau ngày hết hạn.

  • Khi bạn xoá một tài liệu thông qua TTL, các tập hợp con trong tài liệu đó sẽ không bị xoá.

  • Việc áp dụng chính sách TTL cho một nhóm tập hợp hiện có sẽ dẫn đến việc xoá hàng loạt tất cả dữ liệu đã hết hạn theo chính sách TTL mới. Xin lưu ý rằng việc xoá hàng loạt này cũng không diễn ra ngay lập tức và tuỳ thuộc vào lượng dữ liệu hiện có cho nhóm tập hợp đó.

  • Nếu một tài liệu có thời gian hết hạn trong quá khứ và bạn thêm một chính sách TTL mới vào bộ sưu tập, thì tài liệu đó sẽ bị xoá trong vòng 24 giờ kể từ khi chính sách TTL hoàn tất quá trình thiết lập và bắt đầu hoạt động.

  • TTL không nhất thiết phải xoá các tài liệu theo cùng thứ tự với dấu thời gian hết hạn của chúng.

  • Việc xoá không được thực hiện theo cách giao dịch. Các tài liệu có cùng thời gian hết hạn không nhất thiết phải bị xoá cùng một lúc. Nếu bạn cần hành vi này, hãy thực hiện việc xoá bằng thư viện ứng dụng.

  • Cloud Firestore sẽ luôn tuân theo trường TTL mới nhất để xác định thời gian hết hạn. Ví dụ: nếu một tài liệu đã hết hạn nhưng chưa bị xoá có trường TTL được cập nhật thành một ngày muộn hơn, thì tài liệu đó sẽ không hết hạn và ngày mới sẽ được sử dụng.

  • Cloud Firestore chỉ hết hạn một tài liệu khi trường TTL được đặt thành loại Date and time. Nếu bạn không điền vào trường này hoặc đặt thành một giá trị như null, thì bạn có thể tắt thời gian hết hạn theo từng tài liệu.

  • TTL được thiết kế để giảm thiểu tác động đến các hoạt động khác trên cơ sở dữ liệu. Các thao tác xoá do TTL điều khiển sẽ được xử lý với mức độ ưu tiên thấp hơn. Các chiến lược khác cũng được áp dụng để giảm thiểu các đợt tăng đột biến lưu lượng truy cập do các thao tác xoá dựa trên TTL gây ra.

  • Việc xoá thông qua TTL sẽ gọi tất cả trình nghe ảnh chụp nhanh đang hoạt động và kích hoạt các trình kích hoạt Cloud Functions Cloud Firestore.

Trường và chỉ mục TTL

Bạn có thể lập chỉ mục hoặc không lập chỉ mục cho trường TTL. Tuy nhiên, vì trường TTL là một dấu thời gian, nên việc lập chỉ mục trường này có thể ảnh hưởng đến hiệu suất ở tốc độ lưu lượng truy cập cao hơn. Việc lập chỉ mục một trường dấu thời gian có thể tạo ra các điểm nóng, điều này không phù hợp với các phương pháp hay nhất. Điểm truy cập là tốc độ đọc, ghi và xoá cao đối với một phạm vi tài liệu hẹp.

Theo mặc định, Cloud Firestore sẽ tạo một chỉ mục có một trường cho tất cả các trường. Bạn có thể tạo một quy tắc miễn trừ chỉ mục một trường để tắt chỉ mục trên một trường TTL.

Quyền

Chủ thể định cấu hình chính sách TTL cần có quyền sau trong dự án:

  • Để xem các chính sách TTL, bạn cần có quyền datastore.indexes.list và datastore.indexes.get.
  • Để sửa đổi chính sách TTL, bạn cần có quyền datastore.indexes.update.
  • Để kiểm tra trạng thái của các thao tác TTL, bạn cần có datastore.operations.list và datastore.operations.get.

Để biết các vai trò chỉ định những quyền này, hãy xem phần Cloud Firestore Vai trò quản lý danh tính và quyền truy cập.

Trước khi bắt đầu

Trước khi sử dụng gcloud CLI để quản lý các chính sách TTL, hãy sử dụng lệnh gcloud components update để cập nhật các thành phần lên phiên bản mới nhất hiện có:

gcloud components update

Tạo chính sách TTL

Khi tạo chính sách TTL, bạn chỉ định một trường tài liệu làm thời gian hết hạn cho các tài liệu trong một nhóm tập hợp.

TTL sử dụng một trường được chỉ định để xác định những tài liệu đủ điều kiện xoá. Trường TTL này phải thuộc loại Date and time. Bạn có thể chọn một trường đã tồn tại hoặc chỉ định một trường mà bạn dự định thêm sau này.

Hãy cân nhắc những điều sau trước khi bạn đặt giá trị trường TTL:

  • Giá trị trường TTL có thể là thời gian trong tương lai, hiện tại hoặc quá khứ. Nếu giá trị là thời gian trong quá khứ, thì tài liệu sẽ đủ điều kiện bị xoá ngay lập tức. Ví dụ: bạn có thể tạo một chính sách TTL bằng trường expireAt, sau đó thêm chính sách này vào các tài liệu hiện có.

  • Việc sử dụng bất kỳ kiểu dữ liệu nào khác hoặc không đặt giá trị trường TTL sẽ tắt TTL cho từng tài liệu.

Để tạo một chính sách TTL, hãy làm theo các bước sau:

Bảng điều khiển Google Cloud

  1. Trong bảng điều khiển Google Cloud, hãy chuyển đến trang Cơ sở dữ liệu.

    Chuyển đến phần Cơ sở dữ liệu

  2. Chọn cơ sở dữ liệu cần thiết trong danh sách cơ sở dữ liệu.

  3. Trong trình đơn điều hướng, hãy nhấp vào Thời gian tồn tại.

  4. Nhấp vào Tạo chính sách.

  5. Nhập tên nhóm bộ sưu tập và tên trường dấu thời gian.

  6. Nhấp vào Tạo.

Bảng điều khiển sẽ quay lại trang Thời gian tồn tại. Nếu thao tác bắt đầu thành công, trang sẽ thêm một mục vào bảng chính sách TTL. Khi thất bại, trang sẽ hiển thị một thông báo lỗi.

gcloud

Sử dụng lệnh firestore fields ttls update để định cấu hình chính sách TTL. Thêm cờ --async để ngăn giao diện dòng lệnh gcloud chờ thao tác hoàn tất.

 gcloud firestore fields ttls update
  ttl_field --collection-group=collection_group_name
  --enable-ttl

Thời lượng bật chính sách TTL

Ngay cả trên một cơ sở dữ liệu trống, bạn cũng có thể mất từ 10 phút trở lên để bật chính sách TTL. Sau khi bạn bắt đầu một thao tác, việc đóng thiết bị đầu cuối sẽ không huỷ thao tác đó.

Xem chính sách TTL

Để xem các chính sách TTL và trạng thái của chúng, hãy làm theo các bước sau:

Bảng điều khiển Google Cloud

  1. Trong bảng điều khiển Google Cloud, hãy chuyển đến trang Cơ sở dữ liệu.

    Chuyển đến phần Cơ sở dữ liệu

  2. Chọn cơ sở dữ liệu cần thiết trong danh sách cơ sở dữ liệu.

  3. Trong trình đơn điều hướng, hãy nhấp vào Thời gian tồn tại.

Bảng điều khiển liệt kê các chính sách TTL cho cơ sở dữ liệu của bạn và bao gồm trạng thái của từng chính sách.

gcloud

Sử dụng lệnh firestore fields ttls list để định cấu hình chính sách TTL. Lệnh sau đây liệt kê tất cả các chính sách TTL.

   gcloud firestore fields ttls list

Để liệt kê các chính sách TTL trong một nhóm bộ sưu tập cụ thể, hãy sử dụng lệnh sau:

   gcloud firestore fields ttls list  --collection-group=collection_group_name

Xem thông tin chi tiết về thao tác

Bạn có thể sử dụng gcloud CLI để xem thêm thông tin chi tiết về một chính sách TTL đang ở trạng thái CREATING.

Sử dụng lệnh operations list để xem tất cả các thao tác đang chạy và đã hoàn tất gần đây:

gcloud firestore operations list

Phản hồi bao gồm thông tin ước tính về tiến trình của thao tác.

Tắt chính sách TTL

Để tắt chính sách TTL, hãy làm theo các bước sau:

Bảng điều khiển Google Cloud

  1. Trong bảng điều khiển Google Cloud, hãy chuyển đến trang Cơ sở dữ liệu.

    Chuyển đến phần Cơ sở dữ liệu

  2. Chọn cơ sở dữ liệu cần thiết trong danh sách cơ sở dữ liệu.

  3. Trong trình đơn điều hướng, hãy nhấp vào Thời gian tồn tại.

  4. Trong bảng chính sách TTL, hãy tìm hàng cho chính sách TTL. Trong hàng này của bảng, hãy nhấp vào nút Xoá (thùng rác).

  5. Xác nhận bằng cách nhấp vào Xoá.

Bảng điều khiển sẽ quay lại trang Thời gian tồn tại. Khi thành công, Cloud Firestore sẽ xoá chính sách TTL khỏi bảng.

gcloud

1. Sử dụng lệnh firestore fields ttls update để định cấu hình chính sách TTL. Thêm cờ --async để ngăn giao diện dòng lệnh gcloud chờ thao tác hoàn tất.

   gcloud firestore fields ttls update ttl_field --collection-group=collection_group_name --disable-ttl

Theo dõi việc xoá TTL

Bạn có thể sử dụng Cloud Monitoring để xem các chỉ số về việc xoá dựa trên TTL. Cloud Firestore cung cấp các chỉ số sau cho TTL:

Loại chỉ số Tên chỉ số Nội dung mô tả chỉ số
firestore.googleapis.com/document/ttl_deletion_count Số lượng xoá theo thời gian tồn tại

Tổng số tài liệu bị xoá theo chính sách TTL.
firestore.googleapis.com/document/ttl_expiration_to_deletion_delays Độ trễ từ khi hết thời gian tồn tại đến khi xoá

Khoảng thời gian trôi qua giữa thời điểm một tài liệu hết hạn theo chính sách TTL và thời điểm tài liệu đó thực sự bị xoá.

Để thiết lập trang tổng quan có chỉ số Cloud Firestore, hãy xem phần quản lý trang tổng quan tuỳ chỉnh và thêm tiện ích trang tổng quan.