Trình bổ trợ ghi nhật ký và đo từ xa của Google Cloud

Trình bổ trợ Google Cloud sẽ xuất dữ liệu đo từ xa và nhật ký của Firebase Genkit sang Bộ công cụ vận hành của Google Cloud.

Điều kiện tiên quyết

Nếu muốn chạy cục bộ các luồng sử dụng trình bổ trợ này, bạn cần có Đã cài đặt công cụ Google Cloud CLI.

Thiết lập tài khoản Google Cloud

Trình bổ trợ này yêu cầu bạn phải có tài khoản Google Cloud (đăng ký nếu bạn chưa có tài khoản) và một dự án Google Cloud.

Trước khi thêm trình bổ trợ, hãy nhớ bật các API sau cho dự án của bạn:

Các API này phải được liệt kê trong trang tổng quan API cho dự án của bạn.

Nhấp vào đây để tìm hiểu thêm về cách bật và tắt API.

Cấu hình

Để cho phép xuất sang tính năng Theo dõi, Ghi nhật ký và Giám sát của Google Cloud, hãy nhập Gói googlecloud và chạy Init(). Sau khi gọi Init(), dữ liệu đo từ xa của bạn sẽ được tự động xuất.

import "github.com/firebase/genkit/go/plugins/googlecloud"

if err := googlecloud.Init(
	ctx,
	googlecloud.Config{ProjectID: "your-google-cloud-project"},
); err != nil {
	return err
}

Bạn phải chỉ định dự án trên Google Cloud mà bạn muốn xuất dữ liệu đo từ xa . Ngoài ra còn có một số tham số không bắt buộc:

  • ForceExport: Xuất dữ liệu đo từ xa ngay cả khi chạy trong môi trường nhà phát triển (chẳng hạn như khi sử dụng genkit start hoặc genkit flow:run). Đây là một cách nhanh chóng để kiểm tra tính tích hợp và gửi các sự kiện đầu tiên để theo dõi trong Google Đám mây.

    Nếu sử dụng lựa chọn này, bạn cũng cần cung cấp thông tin đăng nhập Cloud của mình cục bộ:

    gcloud auth application-default login

  • MetricInterval: Khoảng thời gian (tính bằng nano giây) để xuất dữ liệu đo từ xa của bạn. Theo mặc định, thời lượng này là 60 giây (60e9 nano giây).

  • LogLevel: Mức độ nghiêm trọng tối thiểu của các mục nhập nhật ký cần xuất. Theo mặc định, slog.LevelInfo.

Trình bổ trợ này yêu cầu thông tin đăng nhập cho dự án Google Cloud của bạn. Nếu bạn đang chạy luồng dữ liệu của bạn từ một môi trường Google Cloud (Cloud Run, v.v.), thông tin đăng nhập là đặt tự động. Cần thiết lập để chạy trong các môi trường khác Thông tin đăng nhập mặc định của ứng dụng.

Giám sát hoạt động sản xuất thông qua bộ công cụ vận hành của Google Cloud

Sau khi quy trình được triển khai, hãy chuyển đến Bộ công cụ vận hành của Google Cloud rồi chọn dự án của bạn.

Nhật ký và dấu vết

Trong trình đơn bên, hãy tìm phần "Ghi nhật ký" rồi nhấp vào "Trình khám phá nhật ký".

Bạn sẽ thấy mọi nhật ký được liên kết với quy trình đã triển khai, bao gồm cả console.log(). Mọi nhật ký có tiền tố [genkit] đều là nhật ký nội bộ của Genkit chứa thông tin có thể thú vị cho mục đích gỡ lỗi. Ví dụ: nhật ký Genkit ở định dạng Config[...] chứa siêu dữ liệu như nhiệt độ và giá trị topK để suy luận các mô hình ngôn ngữ lớn (LLM) cụ thể. Nhật ký ở định dạng Output[...] chứa phản hồi của mô hình ngôn ngữ lớn (LLM), còn nhật ký Input[...] chứa các câu lệnh. Tính năng Ghi nhật ký trên đám mây có các Danh sách kiểm soát quyền truy cập (ACL) mạnh mẽ cho phép kiểm soát chi tiết các nhật ký nhạy cảm.

Đối với các dòng nhật ký cụ thể, bạn có thể chuyển đến các dấu vết tương ứng bằng cách nhấp vào biểu tượng trình đơn mở rộng rồi chọn "Xem trong thông tin chi tiết về dấu vết".

Thao tác này sẽ mở ra một ngăn xem trước dấu vết để xem nhanh thông tin chi tiết về dấu vết đó. Để xem toàn bộ thông tin chi tiết, hãy nhấp vào nút "Xem trong theo dõi" ở trên cùng bên phải ngăn.

Phần tử điều hướng nổi bật nhất trong Cloud Trace là biểu đồ tán xạ theo dõi. Tệp này chứa tất cả dấu vết đã thu thập trong một khoảng thời gian nhất định.

Nhấp vào từng điểm dữ liệu sẽ hiển thị thông tin chi tiết về điểm dữ liệu đó bên dưới biểu đồ tán xạ.

Chế độ xem chi tiết chứa hình dạng luồng, bao gồm tất cả các bước và thông tin quan trọng về thời gian. Cloud Trace có thể kết hợp mọi nhật ký liên kết với một dấu vết nhất định trong chế độ xem này. Chọn hộp "Hiển thị mục đã mở rộng" trong mục "Nhật ký & sự kiện" trình đơn thả xuống.

Chế độ xem kết quả cho phép kiểm tra chi tiết nhật ký trong bối cảnh theo dõi, bao gồm cả câu lệnh và phản hồi của mô hình ngôn ngữ lớn (LLM).

Chỉ số

Xem tất cả các chỉ số có thể thực hiện bằng cách chọn "Ghi nhật ký" của Genkit trong trình đơn bên, rồi nhấp vào "Quản lý chỉ số".

Bảng điều khiển quản lý chỉ số chứa chế độ xem dạng bảng về tất cả các chỉ số được thu thập, bao gồm cả những chỉ số liên quan đến Cloud Run và môi trường xung quanh. Nhấp vào 'Khối lượng công việc' sẽ hiển thị một danh sách bao gồm các chỉ số do Genkit thu thập. Mọi chỉ số có tiền tố genkit đều cấu thành chỉ số Genkit nội bộ.

Genkit thu thập một số loại chỉ số, bao gồm chỉ số ở cấp luồng, cấp hành động và cấp tạo. Mỗi chỉ số có một vài phương diện hữu ích hỗ trợ cho việc lọc và nhóm hiệu quả.

Các phương diện phổ biến bao gồm:

  • flow_name – tên cấp cao nhất của luồng.
  • flow_path – span và chuỗi span gốc của nó lên đến span gốc.
  • error_code – mã lỗi tương ứng trong trường hợp xảy ra lỗi.
  • error_message – trong trường hợp xảy ra lỗi, sẽ hiển thị thông báo lỗi tương ứng.
  • model – tên mô hình.
  • temperature – giá trị nhiệt độ suy luận.
  • topK – giá trị hàng đầu của suy luận.
  • topP – giá trị đỉnh suy luận.

Chỉ số ở cấp luồng

Tên Kích thước
genkit/flow/requests flow_name, error_code, error_message
genkit/flow/Latency tên_luồng

Chỉ số ở cấp hành động

Tên Kích thước
bộ tạo/hành động/yêu cầu flow_name, error_code, error_message
genkit/action/Latency tên_luồng

Chỉ số ở cấp độ tạo

Tên Kích thước
genkit/ai/generate flow_path, mô hình, nhiệt độ, topK, topP, error_code, error_message
genkit/ai/generate/input_tokens flow_path, mô hình, nhiệt độ, topK, topP
genkit/ai/generate/output_tokens flow_path, mô hình, nhiệt độ, topK, topP
genkit/ai/generate/input_characters flow_path, mô hình, nhiệt độ, topK, topP
genkit/ai/generate/output_characters flow_path, mô hình, nhiệt độ, topK, topP
genkit/ai/generate/input_images flow_path, mô hình, nhiệt độ, topK, topP
genkit/ai/generate/output_images flow_path, mô hình, nhiệt độ, topK, topP
genkit/ai/generate/Latency flow_path, mô hình, nhiệt độ, topK, topP, error_code, error_message

Bạn có thể trực quan hoá chỉ số thông qua Trình khám phá chỉ số. Sử dụng trình đơn bên, chọn "Logging" (Ghi nhật ký) rồi nhấp vào "Trình khám phá chỉ số"

Chọn chỉ số bằng cách nhấp vào nút "Chọn chỉ số" trình đơn thả xuống, chọn "Nút chung", "Genkit" và một chỉ số.

Hình ảnh của chỉ số sẽ phụ thuộc vào loại chỉ số đó (bộ đếm, biểu đồ, v.v.). Trình khám phá chỉ số cung cấp các phương tiện tổng hợp và truy vấn mạnh mẽ để giúp lập biểu đồ các chỉ số theo nhiều phương diện.

Độ trễ khi đo từ xa

Có thể có chút chậm trễ trước khi đo từ xa đối với một quá trình thực thi cụ thể của một luồng được hiển thị trong bộ vận hành của Cloud. Trong hầu hết trường hợp, thời gian trễ này là dưới 1 phút.

Hạn mức và giới hạn

Có một số hạn mức quan trọng cần ghi nhớ:

Chi phí

Cloud Logging, Cloud Trace và Cloud Monitoring có nhiều cấp miễn phí. Bạn có thể xem giá cụ thể tại các đường liên kết sau: