Bạn có thể triển khai các luồng Firebase Genkit dưới dạng dịch vụ web bằng Cloud Run. Ví dụ: trang này sẽ hướng dẫn bạn thực hiện quy trình triển khai quy trình mẫu mặc định.
Cài đặt các công cụ cần thiết:
Đảm bảo bạn đang dùng Node.js phiên bản 20 trở lên (chạy
node --versionđể kiểm tra).Cài đặt Google Cloud CLI.
Tạo một dự án mới trên Google Cloud bằng bảng điều khiển Cloud hoặc chọn một dự án có sẵn. Bạn phải liên kết dự án với một tài khoản thanh toán.
Sau khi bạn tạo hoặc chọn một dự án, hãy định cấu hình Google Cloud CLI để sử dụng dự án đó:
gcloud initTạo thư mục cho dự án mẫu Genkit:
mkdir -p ~/tmp/genkit-cloud-projectcd ~/tmp/genkit-cloud-projectNếu bạn định dùng IDE, hãy mở IDE đó vào thư mục này.
Khởi động một dự án Node.js trong thư mục dự án của bạn:
npm init -yKhởi động Genkit trong dự án Node.js:
genkit init- Chọn Google Cloud làm nền tảng triển khai.
- Chọn nhà cung cấp mô hình mà bạn muốn sử dụng.
Chấp nhận giá trị mặc định cho các câu lệnh còn lại. Công cụ
genkitsẽ tạo một số tệp nguồn mẫu để giúp bạn bắt đầu phát triển quy trình AI của riêng mình. Tuy nhiên, trong phần còn lại của hướng dẫn này, bạn sẽ chỉ triển khai luồng mẫu.Cung cấp thông tin đăng nhập API cho hàm đã triển khai. Thực hiện một trong các thao tác sau, tuỳ thuộc vào nhà cung cấp mô hình mà bạn đã chọn:
Gemini (AI của Google)
Đảm bảo AI của Google có ở khu vực của bạn.
Tạo khoá API cho APIGemini bằng Google AI Studio.
Cung cấp khoá API trong môi trường Cloud Run:
- Trong bảng điều khiển Cloud, hãy bật Secret Manager API (API Trình quản lý bí mật).
- Trên trang Secret Manager (Trình quản lý bí mật), hãy tạo một khoá bí mật mới chứa khoá API của bạn.
- Sau khi bạn tạo khoá bí mật, trên cùng trang đó, hãy cấp quyền truy cập vào tài khoản dịch vụ điện toán mặc định của bạn cho khoá bí mật bằng vai trò Người truy cập bí mật của Trình quản lý bí mật. (Bạn có thể tra cứu tên của tài khoản dịch vụ điện toán mặc định trên trang IAM.)
Ở bước sau, khi triển khai dịch vụ, bạn sẽ cần tham chiếu tên của khoá bí mật này.
Không bắt buộc: Nếu bạn muốn chạy flow cục bộ, như trong bước tiếp theo, hãy đặt biến môi trường
GOOGLE_GENAI_API_KEYthành khoá của bạn:export GOOGLE_GENAI_API_KEY=<your API key>
Gemini (Vertex AI)
Trong bảng điều khiển Cloud, hãy Bật Vertex AI API cho dự án của bạn.
Trên trang IAM, hãy đảm bảo rằng Tài khoản dịch vụ điện toán mặc định đã được cấp vai trò Người dùng Vertex AI.
Không bắt buộc: Nếu bạn muốn chạy flow cục bộ, như trong bước tiếp theo, hãy thiết lập thêm một số biến môi trường và sử dụng công cụ
gcloudđể thiết lập thông tin xác thực mặc định của ứng dụng:export GCLOUD_PROJECT=<your project ID>export GCLOUD_LOCATION=us-central1gcloud auth application-default login
Khoá bí mật duy nhất bạn cần thiết lập cho hướng dẫn này là dành cho trình cung cấp mô hình, nhưng nhìn chung, bạn phải thực hiện thao tác tương tự cho từng dịch vụ mà luồng của bạn sử dụng.
Không bắt buộc: Thử quy trình của bạn trong giao diện người dùng dành cho nhà phát triển:
Khởi động giao diện người dùng:
genkit startTrong giao diện người dùng dành cho nhà phát triển (http://localhost:4000/), hãy chạy quy trình:
Nhấp vào menusuggestedionFlow.
Trên thẻ Đầu vào JSON, hãy cung cấp tiêu đề cho mô hình:
"banana"Nhấp vào Run (Chạy).
Nếu cho đến thời điểm này mọi thứ đã hoạt động như mong đợi, bạn có thể xây dựng và triển khai quy trình này:
Gemini (AI của Google)
npm run buildgcloud run deploy --update-secrets=GOOGLE_GENAI_API_KEY=<your-secret-name>:latestGemini (Vertex AI)
npm run buildgcloud run deployChọn
Nkhi được hỏi xem bạn có muốn cho phép các lệnh gọi chưa được xác thực hay không. Việc trả lờiNsẽ định cấu hình dịch vụ của bạn để yêu cầu thông tin xác thực IAM. Hãy xem phần Xác thực trong tài liệu về Cloud Run để biết thông tin về cách cung cấp những thông tin đăng nhập này.
Sau khi triển khai xong, công cụ này sẽ in URL dịch vụ. Bạn có thể kiểm thử bằng curl:
curl -X POST https://<service-url>/menuSuggestionFlow \
-H "Authorization: Bearer $(gcloud auth print-identity-token)" \
-H "Content-Type: application/json" -d '{"data": "banana"}'