Bạn có thể triển khai quy trình Firebase Genkit dưới dạng dịch vụ web bằng bất kỳ dịch vụ nào có thể lưu trữ tệp nhị phân Go. Trang này làm ví dụ, hướng dẫn bạn qua quy trình chung của việc triển khai luồng mẫu mặc định và chỉ ra những trường hợp bạn phải lấy thông tin dành riêng cho nhà cung cấp hành động.
Tạo thư mục cho dự án mẫu Genkit:
mkdir -p ~/tmp/genkit-cloud-projectcd ~/tmp/genkit-cloud-projectNếu bạn định dùng một IDE, hãy mở IDE vào thư mục này.
Khởi chạy một mô-đun Go trong thư mục dự án:
go mod init example/cloudrunKhởi chạy Genkit trong dự án của bạn:
genkit initChọn nhà cung cấp mô hình bạn muốn sử dụng.
Chấp nhận chế độ mặc định cho các câu lệnh còn lại. Công cụ
genkitsẽ tạo tệp nguồn mẫu để giúp bạn bắt đầu phát triển các luồng AI của riêng mình. Tuy nhiên, trong phần còn lại của hướng dẫn này, bạn sẽ chỉ triển khai luồng mẫu.Chỉnh sửa tệp mẫu (
main.gohoặcgenkit.go) để chỉ định rõ cổng mà máy chủ luồng sẽ theo dõi:if err := genkit.Init(ctx, &genkit.Options{FlowAddr: ":3400"}, // Add this parameter. ); err != nil { log.Fatal(err) }Nếu nhà cung cấp yêu cầu bạn phải nghe trên một cổng cụ thể, hãy nhớ định cấu hình Genkit cho phù hợp.
Triển khai một số hình thức xác thực và uỷ quyền để khoá quyền truy cập vào các quy trình mà bạn dự định triển khai.
Vì hầu hết các dịch vụ AI tạo sinh đều có đo lượng dữ liệu, nên rất có thể bạn sẽ không muốn để cho phép truy cập mở vào mọi điểm cuối gọi chúng. Một số dịch vụ lưu trữ cung cấp lớp xác thực dưới dạng giao diện người dùng cho các ứng dụng được triển khai trên đó, mà bạn có thể sử dụng cho mục đích này.
Cung cấp thông tin đăng nhập API cho chức năng bạn đã triển khai. Thực hiện một trong sau, tuỳ thuộc vào nhà cung cấp mô hình mà bạn đã chọn:
Gemini (AI của Google)
Đảm bảo AI của Google hoạt động ở khu vực của bạn.
Tạo khoá API cho Gemini API thông qua Google AI Studio.
Cung cấp khoá API trong môi trường đã triển khai.
Hầu hết các máy chủ lưu trữ ứng dụng đều cung cấp một số hệ thống để xử lý an toàn các bí mật như làm khoá API. Thông thường, những bí mật này có sẵn cho ứng dụng của bạn trong dạng biến môi trường. Nếu bạn có thể chỉ định khoá API cho Biến
GOOGLE_GENAI_API_KEY, Genkit sẽ tự động sử dụng biến đó. Nếu không, bạn cần sửa đổi lệnh gọigoogleai.Init()để đặt khoá. (Nhưng đừng nhúng trực tiếp khoá vào mã! Sử dụng mã bí mật do nhà cung cấp dịch vụ lưu trữ của bạn cung cấp).
Gemini (AI Vertex)
Trong bảng điều khiển Cloud, Bật Vertex AI API cho dự án của bạn.
Trên IAM hãy tạo một tài khoản dịch vụ để truy cập vào Vertex AI API nếu bạn không có.
Cấp cho tài khoản vai trò Người dùng Vertex AI.
Thiết lập thông tin đăng nhập mặc định của ứng dụng trong môi trường lưu trữ của bạn.
Định cấu hình trình bổ trợ bằng mã dự án trên Google Cloud và Vertex Vị trí API AI mà bạn muốn sử dụng. Bạn cũng có thể làm như vậy bằng cách đặt
GCLOUD_PROJECTvàGCLOUD_LOCATIONbiến môi trường trong môi trường lưu trữ hoặc trong lệnh gọivertexai.Init()của bạn.
Bí mật duy nhất bạn cần để thiết lập cho hướng dẫn này là về mô hình nhưng nhìn chung, bạn phải thực hiện điều tương tự cho từng dịch vụ mà flow của bạn sử dụng.
Không bắt buộc: Hãy thử quy trình của bạn trong giao diện người dùng dành cho nhà phát triển:
Thiết lập môi trường cục bộ cho nhà cung cấp mô hình mà bạn đã chọn:
Gemini (AI của Google)
export GOOGLE_GENAI_API_KEY=<your API key>Gemini (AI Vertex)
export GCLOUD_PROJECT=<your project ID>export GCLOUD_LOCATION=us-central1gcloud auth application-default loginKhởi động giao diện người dùng:
genkit startTrong giao diện người dùng dành cho nhà phát triển (http://localhost:4000/), hãy chạy flow:
Nhấp vào menusuggestedionFlow.
Trên thẻ Input JSON, hãy cung cấp một chủ thể cho mô hình:
"banana"Nhấp vào Run (Chạy).
Nếu cho đến thời điểm này mọi thứ hoạt động như mong đợi, bạn có thể xây dựng và triển khai bằng công cụ của nhà cung cấp.