Triển khai luồng đến nền tảng Node.js bất kỳ

Firebase Genkit có các công cụ tích hợp tích hợp giúp bạn triển khai luồng của mình đến Firebase Cloud Functions và Google Cloud Run. Tuy nhiên, bạn cũng có thể triển khai luồng đến bất kỳ nền tảng nào có thể phân phát ứng dụng Express.js, cho dù đó là dịch vụ đám mây hay dịch vụ tự lưu trữ.

Ví dụ: trang này sẽ hướng dẫn bạn thực hiện quy trình triển khai luồng mẫu mặc định.

  1. Cài đặt các công cụ cần thiết:

    • Đảm bảo bạn đang sử dụng nút phiên bản 20 trở lên (chạy node --version để kiểm tra).

  2. Tạo thư mục cho dự án mẫu Genkit:

    export GENKIT_PROJECT_HOME=~/tmp/genkit-express-project
mkdir -p $GENKIT_PROJECT_HOME
cd $GENKIT_PROJECT_HOME

    Nếu bạn định dùng IDE, hãy mở IDE đó vào thư mục này.

  3. Khởi chạy dự án nút:

    npm init -y

  4. Khởi động dự án Genkit:

    genkit init

    1. Chọn Node.js làm lựa chọn nền tảng triển khai (bạn cũng có thể sử dụng các mẫu cho Firebase Cloud Functions và Google Cloud Run).

    2. Chọn mô hình của bạn:

      Gemini (AI của Google)

      Cách đơn giản nhất để bắt đầu là sử dụng API Gemini của Google AI. Hãy đảm bảo ứng dụng đó có ở khu vực của bạn.

      Tạo khoá API cho APIGemini bằng Google AI Studio. Sau đó, hãy đặt biến môi trường GOOGLE_API_KEY thành khoá của bạn:

      export GOOGLE_API_KEY=<your API key>

      Gemini (Vertex AI)

      Nếu API Google AI Gemini không có ở khu vực của bạn, hãy cân nhắc sử dụng Vertex AI API, API này cũng cung cấp Gemini và các mô hình khác. Bạn sẽ cần có một dự án Google Cloud có hỗ trợ thanh toán, bật API Nền tảng AI và đặt thêm một số biến môi trường:

      gcloud services enable aiplatform.googleapis.com
export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1

      Truy cập https://cloud.google.com/vertex-ai/generative-ai/pricing để biết giá của Vertex AI.

    3. Chọn câu trả lời mặc định cho các câu hỏi còn lại. Việc này sẽ khởi động thư mục dự án của bạn bằng một số mã mẫu.

  5. Tạo và chạy mã mẫu:

    npm run build
genkit flow:run menuSuggestionFlow "\"banana\"" -s

  6. Không bắt buộc: Bắt đầu giao diện người dùng dành cho nhà phát triển:

    genkit start

    Sau đó, hãy chuyển đến http://localhost:4000/flows rồi chạy flow bằng giao diện người dùng dành cho nhà phát triển.

    Khi bạn hoàn tất, nhấn Ctrl+C trong bảng điều khiển để thoát khỏi giao diện người dùng.

  7. Dùng thử điểm cuối Express:

    npm run start

    Sau đó, trong một cửa sổ khác:

    curl -X POST "http://127.0.0.1:3400/menuSuggestionFlow?stream=true" -H "Content-Type: application/json"  -d '{"data": "banana"}'

  8. Nếu mọi thứ hoạt động như dự kiến, bạn có thể triển khai flow cho nhà cung cấp mà bạn chọn. Thông tin chi tiết sẽ phụ thuộc vào nhà cung cấp, nhưng nhìn chung, bạn cần định cấu hình các chế độ cài đặt sau:

    Chế độ cài đặt Giá trị
    Thời gian chạy Node.js 20 trở lên
    Lệnh dựng npm run build
    Bắt đầu lệnh npm run start
    Biến môi trường GOOGLE_API_KEY=<your-api-key> (hoặc bất kỳ khoá bí mật nào cần thiết)