將流程部署至任何應用程式代管平台

您可以透過符合下列條件的任何服務,將 Firebase Genkit 流程部署為網路服務 託管 Go 二進位檔 這個網頁會舉例說明 預設取樣流程,並指出您必須在何處採用特定供應商的情況 動作。

  1. 為 Genkit 範例專案建立目錄:

    mkdir -p ~/tmp/genkit-cloud-project
    cd ~/tmp/genkit-cloud-project
    

    如果您要使用 IDE,請將其開啟至這個目錄。

  2. 在專案目錄中初始化 Go 模組:

    go mod init example/cloudrun
    
  3. 在專案中初始化 Genkit:

    genkit init
    

    選取要使用的模型供應商。

    接受其餘提示的預設值。genkit 工具會建立 範例來源檔案,協助您開始開發自己的 AI 流程。 但在本教學課程的其餘部分,您將直接部署範例流程。

  4. 請編輯範例檔案 (main.gogenkit.go) 來明確指定 流量伺服器應監聽的通訊埠:

    if err := genkit.Init(ctx,
    	&genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
    ); err != nil {
    	log.Fatal(err)
    }
    

    如果供應商要求你監聽特定的連接埠,請務必 據此設定 Genkit

  5. 採用某種形式的驗證和授權來限制存取 您打算部署的流程

    大部分的生成式 AI 服務採用計量付費,因此您可能不想 允許對呼叫這些端點的任何端點開放存取。部分代管服務 並提供驗證層做為部署在這些應用程式的前端。 以達到此目的

  6. 將 API 憑證提供給您部署的函式。執行下列任一操作: 視您選擇的模型供應商而定:

    Gemini (Google AI)

    1. Google AI 就是 僅適用於您所在的地區

    2. 產生 API 金鑰: 或 Google AI Studio 建立 Gemini API

    3. 在已部署的環境中提供 API 金鑰。

      大多數應用程式主機提供部分系統,用於安全處理密鑰,例如 視為 API 金鑰這些密鑰通常在應用程式的 形式的環境變數如果您可以指派 API 金鑰給 GOOGLE_GENAI_API_KEY 變數,Genkit 會自動使用。 否則,您必須修改 googleai.Init() 呼叫,才能明確指定 設定鍵(但請勿將金鑰直接嵌入程式碼中!使用密鑰 代管服務供應商提供的管理設施)。

    Gemini (Vertex AI)

    1. 在 Cloud 控制台中 啟用 Vertex AI API

    2. IAM 頁面中 頁面,請建立用來存取 Vertex AI API 的服務帳戶 (如有) 也沒關係

      授予帳戶「Vertex AI 使用者」角色。

    3. 設定應用程式預設憑證 託管於託管環境

    4. 使用您的 Google Cloud 專案 ID 和 Vertex 設定外掛程式 您要使用的 AI API 位置方法之一就是設定 在您的 Deployment 中,GCLOUD_PROJECTGCLOUD_LOCATION 環境變數 託管環境,或在 vertexai.Init() 呼叫中呼叫。

    在這個教學課程中,您只需要為模型設定密鑰 但整體而言,您必須為每個服務進行類似的操作 以及流程使用的容器

  7. 選用:請在開發人員 UI 中試用您的流程:

    1. 為您選擇的模型供應商設定本機環境:

      Gemini (Google AI)

      export GOOGLE_GENAI_API_KEY=<your API key>
      

      Gemini (Vertex AI)

      export GCLOUD_PROJECT=<your project ID>
      export GCLOUD_LOCATION=us-central1
      gcloud auth application-default login
      
    2. 啟動使用者介面:

      genkit start
      
    3. 在開發人員使用者介面 (http://localhost:4000/) 中,執行流程:

      1. 按一下「menusuggestionFlow」

      2. 在「Input JSON」(輸入 JSON) 分頁中,提供模型的主旨:

        "banana"
        
      3. 按一下「執行」

  8. 如果一切運作正常,則可建構及部署 流程。