您可以透過符合下列條件的任何服務,將 Firebase Genkit 流程部署為網路服務 託管 Go 二進位檔 這個網頁會舉例說明 預設取樣流程,並指出您必須在何處採用特定供應商的情況 動作。
為 Genkit 範例專案建立目錄:
mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project
如果您要使用 IDE,請將其開啟至這個目錄。
在專案目錄中初始化 Go 模組:
go mod init example/cloudrun
在專案中初始化 Genkit:
genkit init
選取要使用的模型供應商。
接受其餘提示的預設值。
genkit
工具會建立 範例來源檔案,協助您開始開發自己的 AI 流程。 但在本教學課程的其餘部分,您將直接部署範例流程。請編輯範例檔案 (
main.go
或genkit.go
) 來明確指定 流量伺服器應監聽的通訊埠:if err := genkit.Init(ctx, &genkit.Options{FlowAddr: ":3400"}, // Add this parameter. ); err != nil { log.Fatal(err) }
如果供應商要求你監聽特定的連接埠,請務必 據此設定 Genkit
採用某種形式的驗證和授權來限制存取 您打算部署的流程
大部分的生成式 AI 服務採用計量付費,因此您可能不想 允許對呼叫這些端點的任何端點開放存取。部分代管服務 並提供驗證層做為部署在這些應用程式的前端。 以達到此目的
將 API 憑證提供給您部署的函式。執行下列任一操作: 視您選擇的模型供應商而定:
Gemini (Google AI)
Google AI 就是 僅適用於您所在的地區。
產生 API 金鑰: 或 Google AI Studio 建立 Gemini API
在已部署的環境中提供 API 金鑰。
大多數應用程式主機提供部分系統,用於安全處理密鑰,例如 視為 API 金鑰這些密鑰通常在應用程式的 形式的環境變數如果您可以指派 API 金鑰給
GOOGLE_GENAI_API_KEY
變數,Genkit 會自動使用。 否則,您必須修改googleai.Init()
呼叫,才能明確指定 設定鍵(但請勿將金鑰直接嵌入程式碼中!使用密鑰 代管服務供應商提供的管理設施)。
Gemini (Vertex AI)
在 Cloud 控制台中 啟用 Vertex AI API 。
在 IAM 頁面中 頁面,請建立用來存取 Vertex AI API 的服務帳戶 (如有) 也沒關係
授予帳戶「Vertex AI 使用者」角色。
設定應用程式預設憑證 託管於託管環境
使用您的 Google Cloud 專案 ID 和 Vertex 設定外掛程式 您要使用的 AI API 位置方法之一就是設定 在您的 Deployment 中,
GCLOUD_PROJECT
和GCLOUD_LOCATION
環境變數 託管環境,或在vertexai.Init()
呼叫中呼叫。
在這個教學課程中,您只需要為模型設定密鑰 但整體而言,您必須為每個服務進行類似的操作 以及流程使用的容器
選用:請在開發人員 UI 中試用您的流程:
為您選擇的模型供應商設定本機環境:
Gemini (Google AI)
export GOOGLE_GENAI_API_KEY=<your API key>
Gemini (Vertex AI)
export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login
啟動使用者介面:
genkit start
在開發人員使用者介面 (http://localhost:4000/) 中,執行流程:
按一下「menusuggestionFlow」。
在「Input JSON」(輸入 JSON) 分頁中,提供模型的主旨:
"banana"
按一下「執行」。
如果一切運作正常,則可建構及部署 流程。