Firebase Genkit com Cloud Run

É possível implantar fluxos do Firebase Genkit como serviços da Web usando o Cloud Run. Esta página, como exemplo, orienta você no processo de implantação do fluxo de amostra padrão.

  1. Instale a CLI do Google Cloud, caso ainda não tenha feito isso.

  2. Crie um novo projeto do Google Cloud usando o console do Cloud ou escolha um atual. O projeto precisa estar vinculado a uma conta de faturamento.

    Depois de criar ou escolher um projeto, configure a CLI do Google Cloud para usar ele:

    gcloud auth login
gcloud init

  3. Crie um diretório para o projeto de amostra do Genkit:

    mkdir -p ~/tmp/genkit-cloud-project
cd ~/tmp/genkit-cloud-project

    Se você for usar um ambiente de desenvolvimento integrado, abra-o nesse diretório.

  4. Inicialize um módulo Go no diretório do seu projeto:

    go mod init example/cloudrun

  5. Inicialize o Genkit no seu projeto:

    genkit init

    Selecione o provedor do modelo que você quer usar.

    Aceite os padrões das outras solicitações. A ferramenta genkit criará um arquivo de origem de amostra para você começar a desenvolver seus próprios fluxos de IA. No entanto, no restante deste tutorial, você apenas implantará o fluxo de amostra.

  6. Edite o arquivo de amostra (main.go ou genkit.go) para especificar explicitamente o porta em que o servidor de fluxo deve detectar:

    if err := genkit.Init(ctx,
	&genkit.Options{FlowAddr: ":3400"}, // Add this parameter.
); err != nil {
	log.Fatal(err)
}

  7. Disponibilize as credenciais da API para a função implantada. Siga uma destas etapas a seguir, dependendo do provedor de modelos escolhido:

    Gemini (IA do Google)

    1. Garanta que a IA do Google disponíveis na sua região.

    2. Gere uma chave de API para à API Gemini usando o Google AI Studio.

    3. Disponibilize a chave de API no ambiente do Cloud Run:

      1. No console do Cloud, ative a API Secret Manager.
      2. Na página Secret Manager, crie um novo secret com sua chave de API.
      3. Depois de criar o secret, na mesma página, conceda acesso da conta de serviço ao secret com o papel de Acessador de secrets do Secret Manager. Você pode procurar o nome da conta de serviço padrão do Compute na página do IAM.

      Em uma etapa posterior, quando implantar o serviço, será preciso fazer referência ao nome do secret.

    Gemini (Vertex AI)

    1. No console do Cloud, Ative a API Vertex AI para seu projeto.

    2. Na página IAM, verifique se a Conta de serviço padrão do Compute tem o papel de Usuário da Vertex AI.

    O único secret que você precisa configurar para este tutorial é para o provedor de modelo, mas em geral, você precisa fazer algo semelhante para cada serviço que seu fluxo usa.

  8. Opcional: teste o fluxo na interface do desenvolvedor:

    1. Configure seu ambiente local para o provedor de modelo escolhido:

      Gemini (IA do Google)

      export GOOGLE_GENAI_API_KEY=<your API key>

      Gemini (Vertex AI)

      export GCLOUD_PROJECT=<your project ID>
export GCLOUD_LOCATION=us-central1
gcloud auth application-default login

    2. Inicie a interface:

      genkit start

    3. Na interface do desenvolvedor (http://localhost:4000/), execute o fluxo:

      1. Clique em menuSuggestionFlow.

      2. Na guia Inserir JSON, forneça um assunto para o modelo:

        "banana"

      3. Clique em Executar.

  9. Se tudo estiver funcionando como esperado até agora, você poderá criar e implantar o fluxo:

    Gemini (IA do Google)

    gcloud run deploy --port 3400 \
  --update-secrets=GOOGLE_GENAI_API_KEY=<your-secret-name>:latest

    Gemini (Vertex AI)

    gcloud run deploy --port 3400 \
  --set-env-vars GCLOUD_PROJECT=<your-gcloud-project> \
  --set-env-vars GCLOUD_LOCATION=us-central1

    O GCLOUD_LOCATION configura a região da API Vertex que você quer usar.

    Escolha N quando for perguntado se você quer permitir invocações não autenticadas. Se você responder N, o serviço será configurado para exigir credenciais do IAM. Consulte Autenticação nos documentos do Cloud Run para saber como fornecer essas credenciais.

Depois que a implantação terminar, a ferramenta imprimirá o URL de serviço. É possível testar isso com curl:

curl -X POST https://<service-url>/menuSuggestionFlow \
  -H "Authorization: Bearer $(gcloud auth print-identity-token)" \
  -H "Content-Type: application/json" -d '"banana"'