Google Cloud 원격 분석 및 로깅 플러그인

Google Cloud 플러그인은 Firebase Genkit의 원격 분석 및 로깅 데이터를 Google Cloud 운영 제품군으로 내보냅니다.

기본 요건

이 플러그인을 사용하는 흐름을 로컬에서 실행하려면 Google Cloud CLI 도구를 설치해야 합니다.

Google Cloud 계정 설정

이 플러그인에는 Google Cloud 계정(아직 계정이 없는 경우 가입)과 Google Cloud 프로젝트가 필요합니다.

플러그인을 추가하기 전에 프로젝트에 다음 API가 사용 설정되어 있는지 확인합니다.

이러한 API는 프로젝트의 API 대시보드에 표시되어야 합니다.

API 사용 설정 및 사용 중지에 대해 자세히 알아보려면 여기를 클릭하세요.

구성

Google Cloud Trace, Logging, Monitoring으로 내보내기를 사용 설정하려면 googlecloud 패키지를 가져오고 Init()을 실행합니다. Init()을 호출하면 원격 분석이 자동으로 내보내집니다

import "github.com/firebase/genkit/go/plugins/googlecloud"

if err := googlecloud.Init(
	ctx,
	googlecloud.Config{ProjectID: "your-google-cloud-project"},
); err != nil {
	return err
}

원격 분석 데이터를 내보낼 Google Cloud 프로젝트를 지정해야 합니다. 다음과 같은 선택적 파라미터도 있습니다.

  • ForceExport: 개발 환경에서 실행하는 경우(예: genkit start 또는 genkit flow:run을 사용하는 경우)에도 원격 분석 데이터를 내보냅니다. 통합을 테스트하고 Google Cloud에서 모니터링할 첫 이벤트를 전송할 수 빠른 방법입니다.

    이 옵션을 사용하는 경우 Cloud 사용자 인증 정보도 로컬에서 사용할 수 있어야 합니다.

    gcloud auth application-default login

  • MetricInterval: 원격 분석 정보를 내보낼 간격(나노초)입니다. 기본적으로 60초(60e9나노초)입니다.

  • LogLevel: 내보낼 로그 항목의 최소 심각도 수준입니다. 기본값은 slog.LevelInfo입니다.

플러그인에는 Google Cloud 프로젝트 사용자 인증 정보가 필요합니다. Google Cloud 환경(Cloud Run 등)에서 흐름을 실행하는 경우 사용자 인증 정보가 자동으로 설정됩니다 다른 환경에서 실행하려면 애플리케이션 기본 사용자 인증 정보를 설정해야 합니다.

Google Cloud 운영 제품군을 통한 프로덕션 모니터링

흐름이 배포되면 Google Cloud 운영 제품군으로 이동하여 프로젝트를 선택합니다.

로그 및 trace

사이드 메뉴에서 'Logging'을 찾고 '로그 탐색기'를 클릭합니다.

console.log()를 포함하여 배포된 흐름과 연관된 모든 로그가 표시됩니다. [genkit] 프리픽스가 있는 모든 로그는 디버깅 목적으로 관심을 가질 수 있는 정보가 포함된 Genkit 내부 로그입니다. 예를 들어 Config[...] 형식의 Genkit 로그에는 특정 LLM 추론을 위한 온도 및 topK 값과 같은 메타데이터가 포함됩니다. Output[...] 형식의 로그에는 LLM 응답이 포함되고 Input[...] 로그에는 프롬프트가 포함됩니다. Cloud Logging에는 민감한 로그를 세분화하여 제어할 수 있는 강력한 ACL이 있습니다.

특정 로그 줄의 경우 확장 메뉴 아이콘을 클릭하고 'trace 세부정보에서 보기'를 선택하여 각 trace로 이동할 수 있습니다.

그러면 trace의 세부정보를 한눈에 볼 수 있는 trace 미리보기 창이 표시됩니다. 전체 세부정보를 보려면 창의 오른쪽 상단에서 'Trace에서 보기'를 클릭합니다.

Cloud Trace에서 가장 눈에 띄는 탐색 요소는 trace 분산형 차트입니다. 특정 기간에 수집된 모든 trace가 포함됩니다.

각 데이터 포인트를 클릭하면 분산형 차트 아래에 세부정보가 표시됩니다.

상세 뷰에는 모든 단계와 중요한 타이밍 정보를 포함한 흐름 형태가 포함됩니다. Cloud Trace는 이 뷰 내에서 특정 trace와 연결된 모든 로그를 인터리브 처리할 수 있습니다. '로그 및 이벤트' 드롭다운에서 '펼쳐진 항목 표시' 옵션을 선택합니다.

결과 뷰를 사용하면 프롬프트 및 LLM 응답을 비롯하여 trace 컨텍스트에서 로그를 자세히 검사할 수 있습니다.

측정항목

사이드 메뉴에서 'Logging'을 선택하고 '측정항목 관리'를 클릭하여 Genkit에서 내보내는 모든 측정항목을 볼 수 있습니다.

측정항목 관리 콘솔에는 Cloud Run 및 주변 환경과 관련된 측정항목을 포함하여 수집된 모든 측정항목의 테이블 형식 뷰가 포함됩니다. '워크로드'를 옵션을 클릭하면 Genkit에서 수집한 측정항목이 포함된 목록이 표시됩니다. genkit 프리픽스가 있는 모든 측정항목은 내부 Genkit 측정항목을 구성합니다.

Genkit는 흐름 수준, 작업 수준, 생성 수준 측정항목을 포함한 여러 카테고리의 측정항목을 수집합니다. 각 측정항목에는 강력한 필터링과 그룹화를 용이하게 하는 여러 유용한 측정기준이 있습니다.

일반적인 측정기준은 다음과 같습니다.

  • flow_name - 흐름의 최상위 이름
  • flow_path - 스팬과 루트 스팬까지의 상위 스팬 체인
  • error_code - 오류 발생 시 해당하는 오류 코드
  • error_message - 오류 발생 시 해당하는 오류 메시지
  • model: 모델의 이름
  • temperature - 추론 온도 값
  • topK - 추론 TopK 값
  • topP - 추론 topP 값

흐름 수준 측정항목

이름 측정기준
genkit/flow/requests flow_name, error_code, error_message
genkit/flow/latency flow_name

작업 수준 측정항목

이름 측정기준
genkit/action/requests flow_name, error_code, error_message
genkit/action/latency flow_name

생성 수준 측정항목

이름 측정기준
genkit/ai/generate flow_path, model, temperature, topK, topP, error_code, error_message
genkit/ai/generate/input_tokens flow_path, model, temperature, topK, topP
genkit/ai/generate/output_tokens flow_path, model, temperature, topK, topP
genkit/ai/generate/input_characters flow_path, model, temperature, topK, topP
genkit/ai/generate/output_characters flow_path, model, temperature, topK, topP
genkit/ai/generate/input_images flow_path, model, temperature, topK, topP
genkit/ai/generate/output_images flow_path, model, temperature, topK, topP
genkit/ai/generate/latency flow_path, model, temperature, topK, topP, error_code, error_message

측정항목 탐색기를 통해 측정항목을 시각화할 수 있습니다. 사이드 메뉴를 사용하여 'Logging'을 선택하고 '측정항목 탐색기'를 클릭합니다.

'측정항목 선택' 드롭다운을 클릭하여 측정항목을 선택하고 '일반 노드', 'Genkit', 측정항목을 선택합니다.

측정항목의 시각화는 유형(카운터, 히스토그램 등)에 따라 다릅니다. 측정항목 탐색기는 다양한 측정기준별로 측정항목을 그래프로 표시하는 데 도움이 되는 강력한 집계 및 쿼리 도구를 제공합니다.

원격 분석 지연

흐름의 특정 실행에 대한 원격 분석이 Cloud 운영 제품군에 표시되기까지 약간의 지연이 발생할 수 있습니다. 대부분의 경우 이 지연 시간은 1분 미만입니다.

할당량 및 한도

다음과 같은 몇 가지 중요한 할당량이 있습니다.

비용

Cloud Logging, Cloud Trace, Cloud Monitoring은 무료 등급 혜택을 넉넉하게 제공합니다. 구체적인 가격은 다음 링크에서 확인할 수 있습니다.