Vertex AI in Firebase SDK를 사용하여 앱에서 Gemini API를 호출하면 요청에 생성형 AI 응답을 제어하는 여러 파라미터가 포함됩니다. 여기에는 일반적으로 모델 이름, 모델 생성 구성(최대 토큰, 온도 등), 안전 설정, 시스템 안내, 프롬프트 데이터가 포함됩니다.
대부분의 경우 주문형으로 또는 여러 시나리오에 맞게 필요에 따라 변경하는 것이 좋습니다.
- 새 앱을 출시하지 않고도 생성형 AI 모델을 업데이트할 수 있습니다. 이전 버전이 사용 중단되기 전에 최신 정식 모델 버전으로 업그레이드하거나, 사용자의 요구사항과 속성에 따라 비용이 더 낮거나 성능이 더 우수한 모델로 전환하거나, 최신 모델을 특정 사용자 세그먼트(예: 베타 테스터)에 조건부로 배포할 수 있습니다.
- 모델에 액세스하는 위치를 사용자와 더 가까운 위치로 설정합니다.
- 다양한 시스템 안내와 프롬프트에 대해 A/B 테스트를 진행한 후 실험에서 가장 우수한 값을 사용자에게 점진적으로 출시합니다.
- 기능 플래그를 사용하여 앱에서 생성형 AI 기능을 빠르게 노출하거나 숨깁니다.
Firebase Remote Config은 이 모든 작업을 실행할 수 있으므로 새 버전의 앱을 출시하지 않고도 Firebase Console에서 설정한 특성과 일치하는 앱 인스턴스의 경우 조건부로, 그리고 필요에 따라 파라미터 값을 업데이트할 수 있습니다.
이 솔루션 가이드에서는 권장되는 구체적인 사용 사례를 제공하고 생성형 AI 앱에 Remote Config을 추가하는 방법을 설명합니다.
앱에서 Firebase Remote Config을 사용하는 이유는 무엇인가요?
Firebase Remote Config을 사용하면 앱 업데이트 없이 앱의 동작을 동적으로 조정할 수 있습니다. 이는 특히 빠른 반복과 미세 조정이 중요한 생성형 AI를 사용하는 앱에 유용합니다.
생성형 AI 앱을 사용한 Remote Config의 필수 사용 사례
다음과 같은 필수 사용 사례에는 Vertex AI in Firebase와 함께 Remote Config을 사용하는 것이 좋습니다.
- 앱 업데이트 없이 최신 모델 버전으로 업그레이드: Remote Config 파라미터를 사용하여 필요에 따라 모델 이름을 변경하면 원하는 Gemini 모델이 출시되는 즉시 최신 버전으로 업그레이드할 수 있습니다.
- 앱 업데이트 없이 시스템 안내 및 안전 설정 업데이트: Remote Config 파라미터 내에 시스템 안내 및 안전 설정을 저장하여 배포 후 문제를 발견하면 필요에 따라 변경할 수 있도록 합니다.
- 위험 줄이고 AI 안전 시행: Remote Config 출시를 사용하여 생성형 AI 변경사항을 iOS 및 Android 사용자에게 안전하고 점진적으로 출시합니다.
생성형 AI 앱을 사용한 Remote Config의 고급 및 권장 사용 사례
Remote Config 및 Google Analytics로 앱을 계측한 후 고급 사용 사례를 살펴볼 수 있습니다.
- 클라이언트 위치를 기반으로 위치 설정: Remote Config 조건을 사용하여 클라이언트의 감지된 위치를 기반으로 모델의 위치를 설정합니다.
- 다양한 모델 실험: 다양한 생성형 AI 모델을 빠르게 테스트하고 전환하거나, 다양한 사용자 세그먼트에 서로 다른 모델을 배포하여 특정 사용 사례에 가장 적합한 모델을 찾을 수 있습니다.
- 모델 성능 최적화: 시스템 프롬프트, 최대 출력 토큰, 온도, 기타 설정과 같은 모델 파라미터를 미세 조정합니다.
클라이언트 속성에 따라 다양한 시스템 안내, 프롬프트, 모델 구성 사용: Remote Config과 Google Analytics를 함께 사용하면 클라이언트 속성 또는 커스텀 잠재고객을 기반으로 조건을 만들고 이러한 속성을 기반으로 다양한 파라미터를 설정할 수 있습니다.
예를 들어 생성형 AI를 사용하여 앱에서 기술 지원을 제공하는 경우 Android, iOS, 웹 플랫폼 사용자에게 정확한 안내가 제공되도록 앱 플랫폼에 맞는 시스템 안내를 설정하는 것이 좋습니다.
사용자별 환경 맞춤설정: Remote Config 맞춤설정을 사용하여 각 사용자에게 최적의 생성형 AI 설정을 자동으로 결정합니다.
비용 관리: 호출되는 생성형 AI 모델과 사용 빈도를 원격으로 조정하고 사용자 잠재고객을 기반으로 최대 출력 토큰 값을 동적으로 구성하여 불필요한 비용을 줄입니다.
앱 환경 및 결과 최적화: iOS, Android, Flutter 앱에서 Remote Config으로 A/B Testing을 사용하여 다양한 사용자 세그먼트에서 생성형 AI 파라미터 변경사항을 테스트하고 유지 및 수익과 같은 주요 측정항목에 미치는 영향을 확인합니다.
Firebase Remote Config으로 생성형 AI 앱을 계측하면 유연하고 안전하며 비용 효율적인 AI 기반 애플리케이션을 빌드하는 동시에 사용자에게 만족스러운 환경을 제공할 수 있습니다.
앱에 Firebase Remote Config 추가
이 솔루션 가이드에서는 Firebase Remote Config을 사용하여 Vertex AI in Firebase SDK를 사용하는 Android 앱의 파라미터를 동적으로 업데이트합니다. 다음을 수행하는 방법을 배우게 됩니다.
- Firebase Remote Config에서 모델 이름 및 시스템 안내와 같은 파라미터를 가져오고 활성화합니다.
- 동적으로 검색된 파라미터를 사용하도록 Gemini API 호출을 업데이트하여 앱 업데이트 없이 여러 모델 간에 전환하거나 시스템 안내를 수정할 수 있습니다.
- 파라미터를 원격으로 제어하여 필요에 따라 모델 동작과 기능을 조정합니다.
기본 요건
이 가이드에서는 독자가 JavaScript를 사용하여 웹 앱을 개발하는 데 익숙하다고 가정합니다. 이 가이드는 프레임워크와 무관합니다. 시작하기 전에 다음 작업을 수행했는지 확인하세요.
Vertex AI in Firebase SDK 시작 가이드를 완료합니다. 다음 작업을 모두 완료했는지 확인합니다.
- Blaze 요금제 사용 및 필요한 API 사용 설정을 포함하여 새 Firebase 프로젝트 또는 기존 Firebase 프로젝트를 설정합니다.
- 앱을 등록하고 Firebase 구성을 앱에 추가하는 등 앱을 Firebase에 연결합니다.
- SDK를 추가하고 앱에서 Vertex AI 서비스와 생성형 모델을 초기화합니다.
프로젝트에서 Google Analytics를 사용 설정하고 앱에 SDK를 추가합니다(클라이언트 기기의 위치를 기반으로 서비스 및 모델의 위치를 설정하는 것과 같은 조건부 타겟팅에 필요).
1단계: Firebase Console에서 파라미터 값 설정
클라이언트 Remote Config 템플릿을 만들고 앱에서 가져와 사용할 파라미터 및 값을 구성합니다.
- Firebase Console을 열고 탐색 메뉴에서 실행을 펼치고 Remote Config을 선택합니다.
- Remote Config 페이지 상단의 클라이언트/서버 선택기에서 클라이언트가 선택되어 있는지 확인합니다.
- Remote Config 클라이언트 템플릿을 처음 사용하는 경우 구성 만들기를 클릭합니다. 첫 번째 파라미터 만들기 창이 표시됩니다.
- Remote Config 템플릿을 처음 사용하는 것이 아니라면 파라미터 추가를 클릭합니다.
다음 Remote Config 파라미터를 정의합니다.
매개변수 이름 설명 유형 기본값 model_name
모델 이름입니다. 코드에서 사용할 최신 모델 이름 목록은 사용 가능한 모델 이름을 참조하세요. 문자열 gemini-1.5-flash
system_instructions
시스템 안내는 특정 요구사항 및 사용 사례에 따라 모델 동작에 영향을 미치기 위해 최종 사용자의 추가 안내에 노출되기 전에 추가하는 '프리앰블'과 같습니다. 문자열 You are a helpful assistant who knows everything there is to know about Firebase!
prompt
생성형 AI 기능과 함께 사용할 기본 프롬프트입니다. 문자열 I am a developer who wants to know more about Firebase!
vertex_location
원하는 경우 Vertex AI 서비스를 실행하고 모델에 액세스할 위치를 제어합니다. Google Analytics에서 감지된 클라이언트 위치를 기반으로 이 옵션을 구성하는 조건을 설정할 수 있습니다. 문자열 us-central1
파라미터 추가가 완료되면 변경사항 게시를 클릭합니다. 새 Remote Config 템플릿이 아닌 경우 변경사항을 검토하고 변경사항 게시를 다시 클릭합니다.
2단계: Remote Config SDK 추가 및 초기화
Remote Config SDK 추가 및 초기화:
텍스트 편집기에서 코드를 열고 Remote Config을 가져옵니다.
import { getRemoteConfig } from 'firebase/remote-config';
기본 함수 내에서 Vertex AI in Firebase SDK에 대해 Firebase 앱이 초기화된 후 Remote Config을 초기화합니다.
// Initialize Remote Config and get a reference to the service const remoteConfig = getRemoteConfig(app);
가져오기 간격 최솟값을 설정합니다. 이 예시에서 기본 가져오기 간격은 3,600초이지만 개발 중에는 코드 내에서 가져오기 간격 최솟값을 상대적으로 낮게 설정하는 것이 좋습니다.
remoteConfig.settings.minimumFetchIntervalMillis = 3600000;
3단계: 인앱 파라미터 값 설정
클라이언트 네트워크 액세스가 중단되거나 백엔드에 값이 구성되지 않은 경우 앱이 Remote Config 백엔드에 연결되기 전에 작동하도록 Remote Config 객체에 인앱 기본 파라미터 값을 설정해야 합니다.
이 예시에서는 모델 이름, 시스템 안내, 사용자 프롬프트, Vertex AI 위치의 기본값을 수동으로 설정합니다.
// Set default Remote Config parameter values
remoteConfig.defaultConfig = {
model_name: 'gemini-1.5-flash',
system_instructions:
'You are a helpful assistant who knows everything there is to know about Firebase!',
prompt: 'I am a developer who wants to know more about Firebase!',
vertex_location: 'us-central1',
};
4단계: 값 가져오기 및 활성화
가져오기에
getValue
및fetchAndActivate
를 추가합니다.import { getValue, fetchAndActivate } from 'firebase/remote-config';
기본 Remote Config 값을 구성하기 위해 추가한 코드가 실행된 후 구성을 가져와 활성화한 다음
modelName
,systemInstructions
,prompt
,vertexLocation
상수에 값을 할당합니다.// Fetch and activate Remote Config. try { await fetchAndActivate(remoteConfig); } catch(err) { console.error('Remote Config fetch failed', err); } console.log('Remote Config fetched.'); // Assign Remote Config values. const modelName = getValue(remoteConfig, 'model_name').asString(); const systemInstructions = getValue(remoteConfig, 'system_instructions').asString(); const prompt = getValue(remoteConfig, 'prompt').asString(); const vertexLocation = getValue(remoteConfig, 'vertex_location').asString();
5단계: Remote Config 값을 사용하도록 Vertex AI 호출 업데이트
이제 Remote Config이 완전히 구성되었으므로 하드코딩된 값을 Remote Config에서 가져온 값으로 대체하도록 코드를 업데이트합니다. 예를 들어 Vertex AI in Firebase SDK를 사용하여 Gemini API 시작하기에 사용된 예시를 사용하고 있다면 다음과 같이 업데이트합니다.
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Vertex AI service
// Optionally specify a location in which to run the service and access the model
const vertexAI = getVertexAI(firebaseApp, { location: vertexLocation });
// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
const model = getGenerativeModel(vertexAI, {
model: modelName,
systemInstruction: systemInstruction
});
// Wrap in an async function so you can use await
async function run() {
// Provide a prompt that contains text
const userPrompt = prompt;
// To generate text output, call generateContent with the text input
const result = await model.generateContent(userPrompt);
const response = result.response;
const text = response.text();
console.log(text);
}
6단계: 앱 실행
앱을 실행하여 작동하는지 확인합니다. Firebase Console의 Remote Config 페이지에서 구성을 변경하고 변경사항을 게시한 후 결과를 확인합니다.
다음 단계
- Remote Config를 자세히 알아보세요.
- 코드에 Google Analytics를 추가하여 타겟팅을 사용 설정합니다.