使用 Vertex AI in Firebase SDK 從應用程式呼叫 Gemini API 時,您的要求會包含多個參數,用於控制生成式 AI 回應。這些通常包括模型名稱、模型生成設定 (最大符記、溫度等)、安全設定、系統指示和提示資料。
在大多數情況下,您都會根據需求或在多種情況下變更這些設定:
- 無須發布新版應用程式,即可更新生成式 AI 模型。您可以在舊版停用前升級至較新的穩定模型版本,或根據使用者的需要和屬性,改用成本較低或效能較高的模型,也可以有條件地將最新的最佳模型部署至特定使用者區隔 (例如 Beta 版測試人員)。
- 設定模型的存取位置,讓模型更靠近使用者。
- 進行 A/B 測試,針對不同的系統指示和提示進行測試,然後逐步向使用者推出最佳實驗值。
- 使用功能旗標,快速在應用程式中顯示或隱藏生成式 AI 功能。
Firebase Remote Config 可以執行上述所有操作,讓您視需要更新參數值,並有條件使應用程式執行個體符合您在 Firebase 控制台中設定的特性,而不必發布新版應用程式。
本解決方案指南提供特定的建議用途,並說明如何在生成式 AI 應用程式中加入 Remote Config。
為什麼要將 Firebase Remote Config 與應用程式搭配使用?
Firebase Remote Config 可讓您動態調整應用程式的行為,而無需更新應用程式。這對使用生成式 AI 的應用程式來說特別實用,因為這項技術必須快速疊代和微調。
Remote Config 與生成式 AI 應用程式的重要用途
下列基本用途是建議將 Remote Config 與 Vertex AI in Firebase 搭配使用:
- 在不更新應用程式的情況下升級至最新模型版本:使用 Remote Config 參數視需要變更模型名稱,以便在可用 Gemini 模型時立即升級至最新版本。
- 不需更新應用程式即可更新系統指示和安全設定:請將系統指示和安全設定儲存在 Remote Config 參數中,以確保在部署後發現問題時,可視需要變更這些設定。
- 降低風險並強制執行 AI 安全機制:使用 Remote Config 推出功能,以安全的方式逐步向 iOS 和 Android 使用者發布生成式 AI 相關異動。
Remote Config 搭配生成式 AI 應用程式的進階和建議用途
使用 Remote Config 和 Google Analytics 檢測應用程式後,您可以探索進階用途:
- 根據用戶端位置設定位置:使用 Remote Config 條件,根據用戶端偵測到的所在位置設定模型的位置。
- 試用不同模型:快速測試並切換各種生成式 AI 模型,甚至將不同模型部署至不同的使用者區隔,找出最適合您具體用途的模型。
- 最佳化模型效能:微調模型參數,例如系統提示、最大輸出符記、溫度和其他設定。
根據使用者屬性使用不同的系統指示、提示和模型設定:當您將 Remote Config 與 Google Analytics 搭配使用時,可以根據使用者屬性或自訂目標對象建立條件,並根據這些屬性設定不同的參數。
舉例來說,如果您使用生成式 AI 在應用程式中提供技術支援,建議您設定應用程式平台專屬的系統操作說明,確保 Android、iOS 和網頁平台使用者都能獲得正確的操作說明。
為每位使用者提供個人化體驗:您可以使用 Remote Config 個人化功能,自動決定每位使用者的最佳生成式 AI 設定。
控管成本:從遠端調整要呼叫的生成式 AI 模型、這些模型的使用頻率,並根據使用者目標對象動態設定最大輸出符記值,以減少不必要的成本。
最佳化應用程式體驗和結果:搭配 iOS、Android 和 Flutter 應用程式使用 A/B Testing,即可測試對不同使用者區隔的生成式 AI 參數所做的變更,瞭解這些變更對留存率和收益等重要指標有何影響。Remote Config
使用 Firebase Remote Config 檢測生成式 AI 應用程式,您就能打造彈性、安全且經濟實惠的 AI 輔助應用程式,同時為使用者打造令人滿意的體驗。
在應用程式中新增 Firebase Remote Config
在本解決方案指南中,您將使用 Firebase Remote Config 在使用 Vertex AI in Firebase SDK 的 Android 應用程式中,以動態方式更新參數。您將學習下列內容:
- 擷取並啟用 Firebase Remote Config 中的參數,例如模型名稱和系統指示。
- 更新 Gemini API 呼叫以使用動態擷取的參數,這樣您就能切換不同模型或修改系統指示,而不必更新應用程式。
- 從遠端控制參數,視需要調整模型行為和功能。
事前準備
本指南假設您已熟悉如何使用 JavaScript 開發網頁應用程式。本指南與架構無關。開始之前,請確認您已完成下列事項:
完成 Vertex AI in Firebase SDK 入門指南。 請確認您已完成下列所有操作:
- 設定新的或現有的 Firebase 專案,包括使用 Blaze 定價方案,並啟用必要的 API。
- 將應用程式連結至 Firebase,包括註冊應用程式,以及將 Firebase 設定新增至應用程式。
- 新增 SDK,並在應用程式中初始化 Vertex AI 服務和生成式模型。
在專案中啟用 Google Analytics,並將其 SDK 新增至應用程式 (這是設定條件式指定目標的必要條件,例如根據用戶端裝置的位置設定服務和模型的位置)。
步驟 1:在 Firebase 控制台設定參數值
建立用戶端 Remote Config 範本,並設定要在應用程式中擷取及使用的參數和值。
- 開啟 Firebase 主控台,然後在導覽選單中展開「Run」,並選取「Remote Config」。
- 確認您已在 Remote Config 頁面頂端的「Client/Server」選取器中選取「Client」。
- 如果這是您第一次使用 Remote Config 用戶端範本,請按一下「建立設定」。「Create your first parameters」(建立第一個參數) 窗格隨即顯示。
- 如果您之前曾使用過 Remote Config 範本,請按一下「新增參數」。
定義下列 Remote Config 參數:
參數名稱 說明 類型 預設值 model_name
型號名稱。如需在程式碼中使用的最新模型名稱清單,請參閱「可用的模型名稱」。 字串 gemini-1.5-flash
system_instructions
系統指示就像是「前言」,您可以在模型公開給使用者之前,先加入這些指示,根據特定需求和用途影響模型行為。 字串 You are a helpful assistant who knows everything there is to know about Firebase!
prompt
可與生成式 AI 功能搭配使用的預設提示。 字串 I am a developer who wants to know more about Firebase!
vertex_location
視需要控管位置,以執行 Vertex AI 服務及存取模型。您可以設定條件,根據 Google Analytics 偵測到的用戶端位置設定這個選項。 字串 us-central1
新增參數完成後,請按一下「發布變更」。如果這不是新的 Remote Config 範本,請查看變更內容,然後再次按一下「Publish changes」。
步驟 2:新增及初始化 Remote Config SDK
新增及初始化 Remote Config SDK:
在文字編輯器中開啟程式碼,然後匯入 Remote Config:
import { getRemoteConfig } from 'firebase/remote-config';
在主要函式中,在 Vertex AI in Firebase SDK 為 Firebase 應用程式初始化後,請初始化 Remote Config:
// Initialize Remote Config and get a reference to the service const remoteConfig = getRemoteConfig(app);
設定擷取間隔的最小值。在這個範例中,預設的擷取間隔為 3600 秒,但建議您在開發期間,在程式碼中設定相對較低的擷取間隔下限。
remoteConfig.settings.minimumFetchIntervalMillis = 3600000;
步驟 3:設定應用程式內參數值
您應在 Remote Config 物件中設定應用程式內的預設參數值,以便在用戶端網路存取中斷,以及/或者在後端未設定任何值的情況下,讓應用程式在連線至 Remote Config 後端前仍能正常運作。
在這個範例中,您會手動設定型號名稱、系統操作說明、使用者提示和 Vertex AI 位置的預設值:
// Set default Remote Config parameter values
remoteConfig.defaultConfig = {
model_name: 'gemini-1.5-flash',
system_instructions:
'You are a helpful assistant who knows everything there is to know about Firebase!',
prompt: 'I am a developer who wants to know more about Firebase!',
vertex_location: 'us-central1',
};
步驟 4:擷取並啟用值
將
getValue
和fetchAndActivate
新增至匯入項目:import { getValue, fetchAndActivate } from 'firebase/remote-config';
在您新增的程式碼設定預設 Remote Config 值後,請擷取並啟用設定,然後將值指派給
modelName
、systemInstructions
、prompt
和vertexLocation
常數。// Fetch and activate Remote Config. try { await fetchAndActivate(remoteConfig); } catch(err) { console.error('Remote Config fetch failed', err); } console.log('Remote Config fetched.'); // Assign Remote Config values. const modelName = getValue(remoteConfig, 'model_name').asString(); const systemInstructions = getValue(remoteConfig, 'system_instructions').asString(); const prompt = getValue(remoteConfig, 'prompt').asString(); const vertexLocation = getValue(remoteConfig, 'vertex_location').asString();
步驟 5:更新 Vertex AI 呼叫,以便使用 Remote Config 值
Remote Config 已完成設定,請更新您的程式碼,將硬式編碼值替換為來自 Remote Config 的值。舉例來說,如果您使用的是「開始使用 Firebase SDK 中的 Vertex AI 版 Gemini API」一文中的範例,則應按照下列方式更新:
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Vertex AI service
// Optionally specify a location in which to run the service and access the model
const vertexAI = getVertexAI(firebaseApp, { location: vertexLocation });
// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
const model = getGenerativeModel(vertexAI, {
model: modelName,
systemInstruction: systemInstruction
});
// Wrap in an async function so you can use await
async function run() {
// Provide a prompt that contains text
const userPrompt = prompt;
// To generate text output, call generateContent with the text input
const result = await model.generateContent(userPrompt);
const response = result.response;
const text = response.text();
console.log(text);
}
步驟 6:執行應用程式
執行應用程式,確認應用程式是否正常運作。透過 Firebase 主控台的 Remote Config 頁面變更設定、發布變更,然後驗證結果。
後續步驟
- 進一步瞭解 Remote Config。
- 將 Google Analytics 新增至程式碼,即可啟用指定目標。