使用 Vertex AI in Firebase SDK 从应用中调用 Gemini API 时,您的请求会包含一些用于控制生成式 AI 回答的参数。这些参数通常包括模型名称、模型生成配置(token 数量上限、温度等)、安全设置、系统指令和提示数据。
在大多数情况下,您需要按需更改这些参数,或者根据多种场景的需要进行更改:
- 无需发布新应用即可更新生成式 AI 模型。您可以在旧版本停用之前升级到较新的稳定模型版本,根据用户需求和属性降级到成本较低或性能较高的模型,或者有条件地将最新和最好的模型部署到特定细分用户群(例如 Beta 版测试人员)。
- 设置模型的访问位置,使其更靠近用户。
- 对不同的系统指令和提示进行 A/B 测试,然后逐步向用户发布实验的胜出值。
- 使用功能标志在应用中快速公开或隐藏生成式 AI 功能。
Firebase Remote Config 可执行上述所有操作及更多操作,让您可以根据需要更新参数值,并有条件地为与您在 Firebase 控制台中设置的特征相匹配的应用实例更新参数值,而无需发布新版本的应用。
本解决方案指南提供了特定的推荐应用场景,并介绍了如何向生成式 AI 应用添加 Remote Config。
为什么要将 Firebase Remote Config 与应用搭配使用?
借助 Firebase Remote Config,您无需更新应用即可动态调整应用的行为。这对于使用生成式 AI 的应用尤其有用,在这种情况下,快速迭代和微调至关重要。
将 Remote Config 与生成式 AI 应用搭配使用的基本应用场景
对于以下基本应用场景,我们建议将 Remote Config 与 Vertex AI in Firebase 搭配使用:
- 在不更新应用的情况下升级到最新的模型版本:使用 Remote Config 参数根据需要更改模型名称,以便在首选 Gemini 模型的最新版本推出后立即升级到该版本。
- 在不更新应用的情况下更新系统指令和安全设置:将系统指令和安全设置存储在 Remote Config 参数中,以确保在部署后发现问题时可以按需更改。
- 降低风险并加强 AI 安全性:使用 Remote Config 发布,安全地逐步向 iOS 和 Android 用户发布生成式 AI 更改。
将 Remote Config 与生成式 AI 应用搭配使用的高级和推荐应用场景
使用 Remote Config 和 Google Analytics 对应用进行插桩后,您可以探索高级应用场景:
- 根据客户端位置设置位置:使用 Remote Config 条件可根据检测到的客户端位置设置模型的位置。
- 对不同的模型进行实验:快速测试并在各种生成式 AI 模型之间切换,甚至将不同的模型部署到不同的细分用户群,以找到最适合您的特定应用场景的模型。
- 优化模型性能:微调模型参数,例如系统提示、输出 token 数量上限、温度和其他设置。
根据客户端属性使用不同的系统指令、提示和模型配置:将 Remote Config 与 Google Analytics 搭配使用时,您可以根据客户端属性或自定义受众群体创建条件,并根据这些属性设置不同的参数。
例如,如果您使用生成式 AI 在应用中提供技术支持,则可能需要设置特定于应用平台的系统指令,以确保向 Android、iOS 和 Web 平台用户提供准确的指令。
为每位用户提供个性化体验:使用 Remote Config 个性化自动确定适用于每位用户的最佳生成式 AI 设置。
控制费用:远程调整调用的生成式 AI 模型、模型的使用频率,并根据用户受众群体动态配置输出 token 数量上限值,以减少不必要的费用。
优化应用体验和结果:将 A/B Testing 与 Remote Config 搭配用于 iOS、Android 和 Flutter 应用,以在不同细分用户群中测试对生成式 AI 参数进行的更改,了解这些更改对留存率和收入等关键指标的影响。
通过使用 Firebase Remote Config 对生成式 AI 应用进行插桩,您可以构建灵活、安全且经济实惠的依托 AI 技术的应用,同时为用户打造愉悦的体验。
将 Firebase Remote Config 添加到您的应用
在本解决方案指南中,您将使用 Firebase Remote Config 动态更新 Android 应用中使用 Vertex AI in Firebase SDK 的参数。您将学习如何:
- 从 Firebase Remote Config 提取并激活模型名称和系统指令等参数。
- 更新 Gemini API 调用以使用动态检索的参数,让您可以在不同的模型之间切换或修改系统指令,而无需更新应用。
- 远程控制参数,根据需要调整模型行为和功能。
前提条件
本指南假定您熟悉如何使用 Android Studio 为 Android 平台开发应用。在开始之前,请确保您执行了以下操作:
完成 Vertex AI in Firebase SDK 入门指南中的步骤。请确保您已执行以下所有操作:
- 设置新的或现有的 Firebase 项目,包括使用 Blaze 定价方案和启用所需的 API。
- 将您的应用与 Firebase 相关联,包括注册您的应用并将 Firebase 配置添加到您的应用。
- 在应用中添加 SDK 并初始化 Vertex AI 服务和生成式模型。
在项目中启用 Google Analytics,并将其 SDK 添加到您的应用中(需要完成此操作才能有条件地定位,例如根据客户端设备的位置来设置服务和模型的位置)。
第 1 步:在 Firebase 控制台中设置参数值
创建一个客户端 Remote Config 模板,并配置要在应用中提取和使用的参数和值。
- 在 Firebase 控制台中打开您的 Firebase 项目,然后从导航菜单中展开运行并选择 Remote Config。
- 确保从 Remote Config 页面顶部的客户端/服务器选择器中选择客户端。
- 如果您是首次使用 Remote Config 客户端模板,请点击创建配置。随即会出现创建您的首个参数窗格。
- 如果您不是首次使用 Remote Config 模板,请点击添加参数。
定义以下 Remote Config 参数:
参数名称 说明 类型 默认值 model_name
模型名称。如需查看要在代码中使用的模型名称的最新列表,请参阅可用模型名称。 字符串 gemini-1.5-flash
system_instructions
系统指令类似于您在模型接触到来自最终用户的任何进一步指令之前添加的“序言”,以便根据特定需求和应用场景来影响模型行为。 字符串 You are a helpful assistant who knows everything there is to know about Firebase!
prompt
与生成式 AI 功能搭配使用的默认提示。 字符串 I am a developer who wants to know more about Firebase!
vertex_location
(可选)控制要运行 Vertex AI 服务和访问模型的位置。您可以设置条件,以便根据 Google Analytics 检测到的客户端位置来配置此选项。 字符串 us-central1
添加完参数后,点击发布更改。 如果这不是新的 Remote Config 模板,请查看更改,然后再次点击发布更改。
第 2 步:在应用中添加并初始化 Remote Config SDK
在应用中添加 Remote Config 依赖项并设置 Remote Config。
将 Remote Config 依赖项添加到您的模块(应用级)Gradle 文件(通常是
app/build.gradle.kts
或app/build.gradle
)中:dependencies { implementation(platform("com.google.firebase:firebase-bom:33.7.0")) implementation("com.google.firebase:firebase-vertexai") implementation("com.google.firebase:firebase-config") // ... other dependencies }
将 Remote Config 添加到您的主应用逻辑中。在这里,您将初始化 Remote Config 并添加最小提取间隔:
Kotlin
val remoteConfig: FirebaseRemoteConfig = Firebase.remoteConfig val configSettings = remoteConfigSettings { minimumFetchIntervalInSeconds = 3600 } remoteConfig.setConfigSettingsAsync(configSettings)
Java
FirebaseRemoteConfig mFirebaseRemoteConfig = FirebaseRemoteConfig.getInstance(); FirebaseRemoteConfigSettings configSettings = new FirebaseRemoteConfigSettings.Builder() .setMinimumFetchIntervalInSeconds(3600) .build(); mFirebaseRemoteConfig.setConfigSettingsAsync(configSettings);
在此示例中,默认提取间隔为 3600 秒,但我们建议您在开发期间在代码中设置相对较短的最小提取间隔。
第 3 步:设置应用内参数值
您应在 Remote Config 对象中设置应用内默认参数值。这可确保您的应用即使无法从 Remote Config 服务中提取值,也能按预期运行。
- 在 Firebase 控制台中,打开 Remote Config。
- 在参数标签页中,打开菜单,然后选择下载默认值。
- 看到提示时,启用 .xml (Android),然后点击下载文件。
- 将该文件保存在应用的 XML 资源目录中。
更新主 Activity 文件,以便在您以前添加的
configSettings
后面添加默认值:Kotlin
// Set default values. remoteConfig.setDefaultsAsync(R.xml.remote_config_defaults)
Java
// Set default values. mFirebaseRemoteConfig.setDefaultsAsync(R.xml.remote_config_defaults);
第 4 步:提取并激活值
设置默认值后,添加以下内容以提取并激活值:
Kotlin
// Fetch and activate Remote Config values
remoteConfig.fetchAndActivate()
.addOnCompleteListener(this) { task ->
if (task.isSuccessful) {
val updated = task.result
Log.d(TAG, "Remote Config values fetched and activated: $updated")
} else {
Log.e(TAG, "Error fetching Remote Config", task.exception)
}
Java
// Fetch and activate Remote Config values
mFirebaseRemoteConfig.fetchAndActivate()
.addOnCompleteListener(this, new OnCompleteListener<Boolean>() {
@Override
public void onComplete(@NonNull Task<Boolean> task) {
if (task.isSuccessful()) {
boolean updated = task.getResult();
Log.d(TAG, "Config params updated: " + updated);
} else {
Log.e(TAG, "Error fetching Remote Config", task.exception)
}
}
});
第 5 步:添加实时 Remote Config 监听器
为应用添加实时 Remote Config 监听器,以确保您对 Remote Config 模板所做的更改在更新后立即传播到客户端。
每当参数值更改时,以下代码会更新 Remote Config 对象。或者,您也可以在 addOnCompleteListener
激活中配置操作:
Kotlin
// Add a real-time Remote Config listener
remoteConfig.addOnConfigUpdateListener(object : ConfigUpdateListener {
override fun onUpdate(configUpdate : ConfigUpdate) {
Log.d(ContentValues.TAG, "Updated keys: " + configUpdate.updatedKeys);
remoteConfig.activate().addOnCompleteListener {
// Optionally, add an action to perform on update here.
}
}
override fun onError(error : FirebaseRemoteConfigException) {
Log.w(ContentValues.TAG, "Config update error with code: " + error.code, error)
}
}
Java
// Add a real-time Remote Config listener
remoteConfig.addOnConfigUpdateListener(new ConfigUpdateListener() {
@Override
public void onUpdate(ConfigUpdate configUpdate) {
Log.d(ContentValues.TAG, "Updated keys: " + configUpdate.getUpdatedKeys());
remoteConfig.activate().addOnCompleteListener(new OnCompleteListener<Boolean>() {
@Override
public void onComplete(@NonNull Task<Boolean> task) {
// Optionally, add an action to perform on update here.
}
});
}
@Override
public void onError(FirebaseRemoteConfigException error) {
Log.w(ContentValues.TAG, "Config update error with code: " + error.getCode(), error);
}
});
第 6 步:为 Vertex AI 变量分配 Remote Config 值
现在,Remote Config 已完全配置,可更新代码以将硬编码值替换为来自 Remote Config 的值。
将位置、模型名称、系统指令和用户提示的硬编码值替换为来自 Remote Config 的值。
Kotlin
// Initialize FirebaseVertexAI instance
// Optionally specify a location in which to run the service and access the model
val vertexAI = Firebase.vertexAI(location = remoteConfig.getString("vertex_location"))
// Initialize the Vertex AI service and the generative model
// Specify a model that supports system instructions, like a Gemini 1.5 model
val generativeModel = Firebase.vertexAI.generativeModel(
modelName = remoteConfig.getString("model_name"),
systemInstruction = content { text(remoteConfig.getString("system_instructions")) }
)
// To generate text output, call generateContent with the text input
val response = generativeModel.generateContent(remoteConfig.getString("prompt"))
print(response.text)
Java
// Initialize FirebaseVertexAI instance
// Optionally specify a location in which to run the service and access the model
FirebaseVertexAI vertexAI = FirebaseVertexAI.getInstance(remoteConfig.getString("vertex_location"));
// Initialize the Vertex AI service and the generative model
// Specify a model that supports system instructions, like a Gemini 1.5 model
GenerativeModel gm = FirebaseVertexAI.getInstance().generativeModel(
/* modelName */ remoteConfig.getString("model_name"),
/* generationConfig (optional) */ null,
/* safetySettings (optional) */ null,
/* requestOptions (optional) */ new RequestOptions(),
/* tools (optional) */ null,
/* toolsConfig (optional) */ null,
/* systemInstruction (optional) */ new Content.Builder().addText(remoteConfig.getString("system_instructions")).build()
);
GenerativeModelFutures model = GenerativeModelFutures.from(gm);
// Provide a prompt that contains text
Content userPrompt = new Content.Builder()
addText(remoteConfig.getString("prompt"))
build();
// To generate text output, call generateContent with the text input
ListenableFuture<GenerateContentResponse> response = model.generateContent(userPrompt);
Futures.addCallback(response, new FutureCallback<GenerateContentResponse>() {
@Override
public void onSuccess(GenerateContentResponse result) {
String resultText = result.getText();
System.out.println(resultText);
}
@Override
public void onFailure(Throwable t) {
t.printStackTrace();
}
}, executor);
第 7 步:运行应用
构建并运行应用,并验证其能否正常运行。在 Firebase 控制台的 Remote Config 页面中对配置进行更改,发布更改,然后验证结果。
后续步骤
- 详细了解 Remote Config。
- 使用 Remote Config 和 A/B Testing 测试不同的模型设置。
- 使用 Remote Config 发布逐步发布模型参数更改。
- 使用 Remote Config 个性化以利用机器学习技术为单独用户确定最佳设置。