监控 AI 功能的费用、用量和其他指标是运行生产应用的重要环节。您需要了解应用的正常使用模式,并确保其未超出重要阈值。
本页面介绍了一些推荐选项,用于在 Firebase 控制台和 Google Cloud 控制台中监控费用、用量和其他指标。
监控费用
在 Firebase 控制台的“使用量和结算”信息中心中,您可以查看项目调用 Agent Platform Gemini API (formerly Vertex AI) 和 Gemini Developer API 的费用(如果您使用的是 Blaze 定价方案)。
信息中心内显示的费用不一定仅针对使用 Firebase AI Logic 客户端 SDK 的调用。显示的费用与对这些“Gemini API”的任何调用相关,无论这些调用是使用 Firebase AI Logic 客户端 SDK、Google GenAI 服务器 SDK、Genkit、Gemini API 的 Firebase Extensions、REST 调用、某个 AI Studio 还是其他 API 客户端。
详细了解与您使用 Firebase AI Logic 相关的产品的价格。
设置预算提醒和支出上限
如果您使用的是 Blaze 定价方案,请设置预算提醒和支出上限,以免产生意外费用。
请注意,预算提醒不是预算上限。当您的支出达到预算的特定阈值时,系统会向您发送警告邮件,以便您在应用或项目中采取行动。如果您希望在达到预算时暂停服务,则需要设置支出上限预算。
在 Firebase 控制台中观察 AI 功能的使用情况
您可以在 Firebase 控制台的 Firebase AI Logic 页面中启用 AI 监控,以便观察各种应用级指标和用量,从而全面了解来自 Firebase AI Logic 客户端 SDK 的请求。这些信息中心比您通过调用 Count Tokens API 获得的基本 token 计数更深入。
Firebase 控制台中的 AI 监控功能的主要功能包括:
查看每个应用的定量指标,例如请求量、延迟时间、错误和每种模态的 token 用量。
检查跟踪记录,查看请求的属性、输入和输出,这有助于调试和质量改进。
按请求状态、最小延迟时间、模型名称等维度对数据进行切片。
所有这些功能都是使用 Google Cloud Observability Suite 构建的(请参阅下文的详细商品信息)。
Firebase 控制台中的 AI 监控信息中心会显示过去 14 天的数据。如果您的应用在过去 14 天内没有受监控的请求,则信息中心不会显示任何指标或跟踪记录。如需查看 14 天之前的数据(最长可达每个产品的保留期限),请使用 Google Cloud 控制台中的 Google Cloud Observability Suite 信息中心。
启用 AI 监控
您可以通过以下方式在 Firebase 控制台中启用 AI 监控功能:
当您通过 AI 服务 > Firebase AI Logic 页面完成初始引导式设置工作流时
随时在 AI 服务 > AI 逻辑 > 设置标签页中
启用和使用 AI 监控的要求:
您必须是项目 Owner、Editor 或 Firebase Vertex AI Admin。
您的应用必须至少使用以下 Firebase 库版本:
iOS+:v11.13.0+ | Android:v16.0.0+ (BoM: v33.14.0+) | Web:v11.8.0+ | Flutter:v2.0.0+ (BoM: v3.11.0+) | Unity:v12.9.0+您的应用必须启用选择启用数据收集功能(默认处于启用状态)。
在您的应用满足这些要求并且您在控制台中启用 AI 监控后,您无需在应用或控制台中执行任何其他操作,即可开始在 AI 服务 > AI 逻辑 > AI 监控标签页中看到数据填充信息中心。 请求中的遥测数据可能需要稍等片刻(有时最多 5 分钟)才会显示在 Firebase 控制台中。
高级用法
本部分介绍了采样率配置,以及用于查看和处理数据的不同选项。
采样率
如果您要发出大量请求,我们建议您利用采样率配置。采样率表示在所有请求中,系统实际收集了跟踪记录详情的请求所占的比例。
在 Firebase 控制台的 AI 服务 > AI 逻辑 > 设置标签页中,您可以将项目的采样率配置为 1% 到 100% 之间的值,其中 100% 表示 AI 监控将从所有流量中收集跟踪记录。默认值为 100%。收集较少的跟踪记录会降低费用,但也会减少您可以监控的跟踪记录数量。请注意,无论采样率如何,监控信息中心内显示的图表始终会反映真实的流量。
Firebase 控制台之外的其他选项
除了 Firebase 控制台中提供的 AI 监控功能之外,您还可以考虑以下选项:
探索 Vertex AI Model Garden。
这些信息中心可进一步提供有关托管模型的延迟时间和吞吐量的趋势数据洞见,从而补充您从 Firebase 控制台中的 AI 监控获得的数据洞见。使用 Google Cloud Observability Suite 探索和使用数据。
由于 AI 监控的遥测数据存储在与您的项目关联的 Google Cloud Observability Suite 中,因此您可以在其信息中心(包括 Trace Explorer 和 Logs Explorer)中探索数据,这些信息中心会在您在 Firebase 控制台中检查各个跟踪记录时链接到。您还可以使用数据构建自定义信息中心、设置提醒等。
有关用于 AI 监控的产品的详细信息
AI 监控会将您的遥测数据存储在 Google Cloud Observability Suite 中提供的各种产品中,包括 Cloud Monitoring、Cloud Trace 和 Cloud Logging。
Cloud Monitoring:存储指标,包括请求数、成功率和请求延迟时间。
Cloud Trace:存储每个请求的跟踪记录,以便您可以单独查看详细信息,而不是汇总查看。跟踪记录通常与日志相关联,以便您检查每次交互的内容和时间。
Cloud Logging:捕获输入、输出和配置元数据,以提供有关 AI 请求每个部分的丰富详细信息。
虽然 Firebase 控制台仅显示过去 14 天的数据,但您的底层遥测数据会根据每个产品的保留政策(Cloud Monitoring 为 6 周,Cloud Trace 为 30 天,Cloud Logging 默认为 30 天)存储在这些 Google Cloud Observability Suite 产品中。您可以在 Google Cloud 控制台中查看 14 天之前的数据,在每个产品中配置访问权限设置,以及在 Cloud Logging 中自定义保留期限(如需了解详情,请参阅 Cloud Monitoring、Cloud Trace 和 Cloud Logging 的文档)。
请注意,AI 监控会将每个采样请求的实际提示和生成的输出存储在 Cloud Logging 中,以便在 Firebase 控制台中访问这些数据。您可以选择停用存储提示和回答。
价格
采用免费 Spark 定价方案的项目(仅在使用 Gemini Developer API 时可用):AI 监控的底层服务可免费使用。
采用随用随付 Blaze 定价方案的项目:您需要为 AI 监控所使用的底层 Google Cloud Observability Suite 产品付费(无论您选择哪家 Gemini API 提供商)。不过,每个 Google Cloud Observability Suite 产品都提供慷慨的免费层级。如需了解详情,请参阅 Google Cloud Observability Suite 价格文档。
(可选)停用提示和回答存储功能
默认情况下,AI 监控会捕获发送到模型的实际提示以及模型生成的回答,包括这些提示和回答中的任何敏感信息(例如个人身份信息 [PII])。所有这些数据都存储在 Cloud Logging 中,以便在 Firebase 控制台中访问。
如需停用提示和回答的存储功能,请将以下排除过滤器添加到 Cloud Logging 接收器(通常为 _Default 接收器):resource.type="firebasevertexai.googleapis.com/Model"
在 Google Cloud 控制台中查看项目级 API 指标
对于每个 API,您都可以在 Google Cloud 控制台中查看项目级指标,例如用量。
请注意,本部分中介绍的 Google Cloud 控制台页面不包含请求和响应内容以及词元数量等信息。如需监控此类信息,请考虑在 Firebase 控制台中使用 AI 监控(请参阅上一部分)。
在 Google Cloud 控制台中,前往要查看的 API 的指标页面:
Agent Platform API:查看与对 Agent Platform Gemini API (formerly Vertex AI) 的任何请求相关联的用量。
- 包括使用 Firebase AI Logic 客户端 SDK、Google GenAI 服务器 SDK、Genkit、Firebase Extensions(适用于 Gemini API)、REST API、Agent Studio 等发出的请求。
Gemini Developer API:查看与对 Gemini Developer API 的任何请求相关的使用情况。
- 包括使用 Firebase AI Logic 客户端 SDK、Google GenAI 服务器 SDK、Genkit、Firebase Extensions(适用于 Gemini API)、REST API、Google AI Studio 等发出的请求。
- 此 API 在 Google Cloud 控制台中的显示名称为“Generative Language API”。
如果您发现自己位于该 API 的“概览页面”上,请点击管理,然后点击指标标签页。
使用下拉菜单查看感兴趣的指标,例如按响应代码划分的流量、按 API 方法划分的错误、总体延迟时间以及按 API 方法划分的延迟时间。