使用 Firebase AI Logic 构建混合型和设备端体验

您可以使用 Firebase AI Logic，通过混合推理构建 AI 赋能的 Apple、Android 和 Web 应用及功能。混合推理支持在可用时使用设备端模型运行推理，否则无缝回退到云托管模型（反之亦然）。

  • 使用设备端模型进行推理的好处：

    • 隐私保护更完善
    • Local Context
    • 免费推理
    • 离线功能

  • 使用混合方法的优势：

    • 无论最终用户使用何种设备，都能提供类似的应用体验
    • 提高生成式 AI 功能的可用性，不受网络连接、配额限制或设备功能的限制

请参阅我们的入门指南

这些指南提供了有关如何在应用中设置混合体验的分步说明。

探索配置选项和功能

按照入门指南设置应用后，请了解如何配置和自定义混合体验：

  • 配置推理模式和模型：控制您的应用是首选设备端推理、云端推理，还是将执行限制为单一来源 (iOS+ | Android | Web)。

  • 生成结构化输出（例如 JSON 和枚举）：确保模型回答遵循确切的架构，以便进行下游处理 (Android | Web)。