Создавайте многоходовые беседы (чат) с помощью Gemini API,Создавайте многоходовые беседы (чат) с помощью Gemini API


Используя Gemini API , вы можете создавать диалоги в произвольной форме, состоящие из нескольких ходов. Vertex AI в Firebase SDK упрощает процесс, управляя состоянием разговора, поэтому, в отличие от generateContentStream() или generateContent() , вам не нужно самостоятельно хранить историю разговора.

Прежде чем начать

Если вы еще этого не сделали, прочтите руководство по началу работы , в котором описывается, как настроить проект Firebase, подключить приложение к Firebase, добавить SDK, инициализировать службу Vertex AI и создать экземпляр GenerativeModel .

Отправить запрос на подсказку в чате

Чтобы построить многоходовой разговор (например, чат), начните с инициализации чата, вызвав startChat() . Затем используйте sendMessageStream() (или sendMessage() ), чтобы отправить новое сообщение пользователя, которое также добавит сообщение и ответ в историю чата.

Существует два возможных варианта role , связанной с содержимым беседы:

  • user : роль, которая предоставляет подсказки. Это значение является значением по умолчанию для вызовов sendMessageStream() (или sendMessage() ), и функция выдает исключение, если передается другая роль.

  • model : роль, которая предоставляет ответы. Эту роль можно использовать при вызове startChat() с существующей history .

Выберите, хотите ли вы передать ответ в потоковом режиме ( sendMessageStream ) или дождаться ответа, пока не будет сгенерирован весь результат ( sendMessage ).

Потоковое вещание

Вы можете добиться более быстрого взаимодействия, не дожидаясь получения всего результата от создания модели, а вместо этого используйте потоковую передачу для обработки частичных результатов.

Без потоковой передачи

Альтернативно, вы можете дождаться всего результата вместо потоковой передачи; результат возвращается только после того, как модель завершит весь процесс генерации.

Узнайте, как выбрать модель и, при необходимости, местоположение, подходящее для вашего варианта использования и приложения.

Что еще вы можете сделать?

  • Узнайте, как считать токены, прежде чем отправлять модели длинные запросы.
  • Настройте Cloud Storage for Firebase чтобы вы могли включать большие файлы в свои мультимодальные запросы и иметь более управляемое решение для предоставления файлов в приглашениях. Файлы могут включать изображения, PDF-файлы, видео и аудио.
  • Начните думать о подготовке к работе, включая настройку Firebase App Check для защиты API Gemini от злоупотреблений со стороны неавторизованных клиентов. Также обязательно ознакомьтесь с производственным контрольным списком .

Попробуйте другие возможности

Узнайте, как контролировать создание контента

Вы также можете поэкспериментировать с подсказками и конфигурациями модели с помощью Vertex AI Studio .

Узнайте больше о поддерживаемых моделях

Узнайте о моделях, доступных для различных вариантов использования , а также об их квотах и ​​ценах .


Оставьте отзыв о своем опыте использования Vertex AI в Firebase.


,


Используя Gemini API , вы можете создавать диалоги в произвольной форме, состоящие из нескольких ходов. Vertex AI в Firebase SDK упрощает процесс, управляя состоянием разговора, поэтому, в отличие от generateContentStream() или generateContent() , вам не нужно самостоятельно хранить историю разговора.

Прежде чем начать

Если вы еще этого не сделали, прочтите руководство по началу работы , в котором описывается, как настроить проект Firebase, подключить приложение к Firebase, добавить SDK, инициализировать службу Vertex AI и создать экземпляр GenerativeModel .

Отправить запрос на подсказку в чате

Чтобы построить многоходовой разговор (например, чат), начните с инициализации чата, вызвав startChat() . Затем используйте sendMessageStream() (или sendMessage() ), чтобы отправить новое сообщение пользователя, которое также добавит сообщение и ответ в историю чата.

Существует два возможных варианта role , связанной с содержимым беседы:

  • user : роль, которая предоставляет подсказки. Это значение является значением по умолчанию для вызовов sendMessageStream() (или sendMessage() ), и функция выдает исключение, если передается другая роль.

  • model : роль, которая предоставляет ответы. Эту роль можно использовать при вызове startChat() с существующей history .

Выберите, хотите ли вы передать ответ в потоковом режиме ( sendMessageStream ) или дождаться ответа, пока не будет сгенерирован весь результат ( sendMessage ).

Потоковое вещание

Вы можете добиться более быстрого взаимодействия, не дожидаясь получения всего результата от создания модели, а вместо этого используйте потоковую передачу для обработки частичных результатов.

Без потоковой передачи

Альтернативно, вы можете дождаться всего результата вместо потоковой передачи; результат возвращается только после того, как модель завершит весь процесс генерации.

Узнайте, как выбрать модель и, при необходимости, местоположение, подходящее для вашего варианта использования и приложения.

Что еще вы можете сделать?

  • Узнайте, как считать токены, прежде чем отправлять модели длинные запросы.
  • Настройте Cloud Storage for Firebase чтобы вы могли включать большие файлы в свои мультимодальные запросы и иметь более управляемое решение для предоставления файлов в приглашениях. Файлы могут включать изображения, PDF-файлы, видео и аудио.
  • Начните думать о подготовке к работе, включая настройку Firebase App Check для защиты Gemini API от злоупотреблений со стороны неавторизованных клиентов. Также обязательно ознакомьтесь с производственным контрольным списком .

Попробуйте другие возможности

Узнайте, как контролировать создание контента

Вы также можете поэкспериментировать с подсказками и конфигурациями модели с помощью Vertex AI Studio .

Узнайте больше о поддерживаемых моделях

Узнайте о моделях, доступных для различных вариантов использования , а также об их квотах и ​​ценах .


Оставьте отзыв о своем опыте использования Vertex AI в Firebase.