Используйте конфигурацию модели для управления ответами

При каждом вызове модели вы можете отправить конфигурацию модели, чтобы контролировать, как модель генерирует ответ. Каждая модель предлагает различные варианты конфигурации.

Вы можете экспериментировать с подсказками и конфигурациями модели и быстро выполнять итерации с помощью Vertex AI Studio .

Перейти к параметрам конфигурации Gemini.arrow_downward Перейти к параметрам конфигурации Imagen

Варианты конфигурации для моделей Gemini

В этом разделе показано, как настроить конфигурацию для использования с моделями Gemini , и представлено описание каждого параметра .

Настройка конфигурации модели для моделей Gemini

Установите значения параметров в GenerationConfig во время инициализации экземпляра GenerativeModel . Конфигурация сохраняется на протяжении всего срока существования экземпляра, поэтому вам необходимо создать новый экземпляр GenerativeModel , чтобы использовать другую конфигурацию.

KotlinJava

// ...

val config = generationConfig {
    maxOutputTokens = 200
    stopSequences = listOf("red")
    temperature = 0.9f
    topK = 16
    topP = 0.1f
}

val generativeModel = Firebase.vertexAI.generativeModel(
    modelName = "GEMINI_MODEL_NAME",
    generationConfig = config
)

// ...

// ...

GenerationConfig.Builder configBuilder = new GenerationConfig.Builder();
configBuilder.maxOutputTokens = 200;
configBuilder.stopSequences = List.of("red");
configBuilder.temperature = 0.9f;
configBuilder.topK = 16;
configBuilder.topP = 0.1f;

GenerationConfig generationConfig = configBuilder.build();

GenerativeModel gm = FirebaseVertexAI.getInstance().generativeModel(
    "GEMINI_MODEL_NAME",
    generationConfig
);

GenerativeModelFutures model = GenerativeModelFutures.from(gm);

// ...

Описание каждого параметра вы можете найти в следующем разделе этой страницы.

Описание каждого параметра для использования с моделями Gemini

Ниже приведен общий обзор доступных параметров, если это применимо. Полный список параметров и их значений можно найти в документации Google Cloud .

Параметр	Описание	Значение по умолчанию
Временная метка аудио `audioTimestamp`	Логическое значение, которое обеспечивает понимание временных меток для входных файлов, содержащих только аудио. Применимо только при использовании `generateContent` `generateContentStream` и типе входных данных — файл, содержащий только аудио.	`false`
Штраф за частоту `frequencyPenalty`	Управляет вероятностью включения токенов, которые неоднократно появляются в сгенерированном ответе. Положительные значения наказывают токены, которые неоднократно появляются в сгенерированном контенте, уменьшая вероятность повторения контента.	---
Максимальное количество выходных токенов `maxOutputTokens`	Максимальное количество токенов, которое может быть сгенерировано в ответе.	---
Штраф за присутствие `presencePenalty`	Управляет вероятностью включения токенов, которые уже присутствуют в сгенерированном ответе. Положительные значения наказывают токены, которые уже присутствуют в сгенерированном контенте, увеличивая вероятность создания более разнообразного контента.	---
Остановить последовательность `stopSequences`	Задает список строк, который сообщает модели о прекращении создания контента, если одна из строк встречается в ответе.	---
Температура `temperature`	Управляет степенью случайности ответа. Более низкие температуры приводят к более детерминированным реакциям, а более высокие температуры приводят к более разнообразным и творческим реакциям.	Зависит от модели
Топ-К `topK`	Ограничивает количество слов с наибольшей вероятностью, используемых в сгенерированном контенте. Значение top-K, равное `1` означает, что следующий выбранный токен должен быть наиболее вероятным среди всех токенов в словаре модели, а значение top-K, равное `n` , означает, что следующий токен должен быть выбран из числа n наиболее вероятных токенов (все на основе установленной температуры).	Зависит от модели
Топ-П `topP`	Управляет разнообразием создаваемого контента. Токены выбираются от наиболее вероятных (см. top-K выше) до наименее вероятных до тех пор, пока сумма их вероятностей не станет равна значению top-P.	Зависит от модели

Варианты конфигурации для моделей Imagen

В этом разделе показано, как настроить конфигурацию для использования с моделями Imagen , и представлено описание каждого параметра .

Настройка конфигурации модели для моделей Imagen

Установите значения параметров в ImagenGenerationConfig во время инициализации экземпляра ImagenModel . Конфигурация сохраняется на протяжении всего срока существования экземпляра, поэтому вам необходимо создать новый экземпляр ImagenModel , чтобы использовать другую конфигурацию.

KotlinJava

// ...

val config = ImagenGenerationConfig(
    negativePrompt = "frogs",
    numberOfImages = 2,
    aspectRatio = ImagenAspectRatio.LANDSCAPE_16x9,
    imageFormat = ImagenImageFormat.jpeg(compressionQuality = 100),
    addWatermark = false
)

val imagenModel = Firebase.vertexAI.imagenModel(
    modelName = "IMAGEN_MODEL_NAME",
    generationConfig = config
)

// ...

// ...

ImagenGenerationConfig config = new ImagenGenerationConfig.Builder()
    .setNegativePrompt("frogs")
    .setNumberOfImages(2)
    .setAspectRatio(ImagenAspectRatio.LANDSCAPE_16x9)
    .setImageFormat(ImagenImageFormat.jpeg(100))
    .setAddWatermark(false)
    .build();

ImagenModel m = FirebaseVertexAI.getInstance().imagenModel(
    "IMAGEN_MODEL_NAME",
    config
);

ImagenModelFutures model = ImagenModelFutures.from(m);

// ...

Описание каждого параметра вы можете найти в следующем разделе этой страницы.

Описание каждого параметра для использования с моделями Imagen

Параметр	Описание	Значение по умолчанию
Отрицательная подсказка `negativePrompt`	Описание того, что вы хотите исключить из сгенерированных изображений. Этот параметр пока не поддерживается `imagen-3.0-generate-002` .	---
Количество результатов `numberOfImages`	Количество сгенерированных изображений, возвращаемых для каждого запроса.	по умолчанию — одно изображение для моделей Imagen 3.
Соотношение сторон `aspectRatio`	Соотношение ширины и высоты создаваемых изображений	по умолчанию квадрат (1:1)
Формат изображения `imageFormat`	Параметры вывода, такие как формат изображения (тип MIME) и уровень сжатия созданных изображений.	Тип MIME по умолчанию — PNG сжатие по умолчанию — 75 (если тип MIME установлен на JPEG).
Водяной знак `addWatermark`	Добавлять ли невидимый цифровой водяной знак (называемый SynthID ) к созданным изображениям.	по умолчанию `true` для моделей Imagen 3.
Поколение человека `personGeneration`	Разрешить ли генерацию людей по модели	по умолчанию зависит от модели

Другие варианты управления созданием контента

Узнайте больше о разработке подсказок , чтобы вы могли влиять на модель и генерировать выходные данные, соответствующие вашим потребностям.
Используйте настройки безопасности , чтобы настроить вероятность получения ответов, которые могут быть расценены как вредные, включая разжигание ненависти и контент откровенно сексуального характера.
Установите системные инструкции для управления поведением модели. Эта функция похожа на «преамбулу», которую вы добавляете перед тем, как модель будет подвергнута дальнейшим инструкциям от конечного пользователя.
Передайте схему ответа вместе с приглашением указать конкретную схему вывода. Эта функция чаще всего используется при генерации выходных данных JSON , но ее также можно использовать для задач классификации (например, когда вы хотите, чтобы модель использовала определенные метки или теги).