Вы можете использовать настройки безопасности, чтобы настроить вероятность получения ответов, которые могут быть расценены как вредные. По умолчанию настройки безопасности блокируют контент со средней и/или высокой вероятностью небезопасного контента по всем параметрам.
Перейти к настройкам безопасности Gemini.arrow_downward Перейти к настройкам безопасности Imagen
Настройки безопасности для моделей Gemini
Подробную информацию о настройках безопасности можно найти в документации Google Cloud .
Вы настраиваете SafetySettings во время инициализации модели. Вот несколько основных примеров.
Вот как можно установить одну настройку безопасности:
// ...
let model = vertex.generativeModel(
modelName: "GEMINI_MODEL_NAME ",
safetySettings: [
SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
]
)
// ...
Вы также можете установить несколько настроек безопасности:
// ...
let harassmentSafety = SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
let hateSpeechSafety = SafetySetting(harmCategory: .hateSpeech, threshold: .blockMediumAndAbove)
let model = vertex.generativeModel(
modelName: "GEMINI_MODEL_NAME ",
safetySettings: [harassmentSafety, hateSpeechSafety]
)
// ...
Настройки безопасности для моделей Imagen
Узнайте обо всех поддерживаемых настройках безопасности и их доступных значениях для моделей Imagen .
// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()
// Initialize with an Imagen 3 model that supports your use case
let model = vertex.imagenModel(
modelName: "IMAGEN_MODEL_NAME ",
// Configure image generation safety settings for the model
safetySettings: ImagenSafetySettings(
safetyFilterLevel: .blockLowAndAbove,
personFilterLevel: .allowAdult
)
)
// ...
Другие варианты управления созданием контента
- Узнайте больше о разработке подсказок , чтобы вы могли влиять на модель и генерировать выходные данные, соответствующие вашим потребностям.
- Настройте параметры модели , чтобы контролировать, как модель генерирует ответ. Для моделей Gemini эти параметры включают максимальное количество токенов вывода, температуру, topK и topP. Для моделей Imagen к ним относятся соотношение сторон, генерация людей, водяные знаки и т. д.
- Установите системные инструкции для управления поведением модели. Эта функция похожа на «преамбулу», которую вы добавляете перед тем, как модель будет подвергнута дальнейшим инструкциям от конечного пользователя.
- Передайте схему ответа вместе с приглашением указать конкретную схему вывода. Эта функция чаще всего используется при генерации выходных данных JSON , но ее также можно использовать для задач классификации (например, когда вы хотите, чтобы модель использовала определенные метки или теги).