Comprendre et utiliser les paramètres de sécurité


Vous pouvez utiliser les paramètres de sécurité pour ajuster la probabilité d'obtenir des réponses pouvant être considérées comme dangereuses. Par défaut, les paramètres de sécurité bloquent le contenu dont la probabilité de dangerosité est moyenne et/ou élevée pour toutes les dimensions.

Accéder aux paramètres de sécurité de Gemini Accéder aux paramètres de sécurité de Imagen

Pour en savoir plus sur les paramètres de sécurité, consultez la documentation Google Cloud.

Vous configurez SafetySettings lors de l'initialisation du modèle. Voici quelques exemples de base.

Pour définir un paramètre de sécurité:

// ...

let model = vertex.generativeModel(
  modelName: "GEMINI_MODEL_NAME",
  safetySettings: [
    SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
  ]
)

// ...

Vous pouvez également définir plusieurs paramètres de sécurité:

// ...

let harassmentSafety = SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
let hateSpeechSafety = SafetySetting(harmCategory: .hateSpeech, threshold: .blockMediumAndAbove)

let model = vertex.generativeModel(
  modelName: "GEMINI_MODEL_NAME",
  safetySettings: [harassmentSafety, hateSpeechSafety]
)

// ...

Paramètres de sécurité pour les modèles Imagen

Découvrez tous les paramètres de sécurité compatibles et leurs valeurs disponibles pour les modèles Imagen.

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize with an Imagen 3 model that supports your use case
let model = vertex.imagenModel(
  modelName: "IMAGEN_MODEL_NAME",
  // Configure image generation safety settings for the model
  safetySettings: ImagenSafetySettings(
    safetyFilterLevel: .blockLowAndAbove,
    personFilterLevel: .allowAdult
  )
)

// ...

Autres options pour contrôler la génération de contenu

  • Découvrez la conception d'invites pour pouvoir influencer le modèle afin de générer des résultats spécifiques à vos besoins.
  • Configurez les paramètres du modèle pour contrôler la manière dont le modèle génère une réponse. Pour les modèles Gemini, ces paramètres incluent les jetons de sortie maximum, la température, topK et topP. Pour les modèles Imagen, il peut s'agir du format, de la génération de personnes, du filigranage, etc.
  • Définissez des instructions système pour orienter le comportement du modèle. Cette fonctionnalité est comme un "préambule" que vous ajoutez avant que le modèle ne soit exposé à d'autres instructions de l'utilisateur final.
  • Transmettez un schéma de réponse avec l'invite pour spécifier un schéma de sortie spécifique. Cette fonctionnalité est généralement utilisée pour générer une sortie JSON, mais elle peut également être utilisée pour des tâches de classification (par exemple, lorsque vous souhaitez que le modèle utilise des libellés ou des balises spécifiques).