Comprende y usa la configuración de seguridad


Puedes usar la configuración de seguridad para ajustar la probabilidad de recibir respuestas que se puedan considerar dañinas. De forma predeterminada, la configuración de seguridad bloquea el contenido con una probabilidad media o alta de no ser seguro en todas las dimensiones.

Ir a la configuración de seguridad de Gemini Ir a la configuración de seguridad de Imagen

Obtén más información sobre la configuración de seguridad en la documentación de Google Cloud.

Debes configurar SafetySettings durante la inicialización del modelo. Estos son algunos ejemplos básicos.

Sigue estos pasos para establecer un parámetro de configuración de seguridad:

// ...

let model = vertex.generativeModel(
  modelName: "GEMINI_MODEL_NAME",
  safetySettings: [
    SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
  ]
)

// ...

También puedes establecer más de un parámetro de configuración de seguridad:

// ...

let harassmentSafety = SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
let hateSpeechSafety = SafetySetting(harmCategory: .hateSpeech, threshold: .blockMediumAndAbove)

let model = vertex.generativeModel(
  modelName: "GEMINI_MODEL_NAME",
  safetySettings: [harassmentSafety, hateSpeechSafety]
)

// ...

Configuración de seguridad para modelos Imagen

Obtén información sobre todos los parámetros de configuración de seguridad admitidos y sus valores disponibles para los modelos Imagen.

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize with an Imagen 3 model that supports your use case
let model = vertex.imagenModel(
  modelName: "IMAGEN_MODEL_NAME",
  // Configure image generation safety settings for the model
  safetySettings: ImagenSafetySettings(
    safetyFilterLevel: .blockLowAndAbove,
    personFilterLevel: .allowAdult
  )
)

// ...

Otras opciones para controlar la generación de contenido

  • Obtén más información sobre el diseño de instrucciones para influir en el modelo y generar resultados específicos para tus necesidades.
  • Configura los parámetros del modelo para controlar cómo el modelo genera una respuesta. En el caso de los modelos Gemini, estos parámetros incluyen la cantidad máxima de tokens de salida, la temperatura, Top-K y Top-P. En el caso de los modelos Imagen, estos incluyen la relación de aspecto, la generación de personas, la marca de agua, etcétera.
  • Establece instrucciones del sistema para guiar el comportamiento del modelo. Esta función es como un "preámbulo" que agregas antes de que el modelo se exponga a otras instrucciones del usuario final.
  • Pasa un esquema de respuesta junto con la instrucción para especificar un esquema de salida específico. Esta función se usa con mayor frecuencia cuando se genera un resultado JSON, pero también se puede usar para tareas de clasificación (como cuando deseas que el modelo use etiquetas específicas).