Mit den Sicherheitseinstellungen können Sie die Wahrscheinlichkeit anpassen, dass Sie Antworten erhalten, die als schädlich eingestuft werden könnten. Standardmäßig blockieren die Sicherheitseinstellungen Inhalte mit mittlerer und/oder hoher Wahrscheinlichkeit für unsichere Inhalte in allen Dimensionen.
Zu den Gemini Sicherheitseinstellungen Zu den Imagen Sicherheitseinstellungen
Sicherheitseinstellungen für Gemini-Modelle
Weitere Informationen zu den Sicherheitseinstellungen finden Sie in der Google Cloud-Dokumentation.
Sie konfigurieren SafetySettings während der Initialisierung des Modells. Hier einige grundlegende Beispiele.
So legen Sie eine Sicherheitseinstellung fest:
// ...
let model = vertex.generativeModel(
modelName: "GEMINI_MODEL_NAME ",
safetySettings: [
SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
]
)
// ...
Sie können auch mehrere Sicherheitseinstellungen festlegen:
// ...
let harassmentSafety = SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
let hateSpeechSafety = SafetySetting(harmCategory: .hateSpeech, threshold: .blockMediumAndAbove)
let model = vertex.generativeModel(
modelName: "GEMINI_MODEL_NAME ",
safetySettings: [harassmentSafety, hateSpeechSafety]
)
// ...
Sicherheitseinstellungen für Imagen-Modelle
// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()
// Initialize with an Imagen 3 model that supports your use case
let model = vertex.imagenModel(
modelName: "IMAGEN_MODEL_NAME ",
// Configure image generation safety settings for the model
safetySettings: ImagenSafetySettings(
safetyFilterLevel: .blockLowAndAbove,
personFilterLevel: .allowAdult
)
)
// ...
Weitere Optionen zur Steuerung der Inhaltserzeugung
- Weitere Informationen zum Design von Prompts, damit Sie das Modell beeinflussen können, um eine Ausgabe zu generieren, die Ihren Anforderungen entspricht.
- Konfigurieren Sie Modellparameter, um zu steuern, wie das Modell eine Antwort generiert. Bei Gemini-Modellen sind dies die Parameter „max. Ausgabetokens“, „Temperatur“, „Top-K“ und „Top-P“. Bei Imagen-Modellen sind dies unter anderem das Seitenverhältnis, die Generierung von Personen und das Hinzufügen von Wasserzeichen.
- Legen Sie Systemanweisungen fest, um das Verhalten des Modells zu steuern. Diese Funktion ist wie eine „Präambel“, die Sie hinzufügen, bevor das Modell weiteren Anweisungen des Endnutzers ausgesetzt wird.
- Geben Sie ein Antwortschema zusammen mit dem Prompt an, um ein bestimmtes Ausgabeschema anzugeben. Diese Funktion wird am häufigsten beim Generieren von JSON-Ausgabe verwendet, kann aber auch für Klassifizierungsaufgaben verwendet werden, z. B. wenn das Modell bestimmte Labels oder Tags verwenden soll.