Ustawienia bezpieczeństwa pozwalają dostosować prawdopodobieństwo, że odpowiedź wygenerowana przez model będzie zawierać szkodliwe treści. Domyślnie ustawienia bezpieczeństwa blokują treści, które ze średnim lub wysokim prawdopodobieństwem stanowią zagrożenie. Dotyczy to wszystkich wymiarów.
Przejdź do ustawień bezpieczeństwa Gemini Przejdź do ustawień bezpieczeństwa Imagen
Ustawienia bezpieczeństwa w modelach Gemini
Więcej informacji o ustawieniach bezpieczeństwa znajdziesz w dokumentacji Google Cloud.
Konfigurację SafetySettings należy przeprowadzić podczas inicjowania modelu. Oto kilka podstawowych przykładów.
Oto jak skonfigurować ustawienie bezpieczeństwa:
// ...
let model = vertex.generativeModel(
modelName: "GEMINI_MODEL_NAME ",
safetySettings: [
SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
]
)
// ...
Możesz też ustawić więcej niż 1 ustawienie bezpieczeństwa:
// ...
let harassmentSafety = SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
let hateSpeechSafety = SafetySetting(harmCategory: .hateSpeech, threshold: .blockMediumAndAbove)
let model = vertex.generativeModel(
modelName: "GEMINI_MODEL_NAME ",
safetySettings: [harassmentSafety, hateSpeechSafety]
)
// ...
Ustawienia bezpieczeństwa w modelach Imagen
Dowiedz się więcej o obsługiwanych ustawieniach bezpieczeństwa i ich dostępnych wartościach w modelach Imagen.
// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()
// Initialize with an Imagen 3 model that supports your use case
let model = vertex.imagenModel(
modelName: "IMAGEN_MODEL_NAME ",
// Configure image generation safety settings for the model
safetySettings: ImagenSafetySettings(
safetyFilterLevel: .blockLowAndAbove,
personFilterLevel: .allowAdult
)
)
// ...
Inne opcje umożliwiające kontrolowanie generowania treści
- Dowiedz się więcej o projektowaniu promptów, aby móc wpływać na model w celu generowania wyników odpowiadających Twoim potrzebom.
- Skonfiguruj parametry modelu, aby kontrolować, jak model wygeneruje odpowiedź. W przypadku modeli Gemini te parametry to maksymalna liczba tokenów wyjściowych, temperatura, topK i topP. W przypadku modeli Imagen obejmują one format obrazu, generowanie osób, znak wodny itp.
- Ustaw instrukcje systemowe, aby kierować działaniem modelu. Ta funkcja jest jak „wstęp”, który dodajesz przed udostępnieniem modelu w celu uzyskania dalszych instrukcji od użytkownika końcowego.
- Przekaż schemat odpowiedzi wraz z promptem, aby określić konkretny schemat wyjściowy. Ta funkcja jest najczęściej używana do generowania danych wyjściowych w formacie JSON, ale można jej też używać do zadań klasyfikacji (np. gdy chcesz, aby model używał określonych etykiet).