安全性設定について理解し、使用する

安全性設定を使用すると、有害と見なされる可能性のある回答が生成される可能性を調整できます。デフォルトでは、安全性の設定により、すべてのディメンションで安全でないコンテンツである確率が中程度または高いコンテンツがブロックされます。

Gemini モデルの安全性設定

安全性設定について詳しくは、Google Cloud のドキュメントをご覧ください。

SafetySettings は、モデルの初期化時に構成します。基本的な例を以下に示します。

安全設定を 1 つ設定する方法は次のとおりです。

// ...

let model = vertex.generativeModel(
  modelName: "GEMINI_MODEL_NAME",
  safetySettings: [
    SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
  ]
)

// ...

複数の安全設定を設定することもできます。

// ...

let harassmentSafety = SafetySetting(harmCategory: .harassment, threshold: .blockOnlyHigh)
let hateSpeechSafety = SafetySetting(harmCategory: .hateSpeech, threshold: .blockMediumAndAbove)

let model = vertex.generativeModel(
  modelName: "GEMINI_MODEL_NAME",
  safetySettings: [harassmentSafety, hateSpeechSafety]
)

// ...

Imagen モデルの安全性設定

Imagen モデルでサポートされている安全設定と使用可能な値について学習する。

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize with an Imagen 3 model that supports your use case
let model = vertex.imagenModel(
  modelName: "IMAGEN_MODEL_NAME",
  // Configure image generation safety settings for the model
  safetySettings: ImagenSafetySettings(
    safetyFilterLevel: .blockLowAndAbove,
    personFilterLevel: .allowAdult
  )
)

// ...

コンテンツ生成を制御するその他のオプション

プロンプトの設計について学び、ニーズに固有の出力を生成するようにモデルに影響を与えましょう。
モデルパラメータを構成して、モデルがレスポンスを生成する方法を制御します。Gemini モデルの場合、これらのパラメータには、最大出力トークン、温度、topK、topP が含まれます。Imagen モデルの場合、アスペクト比、人物生成、ウォーターマークなどがあります。
システム指示を設定して、モデルの動作を制御します。この機能は、エンドユーザーからの詳細な手順を示すためにモデルが公開される前に追加する「プリアンブル」のようなものです。
プロンプトとともにレスポンススキーマを渡して、特定の出力スキーマを指定します。この機能は、JSON 出力の生成に最もよく使用されますが、分類タスクにも使用できます（モデルで特定のラベルやタグを使用する場合など）。