Générer du texte à partir de requêtes multimodales à l'aide de l'API Gemini


Lorsque vous appelez Gemini API à partir de votre application à l'aide d'un SDK Vertex AI in Firebase, vous pouvez demander au modèle Gemini de générer du texte à partir d'une entrée multimodale. Les requêtes multimodales peuvent inclure plusieurs modalités (ou types d'entrée), comme du texte avec des images, des PDF, des fichiers au format texte brut, des vidéos et de l'audio.

Dans chaque requête multimodale, vous devez toujours fournir les éléments suivants:

Pour tester et effectuer des itérations des requêtes multimodales, nous vous recommandons d'utiliser Vertex AI Studio.

Avant de commencer

Si vous ne l'avez pas déjà fait, suivez le guide de démarrage des SDK Vertex AI in Firebase. Assurez-vous d'avoir effectué les opérations suivantes:

  1. Configurez un projet Firebase nouveau ou existant, y compris en utilisant le forfait Blaze et en activant les API requises.

  2. Associez votre application à Firebase, y compris en l'enregistrant et en ajoutant votre configuration Firebase à votre application.

  3. Ajoutez le SDK et initialisez le service Vertex AI et le modèle génératif dans votre application.

Une fois que vous avez connecté votre application à Firebase, ajouté le SDK et initialisé le service Vertex AI et le modèle génératif, vous pouvez appeler Gemini API.

Générer du texte à partir de texte et d'une seule image Générer du texte à partir de texte et de plusieurs images Générer du texte à partir de texte et d'une vidéo

Exemples de fichiers multimédias

Si vous ne disposez pas encore de fichiers multimédias, vous pouvez utiliser les fichiers suivants, disponibles publiquement:

Générer du texte à partir de texte et d'une seule image

Assurez-vous d'avoir terminé la section Avant de commencer de ce guide avant d'essayer cet exemple.

Vous pouvez appeler Gemini API avec des invites multimodales qui incluent à la fois du texte et un seul fichier (comme une image, comme indiqué dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les contenus multimédias dans les requêtes (comme Gemini 1.5 Flash).

Veillez à consulter les exigences et recommandations concernant les fichiers d'entrée.

Choisissez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).

Streaming

Vous pouvez accélérer les interactions en n'attendant pas le résultat complet de la génération du modèle, et en utilisant plutôt le streaming pour gérer les résultats partiels.

Cet exemple montre comment utiliser generateContentStream() pour diffuser du texte généré à partir d'une requête d'invite multimodale incluant du texte et une seule image:

import FirebaseVertexAI

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
let model = vertex.generativeModel(modelName: "gemini-1.5-flash")

guard let image = UIImage(systemName: "bicycle") else { fatalError() }

// Provide a text prompt to include with the image
let prompt = "What's in this picture?"

// To stream generated text output, call generateContentStream and pass in the prompt
let contentStream = try model.generateContentStream(image, prompt)
for try await chunk in contentStream {
  if let text = chunk.text {
    print(text)
  }
}

Sans streaming

Vous pouvez également attendre le résultat complet au lieu de le diffuser. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.

Cet exemple montre comment utiliser generateContent() pour générer du texte à partir d'une requête d'invite multimodale incluant du texte et une seule image:

import FirebaseVertexAI

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
let model = vertex.generativeModel(modelName: "gemini-1.5-flash")

guard let image = UIImage(systemName: "bicycle") else { fatalError() }

// Provide a text prompt to include with the image
let prompt = "What's in this picture?"

// To generate text output, call generateContent and pass in the prompt
let response = try await model.generateContent(image, prompt)
print(response.text ?? "No text in response.")

Découvrez comment choisir un modèle Gemini et éventuellement une localisation adaptée à votre cas d'utilisation et à votre application.

Générer du texte à partir de texte et de plusieurs images

Assurez-vous d'avoir terminé la section Avant de commencer de ce guide avant d'essayer cet exemple.

Vous pouvez appeler Gemini API avec des requêtes multimodales qui incluent à la fois du texte et plusieurs fichiers (comme des images, comme illustré dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les contenus multimédias dans les requêtes (comme Gemini 1.5 Flash).

Veillez à consulter les exigences et recommandations concernant les fichiers d'entrée.

Choisissez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).

Streaming

Vous pouvez accélérer les interactions en n'attendant pas le résultat complet de la génération du modèle, et en utilisant plutôt le streaming pour gérer les résultats partiels.

Cet exemple montre comment utiliser generateContentStream() pour diffuser du texte généré à partir d'une requête d'invite multimodale incluant du texte et plusieurs images:

import FirebaseVertexAI

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
let model = vertex.generativeModel(modelName: "gemini-1.5-flash")

guard let image1 = UIImage(systemName: "car") else { fatalError() }
guard let image2 = UIImage(systemName: "car.2") else { fatalError() }

// Provide a text prompt to include with the images
let prompt = "What's different between these pictures?"

// To stream generated text output, call generateContentStream and pass in the prompt
let contentStream = try model.generateContentStream(image1, image2, prompt)
for try await chunk in contentStream {
  if let text = chunk.text {
    print(text)
  }
}

Sans streaming

Vous pouvez également attendre le résultat complet au lieu de le diffuser. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.

Cet exemple montre comment utiliser generateContent() pour générer du texte à partir d'une requête d'invite multimodale incluant du texte et plusieurs images:

import FirebaseVertexAI

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
let model = vertex.generativeModel(modelName: "gemini-1.5-flash")

guard let image1 = UIImage(systemName: "car") else { fatalError() }
guard let image2 = UIImage(systemName: "car.2") else { fatalError() }

// Provide a text prompt to include with the images
let prompt = "What's different between these pictures?"

// To generate text output, call generateContent and pass in the prompt
let response = try await model.generateContent(image1, image2, prompt)
print(response.text ?? "No text in response.")

Découvrez comment choisir un modèle Gemini et éventuellement une localisation adaptée à votre cas d'utilisation et à votre application.

Générer du texte à partir de texte et d'une vidéo

Assurez-vous d'avoir terminé la section Avant de commencer de ce guide avant d'essayer cet exemple.

Vous pouvez appeler Gemini API avec des requêtes multimodales qui incluent à la fois du texte et des fichiers vidéo (comme indiqué dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les contenus multimédias dans les requêtes (comme Gemini 1.5 Flash).

Veillez à consulter les exigences et recommandations concernant les fichiers d'entrée.

Choisissez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).

Streaming

Vous pouvez accélérer les interactions en n'attendant pas le résultat complet de la génération du modèle, et en utilisant plutôt le streaming pour gérer les résultats partiels.

Cet exemple montre comment utiliser generateContentStream() pour diffuser du texte généré à partir d'une requête de requête multimodale incluant du texte et une seule vidéo:

import FirebaseVertexAI

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
let model = vertex.generativeModel(modelName: "gemini-1.5-flash")

// Provide the video as `Data` with the appropriate MIME type
let video = InlineDataPart(data: try Data(contentsOf: videoURL), mimeType: "video/mp4")

// Provide a text prompt to include with the video
let prompt = "What is in the video?"

// To stream generated text output, call generateContentStream with the text and video
let contentStream = try model.generateContentStream(video, prompt)
for try await chunk in contentStream {
  if let text = chunk.text {
    print(text)
  }
}

Sans streaming

Vous pouvez également attendre le résultat complet au lieu de le diffuser. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.

Cet exemple montre comment utiliser generateContent() pour générer du texte à partir d'une requête de requête multimodale incluant du texte et une seule vidéo:

import FirebaseVertexAI

// Initialize the Vertex AI service
let vertex = VertexAI.vertexAI()

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
let model = vertex.generativeModel(modelName: "gemini-1.5-flash")

// Provide the video as `Data` with the appropriate MIME type.
let video = InlineDataPart(data: try Data(contentsOf: videoURL), mimeType: "video/mp4")

// Provide a text prompt to include with the video
let prompt = "What is in the video?"

// To generate text output, call generateContent with the text and video
let response = try await model.generateContent(video, prompt)
print(response.text ?? "No text in response.")

Découvrez comment choisir un modèle Gemini et éventuellement une localisation adaptée à votre cas d'utilisation et à votre application.

Exigences et recommandations concernant les fichiers d'entrée

Consultez la section Fichiers d'entrée compatibles et exigences pour Vertex AI Gemini API pour en savoir plus sur les éléments suivants:

  • Différentes options pour fournir un fichier dans une requête
  • Types de fichiers compatibles
  • Types MIME compatibles et méthode de spécification
  • Exigences et bonnes pratiques concernant les fichiers et les requêtes multimodales

Qu'est-ce que tu sais faire d'autre ?

  • Découvrez comment compter les jetons avant d'envoyer des requêtes longues au modèle.
  • Configurez Cloud Storage for Firebase pour pouvoir inclure de gros fichiers dans vos requêtes multimodales et disposer d'une solution plus gérée pour fournir des fichiers dans les requêtes. Les fichiers peuvent inclure des images, des PDF, des vidéos et des fichiers audio.
  • Commencez à réfléchir à la préparation de la production, y compris à la configuration de Firebase App Check pour protéger Gemini API contre les utilisations abusives par des clients non autorisés.

Essayez d'autres fonctionnalités de Gemini API

Découvrez comment contrôler la génération de contenu.

Vous pouvez également tester des requêtes et des configurations de modèle à l'aide de Vertex AI Studio.

En savoir plus sur les modèles Gemini

Découvrez les modèles disponibles pour différents cas d'utilisation, ainsi que leurs quotas et tarifs.


Envoyer des commentaires sur votre expérience avec Vertex AI in Firebase