Für Ihre KI-Funktion können Sie dieselben Eingabetokens (Inhalte) immer wieder an ein Modell übergeben. In diesen Anwendungsfällen können Sie diese Inhalte stattdessen im Cache speichern. Das bedeutet, dass Sie die Inhalte einmal an das Modell übergeben, sie speichern und in nachfolgenden Anfragen darauf verweisen.
Durch das Caching von Kontexten können die Latenz und die Kosten für sich wiederholende Aufgaben mit einer großen Menge an Inhalten erheblich reduziert werden, z. B. bei großen Textmengen, einer Audiodatei oder einer Videodatei. Einige häufige Anwendungsfälle für im Cache gespeicherte Inhalte sind detaillierte Personadokumente, Codebasen oder Handbücher.
Gemini Modelle bieten zwei verschiedene Caching-Mechanismen:
Implizites Caching: automatisch bei den meisten Modellen aktiviert, keine garantierten Kosteneinsparungen
Explizites Caching: Bei den meisten Modellen optional und manuell aktivierbar, führt in der Regel zu Kosteneinsparungen
Explizites Caching ist in Fällen nützlich, in denen Sie mit größerer Wahrscheinlichkeit Kosteneinsparungen erzielen möchten, aber mit etwas mehr Aufwand für Entwickler.
Sowohl beim impliziten als auch beim expliziten Caching gibt das Feld cachedContentTokenCount in den Metadaten Ihrer Antwort die Anzahl der Tokens im im Cache gespeicherten Teil Ihrer Eingabe an. Informationen zu den Preisen
für explizites Caching finden Sie unten auf dieser Seite.
Unterstützte Modelle
Caching wird bei Verwendung der folgenden Modelle unterstützt:
gemini-3.1-pro-previewgemini-3.7-flashund die älteren Modellegemini-3.6-flashundgemini-3.5-flashgemini-3.5-flash-liteund das ältere Modellgemini-3.1-flash-lite
Die Gemini-Modelle für den allgemeinen Gebrauch Gemini 2.5 unterstützen diese Funktion, sind aber alle veraltet.
Modelle zur Mediengenerierung (z. B. die Modelle „Nana Banana“ wie gemini-3.1-flash-image) unterstützen kein Kontext-Caching.
Größenbeschränkungen für im Cache gespeicherte Inhalte
Für jedes Modell gilt eine Mindestanzahl von Tokens für im Cache gespeicherte Inhalte. Die maximale Anzahl wird durch das Kontextfenster des Modells bestimmt.
- Gemini Pro-Modelle: mindestens 4.096 Tokens
- Gemini Flash-Modelle: mindestens 1.024 Tokens
Außerdem beträgt die maximale Größe von Inhalten, die Sie mit einem Blob oder Text im Cache speichern können, 10 MB.
Implizites Caching
Implizites Caching ist standardmäßig aktiviert und für die meisten Gemini Modelle verfügbar.
Google gibt Kosteneinsparungen automatisch weiter, wenn Ihre Anfrage auf die im Cache gespeicherten Inhalte trifft. Hier sind einige Möglichkeiten, die Wahrscheinlichkeit zu erhöhen, dass Ihre Anfrage implizites Caching verwendet:
- Platzieren Sie große und häufig verwendete Inhalte am Anfang Ihres Prompts.
- Senden Sie Anfragen mit einem ähnlichen Präfix in kurzer Zeit.
Die Anzahl der Tokens im im Cache gespeicherten Teil Ihrer Eingabe wird im Feld cachedContentTokenCount in den Metadaten einer Antwort angegeben.
Explizites Caching
Explizites Caching ist nicht standardmäßig aktiviert und eine optionale Funktion der Gemini Modelle.
So richten Sie explizite Inhalts-Caches ein und arbeiten damit:
Explizite Caches verwalten, einschließlich:
Explizite Inhalts-Caches interagieren mit implizitem Caching, was möglicherweise zu zusätzlichem Caching über die explizit im Cache gespeicherten Inhalte hinaus führt. Sie können die Aufbewahrung von Cache-Daten verhindern, indem Sie implizites Caching deaktivieren und keine expliziten Caches erstellen. Weitere Informationen finden Sie unter Caching aktivieren und deaktivieren.
Expliziten Cache erstellen und verwenden
Zum Erstellen und Verwenden eines expliziten Inhalts-Caches ist Folgendes erforderlich:
Wichtige Informationen zum Erstellen und Verwenden eines expliziten Cache
Ihr Cache muss mit den Prompt-Anfragen Ihrer App und Ihrer Server-Prompt-Vorlage übereinstimmen:
Der Cache ist spezifisch für einen Gemini API Anbieter. Die Prompt-Anfrage Ihrer App muss denselben Anbieter verwenden.
Für Firebase AI Logic, empfehlen wir dringend, explizite Inhalts-Caches nur mit der Agent Platform Gemini API (formerly Vertex AI) zu verwenden. Alle Informationen und Beispiele auf dieser Seite beziehen sich auf diesen Gemini API Anbieter.Der Cache ist spezifisch für ein Gemini Modell. Die Prompt-Anfrage Ihrer App muss dasselbe Modell verwenden.
Der Cache ist spezifisch für einen Standort, wenn Sie die Agent Platform Gemini API (formerly Vertex AI) verwenden.
Der Standort für den expliziten Cache muss mit dem Standort der Server-Prompt-Vorlage und dem Standort übereinstimmen, an dem Sie in der Prompt-Anfrage Ihrer App auf das Modell zugreifen.
Beachten Sie außerdem die folgenden Einschränkungen und Anforderungen für explizites Caching:
Nachdem ein expliziter Cache erstellt wurde, können Sie nichts mehr daran ändern, außer der TTL oder der Ablaufzeit.
Sie können jeden unterstützten MIME-Typ für Eingabedateien oder auch nur Text im Cache speichern, der in der Anfrage zur Cache-Erstellung angegeben wurde.
Wenn Sie eine Datei in den Cache aufnehmen möchten, müssen Sie sie als Cloud Storage URI angeben. Es darf keine Browser-URL oder YouTube-URL sein.
Außerdem werden die Zugriffsbeschränkungen für die Datei zum Zeitpunkt der Cache-Erstellung geprüft und nicht noch einmal zum Zeitpunkt der Nutzeranfrage. Achten Sie daher darauf, dass alle im expliziten Cache enthaltenen Daten für jeden Nutzer geeignet sind, der eine Anfrage mit diesem Cache stellt.
Wenn Sie Systemanweisungen oder Tools verwenden möchten (z. B. Code-Ausführung, URL Context, Fundierung mit
Google Search , oder Fundierung mitGoogle Maps ), muss der Cache selbst die entsprechenden Konfigurationen enthalten. Sie können nicht in der Server-Prompt-Vorlage oder in der Prompt-Anfrage Ihrer App konfiguriert werden. Server-Prompt-Vorlagen unterstützen noch nicht Funktionsaufrufe (oder Chats). Details zum Konfigurieren von System anweisungen und Tools in Ihrem Cache finden Sie in der REST API der Agent Platform Gemini API (formerly Vertex AI).
Schritt 1: Cache erstellen
Erstellen Sie den Cache direkt mit der REST API der Agent Platform Gemini API (formerly Vertex AI).
Im folgenden Beispiel wird ein expliziter Cache einer PDF-Datei als Inhalt erstellt.
Syntax :
PROJECT_ID="PROJECT_ID"
MODEL_ID="GEMINI_MODEL" # for example, gemini-3.7-flash
LOCATION="LOCATION" # location for both the cache and the model
MIME_TYPE="MIME_TYPE"
CACHED_CONTENT_URI="CLOUD_STORAGE_FILE_URI" # must be a Cloud Storage URI
CACHE_DISPLAY_NAME="CACHE_DISPLAY_NAME" # optional
TTL="CACHE_TIME_TO_LIVE" # optional (if not specified, defaults to 3600s)
curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents \
-d @- <<EOF
{
"model":"projects/${PROJECT_ID}/locations/${LOCATION}/publishers/google/models/${MODEL_ID}",
"contents": [
{
"role": "user",
"parts": [
{
"fileData": {
"mimeType": "${MIME_TYPE}",
"fileUri": "${CACHED_CONTENT_URI}"
}
}
]
}
],
"displayName": "${CACHE_DISPLAY_NAME}",
"ttl": "${TTL}"
}
EOF
Beispielanfrage :
PROJECT_ID="my-amazing-app"
MODEL_ID="gemini-3.7-flash"
LOCATION="global"
MIME_TYPE="application/pdf"
CACHED_CONTENT_URI="gs://cloud-samples-data/generative-ai/pdf/2312.11805v3.pdf"
CACHE_DISPLAY_NAME="Gemini - A Family of Highly Capable Multimodal Model (PDF)"
TTL="7200s"
curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents \
-d @- <<EOF
{
"model":"projects/${PROJECT_ID}/locations/${LOCATION}/publishers/google/models/${MODEL_ID}",
"contents": [
{
"role": "user",
"parts": [
{
"fileData": {
"mimeType": "${MIME_TYPE}",
"fileUri": "${CACHED_CONTENT_URI}"
}
}
]
}
],
"displayName": "${CACHE_DISPLAY_NAME}",
"ttl": "${TTL}"
}
EOF
Beispielantwort :
Die Antwort enthält einen voll qualifizierten Ressourcennamen (name), der für den Cache weltweit eindeutig ist. Das letzte Segment ist die Cache-ID. Sie verwenden diesen gesamten name-Wert im nächsten Schritt des Workflows.
{
"name": "projects/861083271981/locations/global/cachedContents/4545031458888089601",
"model": "projects/my-amazing-app/locations/global/publishers/google/models/gemini-3.7-flash",
"createTime": "2024-06-04T01:11:50.808236Z",
"updateTime": "2024-06-04T01:11:50.808236Z",
"expireTime": "2024-06-04T02:11:50.794542Z"
}
Schritt 2: In einer Server-Prompt-Vorlage auf den Cache verweisen
Nachdem Sie den Cache erstellt haben, verweisen Sie mit name in der cachedContent
Eigenschaft einer
Server-Prompt-Vorlage darauf.
Beachten Sie beim Erstellen Ihrer Server-Prompt-Vorlage die folgenden Anforderungen:
Verwenden Sie den voll qualifizierten Ressourcennamen (
name) aus der Antwort, als Sie den Cache erstellt haben. Dies ist nicht der optionale Anzeigename, den Sie in der Anfrage angegeben haben.Der Standort für die Server-Prompt-Vorlage muss mit dem Standort des Cache übereinstimmen.
Wenn Sie Systemanweisungen oder Tools verwenden möchten, müssen sie als Teil des Cache und nicht als Teil der Server-Prompt-Vorlage konfiguriert werden.
Syntax :
{{cachedContent name="YOUR_CACHE_RESOURCE_NAME"}}
{{role "user"}}
{{userPrompt}}
Beispiel :
{{cachedContent name="projects/861083271981/locations/global/cachedContents/4545031458888089601"}}
{{role "user"}}
{{userPrompt}}
Alternativ kann der Wert des name Parameters in der Server-Prompt-Vorlage
eine
dynamische Eingabevariable sein.
Mit
{{cachedContent name=someVariable}}name des Cache als Eingabe für die Anfrage aus
Ihrer App verwenden.
Schritt 3: In der Anfrage aus Ihrer App auf die Server-Prompt-Vorlage verweisen
Beachten Sie beim Schreiben Ihrer Anfrage Folgendes:
Verwenden Sie die Agent Platform Gemini API (formerly Vertex AI) da der Cache mit diesem Gemini API Anbieter erstellt wurde.
Der Standort, an dem Sie in der Prompt-Anfrage Ihrer App auf das Modell zugreifen , muss mit dem Standort der Server-Prompt -Vorlage und des Cache übereinstimmen.
Swift
// ...
// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Create a `TemplateGenerativeModel` instance.
// Make sure to specify the same location as the server prompt template and the cache.
let model = FirebaseAI.firebaseAI(backend: .agentPlatform(location: "LOCATION"))
.templateGenerativeModel()
do {
let response = try await model.generateContent(
// Specify your template ID.
templateID: "TEMPLATE_ID"
)
if let text = response.text {
print("Response Text: \(text)")
}
} catch {
print("An error occurred: \(error)")
}
print("\n")
Kotlin
// ...
// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Create a `TemplateGenerativeModel` instance.
// Make sure to specify the same location as the server prompt template and the cache.
val model = Firebase.ai(backend = GenerativeBackend.agentPlatform(location = "LOCATION"))
.templateGenerativeModel()
val response = model.generateContent(
// Specify your template ID.
"TEMPLATE_ID",
)
val text = response.text
println(text)
Java
// ...
// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Create a `TemplateGenerativeModel` instance.
// Make sure to specify the same location as the server prompt template and the cache.
TemplateGenerativeModel generativeModel = FirebaseAI.getInstance(GenerativeBackend.agentPlatform("LOCATION"))
.templateGenerativeModel();
TemplateGenerativeModelFutures model = TemplateGenerativeModelFutures.from(generativeModel);
Future<GenerateContentResponse> response = model.generateContent(
// Specify your template ID.
"TEMPLATE_ID"
);
addCallback(response,
new FutureCallback<GenerateContentResponse>() {
public void onSuccess(GenerateContentResponse result) {
System.out.println(result.getText());
}
public void onFailure(Throwable t) {
reportError(t);
}
}
executor);
Web
// ...
// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Make sure to specify the same location as the server prompt template and the cache.
const ai = getAI(app, { backend: new AgentPlatformBackend('LOCATION') });
// Create a `TemplateGenerativeModel` instance
const model = getTemplateGenerativeModel(ai);
const result = await model.generateContent(
// Specify your template ID.
'TEMPLATE_ID'
);
const response = result.response;
const text = response.text();
Dart
// ...
// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Create a `TemplateGenerativeModel` instance.
// Make sure to specify the same location as the server prompt template and the cache.
var _model = FirebaseAI.agentPlatform(location: 'LOCATION').templateGenerativeModel()
var response = await _model.generateContent(
// Specify your template ID.
'TEMPLATE_ID',
);
var text = response?.text;
print(text);
Einheit
// ...
// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Make sure to specify the same location as the server prompt template and the cache.
var firebaseAI = FirebaseAI.GetInstance(FirebaseAI.Backend.AgentPlatform(location: "LOCATION"));
// Create a `TemplateGenerativeModel` instance.
var model = firebaseAI.GetTemplateGenerativeModel();
try
{
var response = await model.GenerateContentAsync(
// Specify your template ID.
"TEMPLATE_ID"
);
Debug.Log($"Response Text: {response.Text}");
}
catch (Exception e) {
Debug.LogError($"An error occurred: {e.Message}");
}
Explizite Caches verwalten
In diesem Abschnitt wird die Verwaltung expliziter Inhalts-Caches beschrieben, einschließlich des Auflistens aller Caches , des Abrufens von Metadaten zu einem Cache, des Aktualisierens der TTL oder der Ablaufzeit eines Cache, und des Löschens eines Cache.
Sie verwalten explizite Caches mit der REST API der Agent Platform Gemini API (formerly Vertex AI).
Nachdem ein expliziter Inhalts-Cache erstellt wurde, können Sie nichts mehr daran ändern, außer der TTL oder der Ablaufzeit.
Alle Caches auflisten
Sie können alle expliziten Caches auflisten, die für Ihr Projekt verfügbar sind. Mit diesem Befehl werden nur die Caches am angegebenen Standort zurückgegeben.
PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
curl \
-X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents
Metadaten zu einem Cache abrufen
Es ist nicht möglich, die tatsächlichen im Cache gespeicherten Inhalte abzurufen oder anzusehen. Sie können jedoch
Metadaten zu einem expliziten Cache abrufen, einschließlich name, model,
display_name, usage_metadata, create_time, update_time, und
expire_time.
Sie müssen die CACHE_ID angeben. Das ist das letzte Segment im voll qualifizierten Ressourcennamen (name) des Cache.
PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
CACHE_ID="CACHE_ID" # the final segment in the `name` of the cache
curl \
-X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents/${CACHE_ID}
TTL oder Ablaufzeit für einen Cache aktualisieren
Wenn Sie einen expliziten Cache erstellen, können Sie optional die ttl oder die expire_time festlegen.
ttl: Die TTL (Time-to-Live) für den Cache, insbesondere die Anzahl der Sekunden und Nanosekunden, die der Cache nach der Erstellung oder nach der Aktualisierung derttlgültig ist, bevor er abläuft. Wenn Sie diettlfestlegen, wird dieexpireTimedes Cache automatisch aktualisiert.expire_time: EinTimestamp(z. B.2024-06-30T09:00:00.000000Z), der das absolute Datum und die Uhrzeit angibt, zu dem der Cache abläuft.
Wenn Sie keinen dieser Werte festlegen, beträgt die Standard-TTL 1 Stunde. Es gibt keine Mindest- oder Höchstwerte für die TTL.
Für vorhandene explizite Caches können Sie die ttl oder expire_time hinzufügen oder aktualisieren.
Sie müssen die CACHE_ID angeben. Das ist das letzte Segment im voll qualifizierten Ressourcennamen (name) des Cache.
Update ttl
PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
CACHE_ID="CACHE_ID" # the final segment in the `name` of the cache
TTL="CACHE_TIME_TO_LIVE"
curl \
-X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents/${CACHE_ID} -d \
'{
"ttl": "'$TTL'"
}'
Aktualisieren expire_time
PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
CACHE_ID="CACHE_ID" # the final segment in the `name` of the cache
EXPIRE_TIME="ABSOLUTE_TIME_CACHE_EXPIRES"
curl \
-X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents/${CACHE_ID} -d \
'{
"expire_time": "'$EXPIRE_TIME'"
}'
Cache löschen
Wenn ein expliziter Cache nicht mehr benötigt wird, können Sie ihn löschen.
Sie müssen die CACHE_ID angeben. Das ist das letzte Segment im voll qualifizierten Ressourcennamen (name) des Cache.
PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
CACHE_ID="CACHE_ID" # the final segment in the `name` of the cache
curl \
-X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents/${CACHE_ID}
Preise für explizites Caching
Explizites Caching ist eine kostenpflichtige Funktion, mit der Kosten gesenkt werden sollen. Die Preise basieren auf den folgenden Faktoren:
Eingabetokens für die Cache-Erstellung: Sowohl für implizites als auch für explizites Caching werden Ihnen die Eingabetokens, die zum Erstellen des Cache verwendet wurden, zum Standardpreis für Eingabetokens in Rechnung gestellt.
Speicherung des Cache: Für explizites Caching fallen auch Speicherkosten an, die davon abhängen, wie lange Caches gespeichert werden. Für implizites Caching fallen keine Speicherkosten an. Weitere Informationen finden Sie in der Preisübersicht für die Agent Platform Gemini API (formerly Vertex AI).
Verwendung von im Cache gespeicherten Inhalten: Explizites Caching bietet einen Rabatt, wenn auf explizite Caches verwiesen wird. Das bedeutet, dass Sie einen Rabatt auf die Eingabetokens erhalten, wenn sie auf einen vorhandenen Cache verweisen. Für Gemini 2.5 Modelle und höher beträgt dieser Rabatt 90%.
Die Anzahl der Tokens im im Cache gespeicherten Teil Ihrer Eingabe wird im Feld cachedContentTokenCount in den Metadaten einer Antwort angegeben.