Firebase AI Logic में कॉन्टेक्स्ट को कैश मेमोरी में सेव करना

ऐसा हो सकता है कि एआई की सुविधा के लिए, किसी मॉडल को एक ही इनपुट टोकन (कॉन्टेंट) बार-बार पास किया जाए. इन मामलों में, इस कॉन्टेंट को कैश मेमोरी में सेव किया जा सकता है. इसका मतलब है कि कॉन्टेंट को मॉडल को एक बार पास करें, उसे सेव करें, और बाद के अनुरोधों में उसका रेफ़रंस दें.

कॉन्टेक्स्ट के लिए कैश की सुविधा, बार-बार किए जाने वाले टास्क के लिए इंतज़ार का समय और लागत को काफ़ी कम कर सकती है. इन टास्क में ज़्यादा कॉन्टेंट शामिल होता है. जैसे, ज़्यादा टेक्स्ट, ऑडियो फ़ाइल या वीडियो फ़ाइल. कैश मेमोरी में सेव किए गए कॉन्टेंट के कुछ सामान्य इस्तेमाल के उदाहरणों में, पर्सोना से जुड़े ज़्यादा जानकारी वाले दस्तावेज़, कोड बेस या मैन्युअल शामिल हैं.

Gemini मॉडल, कैश मेमोरी में डेटा सेव करने के दो अलग-अलग तरीके उपलब्ध कराते हैं:

  • इंप्लिसिट कैशिंग: ज़्यादातर मॉडल पर अपने-आप चालू हो जाती है. हालांकि, इससे लागत में बचत की कोई गारंटी नहीं होती

  • एक्सप्लिसिट कैशिंग: इसे ज़्यादातर मॉडल पर मैन्युअल तरीके से चालू किया जा सकता है. हालांकि, ऐसा करना ज़रूरी नहीं है. आम तौर पर, इससे लागत कम होती है

एक्सप्लिसिट कैशिंग उन मामलों में मददगार होती है जहां आपको लागत में बचत की गारंटी चाहिए. हालांकि, इसके लिए डेवलपर को कुछ अतिरिक्त काम करना पड़ता है.

इंप्लिसिट और एक्सप्लिसिट, दोनों तरह की कैश मेमोरी के लिए, आपके जवाब के मेटाडेटा में मौजूद cachedContentTokenCount फ़ील्ड, आपके इनपुट के कैश मेमोरी वाले हिस्से में मौजूद टोकन की संख्या दिखाता है. एक्सप्लिसिट कैशिंग के लिए, इस पेज पर सबसे नीचे दी गई कीमत की जानकारी ज़रूर देखें.

इस्तेमाल किए जा सकने वाले मॉडल

कैशिंग की सुविधा, इन मॉडल का इस्तेमाल करने पर उपलब्ध होती है:

  • gemini-4-hydrogen (सिर्फ़ इंप्लिसिट कैश मेमोरी; एक्सप्लिसिट कैश मेमोरी का इस्तेमाल नहीं किया जा सकता)
  • gemini-4-argon (सिर्फ़ इंप्लिसिट कैश मेमोरी; एक्सप्लिसिट कैश मेमोरी का इस्तेमाल नहीं किया जा सकता)
  • gemini-4-carbon (सिर्फ़ इंप्लिसिट कैश मेमोरी; एक्सप्लिसिट कैश मेमोरी का इस्तेमाल नहीं किया जा सकता)
  • gemini-3.8-flash
  • gemini-3.5-flash-lite (और इससे पुराना gemini-3.1-flash-lite)

सामान्य इस्तेमाल के लिए उपलब्ध पुराने Gemini 3.x Flash मॉडल में यह सुविधा काम करती है. हालांकि, अब इनका इस्तेमाल करने का सुझाव नहीं दिया जाता. इसकी वजह यह है कि इन्हें बंद करने की तारीखें आने वाली हैं और/या नए मॉडल पर अपने-आप रूट होने की सुविधा उपलब्ध है.

मीडिया जनरेट करने वाले मॉडल, जैसे कि gemini-nano-banana-2.1 जैसे Gemini Nano Banana मॉडल में कॉन्टेक्स्ट के लिए कैश मेमोरी की सुविधा काम नहीं करती.

कैश मेमोरी में सेव किए गए कॉन्टेंट के साइज़ की सीमाएं

कैश मेमोरी में सेव किए गए कॉन्टेंट के लिए, हर मॉडल में टोकन की संख्या कम से कम होनी चाहिए. ज़्यादा से ज़्यादा कितने टोकन इस्तेमाल किए जा सकते हैं, यह मॉडल की कॉन्टेक्स्ट विंडो से तय होता है.

  • Gemini 4 Hydrogen, Gemini 4 Carbon, और Gemini 4 Argon: कम से कम 4,096 टोकन (Gemini Developer API) या कम से कम 6,144 टोकन (Agent Platform Gemini API (formerly Vertex AI))
  • Gemini Pro मॉडल: कम से कम 4,096 टोकन
  • Gemini Flash मॉडल: कम से कम 1024 टोकन

इसके अलावा, BLOB या टेक्स्ट का इस्तेमाल करके, ज़्यादा से ज़्यादा 10 एमबी का कॉन्टेंट कैश मेमोरी में सेव किया जा सकता है.



इंप्लिसिट कैशिंग

इंप्लिसिट कैशिंग की सुविधा डिफ़ॉल्ट रूप से चालू होती है. यह ज़्यादातर Gemini मॉडल के लिए उपलब्ध है.

अगर आपका अनुरोध, कैश मेमोरी में सेव किए गए कॉन्टेंट से पूरा हो जाता है, तो Google अपने-आप कम शुल्क लेता है. यहां कुछ तरीके दिए गए हैं जिनसे यह संभावना बढ़ाई जा सकती है कि आपका अनुरोध, इंप्लिसिट कैश मेमोरी का इस्तेमाल करे:

  • अपने प्रॉम्प्ट की शुरुआत में, बड़े और सामान्य कॉन्टेंट को शामिल करें.
  • कम समय में एक जैसे प्रीफ़िक्स वाले अनुरोध भेजने की कोशिश करें.

आपके इनपुट के कैश मेमोरी में सेव किए गए हिस्से में मौजूद टोकन की संख्या, जवाब के मेटाडेटा में मौजूद cachedContentTokenCount फ़ील्ड में दी जाती है.



एक्सप्लिसिट कैशिंग

एक्सप्लिसिट कैशिंग की सुविधा, डिफ़ॉल्ट रूप से चालू नहीं होती है. यह Gemini मॉडल की एक वैकल्पिक सुविधा है.

ध्यान दें कि gemini-4-hydrogen, gemini-4-carbon, और gemini-4-argon मॉडल, साफ़ तौर पर कैश मेमोरी में सेव करने की सुविधा के साथ काम नहीं करते.

यहां साफ़ तौर पर कैश मेमोरी सेट अप करने और उसके साथ काम करने का तरीका बताया गया है:

ध्यान दें कि साफ़ तौर पर कैश मेमोरी में सेव किया गया कॉन्टेंट, इंप्लिसिट कैश मेमोरी के साथ इंटरैक्ट करता है. इससे, साफ़ तौर पर कैश मेमोरी में सेव किए गए कॉन्टेंट के अलावा, अतिरिक्त कॉन्टेंट भी कैश मेमोरी में सेव हो सकता है. कैश मेमोरी में डेटा सेव होने से रोकने के लिए, इंप्लिसिट कैशिंग की सुविधा बंद करें और एक्सप्लिसिट कैश मेमोरी न बनाएं. ज़्यादा जानकारी के लिए, कैश मेमोरी को चालू और बंद करना लेख पढ़ें.



एक्सप्लिसिट कैश मेमोरी बनाना और उसका इस्तेमाल करना

अश्लील कॉन्टेंट की कैश मेमोरी बनाने और उसका इस्तेमाल करने के लिए, ये ज़रूरी हैं:

  1. एक्सप्लिसिट कैश मेमोरी बनाएं.

  2. सर्वर प्रॉम्प्ट टेंप्लेट में कैश मेमोरी का रेफ़रंस दें.

  3. अपने ऐप्लिकेशन से प्रॉम्प्ट के अनुरोध में, सर्वर प्रॉम्प्ट टेंप्लेट का रेफ़रंस दें.

एक्सप्लिसिट कैश मेमोरी बनाने और उसका इस्तेमाल करने के बारे में अहम जानकारी

आपकी कैश मेमोरी, आपके ऐप्लिकेशन के प्रॉम्प्ट अनुरोधों और आपके सर्वर के प्रॉम्प्ट टेंप्लेट के साथ अलाइन होनी चाहिए:

  • कैश मेमोरी, Gemini API की सेवा देने वाली कंपनी के हिसाब से होती है. आपके ऐप्लिकेशन के प्रॉम्प्ट अनुरोध में, उसी सेवा देने वाली कंपनी का इस्तेमाल किया जाना चाहिए.
    Firebase AI Logic के लिए, हमारा सुझाव है कि साफ़ तौर पर दिखने वाले कॉन्टेंट के कैश का इस्तेमाल सिर्फ़ Agent Platform Gemini API (formerly Vertex AI) के साथ करें. इस पेज पर दी गई सारी जानकारी और उदाहरण, Gemini API की सेवा देने वाली कंपनी के लिए खास तौर पर दिए गए हैं.

  • कैश मेमोरी, Gemini मॉडल के हिसाब से होती है. आपके ऐप्लिकेशन के प्रॉम्प्ट अनुरोध में उसी मॉडल का इस्तेमाल किया जाना चाहिए.

  • Agent Platform Gemini API (formerly Vertex AI) का इस्तेमाल करने पर, कैश मेमोरी किसी जगह के हिसाब से तय होती है.
    एक्सप्लिसिट कैश मेमोरी की जगह की जानकारी, सर्वर प्रॉम्प्ट टेंप्लेट की जगह की जानकारी और उस जगह की जानकारी जहां से मॉडल को ऐक्सेस किया जाता है से मेल खानी चाहिए. यह जानकारी, आपके ऐप्लिकेशन के प्रॉम्प्ट अनुरोध में मौजूद होती है.

साथ ही, साफ़ तौर पर कैश मेमोरी में सेव करने के लिए, इन सीमाओं और ज़रूरी शर्तों का ध्यान रखें:

  • एक्सप्लिसिट कैश मेमोरी बनाने के बाद, उसमें TTL या समयसीमा खत्म होने के समय के अलावा, कुछ भी नहीं बदला जा सकता.

  • इनपुट फ़ाइल के लिए इस्तेमाल किए जा सकने वाले किसी भी एमआईएमई टाइप को कैश मेमोरी में सेव किया जा सकता है. इसके अलावा, कैश मेमोरी बनाने के अनुरोध में दिए गए टेक्स्ट को भी कैश मेमोरी में सेव किया जा सकता है.

  • अगर आपको कैश मेमोरी में कोई फ़ाइल शामिल करनी है, तो आपको फ़ाइल को Cloud Storage यूआरआई के तौर पर देना होगा. यह ब्राउज़र या YouTube का यूआरएल नहीं हो सकता.

    इसके अलावा, फ़ाइल के ऐक्सेस पर लगी पाबंदियों की जांच, कैश मेमोरी बनाने के समय की जाती है. साथ ही, उपयोगकर्ता के अनुरोध के समय, ऐक्सेस पर लगी पाबंदियों की जांच नहीं की जाती है. इस वजह से, पक्का करें कि साफ़ तौर पर कैश मेमोरी में शामिल किया गया कोई भी डेटा, उस कैश मेमोरी को शामिल करने का अनुरोध करने वाले किसी भी उपयोगकर्ता के लिए सही हो.

  • अगर आपको सिस्टम से जुड़े निर्देशों या टूल (जैसे, कोड एक्ज़ीक्यूशन, यूआरएल कॉन्टेक्स्ट, Google Search के साथ ग्राउंडिंग या Google Maps के साथ ग्राउंडिंग) का इस्तेमाल करना है, तो कैश मेमोरी में उनके कॉन्फ़िगरेशन मौजूद होने चाहिए. इन्हें सर्वर प्रॉम्प्ट टेंप्लेट या आपके ऐप्लिकेशन के प्रॉम्प्ट अनुरोध में कॉन्फ़िगर नहीं किया जा सकता. ध्यान दें कि सर्वर प्रॉम्प्ट टेंप्लेट, फ़िलहाल फ़ंक्शन कॉलिंग (या चैट) के साथ काम नहीं करते. कैश मेमोरी में सिस्टम के निर्देशों और टूल को कॉन्फ़िगर करने के तरीके के बारे में जानने के लिए, Agent Platform Gemini API (formerly Vertex AI) का REST API देखें.

पहला चरण: कैश मेमोरी बनाना

Agent Platform Gemini API (formerly Vertex AI) के REST API का सीधे तौर पर इस्तेमाल करके, कैश मेमोरी बनाएं.

यहां एक उदाहरण दिया गया है, जिसमें किसी PDF फ़ाइल की कैश मेमोरी को उसके कॉन्टेंट के तौर पर बनाया गया है.

सिंटैक्स:

PROJECT_ID="PROJECT_ID"
MODEL_ID="GEMINI_MODEL"  # for example, gemini-3.8-flash
LOCATION="LOCATION"  # location for both the cache and the model
MIME_TYPE="MIME_TYPE"
CACHED_CONTENT_URI="CLOUD_STORAGE_FILE_URI"  # must be a Cloud Storage URI
CACHE_DISPLAY_NAME="CACHE_DISPLAY_NAME"  # optional
TTL="CACHE_TIME_TO_LIVE"  # optional (if not specified, defaults to 3600s)

curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents \
-d @- <<EOF
{
  "model":"projects/${PROJECT_ID}/locations/${LOCATION}/publishers/google/models/${MODEL_ID}",
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "fileData": {
            "mimeType": "${MIME_TYPE}",
            "fileUri": "${CACHED_CONTENT_URI}"
          }
        }
      ]
    }
  ],
  "displayName": "${CACHE_DISPLAY_NAME}",
  "ttl": "${TTL}"
}
EOF

अनुरोध का उदाहरण:

PROJECT_ID="my-amazing-app"
MODEL_ID="gemini-3.8-flash"
LOCATION="global"
MIME_TYPE="application/pdf"
CACHED_CONTENT_URI="gs://cloud-samples-data/generative-ai/pdf/2312.11805v3.pdf"
CACHE_DISPLAY_NAME="Gemini - A Family of Highly Capable Multimodal Model (PDF)"
TTL="7200s"

curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents \
-d @- <<EOF
{
  "model":"projects/${PROJECT_ID}/locations/${LOCATION}/publishers/google/models/${MODEL_ID}",
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "fileData": {
            "mimeType": "${MIME_TYPE}",
            "fileUri": "${CACHED_CONTENT_URI}"
          }
        }
      ]
    }
  ],
  "displayName": "${CACHE_DISPLAY_NAME}",
  "ttl": "${TTL}"
}
EOF

जवाब का उदाहरण:

जवाब में पूरी तरह से क्वालिफ़ाइड संसाधन name शामिल होता है. यह कैश मेमोरी के लिए, दुनिया भर में यूनीक होता है. ध्यान दें कि आखिरी सेगमेंट, कैश मेमोरी आईडी होता है. वर्कफ़्लो के अगले चरण में, इस पूरी name वैल्यू का इस्तेमाल किया जाएगा.

{
  "name": "projects/861083271981/locations/global/cachedContents/4545031458888089601",
  "model": "projects/my-amazing-app/locations/global/publishers/google/models/gemini-3.8-flash",
  "createTime": "2024-06-04T01:11:50.808236Z",
  "updateTime": "2024-06-04T01:11:50.808236Z",
  "expireTime": "2024-06-04T02:11:50.794542Z"
}

दूसरा चरण: सर्वर प्रॉम्प्ट टेंप्लेट में कैश मेमोरी का रेफ़रंस देना

कैश मेमोरी बनाने के बाद, सर्वर प्रॉम्प्ट टेंप्लेट की cachedContent प्रॉपर्टी में name का इस्तेमाल करके, इसे रेफ़रंस के तौर पर शामिल करें.

सर्वर प्रॉम्प्ट टेंप्लेट बनाते समय, इन ज़रूरी शर्तों का पालन करें:

  • कैश मेमोरी बनाते समय, जवाब में मिले पूरी तरह से क्वालिफ़ाइड संसाधन name का इस्तेमाल करें. यह वह वैकल्पिक डिसप्ले नेम नहीं है जो आपने अनुरोध में बताया था.

  • सर्वर प्रॉम्प्ट टेंप्लेट की जगह, कैश मेमोरी की जगह से मेल खानी चाहिए.

  • सिस्टम से जुड़े निर्देशों या टूल का इस्तेमाल करने के लिए, उन्हें कैश मेमोरी के हिस्से के तौर पर कॉन्फ़िगर करना ज़रूरी है. उन्हें सर्वर प्रॉम्प्ट टेंप्लेट के हिस्से के तौर पर कॉन्फ़िगर नहीं किया जाना चाहिए.

सिंटैक्स:

{{cachedContent name="YOUR_CACHE_RESOURCE_NAME"}}

{{role "user"}}
{{userPrompt}}

उदाहरण:

{{cachedContent name="projects/861083271981/locations/global/cachedContents/4545031458888089601"}}

{{role "user"}}
{{userPrompt}}

इसके अलावा, सर्वर प्रॉम्प्ट टेंप्लेट में name पैरामीटर की वैल्यू, डाइनैमिक इनपुट वैरिएबल हो सकती है. उदाहरण के लिए, {{cachedContent name=someVariable}} की मदद से, अपने ऐप्लिकेशन से किए गए अनुरोध के लिए, कैश मेमोरी के name को इनपुट के तौर पर शामिल किया जा सकता है.

तीसरा चरण: अपने ऐप्लिकेशन से किए गए अनुरोध में, सर्वर प्रॉम्प्ट टेंप्लेट का रेफ़रंस दें

अनुरोध लिखते समय, इन बातों का खास ध्यान रखें:

  • Agent Platform Gemini API (formerly Vertex AI) का इस्तेमाल करें, क्योंकि कैश मेमोरी को उस Gemini API प्रोवाइडर के साथ बनाया गया था.

  • आपके ऐप्लिकेशन के प्रॉम्प्ट अनुरोध में, मॉडल को ऐक्सेस करने की जगह, सर्वर प्रॉम्प्ट टेंप्लेट और कैश मेमोरी की जगह से मेल खानी चाहिए.

Swift

// ...

// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Create a `TemplateGenerativeModel` instance.
// Make sure to specify the same location as the server prompt template and the cache.
let model = FirebaseAI.firebaseAI(backend: .agentPlatform(location: "LOCATION"))
                                  .templateGenerativeModel()

do {
    let response = try await model.generateContent(
        // Specify your template ID.
        templateID: "TEMPLATE_ID"
    )
    if let text = response.text {
        print("Response Text: \(text)")
    }
} catch {
    print("An error occurred: \(error)")
}
print("\n")

Kotlin

// ...

// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Create a `TemplateGenerativeModel` instance.
// Make sure to specify the same location as the server prompt template and the cache.
val model = Firebase.ai(backend = GenerativeBackend.agentPlatform(location = "LOCATION"))
                        .templateGenerativeModel()

val response = model.generateContent(
    // Specify your template ID.
    "TEMPLATE_ID",
)

val text = response.text
println(text)

Java

// ...

// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Create a `TemplateGenerativeModel` instance.
// Make sure to specify the same location as the server prompt template and the cache.
TemplateGenerativeModel generativeModel = FirebaseAI.getInstance(GenerativeBackend.agentPlatform("LOCATION"))
      .templateGenerativeModel();

TemplateGenerativeModelFutures model = TemplateGenerativeModelFutures.from(generativeModel);

Future<GenerateContentResponse> response = model.generateContent(
    // Specify your template ID.
    "TEMPLATE_ID"
);
addCallback(response,
      new FutureCallback<GenerateContentResponse>() {
          public void onSuccess(GenerateContentResponse result) {
            System.out.println(result.getText());
          }
          public void onFailure(Throwable t) {
            reportError(t);
          }
    }
executor);

Web

// ...

// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Make sure to specify the same location as the server prompt template and the cache.
const ai = getAI(app, { backend: new AgentPlatformBackend('LOCATION') });

// Create a `TemplateGenerativeModel` instance
const model = getTemplateGenerativeModel(ai);

const result = await model.generateContent({
  // Specify your template ID.
  templateId: 'TEMPLATE_ID',
  templateVariables: {},
});

const response = result.response;
const text = response.text();

Dart

// ...

// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Create a `TemplateGenerativeModel` instance.
// Make sure to specify the same location as the server prompt template and the cache.
var _model = FirebaseAI.agentPlatform(location: 'LOCATION').templateGenerativeModel();

var response = await _model.generateContent(
        // Specify your template ID.
        'TEMPLATE_ID',
        inputs: {},
      );

var text = response?.text;
print(text);

Unity

// ...

// Initialize the Agent Platform Gemini API backend service (formerly Vertex AI).
// Make sure to specify the same location as the server prompt template and the cache.
var firebaseAI = FirebaseAI.GetInstance(FirebaseAI.Backend.AgentPlatform(location: "LOCATION"));

// Create a `TemplateGenerativeModel` instance.
var model = firebaseAI.GetTemplateGenerativeModel();

try
{
  var response = await model.GenerateContentAsync(
      // Specify your template ID.
      "TEMPLATE_ID",
      new Dictionary<string, object>()
  );
  Debug.Log($"Response Text: {response.Text}");
}
catch (Exception e) {
  Debug.LogError($"An error occurred: {e.Message}");
}



एक्सप्लिसिट कैश मेमोरी मैनेज करना

इस सेक्शन में, साफ़ तौर पर कैश मेमोरी को मैनेज करने का तरीका बताया गया है. इसमें ये काम करने का तरीका भी शामिल है: सभी कैश मेमोरी की सूची देखना, कैश मेमोरी के बारे में मेटाडेटा पाना, कैश मेमोरी के टीटीएल या समयसीमा खत्म होने का समय अपडेट करना, और कैश मेमोरी मिटाना.

Agent Platform Gemini API (formerly Vertex AI) के REST API का इस्तेमाल करके, साफ़ तौर पर कैश मेमोरी में सेव किए गए डेटा को मैनेज किया जाता है.

अश्लील कॉन्टेंट की कैश मेमोरी बनाने के बाद, उसमें TTL या समयसीमा खत्म होने के समय के अलावा, कुछ भी नहीं बदला जा सकता.

सभी कैश मेमोरी की सूची बनाना

अपने प्रोजेक्ट के लिए उपलब्ध सभी एक्सप्लिसिट कैश मेमोरी की सूची बनाई जा सकती है. यह कमांड, सिर्फ़ बताई गई जगह पर मौजूद कैश मेमोरी दिखाएगा.

PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"

curl \
-X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents

कैश मेमोरी के बारे में मेटाडेटा पाना

कैश मेमोरी में सेव किए गए असल कॉन्टेंट को वापस पाना या देखना मुमकिन नहीं है. हालांकि, आपके पास किसी एक्सप्लिसिट कैश मेमोरी के मेटाडेटा को वापस पाने का विकल्प होता है. इसमें name, model, display_name, usage_metadata, create_time, update_time, और expire_time शामिल हैं.

आपको CACHE_ID देना होगा. यह कैश मेमोरी के पूरी तरह से क्वालिफ़ाइड संसाधन name का आखिरी सेगमेंट होता है.

PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
CACHE_ID="CACHE_ID"  # the final segment in the `name` of the cache

curl \
-X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents/${CACHE_ID}

कैश मेमोरी के लिए टीटीएल या समयसीमा खत्म होने का समय अपडेट करना

एक्सप्लिसिट कैश मेमोरी बनाते समय, आपके पास ttl या expire_time सेट करने का विकल्प होता है.

  • ttl: कैश मेमोरी के लिए टीटीएल (टाइम-टू-लाइव). खास तौर पर, कैश मेमोरी बनने के बाद या समयसीमा खत्म होने से पहले ttl के अपडेट होने के बाद, कैश मेमोरी के रहने का समय सेकंड और नैनोसेकंड में. ttl सेट करने पर, कैश मेमोरी की expireTime अपने-आप अपडेट हो जाती है.

  • expire_time: Timestamp (जैसे, 2024-06-30T09:00:00.000000Z) जो कैश मेमोरी की समयसीमा खत्म होने की सटीक तारीख और समय बताता है.

अगर इनमें से कोई भी वैल्यू सेट नहीं की जाती है, तो डिफ़ॉल्ट टीटीएल एक घंटा होता है. टीटीएल के लिए, कम से कम या ज़्यादा से ज़्यादा की कोई सीमा नहीं है.

मौजूदा एक्सप्लिसिट कैश मेमोरी के लिए, ttl या expire_time को जोड़ा या अपडेट किया जा सकता है. आपको CACHE_ID देना होगा. यह कैश मेमोरी के पूरी तरह से क्वालिफ़ाइड संसाधन name का आखिरी सेगमेंट होता है.

ttl को अपडेट करें

PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
CACHE_ID="CACHE_ID"  # the final segment in the `name` of the cache
TTL="CACHE_TIME_TO_LIVE"

curl \
-X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents/${CACHE_ID} -d \
'{
  "ttl": "'$TTL'"
}'

expire_time को अपडेट करें

PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
CACHE_ID="CACHE_ID"  # the final segment in the `name` of the cache
EXPIRE_TIME="ABSOLUTE_TIME_CACHE_EXPIRES"

curl \
-X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents/${CACHE_ID} -d \
'{
  "expire_time": "'$EXPIRE_TIME'"
}'

कैश मेमोरी मिटाना

जब आपको किसी एक्सप्लिसिट कैश मेमोरी की ज़रूरत न हो, तो उसे मिटाया जा सकता है.

आपको CACHE_ID देना होगा. यह कैश मेमोरी के पूरी तरह से क्वालिफ़ाइड संसाधन name का आखिरी सेगमेंट होता है.

PROJECT_ID="PROJECT_ID"
LOCATION="LOCATION"
CACHE_ID="CACHE_ID"  # the final segment in the `name` of the cache

curl \
-X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
https://${LOCATION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/cachedContents/${CACHE_ID}



एक्सप्लिसिट कैश मेमोरी के लिए कीमत

एक्सप्लिसिट कैशिंग, पैसे चुकाकर ली जाने वाली सुविधा है. इसे लागत कम करने के लिए डिज़ाइन किया गया है. कीमत इन बातों पर निर्भर करती है:

  • कैश मेमोरी बनाने के लिए इनपुट टोकन: इंप्लिसिट और एक्सप्लिसिट, दोनों तरह की कैश मेमोरी के लिए, आपसे कैश मेमोरी बनाने में इस्तेमाल किए गए इनपुट टोकन के लिए शुल्क लिया जाता है. यह शुल्क, इनपुट टोकन की स्टैंडर्ड कीमत के हिसाब से लिया जाता है.

  • कैश मेमोरी का स्टोरेज: साफ़ तौर पर कैश मेमोरी में सेव करने के लिए, स्टोरेज की लागत भी इस आधार पर तय होती है कि कैश मेमोरी को कितने समय तक सेव रखा जाता है. इंप्लिसिट कैश मेमोरी के लिए, स्टोरेज का कोई शुल्क नहीं लिया जाता. ज़्यादा जानकारी के लिए, Agent Platform Gemini API (formerly Vertex AI) के लिए कीमत देखें.

  • कैश मेमोरी में सेव किए गए कॉन्टेंट का इस्तेमाल: साफ़ तौर पर कैश मेमोरी में सेव किए गए कॉन्टेंट का इस्तेमाल करने पर, आपको छूट मिलती है. इसका मतलब है कि जब इनपुट टोकन किसी मौजूदा कैश मेमोरी को रेफ़र करते हैं, तो आपको उन पर छूट मिलती है. Gemini 2.5 और इसके बाद के मॉडल के लिए, यह छूट 90% है.

आपके इनपुट के कैश मेमोरी में सेव किए गए हिस्से में मौजूद टोकन की संख्या, जवाब के मेटाडेटा में मौजूद cachedContentTokenCount फ़ील्ड में दी जाती है.