टोकन और बिल किए जा सकने वाले वर्ण गिनें


Gemini मॉडल जैसे जनरेटिव एआई मॉडल, डेटा को प्रोसेस करने के लिए टोकन नाम की यूनिट में बांटते हैं. Gemini के हर मॉडल में ज़्यादा से ज़्यादा टोकन होते हैं. इन्हें प्रॉम्प्ट और रिस्पॉन्स में इस्तेमाल किया जा सकता है.

इस पेज में यह बताया गया है कि किसी अनुरोध के लिए, टोकन की संख्या का अनुमान कैसे लगाया जा सकता है और कितने वर्णों का इस्तेमाल किया जा सकता है.

गिनती में क्या जानकारी दी जाती है?

टोकन और बिल करने लायक वर्णों की गिनती करने के बारे में नीचे दी गई बातों का ध्यान रखें:

  • कुल टोकन की गिनती करना

    • इस संख्या से यह पक्का करने में मदद मिलती है कि आपके अनुरोध मंज़ूरी वाली संदर्भ विंडो से ज़्यादा न हों.

    • टोकन की संख्या से उन सभी फ़ाइलों (उदाहरण के लिए, इमेज) का साइज़ दिखेगा जो अनुरोध इनपुट के हिस्से के तौर पर दी गई हैं. इसमें, इमेज की संख्या या वीडियो में सेकंड की संख्या को नहीं गिना जाएगा.

    • Gemini के सभी मॉडल के लिए, एक टोकन में करीब चार वर्ण होते हैं. 100 टोकन, करीब 60 से 80 शब्दों के होते हैं.

  • बिल करने लायक कुल वर्णों की गिनती करना

    • इस संख्या से आपको लागत को समझने और कंट्रोल करने में मदद मिलती है. इसकी वजह यह है कि Vertex AI में वर्णों की संख्या, कीमत का हिसाब लगाने के लिए इस्तेमाल की जाती है.

    • बिल करने लायक वर्णों की संख्या से पता चलता है कि text में उन वर्णों की संख्या कितनी है, जो request इनपुट के हिस्से के तौर पर दिए गए हैं.

Vertex AI के लिए, कीमत का हिसाब लगाने के लिए टोकन का इस्तेमाल नहीं किया जाता. हर मॉडल के लिए टोकन की सीमाओं और हर मॉडल के लिए कीमत के बारे में ज़्यादा जानें.

टोकन और बिल करने लायक वर्णों की गिनती के लिए कीमत और कोटा

CountTokens API का इस्तेमाल करने पर, न तो कोई शुल्क लिया जाता है और न ही कोटा की पाबंदी है. CountTokens API का इस्तेमाल, हर मिनट में ज़्यादा से ज़्यादा 3,000 अनुरोध किए जा सकते हैं.

कोड सैंपल

सिर्फ़ टेक्स्ट इनपुट

मल्टीमोडल इनपुट