Modelle für generative KI (wie die Gemini-Modelle) zerlegen Daten zur Verarbeitung in Einheiten, sogenannte Tokens. Jedes Gemini-Modell hat eine maximale Anzahl von Tokens, die in einem Prompt und einer Antwort verarbeitet werden können.
Auf dieser Seite erfahren Sie, wie Sie eine Schätzung der Anzahl der Tokens und der Anzahl der abrechenbaren Zeichen für eine Anfrage abrufen.
Welche Informationen werden in der Zählung angegeben?
Beachten Sie Folgendes zum Zählen von Tokens und abrechenbaren Zeichen:
Gesamtzahl der Tokens zählen
Dieser Wert ist hilfreich, damit Ihre Anfragen das zulässige Kontextfenster nicht überschreiten.
Die Tokenanzahl entspricht der Größe aller Dateien (z. B. Bilder), die im Rahmen der Anfrage bereitgestellt werden. Die Anzahl der Bilder oder die Anzahl der Sekunden in einem Video werden nicht gezählt.
Bei allen Gemini-Modellen entspricht ein Token etwa 4 Zeichen. 100 Tokens entsprechen etwa 60–80 englischen Wörtern.
Gesamtzahl der abrechenbaren Zeichen zählen
Diese Anzahl ist hilfreich, um Ihre Kosten zu verstehen und zu kontrollieren, da die Anzahl der Zeichen bei Vertex AI Teil der Preisberechnung ist.
Die abrechenbare Zeichenanzahl entspricht der Anzahl der Zeichen im Text, der als Teil der Anfrage-Eingabe angegeben wird.
Bei Vertex AI werden Tokens nicht bei der Preisberechnung berücksichtigt. Weitere Informationen zu Tokenlimits pro Modell und Preisen pro Modell
Preise und Kontingente für die Zählung von Tokens und abrechenbaren Zeichen
Für die Verwendung der CountTokens API fallen keine Gebühren oder Kontingentbeschränkungen an. Das maximale Kontingent für die CountTokens API beträgt 3.000 Anfragen pro Minute.