Los modelos de IA generativa (como los modelos de Gemini) dividen los datos en unidades llamadas tokens para su procesamiento. Cada modelo de Gemini tiene una cantidad máxima de tokens que puede manejar en una instrucción y en una respuesta.
Esta página muestra cómo obtener una estimación del recuento de tokens y la cantidad de caracteres facturables para una solicitud.
¿Qué información se proporciona en el recuento?
Ten en cuenta lo siguiente sobre el recuento de tokens y caracteres facturables:
Cuenta el total de tokens
Este recuento es útil para garantizar que tus solicitudes no superen el umbral permitido ventana de contexto.
El recuento de tokens reflejará el tamaño de todos los archivos (por ejemplo, imágenes). que se proporcionan como parte de la entrada request. No contará la cantidad de imágenes o los segundos de un video.
Para todos los modelos de Gemini, un token equivale a unos 4 caracteres. 100 hay entre 60 y 80 palabras en inglés.
Cuenta el total de caracteres facturables
Este registro es útil para comprender y controlar tus costos, ya que Para Vertex AI, la cantidad de caracteres forma parte del cálculo de precios.
El recuento de caracteres facturables reflejará el número de caracteres del text, que se proporciona como parte de la entrada request.
En el caso de Vertex AI, los tokens no forman parte del cálculo de precios. Obtén más información sobre límites de tokens por modelo y precios por modelo.
Precios y cuota para contar tokens y caracteres facturables
No se aplican cargos ni restricciones de cuotas por usar la API de CountTokens. El
la cuota máxima para la API de CountTokens es de 3,000 solicitudes por minuto.