计算令牌和可计费字符数


生成式 AI 模型(例如 Gemini 模型)会将数据细分为称为“令牌”的单位进行处理。 每个 Gemini 模型在提示和响应中处理的词元数量都有上限

本页面介绍了如何估算某个请求的令牌数量和可计费字符数。

计数中提供了哪些信息?

关于计算令牌和可计费字符,请注意以下事项:

  • 计算词元总数

    • 此计数有助于确保您的请求不会超出允许的上下文窗口。

    • 词元数量将反映作为 request 输入的一部分提供的所有文件(例如图片)的大小。而不会统计图片数量或视频的秒数。

    • 对于所有 Gemini 模型,一个词元大约相当于 4 个字符。100 个词元约为 60-80 个英语单词。

  • 计算可结算字符总数

    • 此计数有助于您了解和控制费用,因为对于 Vertex AI 而言,字符数会纳入价格计算范围。

    • 可计费字符数将反映作为 request 输入的一部分提供的 text 中的字符数。

Vertex AI 的价格计算中不包含令牌。详细了解每个模型的令牌数量上限每个模型的价格

令牌和可计费字符数的价格和配额

使用 CountTokens API 没有任何费用或配额限制。CountTokens API 的配额上限为每分钟 3000 个请求。

代码示例

纯文字输入

多模态输入