이 페이지는 Cloud Translation API를 통해 번역되었습니다.

Gemini 모델의 토큰 수 계산

Gemini 모델은 토큰이라는 단위로 입력과 출력을 처리합니다.

토큰은 단일 문자(예: z) 또는 전체 단어(예: cat)일 수 있습니다. 긴 단어는 여러 토큰으로 나뉩니다. 모델에서 사용하는 모든 토큰 집합을 어휘라고 하며, 텍스트를 토큰으로 분할하는 프로세스를 토큰화라고 합니다.

Gemini 모델의 경우 토큰은 약 4자와 같습니다. 토큰 100개는 영어 단어 약 60~80개에 해당합니다.

각 모델에는 프롬프트 및 대답에서 처리할 수 있는 최대 토큰 수가 있습니다. 프롬프트의 토큰 수를 알면 이 한도를 초과했는지 알 수 있습니다. 또한 요청 비용은 입력 및 출력 토큰 수에 따라 일부 결정되므로 토큰 수를 계산하는 방법을 알면 도움이 될 수 있습니다.

Gemini 1.0 및 1.5 모델도 '청구 가능한 문자' 수와 가격을 지원했지만 이러한 모델은 모두 지원이 종료되었거나 곧 종료될 예정이므로 이 페이지에서는 청구 가능한 문자에 관해 설명하지 않습니다.

토큰 수 계산 옵션

텍스트, 이미지 파일, 기타 비텍스트 모달리티를 비롯한 Gemini API의 모든 입력과 출력이 토큰화됩니다. 토큰을 계산하는 옵션은 다음과 같습니다.

요청의 토큰 수를 확인합니다 (모델에 전송하기 전).

모델에 전송하기 전에 요청의 입력으로 countTokens를 호출합니다. 그러면 다음이 반환됩니다.

요청과 응답 모두의 토큰 수를 확인합니다.

응답 객체에서 usageMetadata 속성을 사용합니다. 여기에는 다음이 포함됩니다.

스트리밍 출력 시 usageMetadata 속성은 스트림의 마지막 청크에만 표시됩니다. 중간 청크의 경우 nil입니다.

위 옵션에 관한 다음 사항을 참고하세요.

입력 이미지 수 또는 동영상이나 오디오 입력 파일의 초 수는 계산하지 않습니다. 하지만 이러한 각 모달리티의 토큰 수는 이러한 값과 상관관계가 있습니다.
입력 토큰 수에는 프롬프트 (텍스트 및 입력 파일)와 시스템 지침 및 도구가 포함됩니다.
출력 토큰 수에는 사고 토큰이 포함되지 않습니다. 사고 토큰은 별도의 필드에 제공됩니다.
이 페이지의 뒷부분에 있는 요청 유형별 추가 정보를 검토하세요.

countTokens 호출: countTokens(토큰 수 API) 호출에는 요금이 부과되지 않습니다. Count Tokens API의 최대 할당량은 분당 요청 수 (RPM) 3,000개입니다.
usageMetadata 속성 사용: 이 속성은 항상 응답의 일부로 반환되며 토큰이나 요금이 발생하지 않습니다.

특정 유형의 요청을 처리할 때 참고할 추가 정보는 다음과 같습니다.

추가 정보 없음

채팅을 사용할 때 countTokens를 호출하는 경우 다음 사항에 유의하세요.

멀티모달 입력으로 토큰을 계산할 때 다음 사항에 유의하세요.

이미지 입력 파일은 크기에 따라 토큰으로 변환됩니다.

두 크기가 모두 384픽셀 이하인 이미지 입력: 각 이미지가 258개의 토큰으로 계산됩니다.
한쪽 또는 양쪽 크기가 더 큰 이미지 입력: 각 이미지는 필요에 따라 768x768픽셀 타일로 잘리고 크기가 조정되며, 각 타일은 258개의 토큰으로 계산됩니다.

동영상 및 오디오 입력 파일은 다음 고정된 비율로 토큰으로 변환됩니다.

PDF 입력 파일은 이미지로 취급되므로 PDF의 각 페이지가 이미지와 동일한 방식으로 토큰화됩니다.