Các mô hình AI tạo sinh (chẳng hạn như mô hình Gemini) chia nhỏ dữ liệu thành các đơn vị gọi là mã thông báo để xử lý. Mỗi mô hình Gemini đều có một số lượng mã thông báo tối đa có thể xử lý trong câu lệnh và câu trả lời.
Trang này cho bạn biết cách nhận số liệu ước tính về số lượng mã thông báo và số lượng ký tự tính phí cho một yêu cầu.
Dữ liệu kiểm soát cung cấp những thông tin nào?
Xin lưu ý những điều sau về cách đếm mã thông báo và ký tự có thể tính phí:
Đếm tổng số mã thông báo
Số lượng này rất hữu ích để đảm bảo các yêu cầu của bạn không vượt quá khoảng thời gian ngữ cảnh được cho phép.
Số lượng mã thông báo sẽ phản ánh kích thước của tất cả tệp (ví dụ: hình ảnh) được cung cấp dưới dạng một phần của đầu vào yêu cầu. Ứng dụng này sẽ không tính số lượng hình ảnh hoặc số giây trong video.
Đối với tất cả mô hình Gemini, một mã thông báo tương đương với khoảng 4 ký tự. 100 mã thông báo tương đương với khoảng 60 đến 80 từ tiếng Anh.
Đếm tổng số ký tự có thể tính phí
Số lượng này giúp bạn hiểu rõ và kiểm soát chi phí, vì đối với Vertex AI, số lượng ký tự là một phần trong quá trình tính giá.
Số lượng ký tự có thể tính phí sẽ phản ánh số lượng ký tự trong văn bản được cung cấp như một phần của đầu vào yêu cầu.
Đối với Vertex AI, mã thông báo không phải là một phần trong quá trình tính giá. Tìm hiểu thêm về giới hạn mã thông báo cho mỗi mô hình và giá theo mô hình.
Giá và hạn mức đếm mã thông báo và ký tự có thể tính phí
Việc sử dụng API CountTokens không bị giới hạn về khoản phí hoặc hạn mức. Hạn mức tối đa cho API CountTokens là 3.000 yêu cầu mỗi phút.