โมเดล Generative AI (เช่น โมเดล Gemini) จะแบ่งข้อมูลออกเป็นหน่วยต่างๆ ที่เรียกว่าโทเค็นสำหรับการประมวลผล Gemini แต่ละโมเดลมีจำนวนโทเค็นสูงสุดที่สามารถจัดการได้ในพรอมต์และคำตอบ
หน้านี้แสดงวิธีรับค่าประมาณจำนวนโทเค็นและจำนวนอักขระที่เรียกเก็บเงินได้สำหรับคำขอ
จำนวนข้อมูลที่ระบุมีอะไรบ้าง
สิ่งที่ควรทราบเกี่ยวกับการนับโทเค็นและอักขระที่เรียกเก็บเงินได้มีดังนี้
การนับโทเค็นทั้งหมด
จำนวนนี้มีประโยชน์ในการป้องกันไม่ให้คำขอล้นหน้าต่างบริบทที่อนุญาต
จำนวนโทเค็นจะแสดงถึงขนาดของไฟล์ทั้งหมด (เช่น รูปภาพ) ที่ให้ไว้เป็นส่วนหนึ่งของอินพุตคำขอ โดยจะไม่นับจำนวนรูปภาพหรือจำนวนวินาทีในวิดีโอ
สำหรับโมเดล Gemini ทั้งหมด โทเค็นจะมีความยาวประมาณ 4 อักขระ โทเค็น 100 ชิ้นเป็นคำภาษาอังกฤษประมาณ 60-80 คำ
การนับจำนวนอักขระทั้งหมดที่เรียกเก็บเงินได้
จำนวนนี้มีประโยชน์ในการทำความเข้าใจและควบคุมค่าใช้จ่ายของคุณ เนื่องจากสำหรับ Vertex AI จำนวนอักขระเป็นส่วนหนึ่งของการคำนวณราคา
จำนวนอักขระที่เรียกเก็บเงินได้แสดงถึงจำนวนอักขระในข้อความ ที่ให้ไว้เป็นส่วนหนึ่งของอินพุตคำขอ
สำหรับ Vertex AI โทเค็นไม่ได้เป็นส่วนหนึ่งของการคำนวณราคา ดูข้อมูลเพิ่มเติมเกี่ยวกับขีดจำกัดของโทเค็นต่อรุ่นและการกำหนดราคาต่อรูปแบบ
ราคาและโควต้าสำหรับโทเค็นการนับและอักขระที่เรียกเก็บเงินได้
ไม่มีการจำกัดการเรียกเก็บเงินหรือโควต้าสำหรับการใช้ CountTokens API โควต้าสูงสุดสำหรับ CountTokens API คือคำขอ 3,000 รายการต่อนาที