מעקב אחרי העלויות, השימוש ומדדים אחרים של תכונות ה-AI הוא חלק חשוב מהפעלת אפליקציה בסביבת ייצור. אתם צריכים לדעת מהם דפוסי השימוש הרגילים באפליקציה ולוודא שאתם לא חורגים מהסף שחשוב לכם.
בדף הזה מתוארות כמה אפשרויות מומלצות למעקב אחרי העלויות, השימוש ומדדים אחרים במסוף Firebase ובמסוף Google Cloud.
מעקב אחרי העלויות
בלוח הבקרה Usage and Billing במסוף Firebase, אתם יכולים לראות את עלויות הפרויקט של קריאה ל-Agent Platform Gemini API (formerly Vertex AI) ול-Gemini Developer API (כשאתם בתוכנית התמחור Blaze).
העלויות שמוצגות בלוח הבקרה לא בהכרח ספציפיות לקריאות שמשתמשות בערכות ה-SDK של הלקוח של Firebase AI Logic. העלויות שמוצגות משויכות לכל הקריאות לממשקי Gemini API, בין אם הן משתמשות בערכות ה-SDK של הלקוח Firebase AI Logic, בערכות ה-SDK של שרת Google GenAI, ב-Genkit, ב-Firebase Extensions של Gemini API, בקריאות REST, באחד מממשקי AI Studio או בלקוחות API אחרים.
מידע נוסף על התמחור של המוצרים שקשורים לשימוש שלכם ב-Firebase AI Logic.
הגדרת התראות לגבי תקציב ותקרות הוצאה
כשאתם משתמשים במינוי Blaze בתשלום לפי שימוש, כדי להימנע מחיובים מפתיעים, הגדירו התראות תקציב ותקרות הוצאה.
חשוב לזכור שהתראות תקציב הן לא תקציב מקסימלי. ההתראות נשלחות באימייל כדי להזהיר אתכם כשההוצאות מגיעות לסף מסוים בתקציב, כדי שתוכלו לבצע פעולות באפליקציה או בפרויקט. כדי שהשירות יושהה כשתגיעו למגבלת התקציב, אתם צריכים להגדיר תקציב עם תקרת הוצאות.
מעקב אחרי השימוש בתכונות ה-AI במסוף Firebase
כדי לעקוב אחרי מדדים שונים ברמת האפליקציה ואחרי השימוש, ולקבל תמונה מקיפה על הבקשות מ-SDK של הלקוח ב-Firebase AI Logic, אתם יכולים להפעיל את המעקב אחרי שימוש בתכונות AI בדף Firebase AI Logic במסוף Firebase. מרכזי הבקרה האלה מפורטים יותר מספירת הטוקנים הבסיסית שמתקבלת מקריאה ל-Count Tokens API.
היכולות העיקריות של מעקב אחרי שימוש בתכונות AI במסוף Firebase כוללות:
צפייה במדדים כמותיים כמו נפח הבקשות, זמן האחזור, השגיאות והשימוש בטוקנים לכל מודל בכל אחת מהאפליקציות.
בדיקת נתוני מעקב כדי לראות את המאפיינים, הקלט והפלט של הבקשות, מה שיכול לעזור בניפוי באגים ובשיפור האיכות.
פילוח נתונים לפי מאפיינים כמו סטטוס הבקשה, זמן אחזור מינימלי, שם המודל ועוד.
כל התכונות האלה מבוססות על Google Cloud Observability Suite (ראו פרטי המוצר בהמשך).
הפעלת מעקב אחרי שימוש בתכונות AI
כך מפעילים מעקב אחרי שימוש בתכונות AI במסוף Firebase:
כשעוברים על תהליך העבודה הראשוני של ההגדרה המודרכת מהדף שירותי AI > Firebase AI Logic
בכל שלב, בכרטיסייה שירותי AI > לוגיקת AI > הגדרות
הדרישות להפעלה ולשימוש במעקב אחרי שימוש בתכונות AI:
אתם צריכים להיות Project Owner, עורכים, או אדמינים של Firebase Vertex AI.
האפליקציה צריכה להשתמש לפחות בגרסאות האלה של ספריית Firebase:
iOS+: גרסה 11.13.0 ואילך | Android: גרסה 16.0.0 ואילך (BoM: גרסה 33.14.0 ואילך) | אינטרנט: גרסה 11.8.0 ואילך | Flutter: גרסה 2.0.0 ואילך (BoM: גרסה 3.11.0 ואילך) | Unity: גרסה 12.9.0 ואילךבאפליקציה צריך להפעיל את איסוף הנתונים בהבעת הסכמה (האפשרות הזו מופעלת כברירת מחדל).
אחרי שהאפליקציה תעמוד בדרישות האלה ותפעילו את מעקב אחרי שימוש בתכונות AI במסוף, לא תצטרכו לעשות שום דבר נוסף באפליקציה או במסוף כדי להתחיל לראות נתונים שמאכלסים את לוחות הבקרה בכרטיסייה שירותי AI > לוגיקת AI > מעקב אחרי שימוש בתכונות AI. יכול להיות עיכוב קל (לפעמים עד 5 דקות) לפני שהנתונים הטלמטריים מבקשה יהיו זמינים במסוף Firebase.
שימוש מתקדם
בקטע הזה מתוארת הגדרת תדירות הדגימה, וגם אפשרויות שונות לצפייה בנתונים ולעבודה איתם.
תדירות הדגימה
אם אתם שולחים מספר גדול של בקשות, מומלץ להשתמש בהגדרה של תדירות הדגימה. תדירות הדגימה מציינת את שיעור הבקשות שפרטי המעקב שלהן נאספים בפועל.
בכרטיסייה AI Services > AI Logic > Settings במסוף Firebase, אתם יכולים להגדיר את תדירות הדגימה של הפרויקט לערך שבין 1% ל-100%. אם תבחרו ב-100%, מעקב אחרי שימוש בתכונות AI יאסוף נתוני מעקב מכל תעבורת הנתונים. ברירת המחדל היא 100%. איסוף של פחות נתוני מעקב יפחית את העלויות, אבל גם יפחית את מספר נתוני המעקב שאפשר לעקוב אחריהם. חשוב לזכור שלא משנה מה תדירות הדגימה, התרשימים שמוצגים בלוח הבקרה של המעקב תמיד ישקפו את נפח התנועה האמיתי.
אפשרויות נוספות מחוץ למסוף Firebase
בנוסף למעקב אחרי השימוש בתכונות AI שזמין במסוף Firebase, כדאי לשקול את האפשרויות הבאות:
Vertex AI Model Garden
בלוחות הבקרה האלה מוצגות תובנות נוספות לגבי מגמות של זמן אחזור ותפוקה במודלים המנוהלים, בנוסף לתובנות שמתקבלות ממעקב אחרי שימוש בתכונות AI במסוף Firebase.Google Cloud Observability Suite
נתוני הטלמטריה למעקב אחרי שימוש בתכונות AI נשמרים ב-Google Cloud Observability Suite שמשויך לפרויקט, אז אפשר לבחון את הנתונים במרכזי הבקרה שלו, כולל Trace Explorer ו-Logs Explorer, שמקושרים כשבודקים את המעקבים הנפרדים במסוף Firebase. אתם יכולים גם להשתמש בנתונים כדי ליצור מרכזי בקרה בהתאמה אישית, להגדיר התראות ועוד.
מידע מפורט על מוצרים שמשמשים למעקב אחרי שימוש בתכונות AI
הכלי "מעקב אחרי שימוש ב-AI" שומר את נתוני הטלמטריה במוצרים שונים שזמינים ב-Google Cloud Observability Suite, כולל Cloud Monitoring, Cloud Trace ו-Cloud Logging.
Cloud Monitoring: אחסון מדדים, כולל מספר הבקשות, שיעור ההצלחה וזמן האחזור של הבקשות.
Cloud Trace: מאחסן את נתוני המעקב של כל אחת מהבקשות, כדי שתוכלו לראות את הפרטים בנפרד ולא באופן מצטבר. מעקב משויך בדרך כלל ליומנים, כדי שתוכלו לבדוק את התוכן והתזמון של כל אינטראקציה.
Cloud Logging: מתעד את המטא-נתונים של הקלט, הפלט וההגדרות כדי לספק פרטים עשירים על כל חלק בבקשת ה-AI.
נתוני הטלמטריה מאוחסנים במוצרים האלה, ולכן אתם יכולים להגדיר את הגדרות השמירה והגישה ישירות בכל מוצר (מידע נוסף זמין במסמכי התיעוד של Cloud Monitoring, Cloud Trace ו-Cloud Logging).
שימו לב שמעקב אחרי שימוש בתכונות AI שומר את ההנחיות בפועל ואת הפלט שנוצר מכל בקשה שנדגמה ב-Cloud Logging, כדי שהנתונים האלה יהיו נגישים במסוף Firebase. אתם יכולים להשבית את האחסון של ההנחיות והתשובות.
תמחור
פרויקטים בתוכנית התמחור Spark ללא עלות (זמינה רק כשמשתמשים ב-Gemini Developer API): השימוש בשירותים הבסיסיים למעקב אחרי שימוש בתכונות AI הוא בחינם.
פרויקטים בתוכנית התמחור Blaze בתשלום לפי שימוש: תחויבו על השימוש במוצרי Google Cloud Observability Suite הבסיסיים שמשמשים למעקב אחרי שימוש בתכונות AI (ללא קשר לספק Gemini API שבחרתם). עם זאת, לכל מוצר של Google Cloud Observability Suite יש מכסות נדיבות לשימוש ללא עלות. מידע נוסף זמין במסמכי התיעוד בנושא תמחור של Google Cloud Observability Suite.
(אופציונלי) השבתת האחסון של הנחיות ותשובות
כברירת מחדל, מעקב אחרי שימוש בתכונות AI מתעד את ההנחיות בפועל שנשלחות למודל ואת התשובות שהמודל יוצר, כולל מידע רגיש (כמו פרטים אישיים מזהים (PII)) בהנחיות ובתשובות האלה. כל הנתונים האלה מאוחסנים ב-Cloud Logging, כדי שיהיו נגישים במסוף Firebase.
כדי להשבית את האחסון של ההנחיות והתשובות, מוסיפים את מסנן ההחרגה הבא לכיור של Cloud Logging (בדרך כלל הכיור של _Default):
resource.type="firebasevertexai.googleapis.com/Model"
הצגת מדדי API ברמת הפרויקט במסוף Google Cloud
לכל API, אפשר לראות מדדים ברמת הפרויקט, כמו שימוש, במסוף Google Cloud.
שימו לב שדפי מסוף Google Cloud שמתוארים בקטע הזה לא כוללים מידע כמו תוכן הבקשה והתגובה ומספר הטוקנים. כדי לעקוב אחרי מידע מהסוג הזה, כדאי להשתמש במעקב אחרי שימוש בתכונות AI במסוף Firebase (כמו שמוסבר בחלק הקודם).
במסוף Google Cloud, נכנסים לדף Metrics של ה-API שרוצים להציג:
Agent Platform API: הצגת השימוש שמשויך לכל בקשה ל-Agent Platform Gemini API (formerly Vertex AI).
- כולל בקשות באמצעות ערכות SDK של לקוח Firebase AI Logic, ערכות SDK של שרת Google GenAI, Genkit, Firebase Extensions עבור Gemini API, API בארכיטקטורת REST, Agent Studio וכו'.
Gemini Developer API: הצגת השימוש שמשויך לכל בקשה ל-Gemini Developer API.
- כולל בקשות באמצעות ערכות ה-SDK של הלקוח ב-Firebase AI Logic, ערכות ה-SDK של שרת Google GenAI, Genkit, Firebase Extensions ל-Gemini API, API בארכיטקטורת REST, Google AI Studio וכו'.
- השם המוצג של ה-API הזה במסוף Google Cloud הוא Generative Language API.
אם אתם נמצאים בדף הסקירה הכללית של ה-API, לוחצים על Manage ואז על הכרטיסייה Metrics.
בתפריטים הנפתחים אפשר לבחור את המדדים שרוצים לראות, כמו תנועה לפי קוד תגובה, שגיאות לפי שיטת API, זמן אחזור כולל וזמן אחזור לפי שיטת API.