יצירת שיחות עם ריבוי פניות (צ'אט) בעזרת Gemini API

iOS+ Android אינטרנט Flutter

בעזרת Gemini API אפשר ליצור שיחות בפורמט חופשי במספר סבבים. ה-SDK של Vertex AI in Firebase מפשט את התהליך על ידי ניהול המצב של השיחה, כך שלא כמו ב-generateContentStream() או ב-generateContent(), אתם לא צריכים לאחסן את היסטוריית השיחות בעצמכם.

אפשרויות אחרות לעבודה עם Gemini API

• אופציונלי: אפשר להתנסות בגרסה חלופית של 'Google AI' של Gemini API
  אפשר לקבל גישה בחינם (במגבלות ובדרישות הרלוונטיות) באמצעות Google AI Studio וערכות SDK של לקוח Google AI. צריך להשתמש ב-SDK האלה לצורך יצירת אב טיפוס בלבד באפליקציות לנייד ובאפליקציות אינטרנט.

  אחרי שתתמצאו באופן שבו פועל Gemini API, תוכלו לעבור ל-Vertex AI in Firebase SDKs (המסמכים האלה), שיש בהם תכונות נוספות רבות שחשובות לאפליקציות לנייד ולאפליקציות אינטרנט, כמו הגנה על ה-API מפני ניצול לרעה באמצעות Firebase App Check ותמיכה בקבצי מדיה גדולים בבקשות.

• אפשר לקרוא ל-Vertex AI Gemini API בצד השרת (למשל ב-Python, Node.js או Go)
  משתמשים בערכות ה-SDK של Vertex AI בצד השרת, ב-Firebase Genkit, או ב-Firebase Extensions בשביל Gemini API.

לפני שמתחילים

אם עדיין לא עשיתם זאת, כדאי לעיין במדריך למתחילים בנושא ערכות ה-SDK של Vertex AI in Firebase. חשוב לוודא שכל הפעולות הבאות בוצעו:

1. מגדירים פרויקט Firebase חדש או קיים, כולל שימוש בתוכנית התמחור Blaze והפעלת ממשקי ה-API הנדרשים.

2. קישור האפליקציה ל-Firebase, כולל רישום האפליקציה והוספת הגדרות Firebase לאפליקציה.

3. מוסיפים את ה-SDK ומפעילים את השירות Vertex AI ואת המודל הגנרטיבי באפליקציה.

אחרי שמחברים את האפליקציה ל-Firebase, מוסיפים את ה-SDK ומפעילים את השירות Vertex AI ואת המודל הגנרטיבי, אפשר לבצע קריאה ל-Gemini API.

שליחת בקשה להנחיה בצ'אט

כדי ליצור שיחה עם כמה תשובות (כמו צ'אט), מתחילים בהפעלת השיחה באמצעות קריאה ל-startChat(). לאחר מכן, משתמשים ב-sendMessageStream() (או ב-sendMessage()) כדי לשלוח הודעה חדשה מהמשתמש, וההודעה והתגובה יתווספו להיסטוריית הצ'אט.

יש שתי אפשרויות אפשריות ל-role שמשויך לתוכן בשיחה:

• user: התפקיד שמספק את ההנחיות. הערך הזה הוא ברירת המחדל לקריאות ל-sendMessageStream() (או sendMessage()), והפונקציה גורמת לחריגה אם מועבר תפקיד אחר.

• model: התפקיד שמספק את התשובות. אפשר להשתמש בתפקיד הזה כשקוראים ל-startChat() עם history קיים.

הערה: אם אתם רוצים לספק הקשר ראשוני נוסף למודל כדי לעזור לו לקבוע את ההתנהגות שלו על סמך הצרכים הספציפיים שלכם ותרחישי השימוש שלכם, כדאי להגדיר הוראות למערכת.

בוחרים אם לשדר את התשובה (sendMessageStream) או להמתין לתשובה עד ליצירת התוצאה כולה (sendMessage).

סטרימינג

כדי לקבל אינטראקציות מהירות יותר, אפשר לא להמתין לתוצאה המלאה של יצירת המודל, אלא להשתמש בסטרימינג כדי לטפל בתוצאות חלקיות.

ללא סטרימינג

לחלופין, אפשר להמתין לקבלת התוצאה המלאה במקום להעביר אותה בסטרימינג. התוצאה תוחזר רק אחרי שהמודל ישלים את כל תהליך היצירה.

איך בוחרים מודל Gemini, ואם רוצים גם מיקום, שמתאימים לתרחיש לדוגמה ולאפליקציה.

מה עוד אפשר לעשות?

• כאן מוסבר איך לספור אסימונים לפני ששולחים הנחיות ארוכות למודל.
• מגדירים את Cloud Storage for Firebase כדי לכלול קבצים גדולים בבקשות מרובות מצבים באמצעות Cloud Storage כתובות URL. הקבצים יכולים לכלול תמונות, קובצי PDF, וידאו ואודיו.
• כדאי להתחיל לחשוב על ההכנות לקראת ההשקה בסביבת הייצור, כולל הגדרת Firebase App Check כדי להגן על ה-Gemini API מפני ניצול לרעה על ידי לקוחות לא מורשים.

ניסיון ביכולות אחרות של Gemini API

• יצירת טקסט מהנחיות בטקסט בלבד.
• יצירת טקסט מהנחיות מולטימודיאליות (כולל טקסט, תמונות, קובצי PDF, וידאו ואודיו).
• ליצור פלט מובנה (כמו JSON) מהנחיות טקסט ומהנחיות מרובות מצבים.
• משתמשים בקריאה לפונקציה כדי לחבר מודלים גנרטיביים למערכות ולמידע חיצוניים.

איך שולטים ביצירת תוכן

• הסבר על עיצוב הנחיות, כולל שיטות מומלצות, אסטרטגיות והנחיות לדוגמה.
• להגדיר את הפרמטרים של המודל, כמו הטמפרטורה ואת מספר האסימונים המקסימלי של הפלט.
• שימוש בהגדרות הבטיחות כדי לשנות את הסבירות לקבלת תשובות שעשויות להיחשב כמזיקות.

אפשר גם להתנסות בהנחיות ובהגדרות של מודלים באמצעות הפקודה Vertex AI Studio.

מידע נוסף על המודלים של Gemini

כאן תוכלו לקרוא מידע נוסף על המודלים הזמינים לתרחישי שימוש שונים, ועל המכסות והתמחור שלהם.

שליחת משוב על חוויית השימוש ב-Vertex AI in Firebase