יצירת שיחות עם ריבוי פניות (צ'אט) בעזרת Gemini API

iOS+ Android אינטרנט Flutter

באמצעות Gemini API אפשר ליצור שיחות בפורמט חופשי במספר סבבים. ה-SDK של Vertex AI in Firebase מפשט את התהליך על ידי ניהול המצב של השיחה, כך שלא כמו ב-generateContentStream() או ב-generateContent(), אתם לא צריכים לאחסן את היסטוריית השיחות בעצמכם.

אפשרויות אחרות לעבודה עם Gemini API

• אפשר גם להתנסות בגרסה חלופית 'Google AI' של Gemini API
  כדי לקבל גישה בחינם (במגבלות ובמקרים שבהם היא זמינה) באמצעות Google AI Studio ו-Google AI SDK ללקוח. צריך להשתמש ב-SDK האלה לצורך יצירת אב טיפוס בלבד באפליקציות לנייד ובאפליקציות אינטרנט.

  אחרי שתתמצאו באופן שבו פועל Gemini API, תוכלו לעבור ל-Vertex AI in Firebase SDKs (המסמכים האלה), שיש בהם תכונות נוספות רבות שחשובות לאפליקציות לנייד ולאפליקציות אינטרנט, כמו הגנה על ה-API מפני ניצול לרעה באמצעות Firebase App Check ותמיכה בבקשות עם קובצי מדיה גדולים.

• אפשר גם להפעיל את Vertex AI Gemini API בצד השרת (למשל באמצעות Python,‏ Node.js או Go)
  . משתמשים בערכות ה-SDK של Vertex AI בצד השרת, ב-Firebase Genkit או ב-Firebase Extensions עבור Gemini API.

לפני שמתחילים

אם עדיין לא עשיתם זאת, כדאי לעיין במדריך למתחילים בנושא ערכות ה-SDK של Vertex AI in Firebase. חשוב לוודא שכל הפעולות הבאות בוצעו:

1. מגדירים פרויקט Firebase חדש או קיים, כולל שימוש בתוכנית התמחור Blaze והפעלת ממשקי ה-API הנדרשים.

2. מקשרים את האפליקציה ל-Firebase, כולל רישום האפליקציה והוספת הגדרות Firebase לאפליקציה.

3. מוסיפים את ה-SDK ומפעילים את השירות Vertex AI ואת המודל הגנרטיבי באפליקציה.

אחרי שמחברים את האפליקציה ל-Firebase, מוסיפים את ה-SDK ומפעילים את השירות Vertex AI ואת המודל הגנרטיבי, אפשר לבצע קריאה ל-Gemini API.

שליחת בקשה להנחיה בצ'אט

כדי ליצור שיחה עם כמה תשובות (כמו צ'אט), מתחילים בהפעלת השיחה באמצעות קריאה ל-startChat(). לאחר מכן, משתמשים ב-sendMessageStream() (או ב-sendMessage()) כדי לשלוח הודעה חדשה מהמשתמש, וההודעה והתגובה יתווספו להיסטוריית הצ'אט.

יש שתי אפשרויות אפשריות ל-role שמשויך לתוכן בשיחה:

• user: התפקיד שמספק את ההנחיות. זהו ערך ברירת המחדל לשיחות ל-sendMessageStream() (או ל-sendMessage()), והפונקציה תיצור חריגה אם יועבר תפקיד אחר.

• model: התפקיד שמספק את התשובות. אפשר להשתמש בתפקיד הזה כשקוראים ל-startChat() עם history קיים.

הערה: אם אתם רוצים לספק הקשר ראשוני נוסף למודל כדי לעזור לו לקבוע את ההתנהגות שלו על סמך הצרכים הספציפיים שלכם ותרחישי השימוש שלכם, כדאי להגדיר הוראות למערכת.

בוחרים אם להעביר את התשובה בסטרימינג (sendMessageStream) או להמתין לתשובה עד שהתוצאה כולה נוצרת (sendMessage).

סטרימינג

כדי לקבל אינטראקציות מהירות יותר, אפשר לא להמתין לתוצאה המלאה של יצירת המודל, אלא להשתמש בסטרימינג כדי לטפל בתוצאות חלקיות.

ללא סטרימינג

לחלופין, אפשר להמתין לקבלת התוצאה המלאה במקום להפעיל את הסטרימינג. התוצאה תוחזר רק אחרי שהמודל ישלים את כל תהליך היצירה.

כאן מוסבר איך בוחרים מודל Gemini, ואם רוצים גם מיקום שמתאים לאפליקציה ולתרחיש השימוש.

מה עוד אפשר לעשות?

• כך סופרים אסימונים לפני ששולחים הנחיות ארוכות למודל.
• מגדירים את Cloud Storage for Firebase כדי שתוכלו לכלול קבצים גדולים בבקשות עם מודלים מרובים באמצעות כתובות URL מסוג Cloud Storage. הקבצים יכולים לכלול תמונות, קובצי PDF, סרטונים ואודיו.
• כדאי להתחיל לחשוב על ההכנות לקראת ההשקה בסביבת הייצור, כולל הגדרת Firebase App Check כדי להגן על ה-Gemini API מפני ניצול לרעה על ידי לקוחות לא מורשים.

ניסיון ביכולות אחרות של Gemini API

• יצירת טקסט מהנחיות בטקסט בלבד.
• יצירת טקסט מהנחיות מולטימודיאליות (כולל טקסט, תמונות, קובצי PDF, סרטונים וקובצי אודיו).
• יצירת פלט מובנה (כמו JSON) גם מהנחיות טקסט וגם מהנחיות מולטימודליות.
• משתמשים בקריאה לפונקציה כדי לחבר מודלים גנרטיביים למערכות ולמידע חיצוניים.

איך שולטים ביצירת תוכן

• הסבר על תכנון הנחיות, כולל שיטות מומלצות, אסטרטגיות והנחיות לדוגמה.
• להגדיר את הפרמטרים של המודל, כמו הטמפרטורה ואת מספר האסימונים המקסימלי של הפלט.
• שימוש בהגדרות הבטיחות כדי לשנות את הסבירות לקבלת תשובות שעשויות להיחשב כמזיקות.

אפשר גם להתנסות בהנחיות ובהגדרות של מודלים באמצעות הפקודה Vertex AI Studio.

מידע נוסף על המודלים של Gemini

כאן תוכלו לקרוא מידע נוסף על המודלים הזמינים לתרחישי שימוש שונים, ועל המכסות והתמחור שלהם.

שליחת משוב על חוויית השימוש ב-Vertex AI in Firebase