דף זה תורגם על ידי Cloud Translation API.

יצירת ניסויים של העברת הודעות בתוך האפליקציה עם בדיקות A/B

כשאתם פונים למשתמשים או מתחילים קמפיין שיווקי חדש, אתם רוצים לוודא שאתם עושים את זה נכון. בדיקות A/B יכולות לעזור לכם למצוא את הניסוח והתצוגה האופטימליים על ידי בדיקת וריאציות של הודעות בחלקים נבחרים של בסיס המשתמשים שלכם. בין אם היעד שלכם הוא שמירה טובה יותר או המרה טובה יותר בהצעה, בדיקת A/B יכולה לבצע ניתוח סטטיסטי כדי לקבוע אם וריאנט של ההודעה מניב ביצועים טובים יותר מערכי הבסיס בהתאם ליעד שבחרתם.

כדי לבצע בדיקת A/B של וריאנטים של תכונות עם קו בסיס, מבצעים את הפעולות הבאות:

יוצרים את הניסוי.
מאמתים את הניסוי במכשיר בדיקה.
מנהלים את הניסוי.

יצירת ניסוי

ניסוי שמשתמש ב-Firebase In-App Messaging מאפשר לכם להעריך כמה וריאציות של הודעה אחת באפליקציה.

נכנסים למסוף Firebase ומוודאים ש-Google Analytics מופעל בפרויקט, כדי שלניסוי תהיה גישה לנתוני Analytics.

אם לא הפעלתם את Google Analytics במהלך יצירת הפרויקט, תוכלו להפעיל אותו בכרטיסייה Integrations (שילובים), שניתן לגשת אליה דרך > Project settings במסוף Firebase.
בקטע Engage בתפריט הניווט של מסוף Firebase, לוחצים על A/B Testing.
לוחצים על Create experiment (יצירת ניסוי) ובוחרים באפשרות In-App Messaging (הודעות בתוך האפליקציה) כשמתבקשים לבחור את השירות שבו רוצים לבצע את הניסוי.
לחלופין, בתפריט הניווט של המסוף Firebase, מרחיבים את Engage ולוחצים על In-App Messaging. לאחר מכן לוחצים על ניסוי חדש.
מזינים שם ותיאור אופציונלי לניסוי, ולוחצים על הבא.
ממלאים את השדות של טירגוט, ובוחרים קודם את האפליקציה שבה נעשה שימוש בניסוי. אפשר גם לטרגט קבוצת משנה של המשתמשים שישתתפו בניסוי, על ידי בחירה באפשרויות הבאות:
- גרסה: גרסה אחת או יותר של האפליקציה
- קהל משתמשים: Analytics קהלים שמשמשים לטירגוט משתמשים שעשויים להיכלל בניסוי
- מאפיין משתמש: מאפיין משתמש אחד או יותר מסוג Analytics לבחירת משתמשים שעשויים להיכלל בניסוי
- מדינה/אזור: מדינה או אזור אחד או יותר לבחירת המשתמשים שעשויים להיכלל בניסוי
- שפת המכשיר: שפה אחת או יותר ולוקאל אחד או יותר שמשמש לבחירת המשתמשים שעשויים להיכלל בניסוי
- פתיחה ראשונה: טירגוט משתמשים לפי הפעם הראשונה שהם פתחו את האפליקציה
- התעניינות אחרונה באפליקציה: טירגוט משתמשים על סמך הפעם האחרונה שהם התעניינו באפליקציה
הערה: ייתכן שיחלפו 24 עד 48 שעות לפני שיצטברו נתונים בניסויים שמטרגטים קהלים של משתמשים ב-Analytics. מידע נוסף על אפשרות הטירגוט הזו ועל אפשרויות טירגוט אחרות זמין במאמר טירגוט משתמשים.
מגדירים את אחוז המשתמשים לטירגוט:בוחרים את האחוז מתוך בסיס המשתמשים באפליקציה שתואם לקריטריונים שהוגדרו בקטע טירגוט משתמשים שרוצים לחלק באופן שווה בין וריאנט הבסיס לבין וריאנט אחד או יותר בניסוי. אפשר להגדיר כל אחוז בין 0.01% ל-100%. האחוזים מוקצים מחדש באופן אקראי למשתמשים בכל ניסוי, כולל ניסויים כפולים.
בקטע וריאנטים, מגדירים הודעה בסיסית בתוך האפליקציה שתישלח לקבוצת הבסיס באמצעות הממשק לעיצוב הודעות שבו משתמשים בקמפיין רגיל להעברת הודעות בתוך האפליקציה.
כדי להוסיף וריאנט לניסוי, לוחצים על Add Variant. כברירת מחדל, לניסויים יש וריאנט אחד בסיסי ווריאנט אחד.
(אופציונלי) מזינים שם תיאורי יותר לכל וריאנט.
(אופציונלי) בחלק העליון של הקטע וריאציות, לוחצים על הלחצן השוואת הווריאציות כדי להשוות בין וריאנט נוסף של ההודעה לבין הודעת הבקרה.
מגדירים מדד יעד לניסוי שמשמש להערכת הווריאנטים של הניסוי, יחד עם מדדים נוספים מהרשימה שרוצים להשתמש בהם. המדדים האלה כוללים יעדים מובנים (מעורבות, רכישות, הכנסות, שימור וכו'), Analytics אירועי המרה ואירועי Analytics אחרים.
מגדירים את התזמון של הניסוי:
- מגדירים לניסוי תאריך התחלה וסיום.
- הגדרת האופן שבו ההודעות באפליקציה מופעלות בכל הווריאציות.
לוחצים על בדיקה כדי לשמור את הניסוי.

מותר ליצור עד 300 ניסויים לכל פרויקט, שיכולים לכלול עד 24 ניסויים פעילים, והשאר טיוטות או ניסויים שהושלמו.

אימות הניסוי במכשיר בדיקה

לכל התקנה של Firebase, אפשר לאחזר את אסימון האימות של ההתקנה שמשויך אליה. אפשר להשתמש באסימון הזה כדי לבדוק וריאנטים ספציפיים של ניסוי במכשיר בדיקה שבו מותקנת האפליקציה. כדי לאמת את הניסוי במכשיר בדיקה:

מקבלים את טוקן האימות של ההתקנה באופן הבא:

Swift

do {
  let result = try await Installations.installations()
    .authTokenForcingRefresh(true)
  print("Installation auth token: \(result.authToken)")
} catch {
  print("Error fetching token: \(error)")
}

Objective-C

[[FIRInstallations installations] authTokenForcingRefresh:true
                                               completion:^(FIRInstallationsAuthTokenResult *result, NSError *error) {
  if (error != nil) {
    NSLog(@"Error fetching Installation token %@", error);
    return;
  }
  NSLog(@"Installation auth token: %@", [result authToken]);
}];

Java

FirebaseInstallations.getInstance().getToken(/* forceRefresh */true)
        .addOnCompleteListener(new OnCompleteListener<InstallationTokenResult>() {
    @Override
    public void onComplete(@NonNull Task<InstallationTokenResult> task) {
        if (task.isSuccessful() && task.getResult() != null) {
            Log.d("Installations", "Installation auth token: " + task.getResult().getToken());
        } else {
            Log.e("Installations", "Unable to get Installation auth token");
        }
    }
});MainActivity.java

Kotlin+KTX

val forceRefresh = true
FirebaseInstallations.getInstance().getToken(forceRefresh)
    .addOnCompleteListener { task ->
        if (task.isSuccessful) {
            Log.d("Installations", "Installation auth token: " + task.result?.token)
        } else {
            Log.e("Installations", "Unable to get Installation auth token")
        }
    }MainActivity.kt

בסרגל הניווט של מסוף Firebase, לוחצים על בדיקות A/B.
לוחצים על טיוטה (ו/או על הפעלה לניסויים של הגדרת תצורה מרחוק), מעבירים את העכבר מעל הניסוי, לוחצים על תפריט ההקשר () ואז לוחצים על Manage test devices.
מזינים את אסימון האימות של ההתקנה למכשיר הבדיקה ובוחרים את הווריאנט של הניסוי שרוצים לשלוח למכשיר הבדיקה הזה.
מריצים את האפליקציה ומוודאים שהגרסה שנבחרה מתקבלת במכשיר הבדיקה.

למידע נוסף על התקנות של Firebase, ראו ניהול התקנות ב-Firebase.

ניהול הניסוי

אחרי שיוצרים ניסוי באמצעות Remote Config, הכלי ליצירת התראות או Firebase In-App Messaging, אפשר לאמת ולהפעיל את הניסוי, לעקוב אחריו בזמן שהוא פועל ולהגדיל את מספר המשתמשים שכלולים בניסוי שפועל.

בסיום הניסוי, תוכלו לרשום את ההגדרות שבהן נעשה שימוש בגרסת הווריאנטים המנצחת, ולאחר מכן להשיק את ההגדרות האלה לכל המשתמשים. לחלופין, תוכלו להפעיל ניסוי נוסף.

התחלת ניסוי

בקטע Engage בתפריט הניווט של מסוף Firebase, לוחצים על A/B Testing.
לוחצים על טיוטה ואז על השם של הניסוי.
כדי לוודא שיש באפליקציה משתמשים שייכללו בניסוי, מרחיבים את פרטי הטיוטה ובודקים אם מופיע מספר גבוה מ-0% בקטע טירגוט והפצה (לדוגמה, 1% מהמשתמשים שעומדים בקריטריונים).
כדי לשנות את הניסוי, לוחצים על Edit (עריכה).
כדי להתחיל את הניסוי, לוחצים על התחלת הניסוי. אפשר להריץ עד 24 ניסויים בכל פרויקט בכל פעם.

מעקב אחרי ניסוי

אחרי שהניסוי פועל במשך זמן מה, אפשר לבדוק את ההתקדמות שלו ולראות איך נראות התוצאות של המשתמשים שהשתתפו בניסוי עד כה.

בקטע Engage בתפריט הניווט של מסוף Firebase, לוחצים על A/B Testing.
לוחצים על Running ואז על שם הניסוי או מחפשים אותו. בדף הזה אפשר לראות נתונים סטטיסטיים שונים שנצפו ונתונים סטטיסטיים לפי מודל לגבי הניסוי שפועל, כולל:
- % difference from baseline: מדד לשיפור המדד של וריאנט נתון בהשוואה לערך הבסיס. הערך מחושב על ידי השוואה בין טווח הערכים של הווריאנט לבין טווח הערכים של הבקרה.
- הסתברות לגבור על ערך הבסיס: ההסתברות המשוערת שוריאנט נתון גוברת על ערך הבסיס של המדד שנבחר.
- observed_metric לכל משתמש: על סמך תוצאות הניסוי, זהו הטווח הצפוי שבו הערך של המדד ייכלל לאורך זמן.
- סה"כ observed_metric: הערך המצטבר שדווח של קבוצת הבסיס או הווריאנט. הערך הזה משמש למדידת הביצועים של כל וריאנט בניסוי, ולחישוב הערכים של שיפור, טווח ערכים, הסתברות לחרוג מהבסיס והסתברות להיות הווריאנט הטוב ביותר. בהתאם למדד שנמדד, יכול להיות שהעמודה הזו תסומן בתוויות 'משך זמן לכל משתמש', 'הכנסה למשתמש', 'שיעור השימור' או 'שיעור המרה'.
אחרי שהניסוי יפעל במשך זמן מה (לפחות 7 ימים ל-FCM ול-In-App Messaging או 14 ימים ל-Remote Config), הנתונים בדף הזה יציינו איזו וריאציה, אם בכלל, היא 'המובילה'. חלק מהמדידות מלוות בתרשים עמודות שבו הנתונים מוצגים בפורמט חזותי.

השקה של ניסוי לכל המשתמשים

אחרי שהניסוי יפעל מספיק זמן כדי שתוכלו לזהות את הווריאנט 'המוביל' או הווריאנט המנצח ביחס למדד היעד, תוכלו להשיק את הניסוי לכל המשתמשים. כך תוכלו לבחור וריאנט לפרסום לכל המשתמשים מעכשיו והלאה. גם אם הניסוי לא הניב מנצח ברור, עדיין אפשר לפרסם וריאנט לכל המשתמשים.

בקטע התעניינות בתפריט הניווט של מסוף Firebase לוחצים על A/B Testing.
לוחצים על הושלם או על בפעילות, לוחצים על הניסוי שרוצים להשיק לכל המשתמשים, לוחצים על תפריט ההקשר () השקת הווריאנט.
כדי להשיק את הניסוי לכל המשתמשים, מבצעים אחת מהפעולות הבאות:
- בניסוי שבו נעשה שימוש במלחין ההתראות, תוכלו להשתמש בתיבת הדו-שיח הפעלת ההודעה כדי לשלוח את ההודעה לשאר המשתמשים המטורגטים שלא היו חלק בניסוי.
- בניסוי מסוג Remote Config, בוחרים וריאנט כדי לקבוע אילו ערכי פרמטר של Remote Config לעדכן. קריטריונים לטירגוט שהוגדרו בזמן יצירת הניסוי מתווספים כתנאי חדש בתבנית, כדי להבטיח שההשקה תשפיע רק על משתמשים שמוגדרים כטירגוט בניסוי. אחרי שלוחצים על Review in Remote Config כדי לבדוק את השינויים, לוחצים על Publish changes (פרסום השינויים) כדי להשלים את ההשקה.
- אם מדובר בניסוי In-App Messaging, אפשר להשתמש בתיבת הדו-שיח כדי לקבוע איזה וריאנט צריך להשיק כקמפיין עצמאי של In-App Messaging. לאחר הבחירה, תועברו למסך הכתיבה של FIAM כדי לבצע שינויים (אם יש צורך) לפני הפרסום.

הרחבת ניסוי

אם הניסוי לא מניב מספיק משתמשים כדי ש-A/B Testing יוכל להכריז על מנהיג, תוכלו להגדיל את התפלגות הניסוי כדי להגיע לאחוז גדול יותר מבסיס המשתמשים של האפליקציה.

בקטע Engage בתפריט הניווט של מסוף Firebase, לוחצים על A/B Testing.
בוחרים את הניסוי שפועל שרוצים לערוך.
בדף סקירה כללית של הניסוי, לוחצים על תפריט הסיטואציה () ואז על עריכת הניסוי שפועל.
בתיבת הדו-שיח טירגוט מוצגת אפשרות להגדיל את אחוז המשתמשים שמשתתפים בניסוי הפעיל. בוחרים מספר גבוה יותר מהאחוז הנוכחי ולוחצים על פרסום. הניסוי יוצג לאחוז המשתמשים שציינתם.

שכפול או הפסקה של ניסוי

בקטע Engage בתפריט הניווט של מסוף Firebase, לוחצים על A/B Testing.
לוחצים על Complete או על running, מעבירים את העכבר מעל הניסוי, לוחצים על תפריט ההקשר () ואז לוחצים על שכפול הניסוי או הפסקת הניסוי.

טירגוט למשתמשים

תוכלו לטרגט את המשתמשים שייכללו בניסוי לפי הקריטריונים הבאים לטירגוט משתמשים.

קריטריון טירגוט	מפעילים	ערכים	הערה
גרסה	מכיל, לא מכיל, תואם במדויק, מכיל ביטוי רגולרי (regex)	מזינים ערך לגרסה אחת או יותר של האפליקציה שרוצים לכלול בניסוי.	כשמשתמשים באחד מהאופרטורים contains,‏ does not contain או matches exactly, אפשר לספק רשימה של ערכים מופרדים בפסיקים. כשמשתמשים באופרטור contains regex, אפשר ליצור ביטויים רגולריים בפורמט RE2. הביטוי הרגולרי יכול להתאים לכל מחרוזת הגרסה של היעד או לחלק ממנה. אפשר גם להשתמש בעוגנים ^ ו-$ כדי להתאים להתחלה, לסוף או לכל המחרוזת של היעד.
קהלים של משתמשים	כולל את כולם, כולל לפחות אחד מהם, לא כולל את כולם, לא כולל לפחות אחד מהם	צריך לבחור קהל אחד או יותר של Analytics כדי לטרגט משתמשים שעשויים להיכלל בניסוי.	יכול להיות שיחלפו כמה ימים עד שיצטברו נתונים בניסויים מסוימים שמטרגטים קהלים של Google Analytics, כי הם כפופים לזמן אחזור של עיבוד נתונים של Analytics. הסבירות הגבוהה ביותר היא שהעיכוב הזה יתרחש אצל משתמשים חדשים, שבדרך כלל מצורפים לקהלים שעומדים בדרישות 24 עד 48 שעות אחרי היצירה, או אצל קהלים שנוצרו לאחרונה.
מאפיין משתמש	לטקסט: מכיל, לא מכיל, תואם בדיוק, מכיל ביטוי רגולרי למספרים: <, ≤, =, ≥, >	מאפיין המשתמש Analytics משמש לבחירת משתמשים שעשויים להיכלל בניסוי, עם מגוון אפשרויות לבחירת ערכים של מאפיין המשתמש. בצד הלקוח, אפשר להגדיר רק ערכים של מחרוזות למאפייני משתמש. בתנאים שמשתמשים באופרטורים מספריים, השירות Remote Config ממיר את הערך של מאפיין המשתמש התואם למספר שלם או למספר עשרוני.	כשמשתמשים באופרטור contains regex, אפשר ליצור ביטויים רגולריים בפורמט RE2. הביטוי הרגולרי יכול להתאים לכל מחרוזת הגרסה של היעד או לחלק ממנה. אפשר גם להשתמש בעוגנים ^ ו-$ כדי להתאים להתחלה, לסוף או לכל המחרוזת של היעד.
ארץ/אזור	לא רלוונטי	מדינה או אזור אחד או יותר שבעזרתם בוחרים משתמשים שעשויים להיכלל בניסוי.
שפות	לא רלוונטי	שפה אחת או יותר ולוקאל אחד או יותר שבעזרתם בוחרים משתמשים שעשויים להיכלל בניסוי.
פתיחה ראשונה	יותר מ- בין	טירגוט משתמשים על סמך הפעם הראשונה שהם פתחו את האפליקציה, שמצוינת בימים.
אינטראקציה אחרונה באפליקציה	יותר מ- פחות מ- בין	טירגוט משתמשים על סמך הפעם האחרונה שהם היו בקשר עם האפליקציה, שצוין בימים.

‫A/B Testing מדדים

כשיוצרים ניסוי, בוחרים מדד ראשי, או יעד, שמשמש לקביעת הווריאנט המנצח. כדאי גם לעקוב אחרי מדדים אחרים, שיעזרו לכם להבין טוב יותר את הביצועים של כל וריאנט בניסוי ולעקוב אחרי מגמות חשובות שעשויות להיות שונות בכל וריאנט, כמו שימור משתמשים, יציבות האפליקציה והכנסות מרכישות מתוך האפליקציה. ניתן לעקוב בניסוי עד חמישה מדדים שאינם קשורים ליעדים.

לדוגמה, נניח שהוספתם רכישות חדשות מתוך האפליקציה ואתם רוצים להשוות בין היעילות של שתי הודעות 'דחיפה' שונות. במקרה כזה, מומלץ להגדיר את הכנסה מרכישות כמדד היעד, כי אתם רוצים שהגרסה הזו תייצג את התזכורת שהניבה את ההכנסה הגבוהה ביותר מרכישות מתוך האפליקציה. מכיוון שאתם רוצים גם לעקוב אחרי איזה וריאנט הניב יותר המרות בעתיד ומשתמשים שנשארו, תוכלו להוסיף את הפרטים הבאים בקטע מדדים אחרים למעקב:

הכנסה כוללת משוערת כדי לראות את ההבדל בין שתי הגרסאות בהכנסה המשולבת מרכישות מתוך האפליקציה וממודעות
Retention (1 day),‏ Retention (2-3 days),‏ Retention (4-7 days) כדי לעקוב אחרי שימור המשתמשים היומי או השבועי

הטבלאות הבאות מציגות פרטים על אופן החישוב של מדדי יעדים ומדדים אחרים.

מדדי יעדים

מדד	תיאור
משתמשים שהאפליקציה שלהם לא קרסה	אחוז המשתמשים שלא נתקלו באפליקציה בשגיאות שזוהו על ידי Firebase Crashlytics SDK במהלך הניסוי.
ההכנסה המשוערת מפרסום	הרווחים המשוערים ממודעות.
סה"כ הכנסות משוערות	הערך הכולל של ההכנסות מרכישות וההכנסות המשוערות מפרסום.
הכנסות מרכישות	הערך הכולל של כל האירועים מסוג `purchase` ו-`in_app_purchase`.
שימור (יום אחד)	מספר המשתמשים שחוזרים לאפליקציה שלכם מדי יום.
שימור (2-3 ימים)	מספר המשתמשים שחוזרים לאפליקציה שלכם תוך 2-3 ימים.
שימור (4-7 ימים)	מספר המשתמשים שחוזרים לאפליקציה שלכם תוך 4 עד 7 ימים.
שימור משתמשים (8 עד 14 ימים)	מספר המשתמשים שחוזרים לאפליקציה תוך 8 עד 14 ימים.
שימור (15 יום ומעלה)	מספר המשתמשים שחוזרים לאפליקציה 15 ימים או יותר אחרי שהם השתמשו בה בפעם האחרונה.
first_open	אירוע Analytics שמופעל כשמשתמש פותח אפליקציה בפעם הראשונה אחרי שהוא מתקין אותה או מתקין אותה מחדש. משמש כחלק ממשפך המרות.

מדדים נוספים

מדד	תיאור
notification_dismiss	אירוע Analytics שמופעל כשהתראה שנשלחה על ידי מחבר ההתראות נסגרת (ב-Android בלבד).
notification_receive	אירוע Analytics שמופעל כשמתקבלת התראה שנשלחה על ידי הכלי ליצירת התראות בזמן שהאפליקציה פועלת ברקע (ב-Android בלבד).
os_update	אירוע ב-Analytics שעוקב אחרי העדכון של מערכת ההפעלה של המכשיר לגרסה חדשה.מידע נוסף זמין במאמר אירועים שנאספים באופן אוטומטי.
screen_view	אירוע Analytics שמאפשר לעקוב אחרי המסכים שנצפו באפליקציה. למידע נוסף, ראו מעקב אחרי צפיות במסכים.
session_start	אירוע Analytics שמספר את הסשנים של המשתמשים באפליקציה. מידע נוסף זמין במאמר אירועים שנאספים באופן אוטומטי.