In-App-Messaging-Tests mit A/B Testing erstellen

Wenn Sie sich an Ihre Nutzer wenden oder eine neue Marketingkampagne starten, sollten Sie alles richtig machen. Mithilfe von A/B-Tests können Sie die optimale Formulierung und Darstellung ermitteln, indem Sie Nachrichtenvarianten bei ausgewählten Teilen Ihrer Nutzerbasis testen. Ganz gleich, ob Sie die Kundenbindung oder die Conversion für ein Angebot verbessern möchten: Mit A/B-Tests können Sie statistische Analysen durchführen, um festzustellen, ob eine Nachrichtenvariante die Baseline für Ihr ausgewähltes Zielvorhaben übertrifft.

So führen Sie A/B-Tests für Funktionsvarianten mit einer Baseline durch:

1. Erstellen Sie einen Test.
2. Testen Sie Ihr Experiment auf einem Testgerät.
3. Test verwalten

Wichtig :Achten Sie darauf, dass Sie die Mindest-SDK-Version für A/B Testing haben: Google Play-Dienste 11.4.2 für Android und Firebase SDK für Apple-Plattformen 4.5.0.

Test erstellen

Bei einem Test mit Firebase In-App Messaging können Sie mehrere Varianten einer einzelnen In-App-Nachricht testen.

1. Melden Sie sich in der Firebase-Konsole an und prüfen Sie, ob Google Analytics in Ihrem Projekt aktiviert ist, damit der Test auf Analytics-Daten zugreifen kann.

   Wenn Sie Google Analytics beim Erstellen des Projekts nicht aktiviert haben, können Sie es auf dem Tab Integrationen aktivieren. Sie können über > Projekteinstellungen in der Firebase Console darauf zugreifen.

2. Klicken Sie im Navigationsmenü der Firebase-Konsole im Bereich Interaktion auf A/B Testing.

3. Klicken Sie auf Test erstellen und wählen Sie dann In-App Messaging aus, wenn Sie nach dem Dienst gefragt werden, den Sie testen möchten.

4. Alternativ können Sie im Navigationsmenü der Firebase-Konsole Interaktion maximieren und dann auf In-App Messaging klicken. Klicken Sie dann auf Neuer Test.

5. Geben Sie einen Namen und optional eine Beschreibung für den Test ein und klicken Sie auf Weiter.

6. Füllen Sie die Felder unter Targeting aus. Wählen Sie zuerst die App aus, für die der Test verwendet wird. Sie können auch eine Teilmenge Ihrer Nutzer für die Teilnahme an Ihrem Test auswählen. Dazu haben Sie unter anderem folgende Möglichkeiten:

   • Version:Eine oder mehrere Versionen Ihrer App
   • Nutzerzielgruppe:Analytics-Zielgruppen, die verwendet werden, um Nutzer anzusprechen, die möglicherweise in den Test einbezogen werden
   • Nutzereigenschaft:Eine oder mehrere Analytics-Nutzereigenschaften zum Auswählen von Nutzern, die in den Test aufgenommen werden könnten
   • Land/Region:Wählen Sie mindestens ein Land oder eine Region aus, um Nutzer auszuwählen, die in den Test aufgenommen werden könnten.
   • Gerätesprache:Eine oder mehrere Sprachen und Gebiete, die verwendet werden, um Nutzer auszuwählen, die möglicherweise in den Test einbezogen werden.
   • Erstes Öffnen:Sie können auf Nutzer ausrichten, die Ihre App zum ersten Mal geöffnet haben.
   • Letzte App-Interaktion:Nutzer basierend darauf ansprechen, wann sie das letzte Mal mit Ihrer App interagiert haben
   Hinweis :Bei Tests, die auf Analytics-Nutzerzielgruppen ausgerichtet sind, kann es 24 bis 48 Stunden dauern, bis Daten erfasst werden. Weitere Informationen

7. Legen Sie den Prozentsatz der Zielnutzer fest:Wählen Sie den Prozentsatz des Nutzerstamms Ihrer App aus, der die unter Zielnutzer festgelegten Kriterien erfüllt und den Sie gleichmäßig auf die Baseline und eine oder mehrere Varianten in Ihrem Test aufteilen möchten. Das kann ein beliebiger Prozentsatz zwischen 0,01% und 100 % sein. Prozentsätze werden für jeden Test, auch für duplizierte Tests, zufällig neu zugewiesen.

8. Konfigurieren Sie im Bereich Varianten eine In-App-Nachricht für die Referenzgruppe. Verwenden Sie dazu die Oberfläche für das Nachrichtendesign, die Sie auch für eine normale In-App-Messaging-Kampagne verwenden.

9. Wenn Sie Ihrem Test eine Variante hinzufügen möchten, klicken Sie auf Variante hinzufügen. Standardmäßig haben Tests eine Baseline und eine Variante.

10. Optional: Geben Sie einen aussagekräftigeren Namen für jede Variante ein.

11. Optional: Klicken Sie oben im Bereich Varianten auf die Schaltfläche Varianten vergleichen, um eine weitere Nachrichtenvariante mit der Baseline-Nachricht zu vergleichen.

12. Legen Sie einen Zielmesswert für Ihren Test fest, der bei der Bewertung der Testvarianten verwendet werden soll, sowie alle zusätzlichen Messwerte, die Sie aus der Liste verwenden möchten. Zu diesen Messwerten gehören integrierte Zielvorhaben (Engagement, Käufe, Umsatz, Kundenbindung usw.). Analytics-Conversion-Ereignisse und andere Analytics-Ereignisse.

13. Planen Sie den Test:

    • Legen Sie ein Startdatum und ein Enddatum für den Test fest.
    • Legen Sie fest, wie In-App-Nachrichten in allen Varianten ausgelöst werden.

14. Klicken Sie auf Prüfen, um den Test zu speichern.

Sie können bis zu 300 Tests pro Projekt erstellen, davon maximal 24 aktive Tests. Die restlichen Tests können Entwürfe oder abgeschlossen sein.

Test auf einem Testgerät validieren

Für jede Firebase-Installation können Sie das zugehörige Authentifizierungstoken der Installation abrufen. Mit diesem Token können Sie bestimmte Testvarianten auf einem Testgerät testen, auf dem Ihre App installiert ist. So validieren Sie Ihren Test auf einem Testgerät:

1. So rufen Sie das Installations-Auth-Token ab:

   Swift

   do {
     let result = try await Installations.installations()
       .authTokenForcingRefresh(true)
     print("Installation auth token: \(result.authToken)")
   } catch {
     print("Error fetching token: \(error)")
   }

   Objective-C

   [[FIRInstallations installations] authTokenForcingRefresh:true
                                                  completion:^(FIRInstallationsAuthTokenResult *result, NSError *error) {
     if (error != nil) {
       NSLog(@"Error fetching Installation token %@", error);
       return;
     }
     NSLog(@"Installation auth token: %@", [result authToken]);
   }];

   Java

   FirebaseInstallations.getInstance().getToken(/* forceRefresh */true)
           .addOnCompleteListener(new OnCompleteListener<InstallationTokenResult>() {
       @Override
       public void onComplete(@NonNull Task<InstallationTokenResult> task) {
           if (task.isSuccessful() && task.getResult() != null) {
               Log.d("Installations", "Installation auth token: " + task.getResult().getToken());
           } else {
               Log.e("Installations", "Unable to get Installation auth token");
           }
       }
   });
   MainActivity.java

   Kotlin

   val forceRefresh = true
   FirebaseInstallations.getInstance().getToken(forceRefresh)
       .addOnCompleteListener { task ->
           if (task.isSuccessful) {
               Log.d("Installations", "Installation auth token: " + task.result?.token)
           } else {
               Log.e("Installations", "Unable to get Installation auth token")
           }
       }
   MainActivity.kt

2. Klicken Sie in der Navigationsleiste der Firebase-Konsole auf A/B-Tests.
3. Klicken Sie auf Entwurf (und/oder Wird ausgeführt für Remote Config-Tests), bewegen Sie den Mauszeiger auf den Test, klicken Sie auf das Kontextmenü () und dann auf Testgeräte verwalten.
4. Geben Sie das Authentifizierungstoken der Installation für ein Testgerät ein und wählen Sie die Testvariante aus, die an dieses Testgerät gesendet werden soll.
5. Führen Sie die App aus und prüfen Sie, ob die ausgewählte Variante auf dem Testgerät empfangen wird.

Weitere Informationen zu Firebase-Installationen

Test verwalten

Sie können Tests mit Remote Config, dem Benachrichtigungs-Composer oder Firebase In-App Messaging erstellen, validieren und starten. Außerdem können Sie laufende Tests im Blick behalten und die Anzahl der Nutzer erhöhen, die daran teilnehmen.

Wenn der Test abgeschlossen ist, können Sie sich die Einstellungen der erfolgreichsten Variante notieren und sie dann für alle Nutzer einführen. Alternativ können Sie einen anderen Test durchführen.

Test starten

1. Klicken Sie im Navigationsmenü der Firebase-Konsole im Bereich Interaktion auf A/B Testing.
2. Klicken Sie auf Entwurf und dann auf den Titel des Tests.
3. Wenn Sie prüfen möchten, ob Ihre App Nutzer hat, die in Ihren Test einbezogen werden, maximieren Sie die Details des Testentwurfs und sehen Sie im Abschnitt Targeting und Verteilung nach, ob dort eine Zahl größer als 0% steht (z. B. 1% der Nutzer, die die Kriterien erfüllen).
4. Wenn Sie den Test ändern möchten, klicken Sie auf Bearbeiten.
5. Klicken Sie auf Test starten, um den Test zu starten. Pro Projekt können bis zu 24 Tests gleichzeitig durchgeführt werden.

Test beobachten

Nachdem ein Test eine Weile läuft, können Sie den Fortschritt und die bisherigen Ergebnisse für die Nutzer, die am Test teilgenommen haben, ansehen.

1. Klicken Sie im Navigationsmenü der Firebase-Konsole im Bereich Interaktion auf A/B Testing.

2. Klicken Sie auf Wird ausgeführt und dann auf den Titel Ihres Tests oder suchen Sie danach. Auf dieser Seite finden Sie verschiedene erfasste und geschätzte Statistiken zu Ihrem laufenden Test, darunter:

   • Abweichung von ursprünglicher Variante in%: Ein Maß für die Verbesserung eines Messwerts für eine bestimmte Variante im Vergleich zur ursprünglichen Variante. Wird berechnet, indem der Wertebereich für die Variante mit dem Wertebereich für die Baseline verglichen wird.
   • Wahrscheinlichkeit, die ursprüngliche Variante zu übertreffen: Die geschätzte Wahrscheinlichkeit, dass eine bestimmte Variante die Baseline für den ausgewählten Messwert übertrifft.
   • observed_metric pro Nutzer: Basierend auf den Testergebnissen ist dies der prognostizierte Bereich, in den der Messwert im Laufe der Zeit fallen wird.
   • Gesamt observed_metric: Der beobachtete kumulative Wert für die Baseline oder Variante. Der Wert wird verwendet, um die Leistung der einzelnen Testvarianten zu messen und Verbesserung, Wertebereich, Wahrscheinlichkeit, die Baseline zu übertreffen und Wahrscheinlichkeit, die beste Variante zu sein zu berechnen. Je nach gemessenem Messwert kann diese Spalte mit „Dauer pro Nutzer“, „Umsatz pro Nutzer“, „Bindungsrate“ oder „Conversion-Rate“ bezeichnet werden.

3. Nachdem der Test eine Weile gelaufen ist (mindestens 7 Tage für FCM und In-App Messaging oder 14 Tage für Remote Config), sehen Sie auf dieser Seite, welche Variante, falls überhaupt, die „führende“ ist. Einige Messungen werden von einem Balkendiagramm begleitet, in dem die Daten visuell dargestellt werden.

Tipp :Sie können nach Spalte sortieren und Ihre A/B-Tests nach Name und Teststatus filtern.

Test für alle Nutzer einführen

Sobald Sie die beste Variante für den entsprechenden Zielmesswert ermittelt haben, können Sie den Test auf alle Nutzer ausweiten. So können Sie eine Variante auswählen, die ab sofort allen Nutzern präsentiert wird. Das ist auch dann möglich, wenn keine Variante die beste ist.

1. Klicken Sie im Navigationsmenü der Firebase-Konsole im Bereich Interaktion auf A/B Testing.
2. Klicken Sie auf Abgeschlossen oder Wird ausgeführt und dann auf einen Test, den Sie für alle Nutzer freigeben möchten. Klicken Sie auf das Kontextmenü () und dann auf Variante bereitstellen.

3. Führen Sie den Test für alle Nutzer ein, indem Sie eine der folgenden Aktionen ausführen:

   • Wenn Sie einen Test mit dem Benachrichtigungs-Composer durchführen, verwenden Sie das Dialogfeld Nachricht bereitstellen, um die Nachricht an die übrigen Zielnutzer zu senden, die nicht am Test teilgenommen haben.
   • Wählen Sie für einen Remote Config-Test eine Variante aus, um zu bestimmen, welche Remote Config-Parameterwerte aktualisiert werden sollen. Die beim Erstellen des Tests definierten Targeting-Kriterien werden als neue Bedingung in Ihre Vorlage eingefügt, sodass die Variante nur für die Nutzer bereitgestellt wird, auf die der Test ausgerichtet ist. Klicken Sie auf In Remote Config überprüfen, um die Änderungen zu sehen. Klicken Sie zum Abschluss auf Änderungen veröffentlichen.
   • Bei einem In-App Messaging-Test können Sie im Dialogfeld festlegen, welche Variante als eigenständige In-App Messaging-Kampagne eingeführt werden soll. Nachdem Sie die Option ausgewählt haben, werden Sie zum Bildschirm zum Erstellen von FIAM weitergeleitet, um vor der Veröffentlichung gegebenenfalls Änderungen vorzunehmen.

Test erweitern

Wenn Sie feststellen, dass bei einem Test nicht genügend Nutzer erreicht werden, um einen Gewinner zu ermitteln, können Sie die Verteilung des Tests erhöhen, um einen größeren Prozentsatz der Nutzerbasis der App zu erreichen.A/B Testing

1. Klicken Sie im Navigationsmenü der Firebase-Konsole im Bereich Interaktion auf A/B Testing.
2. Wählen Sie den laufenden Test aus, den Sie bearbeiten möchten.
3. Klicken Sie in der Testübersicht auf das Kontextmenü  und dann auf Laufenden Test bearbeiten.
4. Im Dialogfeld Targeting wird eine Option angezeigt, mit der Sie den Prozentsatz der Nutzer erhöhen können, die am laufenden Test teilnehmen. Wählen Sie eine Zahl aus, die größer als der aktuelle Prozentsatz ist, und klicken Sie auf Veröffentlichen. Der Test wird für den von Ihnen angegebenen Prozentsatz der Nutzer eingeführt.

Test duplizieren oder beenden

1. Klicken Sie im Navigationsmenü der Firebase-Konsole im Bereich Interaktion auf A/B Testing.
2. Klicken Sie auf Abgeschlossen oder Wird ausgeführt, bewegen Sie den Mauszeiger auf den Test, klicken Sie auf das Kontextmenü  und dann auf Test duplizieren oder Test beenden.

Nutzertargeting

Sie können die Nutzer, die in Ihr Experiment aufgenommen werden sollen, anhand der folgenden Kriterien für die Ausrichtung auswählen.

Targeting-Kriterium	Operator(en)	Wert(e)	Hinweis
Version	„enthält“, „enthält nicht“, „stimmt genau überein“, „enthält Regex“	Geben Sie einen Wert für eine oder mehrere App-Versionen ein, die Sie in den Test einbeziehen möchten.	Wenn Sie einen der Operatoren enthält, enthält nicht oder entspricht genau verwenden, können Sie eine durch Kommas getrennte Liste von Werten angeben. Wenn Sie den Operator contains regex verwenden, können Sie reguläre Ausdrücke im RE2-Format erstellen. Ihr regulärer Ausdruck kann mit dem gesamten oder einem Teil des Zielversionsstrings übereinstimmen. Sie können auch die Anker ^ und $ verwenden, um den Anfang, das Ende oder die Gesamtheit eines Zielstrings abzugleichen.
Nutzerzielgruppe(n)	„beinhaltet alle von“, „beinhaltet mindestens eines von“, „beinhaltet nicht alle von“, „beinhaltet nicht mindestens eines von“	Wählen Sie mindestens eine Analytics-Zielgruppe aus, um Nutzer anzusprechen, die möglicherweise in Ihren Test einbezogen werden.	Bei einigen Tests, die auf Google Analytics-Zielgruppen ausgerichtet sind, kann es einige Tage dauern, bis Daten erfasst werden, da sie der Analytics Latenz bei der Datenverarbeitung unterliegen. Diese Verzögerung tritt am wahrscheinlichsten bei neuen Nutzern auf, die in der Regel 24 bis 48 Stunden nach der Erstellung in infrage kommende Zielgruppen aufgenommen werden, oder bei kürzlich erstellten Zielgruppen.
Nutzereigenschaft	Für Text: enthält, enthält nicht, entspricht genau, enthält regulären Ausdruck Für Zahlen: <, ≤, =, ≥, >	Mit einer Analytics-Nutzer-Property werden Nutzer ausgewählt, die in einen Test einbezogen werden können. Dazu stehen verschiedene Optionen zur Auswahl von Nutzer-Property-Werten zur Verfügung. Im Client können Sie nur Stringwerte für Nutzereigenschaften festlegen. Bei Bedingungen, für die numerische Operatoren verwendet werden, wandelt der Remote Config-Dienst den Wert der entsprechenden Nutzereigenschaft in eine Ganzzahl oder Gleitkommazahl um.	Wenn Sie den Operator contains regex verwenden, können Sie reguläre Ausdrücke im RE2-Format erstellen. Ihr regulärer Ausdruck kann mit dem gesamten oder einem Teil des Zielversionsstrings übereinstimmen. Sie können auch die Anker ^ und $ verwenden, um den Anfang, das Ende oder die Gesamtheit eines Zielstrings abzugleichen.
Land/Region	–	Mindestens ein Land oder eine Region, die zum Auswählen von Nutzern verwendet werden, die in den Test einbezogen werden könnten.
Sprachen	–	Eine oder mehrere Sprachen und Gebiete, die zum Auswählen von Nutzern verwendet werden, die in den Test aufgenommen werden könnten.
Erstes Öffnen	Mehr als Weniger als Zwischen	Auf Nutzer ausrichten – basierend darauf, wann sie Ihre App zum ersten Mal geöffnet haben (in Tagen).
Letztes Engagement mit der App	Mehr als Weniger als Zwischen	Auf Nutzer ausrichten – basierend darauf, wann sie das letzte Mal mit Ihrer App interagiert haben (in Tagen).

A/B Testing Messwerte

Wenn Sie einen Test erstellen, wählen Sie einen primären Messwert oder Zielmesswert aus, anhand dessen die beste Variante ermittelt wird. Sie sollten auch andere Messwerte erfassen, um die Leistung der einzelnen Testvarianten besser nachvollziehen und wichtige Trends beobachten zu können, die sich für jede Variante unterscheiden können, z. B. Nutzerbindung, App-Stabilität und Umsatz aus In-App-Käufen. Sie können bis zu fünf Messwerte, die nicht zum Zielvorhaben gehören, in Ihrem Test erfassen.

Angenommen, Sie haben Ihrer App neue In-App-Produkte hinzugefügt und möchten die Effektivität von zwei verschiedenen Erinnerungsnachrichten vergleichen. In diesem Fall könnten Sie Umsatz durch Käufe als Zielvorhaben-Messwert festlegen, da die Gewinner-Variante die Benachrichtigung darstellen soll, die den höchsten Umsatz durch In-App-Käufe erzielt hat. Da Sie auch erfassen möchten, welche Variante zu mehr zukünftigen Conversions und treuen Nutzern geführt hat, können Sie unter Weitere zu beobachtende Messwerte Folgendes hinzufügen:

• Geschätzter Gesamtumsatz, um zu sehen, wie sich Ihre kombinierten Umsätze aus In-App-Käufen und Anzeigen zwischen den beiden Varianten unterscheiden
• Kundenbindung (1 Tag), Kundenbindung (2–3 Tage), Kundenbindung (4–7 Tage), um die tägliche/wöchentliche Kundenbindung zu erfassen

Hinweis :Analytics-Ereignisse werden nur in Messwertlisten angezeigt, wenn sie von Ihrer App ausgelöst wurden. Sie können den Messwertnamen jedoch in das Feld Zielvorhaben-Messwert auswählen eingeben und auf Ereignis erstellen klicken, um ihn hinzuzufügen. Er wird dann verwendet, wenn Ihre App diese Ereignisse in Zukunft auslöst.

In den folgenden Tabellen finden Sie Details zur Berechnung von Zielvorhabenmesswerten und anderen Messwerten.

Messwerte zu Zielvorhaben

Messwert	Beschreibung
Nutzer ohne Abstürze	Der Prozentsatz der Nutzer, bei denen während des Tests keine Fehler in Ihrer App aufgetreten sind, die vom Firebase Crashlytics SDK erkannt wurden.
Geschätzter Werbeumsatz	Geschätzte Einnahmen aus Anzeigen.
Geschätzter Gesamtumsatz	Kombinierter Wert für Umsatz aus Käufen und geschätzte Werbeeinnahmen.
Umsatz aus Käufen	Der Gesamtwert für alle purchase- und in_app_purchase-Ereignisse.
Nutzerbindung (1 Tag)	Die Anzahl der Nutzer, die täglich zu Ihrer App zurückkehren.
Kundenbindung (2–3 Tage)	Die Anzahl der Nutzer, die innerhalb von 2 bis 3 Tagen zu Ihrer App zurückkehren.
Kundenbindung (4–7 Tage)	Die Anzahl der Nutzer, die innerhalb von 4 bis 7 Tagen zu Ihrer App zurückkehren.
Kundenbindung (8–14 Tage)	Die Anzahl der Nutzer, die innerhalb von 8 bis 14 Tagen zu Ihrer App zurückkehren.
Nutzerbindung (15+ Tage)	Die Anzahl der Nutzer, die 15 oder mehr Tage nach der letzten Nutzung zu Ihrer App zurückkehren.
first_open	Ein Analytics-Ereignis, das ausgelöst wird, wenn ein Nutzer eine App zum ersten Mal nach der Installation oder Neuinstallation öffnet. Wird als Teil eines Conversion-Trichters verwendet.

Weitere Messwerte

Messwert	Beschreibung
notification_dismiss	Ein Analytics-Ereignis, das ausgelöst wird, wenn eine vom Benachrichtigungs-Composer gesendete Benachrichtigung geschlossen wird (nur Android).
notification_receive	Ein Analytics-Ereignis, das ausgelöst wird, wenn eine vom Benachrichtigungs-Composer gesendete Benachrichtigung empfangen wird, während die App im Hintergrund ausgeführt wird (nur Android).
os_update	Ein Analytics-Ereignis, das erfasst, wenn das Betriebssystem des Geräts auf eine neue Version aktualisiert wird.Weitere Informationen finden Sie unter Automatisch erfasste Ereignisse.
screen_view	Ein Analytics-Ereignis, mit dem die in Ihrer App aufgerufenen Bildschirme erfasst werden. Weitere Informationen
session_start	Ein Analytics-Ereignis, mit dem Nutzersitzungen in Ihrer App gezählt werden. Weitere Informationen