A/B Testi ile Uygulama İçi Mesajlaşma Denemeleri Oluşturma

Kullanıcılarınıza ulaştığınızda veya yeni bir pazarlama kampanyası başlattığınızda doğru şekilde ilerlediğinizden emin olmak istersiniz. A/B testi, mesaj varyantlarını kullanıcı tabanınızın belirli bölümlerinde test ederek en uygun kelimeleri ve sunumu bulmanıza yardımcı olabilir. Hedefiniz bir teklifte daha iyi elde tutma veya dönüşüm olsun, A/B testi, bir mesaj varyantının seçtiğiniz hedef için referans değerinden daha iyi performans gösterip göstermediğini belirlemek üzere istatistiksel analiz yapabilir.

Özellik varyantlarını referansla A/B testi yapmak için aşağıdakileri yapın:

  1. Denemenizi oluşturun.
  2. Denemenizi bir test cihazında doğrulayın.
  3. Denemenizi yönetin.

Deneme oluşturma

Firebase In-App Messaging kullanan bir deneme, tek bir uygulama içi mesajın birden fazla varyantını değerlendirmenize olanak tanır.

  1. Denemenin Analytics verilerine erişebilmesi için Firebase konsolunda oturum açın ve projenizde Google Analytics'ın etkin olduğunu doğrulayın.

    Projenizi oluştururken Google Analytics'ü etkinleştirmediyseniz Firebase konsolunda > Proje ayarları'nı kullanarak erişebileceğiniz Entegrasyonlar sekmesinde etkinleştirebilirsiniz.

  2. Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.

  3. Deneme oluştur'u tıklayın ve denemek istediğiniz hizmet sorulduğunda Uygulama İçi Mesajlaşma'yı seçin.

  4. Alternatif olarak, Firebase konsolu gezinme menüsünde Etkileşim'i genişletip In-App Messaging'i tıklayın. Ardından Yeni deneme'yi tıklayın.

  5. Denemeniz için Ad ve isteğe bağlı olarak Açıklama girin ve İleri'yi tıklayın.

  6. Önce denemenizi kullanan uygulamayı seçerek Hedefleme alanlarını doldurun. Aşağıdakileri içeren seçenekleri belirleyerek denemenize katılacak kullanıcılarınızın bir alt kümesini de hedefleyebilirsiniz:

    • Sürüm: Uygulamanızın bir veya daha fazla sürümü
    • Kullanıcı kitlesi: Denemeye dahil edilebilecek kullanıcıları hedeflemek için kullanılan Analytics kitleler
    • Kullanıcı özelliği: Denemeye dahil edilebilecek kullanıcıları seçmek için bir veya daha fazla Analytics kullanıcı özelliği
    • Ülke/Bölge: Deneme çalışmasına dahil edilebilecek kullanıcıları seçmek için bir veya daha fazla ülke ya da bölge
    • Cihaz dili: Deneme kapsamına dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla dil ve yerel ayar
    • İlk açılış: Uygulamanızı ilk açtıkları tarihe göre kullanıcıları hedefleyin
    • Son uygulama etkileşimi: Uygulamanızla etkileşime geçtikleri son tarihe göre kullanıcıları hedefleyin

  7. Hedef kullanıcıların yüzdesini ayarlayın:Uygulamanızın, Hedef kullanıcılar bölümünde belirlenen ölçütlere uyan ve denemenizdeki temel değer ile bir veya daha fazla varyant arasında eşit olarak bölüştürmek istediğiniz kullanıcı tabanı yüzdesini seçin. Bu değer, %0,01 ile %100 arasında herhangi bir yüzde olabilir. Yüzdeler, kopyalanan denemeler dahil olmak üzere her deneme için kullanıcılara rastgele yeniden atanır.

  8. Varyantlar bölümünde, normal bir uygulama içi mesajlaşma kampanyası için kullandığınız mesaj tasarım arayüzünü kullanarak temel gruba gönderilecek bir temel uygulama içi mesaj yapılandırın.

  9. Denemenize varyant eklemek için Varyant ekle'yi tıklayın. Denemelerde varsayılan olarak bir referans değer ve bir varyant bulunur.

  10. (isteğe bağlı) Her varyant için daha açıklayıcı bir ad girin.

  11. (isteğe bağlı) Varyantlar bölümünün en üstündeki Varyantları karşılaştır düğmesini tıklayarak bir mesaj varyantını daha ana mesajla yan yana karşılaştırın.

  12. Deneme varyantlarını değerlendirirken denemeniz için bir hedef metrik ve listeden kullanmak istediğiniz ek metrikler tanımlayın. Bu metrikler arasında yerleşik hedefler (etkileşim, satın alma işlemleri, gelir, elde tutma vb.) bulunur. Analytics dönüşüm etkinlikleri ve diğer Analytics etkinlikleri.

  13. Denemenin planlamasını yapılandırın:

    • Deneme için Başlangıç ve Bitiş tarihi ayarlayın.
    • Uygulama içi mesajların tüm varyantlarda nasıl tetikleneceğini ayarlayın.

  14. Denemenizi kaydetmek için İncele'yi tıklayın.

Proje başına en fazla 300 deneme oluşturabilirsiniz. Bu denemelerden en fazla 24 tanesi yayınlanabilir durumda olabilir. Diğerleri taslak veya tamamlanmış olarak kalır.

Denemenizi test cihazında doğrulama

Her Firebase yüklemesi için yüklemeyle ilişkili yükleme kimlik jetonunu alabilirsiniz. Uygulamanızın yüklü olduğu bir test cihazında belirli deneme varyantlarını test etmek için bu jetonu kullanabilirsiniz. Denemenizi bir test cihazında doğrulamak için aşağıdakileri yapın:

  1. Yükleme yetkilendirme jetonunu aşağıdaki şekilde alın:

    Swift

    do {
  let result = try await Installations.installations()
    .authTokenForcingRefresh(true)
  print("Installation auth token: \(result.authToken)")
} catch {
  print("Error fetching token: \(error)")
}

    Objective-C

    [[FIRInstallations installations] authTokenForcingRefresh:true
                                               completion:^(FIRInstallationsAuthTokenResult *result, NSError *error) {
  if (error != nil) {
    NSLog(@"Error fetching Installation token %@", error);
    return;
  }
  NSLog(@"Installation auth token: %@", [result authToken]);
}];

    Java

    FirebaseInstallations.getInstance().getToken(/* forceRefresh */true)
        .addOnCompleteListener(new OnCompleteListener<InstallationTokenResult>() {
    @Override
    public void onComplete(@NonNull Task<InstallationTokenResult> task) {
        if (task.isSuccessful() && task.getResult() != null) {
            Log.d("Installations", "Installation auth token: " + task.getResult().getToken());
        } else {
            Log.e("Installations", "Unable to get Installation auth token");
        }
    }
});
    MainActivity.java

    Kotlin

    val forceRefresh = true
FirebaseInstallations.getInstance().getToken(forceRefresh)
    .addOnCompleteListener { task ->
        if (task.isSuccessful) {
            Log.d("Installations", "Installation auth token: " + task.result?.token)
        } else {
            Log.e("Installations", "Unable to get Installation auth token")
        }
    }
    MainActivity.kt
  2. Firebase konsolu gezinme çubuğunda A/B Testi'ni tıklayın.
  3. Taslak'ı (ve/veya Remote Config denemeleri için Çalışıyor'u) tıklayın, denemenizin üzerine gelin, bağlam menüsünü () ve ardından Test cihazlarını yönet'i tıklayın.
  4. Bir test cihazının yükleme kimlik doğrulama jetonunu girin ve söz konusu test cihazına gönderilecek deneme varyantını seçin.
  5. Uygulamayı çalıştırın ve seçilen varyantın test cihazında alındığını onaylayın.

Firebase yüklemeleri hakkında daha fazla bilgi edinmek için Firebase yüklemelerini yönetme başlıklı makaleyi inceleyin.

Denemenizi yönetme

Remote Config, Bildirimler derleyicisi veya Firebase In-App Messaging ile deneme oluşturduktan sonra denemenizi doğrulayıp başlatabilir, çalışırken izleyebilir ve çalışan denemenize dahil edilen kullanıcı sayısını artırabilirsiniz.

Denemeniz tamamlandığında, kazanan varyantın kullandığı ayarları not alıp bu ayarları tüm kullanıcılara sunabilirsiniz. Dilerseniz başka bir deneme de yapabilirsiniz.

Bir deneme başlat

  1. Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
  2. Taslak'ı ve ardından denemenizin başlığını tıklayın.
  3. Uygulamanızda denemenize dahil edilecek kullanıcılar olduğunu doğrulamak için taslak ayrıntılarını genişletin ve Hedefleme ve dağıtım bölümünde %0'dan yüksek bir sayı olup olmadığını kontrol edin (örneğin, ölçütlere uyan kullanıcıların% 1'i).
  4. Denemenizi değiştirmek için Düzenle'yi tıklayın.
  5. Denemenizi başlatmak için Denemeyi Başlat'ı tıklayın. Proje başına tek seferde en fazla 24 deneme çalıştırabilirsiniz.

Deneme izleme

Bir deneme bir süre çalıştıktan sonra, denemenizin ilerleme durumunu kontrol edebilir ve denemenize bugüne kadar katılan kullanıcılar için sonuçlarınızın nasıl göründüğünü görebilirsiniz.

  1. Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.

  2. Çalışıyor'u ve ardından denemenizin başlığını tıklayın veya arayın. Bu sayfada, aşağıdakiler dahil olmak üzere, devam eden denemenizle ilgili çeşitli gözlemlenen ve modellenmiş istatistikleri görüntüleyebilirsiniz:

    • Referans değere göre yüzdelik fark: Belirli bir varyant için bir metriğin referans değere kıyasla iyileşme oranını gösteren bir ölçümdür. Varyantın değer aralığı, referans değerinin değer aralığıyla karşılaştırılarak hesaplanır.
    • Referans değeri geçme olasılığı: Belirli bir varyantın, seçilen metrik için referans değeri geçme olasılığı.
    • Kullanıcı başına observed_metric: Deneme sonuçlarına göre, bu metrik değerinin zaman içinde düşeceği tahmini aralıktır.
    • Toplam observed_metric: Referans veya varyant için gözlemlenen kümülatif değer. Bu değer, her bir deneme varyantının ne kadar iyi performans gösterdiğini ölçmek için kullanılır ve İyileşme, Değer aralığı, Referans değeri aşma olasılığı ve En iyi varyant olma olasılığı'nı hesaplamak için kullanılır. Ölçülen metriğe bağlı olarak bu sütun "Kullanıcı başına süre", "Kullanıcı başına gelir", "Elde tutma oranı" veya "Dönüşüm oranı" olarak etiketlenebilir.

  3. Denemeniz bir süre çalıştıktan sonra (FCM ve In-App Messaging için en az 7 gün veya Remote Config için 14 gün) bu sayfadaki veriler, varsa "önde gelen" varyantı gösterir. Bazı ölçümler, verileri görsel biçimde sunan bir çubuk grafikle birlikte gösterilir.

Bir denemeyi tüm kullanıcılara sunma

Bir deneme, hedef metriğiniz için "en iyi varyant" veya kazanan bir varyant belirlemenize yetecek kadar uzun süre çalıştıktan sonra denemeyi kullanıcıların% 100'üne yayınlayabilirsiniz. Bu sayede, bundan sonra tüm kullanıcılara yayınlanacak bir varyant seçebilirsiniz. Denemeniz kesin bir kazanan oluşturmamış olsa bile bir varyantı tüm kullanıcılarınıza sunmayı seçebilirsiniz.

  1. Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
  2. Tamamlandı veya Yürütülüyor'u, tüm kullanıcılara yayınlamak istediğiniz denemeyi, bağlam menüsünü () ve Varyantı başlat'ı tıklayın.

  3. Aşağıdakilerden birini yaparak denemenizi tüm kullanıcılara sunun:

    • Bildirimler derleyicisinin kullanıldığı bir deneme için mesajı, denemeye katılmayan kalan hedef kullanıcılara göndermek üzere Mesajı kullanıma sun iletişim kutusunu kullanın.
    • Remote Config denemesi için hangi Remote Config parametre değerlerinin güncelleneceğini belirlemek üzere bir varyant seçin. Deneme oluşturulurken tanımlanan hedefleme ölçütleri, kullanıma sunma işleminin yalnızca deneme tarafından hedeflenen kullanıcıları etkilemesini sağlamak için şablonunuza yeni bir koşul olarak eklenir. Değişiklikleri incelemek için Uzaktan Yapılandırmasında İncele'yi tıkladıktan sonra, kullanıma sunma işlemini tamamlamak için Değişiklikleri yayınla'yı tıklayın.
    • In-App Messaging denemesi için hangi varyantın bağımsız bir In-App Messaging kampanyası olarak kullanıma sunulması gerektiğini belirlemek üzere iletişim kutusunu kullanın. Seçim yapıldıktan sonra, yayınlamadan önce gerekli değişiklikleri (varsa) yapmak için FIAM oluşturma ekranına yönlendirilirsiniz.

Deneme genişletme

Bir denemenin, A/B Testingbirinciyi belirlemek için yeterli kullanıcı getirmediğini fark ederseniz uygulamanın kullanıcı tabanının daha büyük bir yüzdesine ulaşmak için denemenizin dağıtımını artırabilirsiniz.

  1. Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
  2. Düzenlemek istediğiniz çalışan denemeyi seçin.
  3. Denemeyle ilgili genel bakış bölümünde bağlam menüsünü () ve ardından Devam eden denemeyi düzenle'yi tıklayın.
  4. Hedefleme iletişim kutusunda, çalışan denemede yer alan kullanıcıların yüzdesini artırma seçeneği gösterilir. Mevcut yüzdeden yüksek bir sayı seçin ve Yayınla'yı tıklayın. Deneme, belirttiğiniz kullanıcı yüzdesine dağıtılır.

Deneme kopyalama veya durdurma

  1. Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
  2. Tamamlandı veya Çalışıyor'u tıklayın, işaretçiyi denemenizin üzerine getirin, bağlam menüsünü () ve ardından Denemeyi kopyala veya Denemeyi durdur'u tıklayın.

Kullanıcı hedefleme

Aşağıdaki kullanıcı hedefleme ölçütlerini kullanarak denemenize dahil edilecek kullanıcıları hedefleyebilirsiniz.

Hedefleme ölçütü Operatörler    Değerler Not
Sürüm içerir,
içermez,
tam olarak eşleşir,
normal ifade içerir		 Deneme sürümüne dahil etmek istediğiniz bir veya daha fazla uygulama sürümü için bir değer girin.

İçerir, İçermez veya Tam olarak eşleşir operatörlerinden birini kullandığınızda virgülle ayrılmış bir değer listesi sağlayabilirsiniz.

normal ifade içeriyor operatörünü kullanırken RE2 biçiminde normal ifadeler oluşturabilirsiniz. Normal ifadeniz, hedef sürüm dizenin tamamını veya bir kısmını eşleştirebilir. Bir hedef dizenin başlangıcını, sonunu veya tamamını eşleştirmek için ^ ve $ ankrajlarını da kullanabilirsiniz.
Kullanıcı kitleleri şunların tümünü içerir,
şunların en az birini içerir,
şunların hiçbirini içermez,
şunların en az birini içermez		 Denemenize dahil edilebilecek kullanıcıları hedeflemek için bir veya daha fazla Analytics kitlesi seçin. Google Analytics kitlelerini hedefleyen bazı denemelerde, Analytics veri işleme gecikmesi olduğundan verilerin toplanması birkaç gün sürebilir. Bu gecikmeyi büyük olasılıkla, genellikle oluşturulduktan 24-48 saat sonra uygun kitlelere kaydedilen yeni kullanıcılarda veya yeni oluşturulan kitlelerde görürsünüz.
Kullanıcı özelliği Metin için:
içeriyor,
içermiyor,
tam olarak eşleşiyor,
normal ifade içeriyor

Sayılar için:
<, ≤, =, ≥, > 		Analytics kullanıcı özelliği, bir denemeye dahil edilebilecek kullanıcıları seçmek için kullanılır. Bu özellik, kullanıcı özelliği değerlerini seçmeyle ilgili çeşitli seçenekler sunar.

İstemcide, kullanıcı özellikleri için yalnızca dize değerleri ayarlayabilirsiniz. Sayısal operatörlerin kullanıldığı koşullarda Remote Config hizmeti, ilgili kullanıcı özelliğinin değerini tam sayı/kayan noktaya dönüştürür.		 normal ifade içeriyor operatörünü kullanırken RE2 biçiminde normal ifadeler oluşturabilirsiniz. Normal ifadeniz, hedef sürüm dizenin tamamını veya bir kısmını eşleştirebilir. Bir hedef dizenin başlangıcını, sonunu veya tamamını eşleştirmek için ^ ve $ ankrajlarını da kullanabilirsiniz.
Ülke/Bölge Yok Deneme kapsamına dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla ülke ya da bölge.  
Diller Yok Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla dil ve yerel ayar.  
İlk açılış Daha fazla
Daha az
Arasında 		Uygulamanızı ilk açtıkları tarihe göre kullanıcıları hedefleyin. Bu tarih, gün olarak belirtilir.
Son uygulama etkileşimi Daha fazla
Daha az
Arasında 		Kullanıcıları, uygulamanızla etkileşime geçtikleri son tarihe göre hedefleyin. Bu tarih gün olarak belirtilir.

A/B Testing metrik

Denemenizi oluştururken, kazanan varyantı belirlemek için kullanılan birincil veya hedef metriğini seçersiniz. Her deneme varyantının performansını daha iyi anlamanıza ve kullanıcıları elde tutma, uygulama kararlılığı ve uygulama içi satın alma geliri gibi her varyant için farklı olabilecek önemli trendleri izlemenize yardımcı olması için diğer metrikleri de izlemeniz gerekir. Denemenizde hedef olmayan en fazla beş metrik izleyebilirsiniz.

Örneğin, uygulamanıza yeni uygulama içi satın alma işlemleri eklediğinizi ve iki farklı "teşvik" mesajının etkinliğini karşılaştırmak istediğinizi varsayalım. Bu durumda, kazanan varyantın en yüksek uygulama içi satın alma gelirine yol açan bildirimi temsil etmesini istediğiniz için hedef metrik olarak Satın alma geliri'ni ayarlamaya karar verebilirsiniz. Ayrıca, hangi varyantın gelecekte daha fazla dönüşüm ve elde tutulan kullanıcıyla sonuçlandığını da izlemek istediğiniz için İzlenecek diğer metrikler bölümüne aşağıdakileri ekleyebilirsiniz:

  • Uygulama içi satın alma ve reklam gelirinizin iki varyant arasında nasıl farklılık gösterdiğini görmek için Tahmini toplam gelir
  • Günlük/haftalık kullanıcı elde tutma oranınızı izlemek için Elde tutma (1 gün), Elde tutma (2-3 gün), Elde tutma (4-7 gün)

Aşağıdaki tablolarda, hedef metriklerinin ve diğer metriklerin nasıl hesaplandığıyla ilgili ayrıntılı bilgi verilmektedir.

Hedef metrikleri

Metrik Açıklama
Kilitlenme sorunu yaşamayan kullanıcılar Uygulamanızda deneme sırasında Firebase Crashlytics SDK'sı tarafından algılanan hatalarla karşılaşmayan kullanıcıların yüzdesi.
Tahmini reklam geliri Tahmini reklam kazançları.
Tahmini toplam gelir Satın alma ve tahmini reklam gelirleri için birleştirilmiş değer.
Satın alma geliri Tüm purchase ve in_app_purchase etkinlikleri için birleşik değer.
Elde tutma (1 gün) Uygulamanıza günlük olarak geri gelen kullanıcıların sayısı.
Elde tutma (2-3 gün) 2-3 gün içinde uygulamanıza geri gelen kullanıcıların sayısı.
Elde tutma (4-7 gün) 4-7 gün içinde uygulamanıza geri dönen kullanıcıların sayısı.
Elde tutma (8-14 gün) 8-14 gün içinde uygulamanıza geri gelen kullanıcıların sayısı.
Elde tutma (en az 15 gün) Uygulamanızı en son kullandıktan 15 gün veya daha uzun bir süre sonra uygulamanıza geri gelen kullanıcıların sayısı.
first_open Kullanıcı bir uygulamayı yükledikten veya yeniden yükledikten sonra ilk kez açtığında tetiklenen bir Analytics etkinliği. Dönüşüm hunisinin bir parçası olarak kullanılır.

Diğer metrikler

Metrik Açıklama
notification_dismiss Bildirim Oluşturucu tarafından gönderilen bir bildirim kapatıldığında tetiklenen Analytics etkinliği (yalnızca Android).
notification_receive Uygulama arka plandayken Bildirimler derleyicisi tarafından gönderilen bir bildirim alındığında tetiklenen bir Analytics etkinliği (yalnızca Android).
os_update Cihazın işletim sisteminin yeni bir sürüme güncellendiğini izleyen bir Analytics etkinliği.Daha fazla bilgi edinmek için Otomatik olarak toplanan etkinlikler başlıklı makaleyi inceleyin.
screen_view Uygulamanızda görüntülenen ekranları izleyen bir Analytics etkinliği. Daha fazla bilgi edinmek için Ekran görüntülemelerini izleme başlıklı makaleyi inceleyin.
session_start Uygulamanızdaki kullanıcı oturumlarını sayan bir Analytics etkinliği. Daha fazla bilgi için Otomatik olarak toplanan etkinlikler bölümüne bakın.