Kullanıcılarınıza ulaşırken veya yeni bir pazarlama kampanyası başlatırken her şeyin doğru olduğundan emin olmak istersiniz. A/B testi, kullanıcı tabanınızın belirli bölümlerinde mesaj varyantlarını test ederek ideal ifadeyi ve sunumu bulmanıza yardımcı olabilir. Hedefiniz ister daha iyi elde tutma ister bir teklifte dönüşüm olsun, A/B testi, seçilen hedefiniz için bir mesaj varyantının temel performanstan daha iyi olup olmadığını belirlemek üzere istatistiksel analiz yapabilir.
Temel değerle birlikte özellik varyantları üzerinde A/B testi yapmak için aşağıdakileri yapın:
- Denemenizi oluşturun.
- Denemenizi bir test cihazında doğrulayın.
- Denemenizi yönetin.
Deneme oluşturma
Firebase In-App Messaging kullanılan bir deneme, tek bir uygulama içi mesajın birden fazla varyantını değerlendirmenize olanak tanır.
Firebase konsolunda oturum açın ve denemenin Analytics verilerine erişebilmesi için projenizde Google Analytics'nin etkinleştirildiğini doğrulayın.
Projenizi oluştururken Google Analytics seçeneğini etkinleştirmediyseniz Firebase konsolunda > Proje ayarları'nı kullanarak erişebileceğiniz Entegrasyonlar sekmesinden etkinleştirebilirsiniz.
Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
Deneme oluştur'u tıklayın ve deneme yapmak istediğiniz hizmet sorulduğunda Uygulama İçi Mesajlaşma'yı seçin.
Alternatif olarak, Firebase konsolunun gezinme menüsünde Etkileşim'i genişletip In-App Messaging simgesini tıklayın. Ardından Yeni deneme'yi tıklayın.
Denemeniz için Ad ve isteğe bağlı olarak Açıklama girip Sonraki'yi tıklayın.
Öncelikle denemenizi kullanan uygulamayı seçerek Hedefleme alanlarını doldurun. Aşağıdakileri içeren seçenekleri belirleyerek kullanıcılarınızın bir alt kümesini denemenize katılmaya da hedefleyebilirsiniz:
- Sürüm: Uygulamanızın bir veya daha fazla sürümü
- Kullanıcı kitlesi: Denemeye dahil edilebilecek kullanıcıları hedeflemek için kullanılan Analytics kitle
- Kullanıcı özelliği: Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla Analytics kullanıcı özelliği
- Ülke/Bölge: Denemeye dahil edilebilecek kullanıcıları seçmek için bir veya daha fazla ülke ya da bölge
- Cihaz dili: Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla dil ve yerel ayar
- İlk açılış: Uygulamanızı ilk açtıkları tarihe göre kullanıcıları hedefleyin
- Son uygulama etkileşimi: Kullanıcıları, uygulamanızla etkileşime geçtikleri son tarihe göre hedefleyin.
Hedef kullanıcıların yüzdesi: Hedef kullanıcılar bölümünde belirlenen ölçütlere uyan ve denemenizde temel ile bir veya daha fazla varyant arasında eşit olarak bölüştürmek istediğiniz uygulama kullanıcı tabanınızın yüzdesini seçin. Bu değer, %0,01 ile %100 arasında herhangi bir yüzde olabilir. Yüzdeler, yinelenen denemeler de dahil olmak üzere her deneme için kullanıcılara rastgele yeniden atanır.
Varyantlar bölümünde, normal bir uygulama içi mesajlaşma kampanyasında kullandığınız mesaj tasarım arayüzünü kullanarak temel değer grubuna göndermek üzere bir temel uygulama içi mesaj yapılandırın.
Denemenize varyant eklemek için Varyant Ekle'yi tıklayın. Denemelerde varsayılan olarak bir referans değer ve bir varyant bulunur.
(isteğe bağlı) Her varyant için daha açıklayıcı bir ad girin.
(İsteğe bağlı) Varyantlar bölümünün üst kısmında, bir ileti varyantını temel iletiyle yan yana karşılaştırmak için Varyantları karşılaştır düğmesini tıklayın.
Deneme varyantlarını değerlendirirken kullanmak üzere denemeniz için bir hedef metrik ve listeden kullanmak istediğiniz ek metrikleri tanımlayın. Bu metrikler arasında yerleşik hedefler (etkileşim, satın alma, gelir, elde tutma vb.) bulunur. Analytics dönüşüm etkinliği ve diğer Analytics etkinlik.
Deneme için planlamayı yapılandırın:
- Deneme için başlangıç ve bitiş tarihi ayarlayın.
- Uygulama içi mesajların tüm varyantlarda nasıl tetikleneceğini ayarlayın.
Denemenizi kaydetmek için İncele'yi tıklayın.
Proje başına en fazla 300 denemeye izin verilir. Bunlardan en fazla 24'ü devam eden deneme olabilir. Diğerleri ise taslak veya tamamlanmış deneme olabilir.
Denemenizi bir test cihazında doğrulama
Her Firebase yüklemesi için yüklemeyle ilişkili yükleme kimlik doğrulama jetonunu alabilirsiniz. Bu jetonu, uygulamanızın yüklü olduğu bir test cihazında belirli deneme varyantlarını test etmek için kullanabilirsiniz. Denemenizi bir test cihazında doğrulamak için aşağıdakileri yapın:
- Yükleme yetkilendirme jetonunu aşağıdaki şekilde alın:
Swift
do { let result = try await Installations.installations() .authTokenForcingRefresh(true) print("Installation auth token: \(result.authToken)") } catch { print("Error fetching token: \(error)") }
Objective-C
[[FIRInstallations installations] authTokenForcingRefresh:true completion:^(FIRInstallationsAuthTokenResult *result, NSError *error) { if (error != nil) { NSLog(@"Error fetching Installation token %@", error); return; } NSLog(@"Installation auth token: %@", [result authToken]); }];
Java
FirebaseInstallations.getInstance().getToken(/* forceRefresh */true) .addOnCompleteListener(new OnCompleteListener<InstallationTokenResult>() { @Override public void onComplete(@NonNull Task<InstallationTokenResult> task) { if (task.isSuccessful() && task.getResult() != null) { Log.d("Installations", "Installation auth token: " + task.getResult().getToken()); } else { Log.e("Installations", "Unable to get Installation auth token"); } } });
Kotlin
val forceRefresh = true FirebaseInstallations.getInstance().getToken(forceRefresh) .addOnCompleteListener { task -> if (task.isSuccessful) { Log.d("Installations", "Installation auth token: " + task.result?.token) } else { Log.e("Installations", "Unable to get Installation auth token") } }
- Firebase konsol gezinme çubuğunda A/B Testi'ni tıklayın.
- Taslak'ı (ve/veya Remote Config denemeleri için Çalışıyor) tıklayın, fareyle denemenizin üzerine gelin, bağlam menüsünü (more_vert) tıklayın ve ardından Test cihazlarını yönet'i tıklayın.
- Bir test cihazı için yükleme kimlik doğrulama jetonunu girin ve bu test cihazına gönderilecek deneme varyantını seçin.
- Uygulamayı çalıştırın ve seçilen varyantın test cihazında alındığını onaylayın.
Firebase yüklemeleri hakkında daha fazla bilgi edinmek için Firebase yüklemelerini yönetme başlıklı makaleyi inceleyin.
Denemenizi yönetme
Remote Config, Bildirim Oluşturucu veya Firebase In-App Messaging ile bir deneme oluşturduktan sonra denemenizi doğrulayıp başlatabilir, deneme çalışırken denemenizi izleyebilir ve çalışan denemenize dahil edilen kullanıcı sayısını artırabilirsiniz.
Denemeniz tamamlandığında, kazanan varyantın kullandığı ayarları not edebilir ve ardından bu ayarları tüm kullanıcılara uygulayabilirsiniz. Dilerseniz başka bir deneme de çalıştırabilirsiniz.
Bir deneme başlat
- Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
- Taslak'ı ve ardından denemenizin başlığını tıklayın.
- Uygulamanızın, denemenize dahil edilecek kullanıcıları olduğunu doğrulamak için taslak ayrıntılarını genişletin ve Hedefleme ve dağıtım bölümünde %0'dan büyük bir sayı olup olmadığını kontrol edin (örneğin, ölçütlere uyan kullanıcıların% 1'i).
- Denemenizi değiştirmek için Düzenle'yi tıklayın.
- Denemenizi başlatmak için Denemeyi Başlat'ı tıklayın. Proje başına aynı anda en fazla 24 deneme çalıştırabilirsiniz.
Denemeyi izleme
Bir deneme bir süredir çalışıyorsa ilerlemesini kontrol edebilir ve denemeye şu ana kadar katılan kullanıcılar için sonuçlarınızın nasıl göründüğünü inceleyebilirsiniz.
- Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
Yayınlanıyor'u ve ardından denemenizin başlığını tıklayın veya arayın. Bu sayfada, devam eden denemenizle ilgili gözlemlenen ve modellenen çeşitli istatistikleri (aşağıdakiler dahil) görüntüleyebilirsiniz:
- Temel değişkene göre yüzdelik fark: Belirli bir metrikte, referans değerle karşılaştırıldığında varyasyonun ne kadar iyileştiğini gösteren ölçü. Varyantın değer aralığı, referans değerin değer aralığıyla karşılaştırılarak hesaplanır.
- Orijinali geçme olasılığı: Belirli bir varyantın, seçilen metrik için orijinalden daha iyi performans gösterme olasılığıdır.
- observed_metric kullanıcı başına: Deneme sonuçlarına göre, metrik değerinin zaman içinde içinde yer alacağı tahmin edilen aralıktır.
- Toplam observed_metric: Temel veya varyant için gözlemlenen kümülatif değer. Bu değer, her bir deneme varyantının ne kadar iyi performans gösterdiğini ölçmek için kullanılır ve Gelişme, Değer aralığı, Referansı geçme olasılığı ve En iyi varyant olma olasılığı metriklerini hesaplamak için kullanılır. Ölçülen metriğe bağlı olarak bu sütun "Kullanıcı başına süre", "Kullanıcı başına gelir", "Elde tutma oranı" veya "Dönüşüm oranı" olarak etiketlenebilir.
Denemeniz bir süre (FCM ve In-App Messaging için en az 7 gün veya Remote Config için 14 gün) çalıştıktan sonra bu sayfadaki veriler, varsa hangi varyantın "lider" olduğunu gösterir. Bazı ölçümler, verileri görsel biçimde sunan bir çubuk grafik ile birlikte verilir.
Denemeyi tüm kullanıcılara sunma
Bir deneme, hedef metriğiniz için "en iyi varyant" veya kazanan bir varyant belirleyebileceğiniz kadar uzun süre çalıştıktan sonra denemeyi tüm kullanıcılara sunabilirsiniz. Bu sayede, bundan sonraki tüm kullanıcılara yayınlanacak bir varyant seçebilirsiniz. Denemenizde kesin bir kazanan olmasa bile bir varyantı tüm kullanıcılarınıza sunmayı seçebilirsiniz.
- Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
- Tamamlandı veya Çalışıyor'u tıklayın, tüm kullanıcılara yayınlamak istediğiniz bir denemeyi tıklayın, bağlam menüsünü ( ) tıklayın ve Varyantı başlat'ı seçin.
Aşağıdakilerden birini yaparak denemenizi tüm kullanıcılara sunun:
- Bildirim oluşturucu'nun kullanıldığı bir denemede, denemeye katılmayan kalan hedef kullanıcılara mesaj göndermek için Mesajı kullanıma sun iletişim kutusunu kullanın.
- Bir Remote Config denemesi için hangi Remote Config parametre değerlerinin güncelleneceğini belirlemek üzere bir varyant seçin. Deneme oluşturulurken tanımlanan hedefleme ölçütleri, kullanıma sunma işleminin yalnızca deneme tarafından hedeflenen kullanıcıları etkilemesini sağlamak için şablonunuza yeni bir koşul olarak eklenir. Değişiklikleri incelemek için Review in Remote Config'i tıkladıktan sonra kullanıma sunma işlemini tamamlamak için Publish changes'i tıklayın.
- In-App Messaging denemesi için, hangi varyantın bağımsız bir In-App Messaging kampanyası olarak kullanıma sunulması gerektiğini belirlemek üzere iletişim kutusunu kullanın. Seçim yapıldıktan sonra, yayınlamadan önce gerekli değişiklikleri yapmanız için FIAM oluşturma ekranına yönlendirilirsiniz.
Denemeyi genişletme
Bir denemenin A/B Testing için yeterli sayıda kullanıcı getirmediğini fark ederseniz denemenizin dağıtımını artırarak uygulamanın kullanıcı tabanının daha büyük bir yüzdesine ulaşabilirsiniz.
- Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
- Düzenlemek istediğiniz çalışan denemeyi seçin.
- Denemeye genel bakış bölümünde bağlam menüsünü ( ) ve ardından Çalışan denemeyi düzenle'yi tıklayın.
- Hedefleme iletişim kutusunda, devam eden denemeye dahil olan kullanıcıların yüzdesini artırma seçeneği gösterilir. Mevcut yüzdeden daha büyük bir sayı seçip Yayınla'yı tıklayın. Deneme, belirttiğiniz kullanıcı yüzdesine sunulur.
Denemeyi kopyalama veya durdurma
- Firebase konsolu gezinme menüsünün Etkileşim bölümünde A/B Testing simgesini tıklayın.
- Tamamlandı veya Çalışıyor'u tıklayın, fare işaretçisini denemenizin üzerine getirin, bağlam menüsünü ( ) tıklayın ve ardından Denemeyi kopyala veya Denemeyi durdur'u tıklayın.
Kullanıcı hedefleme
Aşağıdaki kullanıcı hedefleme ölçütlerini kullanarak denemenize dahil edilecek kullanıcıları hedefleyebilirsiniz.
Hedefleme ölçütü | Operatörler | Değerler | Not |
---|---|---|---|
Sürüm | içerir,
içermez, tam olarak eşleşir, normal ifade içerir |
Denemeye dahil etmek istediğiniz bir veya daha fazla uygulama sürümü için bir değer girin. |
İçerir, içermez veya tam olarak eşleşir operatörlerinden herhangi birini kullanırken virgülle ayrılmış bir değer listesi sağlayabilirsiniz. Normal ifade içerir operatörünü kullanırken RE2 biçiminde normal ifadeler oluşturabilirsiniz. Normal ifadeniz, hedef sürüm dizesinin tamamıyla veya bir kısmıyla eşleşebilir. Hedef dizenin başlangıcı, sonu veya tamamıyla eşleşmek için ^ ve $ tutturucularını da kullanabilirsiniz. |
Kullanıcı kitleleri | tümünü içerir,
en az birini içerir, tümünü içermez, en az birini içermez |
Denemenize dahil edilebilecek kullanıcıları hedeflemek için bir veya daha fazla Analytics kitle seçin. | Google Analytics kitlelerini hedefleyen bazı denemelerde, Analytics veri işleme gecikmesine tabi oldukları için veri birikmesi birkaç gün sürebilir. Bu gecikmeyle en çok, genellikle oluşturulduktan 24-48 saat sonra uygun kitlelere kaydedilen yeni kullanıcılarda veya yeni oluşturulan kitlelerde karşılaşma olasılığınız yüksektir. |
Kullanıcı özelliği | Metin için:
içerir, içermez, tam olarak eşleşir, normal ifade içerir Sayılar için: <, ≤, =, ≥, > |
Analytics kullanıcı özelliği, denemeye dahil edilebilecek kullanıcıları seçmek için kullanılır. Kullanıcı özelliği değerlerini seçmeyle ilgili çeşitli seçenekler sunar.
İstemcide, kullanıcı özelliklerine yalnızca dize değerleri ayarlayabilirsiniz. Sayısal operatörlerin kullanıldığı koşullarda Remote Config hizmeti, ilgili kullanıcı özelliğinin değerini tam sayıya/kayan noktalı sayıya dönüştürür. |
Normal ifade içerir operatörünü kullanırken RE2 biçiminde normal ifadeler oluşturabilirsiniz. Normal ifadeniz, hedef sürüm dizesinin tamamıyla veya bir kısmıyla eşleşebilir. Hedef dizenin başlangıcı, sonu veya tamamıyla eşleşmek için ^ ve $ tutturucularını da kullanabilirsiniz. |
Ülke/Bölge | Yok | Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla ülke ya da bölge. | |
Diller | Yok | Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla dil ve yerel ayar. | |
İlk açılış |
Daha fazla
Daha az Arasında |
Uygulamanızı ilk açtıkları tarihe göre kullanıcıları hedefleyin (gün cinsinden belirtilir). | |
Son uygulama etkileşimi |
Daha fazla
Daha az Arasında |
Uygulamanızla etkileşime geçtikleri son tarihe göre kullanıcıları hedefleyin (gün cinsinden belirtilir). |
A/B Testing metrik
Denemenizi oluştururken, kazanan varyantı belirlemek için kullanılan birincil veya hedef metriği seçersiniz. Ayrıca, her deneme varyantının performansını daha iyi anlamanıza yardımcı olmak ve her varyant için farklılık gösterebilecek önemli trendleri (ör. kullanıcıları elde tutma, uygulama kararlılığı ve uygulama içi satın alma geliri) izlemek için diğer metrikleri de takip etmeniz gerekir. Denemenizde en fazla beş hedef dışı metrik izleyebilirsiniz.
Örneğin, uygulamanıza yeni uygulama içi satın alma işlemleri eklediğinizi ve iki farklı "hatırlatma" mesajının etkinliğini karşılaştırmak istediğinizi varsayalım. Bu durumda, kazanan varyantın en yüksek uygulama içi satın alma gelirini sağlayan bildirimi temsil etmesini istediğiniz için hedef metriğiniz olarak satın alma gelirini seçebilirsiniz. Ayrıca, hangi varyantın gelecekte daha fazla dönüşüm sağladığını ve kullanıcıları elde tuttuğunu da izlemek istediğiniz için İzlenecek diğer metrikler bölümüne aşağıdakileri ekleyebilirsiniz:- Birleştirilmiş uygulama içi satın alma ve reklam gelirinizin iki varyant arasında nasıl farklılık gösterdiğini görmek için Tahmini toplam gelir
- Günlük/haftalık kullanıcı elde tutma oranınızı izlemek için Elde tutma (1 gün), Elde tutma (2-3 gün), Elde tutma (4-7 gün)
Aşağıdaki tablolarda, hedef metriklerinin ve diğer metriklerin nasıl hesaplandığıyla ilgili ayrıntılı bilgi verilmektedir.
Hedef metrikleri
Metrik | Açıklama |
---|---|
Kilitlenme sorunu yaşamayan kullanıcılar | Deneme sırasında Firebase Crashlytics SDK'sı tarafından algılanan ve uygulamanızda hatalarla karşılaşmayan kullanıcıların yüzdesi. |
Tahmini reklam geliri | Tahmini reklam kazançları. |
Tahmini toplam gelir | Satın alma ve tahmini reklam gelirlerinin birleştirilmiş değeri. |
Satın alma geliri | Tüm purchase ve in_app_purchase etkinliklerinin birleştirilmiş değeri.
|
Elde tutma (1 gün) | Uygulamanıza günlük olarak geri dönen kullanıcı sayısı. |
Elde tutma (2-3 gün) | Uygulamanıza 2-3 gün içinde geri dönen kullanıcıların sayısı. |
Elde tutma (4-7 gün) | 4-7 gün içinde uygulamanıza geri dönen kullanıcıların sayısı. |
Elde tutma (8-14 gün) | 8-14 gün içinde uygulamanıza geri dönen kullanıcıların sayısı. |
Elde tutma (en az 15 gün) | Uygulamanızı son kullandıklarından 15 gün veya daha uzun bir süre sonra geri dönen kullanıcı sayısı. |
first_open | Kullanıcı bir uygulamayı yükledikten veya yeniden yükledikten sonra ilk kez açtığında tetiklenen bir Analytics etkinliği. Dönüşüm hunisinin bir parçası olarak kullanılır. |
Diğer metrikler
Metrik | Açıklama |
---|---|
notification_dismiss | Bildirim oluşturucu tarafından gönderilen bir bildirim kapatıldığında tetiklenen bir Analytics etkinliği (yalnızca Android). |
notification_receive | Bildirim oluşturucu tarafından gönderilen bir bildirim, uygulama arka plandayken alındığında tetiklenen bir Analytics etkinliği (yalnızca Android). |
os_update | Cihazın işletim sistemi yeni sürüme güncellendiğinde bunu izleyen bir Analytics etkinliğidir.Daha fazla bilgi için Otomatik olarak toplanan etkinlikler başlıklı makaleyi inceleyin. |
screen_view | Uygulamanızda görüntülenen ekranları izleyen bir Analytics etkinliktir. Daha fazla bilgi için Ekran Görüntülemelerini İzleme başlıklı makaleyi inceleyin. |
session_start | Uygulamanızdaki kullanıcı oturumlarını sayan bir Analytics etkinliktir. Daha fazla bilgi için Otomatik olarak toplanan etkinlikler başlıklı makaleyi inceleyin. |