Kullanıcılarınıza ulaşırken veya yeni bir pazarlama kampanyası başlatırken her şeyin doğru olduğundan emin olmak istersiniz. A/B testi, kullanıcı tabanınızın belirli bölümlerinde mesaj varyantlarını test ederek en uygun ifadeyi ve sunumu bulmanıza yardımcı olabilir. Hedefiniz ister daha iyi elde tutma ister bir teklifte dönüşüm olsun, A/B testi, seçtiğiniz hedef için bir mesaj varyantının temel performanstan daha iyi olup olmadığını belirlemek üzere istatistiksel analiz yapabilir.
Temel değerle birlikte özellik varyantları üzerinde A/B testi yapmak için aşağıdakileri yapın:
- Denemenizi oluşturun.
- Denemenizi bir test cihazında doğrulayın.
- Denemenizi yönetin.
Deneme oluşturma
Firebase In-App Messaging kullanılan bir deneme, tek bir uygulama içi mesajın birden fazla varyantını değerlendirmenize olanak tanır.
Deneyin Analytics verilerine erişebilmesi için projenizde Google Analytics seçeneğinin etkinleştirildiğini doğrulayın.
Projenizi oluştururken Google Analytics özelliğini etkinleştirmediyseniz Firebase konsolunun
Ayarlar > Entegrasyonlar sekmesinden etkinleştirebilirsiniz.Firebase konsolunda, aşağıdaki seçeneklerden birini kullanarak Firebase In-App Messaging denemesi başlatın:
A/B Testing ile başlayan fiyatlarla:
DevOps & Engagement (DevOps ve Etkileşim) > A/B Testi'ne gidin.
Deneme oluştur'u tıklayın ve deneme yapmak istediğiniz hizmet sorulduğunda Uygulama İçi Mesajlaşma'yı seçin.
In-App Messaging ile başlayan fiyatlarla:
DevOps ve Etkileşim > Mesajlaşma'ya gidin.
In-App Messaging simgesini ve ardından Yeni deneme'yi tıklayın.
Denemeniz için Ad ve isteğe bağlı olarak Açıklama girip Sonraki'yi tıklayın.
Öncelikle denemenizi kullanan uygulamayı seçerek Hedefleme alanlarını doldurun. Aşağıdakileri içeren seçenekleri belirleyerek kullanıcılarınızın bir alt kümesini denemenize katılmaya da hedefleyebilirsiniz:
- Sürüm: Uygulamanızın bir veya daha fazla sürümü
- Kullanıcı kitlesi: Denemeye dahil edilebilecek kullanıcıları hedeflemek için kullanılan Analytics kitle
- Kullanıcı özelliği: Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla Analytics kullanıcı özelliği
- Ülke/Bölge: Denemeye dahil edilebilecek kullanıcıları seçmek için bir veya daha fazla ülke ya da bölge
- Cihaz dili: Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla dil ve yerel ayar
- İlk açılış: Uygulamanızı ilk açtıkları tarihe göre kullanıcıları hedefleyin
- Son uygulama etkileşimi: Kullanıcıları, uygulamanızla etkileşime geçtikleri son tarihe göre hedefleyin.
Hedef kullanıcı yüzdesini ayarlayın:Uygulamanızın, Hedef kullanıcılar bölümünde belirlenen ölçütlere uyan kullanıcı tabanının, denemenizdeki temel ve bir veya daha fazla varyant arasında eşit olarak bölmek istediğiniz yüzdesini seçin. Bu değer% 0,01 ile %100 arasında herhangi bir yüzde olabilir. Yüzdeler, yinelenen denemeler de dahil olmak üzere her deneme için kullanıcılara rastgele yeniden atanır.
Varyantlar bölümünde, normal bir uygulama içi mesajlaşma kampanyasında kullandığınız mesaj tasarımı arayüzünü kullanarak temel değer grubuna gönderilecek bir temel uygulama içi mesaj yapılandırın.
Denemenize varyant eklemek için Varyant Ekle'yi tıklayın. Denemelerde varsayılan olarak bir referans değer ve bir varyant bulunur.
(isteğe bağlı) Her varyant için daha açıklayıcı bir ad girin.
(İsteğe bağlı) Varyantlar bölümünün üst kısmındaki Varyantları karşılaştır düğmesini tıklayarak bir ileti varyantını daha temel iletiyle yan yana karşılaştırın.
Deneme varyantlarını değerlendirirken kullanmak üzere denemeniz için bir hedef metriği tanımlayın. Ayrıca listeden kullanmak istediğiniz ek metrikleri de seçebilirsiniz. Bu metrikler arasında yerleşik hedefler (etkileşim, satın alma, gelir, elde tutma vb.), Analytics dönüşüm etkinlikleri ve diğer Analytics etkinlikler bulunur.
Deneme için planlamayı yapılandırın:
- Deneme için başlangıç ve bitiş tarihi ayarlayın.
- Uygulama içi mesajların tüm varyantlarda nasıl tetikleneceğini ayarlayın.
Denemenizi kaydetmek için İncele'yi tıklayın.
Proje başına en fazla 300 denemeye izin verilir. Bu denemelerden en fazla 24'ü devam eden deneme olabilir. Diğerleri ise taslak veya tamamlanmış deneme olabilir.
Denemenizi bir test cihazında doğrulama
Her Firebase yüklemesi için, yüklemeyle ilişkili yükleme kimlik doğrulama jetonunu alabilirsiniz. Bu jetonu, uygulamanızın yüklü olduğu bir test cihazında belirli deneme varyantlarını test etmek için kullanabilirsiniz. Denemenizi bir test cihazında doğrulamak için aşağıdakileri yapın:
- Yükleme yetkilendirme jetonunu aşağıdaki şekilde alın:
Swift
do { let result = try await Installations.installations() .authTokenForcingRefresh(true) print("Installation auth token: \(result.authToken)") } catch { print("Error fetching token: \(error)") }
Objective-C
[[FIRInstallations installations] authTokenForcingRefresh:true completion:^(FIRInstallationsAuthTokenResult *result, NSError *error) { if (error != nil) { NSLog(@"Error fetching Installation token %@", error); return; } NSLog(@"Installation auth token: %@", [result authToken]); }];
Java
FirebaseInstallations.getInstance().getToken(/* forceRefresh */true) .addOnCompleteListener(new OnCompleteListener<InstallationTokenResult>() { @Override public void onComplete(@NonNull Task<InstallationTokenResult> task) { if (task.isSuccessful() && task.getResult() != null) { Log.d("Installations", "Installation auth token: " + task.getResult().getToken()); } else { Log.e("Installations", "Unable to get Installation auth token"); } } });
Kotlin
val forceRefresh = true FirebaseInstallations.getInstance().getToken(forceRefresh) .addOnCompleteListener { task -> if (task.isSuccessful) { Log.d("Installations", "Installation auth token: " + task.result?.token) } else { Log.e("Installations", "Unable to get Installation auth token") } }
Web
import { getInstallations, getToken } from "firebase/installations"; const installations = getInstallations(app); const installationAuthToken = getToken(installations);
- Firebase konsolunda DevOps ve Etkileşim > A/B Testi'ne gidin.
- Taslak'ı (ve/veya Remote Config denemeleri için Çalışıyor) tıklayın, fare imlecini denemenizin üzerine getirin, bağlam menüsünü (more_vert) tıklayın ve ardından Test cihazlarını yönet'i tıklayın.
- Bir test cihazı için yükleme kimlik doğrulama jetonunu girin ve bu test cihazına gönderilecek deneme varyantını seçin.
- Uygulamayı çalıştırın ve seçilen varyantın test cihazında alındığını onaylayın.
Firebase yüklemeleri hakkında daha fazla bilgi edinmek için Firebase yüklemelerini yönetme başlıklı makaleyi inceleyin.
Denemenizi yönetme
Remote Config ile, Bildirim Oluşturucu ile veya Firebase In-App Messaging ile deneme oluşturabilirsiniz. Ardından denemenizi doğrulayıp başlatabilir, deneme çalışırken denemenizi izleyebilir ve çalışan denemenize dahil edilen kullanıcı sayısını artırabilirsiniz.
Denemeniz tamamlandığında, kazanan varyantın kullandığı ayarları not edebilir ve bu ayarları tüm kullanıcılara uygulayabilirsiniz. Alternatif olarak, başka bir deneme de çalıştırabilirsiniz.
Bir deneme başlat
- Firebase konsolunda DevOps ve Etkileşim > A/B Testi'ne gidin.
- Taslak'ı ve ardından denemenizin başlığını tıklayın.
- Uygulamanızın, denemenize dahil edilecek kullanıcıları olduğunu doğrulamak için taslak ayrıntılarını genişletin ve Hedefleme ve dağıtım bölümünde %0'dan büyük bir sayı olup olmadığını kontrol edin (örneğin, ölçütlere uyan kullanıcıların% 1'i).
- Denemenizi değiştirmek için Düzenle'yi tıklayın.
- Denemenizi başlatmak için Denemeyi Başlat'ı tıklayın. Proje başına aynı anda en fazla 24 deneme çalıştırabilirsiniz.
Denemeyi izleme
Bir deneme bir süredir devam ediyorsa ilerleme durumunu kontrol edebilir ve denemeye şu ana kadar katılan kullanıcılar için sonuçlarınızın nasıl göründüğünü inceleyebilirsiniz.
- Firebase konsolunda DevOps ve Etkileşim > A/B Testi'ne gidin.
Çalışıyor'u ve ardından denemenizin başlığını tıklayın veya arayın. Bu sayfada, devam eden denemenizle ilgili gözlemlenen ve modellenen çeşitli istatistikleri (aşağıdakiler dahil) görüntüleyebilirsiniz:
- Temel değişkene göre yüzdelik fark: Belirli bir metrikte, referans değere kıyasla belirli bir varyant için iyileşme ölçüsü. Varyantın değer aralığı, temel değerin değer aralığıyla karşılaştırılarak hesaplanır.
- Referans değeri geçme olasılığı: Belirli bir varyantın, seçilen metrik için referans değeri geçme olasılığıdır.
- observed_metric kullanıcı başına: Deneme sonuçlarına göre, metrik değerinin zaman içinde içinde yer alacağı tahmin edilen aralıktır.
- Toplam observed_metric: Temel veya varyant için gözlemlenen kümülatif değer. Bu değer, her bir deneme varyantının ne kadar iyi performans gösterdiğini ölçmek için kullanılır ve İyileşme, Değer aralığı, Orijinali geçme olasılığı ve En iyi varyant olma olasılığı metriklerini hesaplamak için kullanılır. Ölçülen metriğe bağlı olarak bu sütun "Kullanıcı başına süre", "Kullanıcı başına gelir", "Elde tutma oranı" veya "Dönüşüm oranı" olarak etiketlenebilir.
Denemeniz bir süre çalıştıktan sonra (FCM ve In-App Messaging için en az 7 gün, Remote Config için 14 gün), bu sayfadaki veriler hangi varyantın "lider" olduğunu gösterir. Bazı ölçümlere, verileri görsel biçimde sunan bir çubuk grafik eşlik eder.
Denemeyi tüm kullanıcılara sunma
Bir deneme, hedef metriğiniz için "en iyi varyant" veya kazanan bir varyant belirleyecek kadar uzun süre çalıştıktan sonra denemeyi tüm kullanıcılara sunabilirsiniz. Bu sayede, tüm kullanıcılara yayınlanacak bir varyant seçebilirsiniz. Denemeniz sonucunda net bir kazanan belirleyemezseniz bile dilediğiniz varyantı tüm kullanıcılarınıza sunabilirsiniz.
- Firebase konsolunda DevOps ve Etkileşim > A/B Testi'ne gidin.
- Tamamlandı veya Çalışıyor'u tıklayın, tüm kullanıcılara yayınlamak istediğiniz bir denemeyi tıklayın, bağlam menüsünü () tıklayın ve Varyantı başlat'ı seçin.
Aşağıdakilerden birini yaparak denemenizi tüm kullanıcılara sunun:
- Bildirim oluşturucu'nun kullanıldığı bir denemede, denemeye katılmayan kalan hedef kullanıcılara mesajı göndermek için Mesajı kullanıma sun iletişim kutusunu kullanın.
- Remote Config denemesi için hangi Remote Config parametre değerlerinin güncelleneceğini belirlemek üzere bir varyant seçin. Kullanıma sunma işleminin yalnızca deneme ile hedeflenen kullanıcıları etkileyeceğinden emin olmak için deneme oluşturulurken tanımlanan hedefleme ölçütleri, şablonunuza yeni bir koşul olarak eklenir. Remote Config'de incele'yi tıklayıp değişiklikleri inceledikten sonra, Değişiklikleri yayınla'yı tıklayarak kullanıma sunma işlemini tamamlayın.
- In-App Messaging denemesi için, hangi varyantın bağımsız bir In-App Messaging kampanyası olarak kullanıma sunulması gerektiğini belirlemek üzere iletişim kutusunu kullanın. Seçim yapıldıktan sonra, yayınlamadan önce gerekli değişiklikleri yapmak için FIAM oluşturma ekranına yönlendirilirsiniz.
Denemeyi genişletme
Bir denemenin A/B Testing için yeterli kullanıcı getirmediğini fark ederseniz uygulamanın kullanıcı tabanının daha büyük bir yüzdesine ulaşmak için denemenizin dağıtımını artırabilirsiniz.
- Firebase konsolunda DevOps ve Etkileşim > A/B Testi'ne gidin.
- Düzenlemek istediğiniz çalışan denemeyi seçin.
- Denemeye genel bakış bölümünde bağlam menüsünü () ve ardından Çalışan denemeyi düzenle'yi tıklayın.
- Hedefleme iletişim kutusunda, devam eden denemeye dahil olan kullanıcıların yüzdesini artırma seçeneği gösterilir. Mevcut yüzdeden daha büyük bir sayı seçip Yayınla'yı tıklayın. Deneme, belirttiğiniz kullanıcı yüzdesine sunulur.
Denemeyi kopyalama veya durdurma
- Firebase konsolunda DevOps ve Etkileşim > A/B Testi'ne gidin.
- Tamamlandı veya Çalışıyor'u tıklayın, fare işaretçisini denemenizin üzerine getirin, bağlam menüsünü () tıklayın ve ardından Denemeyi kopyala veya Denemeyi durdur'u tıklayın.
Kullanıcı hedefleme
Aşağıdaki kullanıcı hedefleme ölçütlerini kullanarak denemenize dahil edilecek kullanıcıları hedefleyebilirsiniz.
| Hedefleme ölçütü | Operatörler | Değerler | Not |
|---|---|---|---|
| Sürüm | içerir,
içermez, tam olarak eşleşir, normal ifade içerir |
Denemeye dahil etmek istediğiniz bir veya daha fazla uygulama sürümü için bir değer girin. |
İçerir, içermez veya tam olarak eşleşir operatörlerinden herhangi birini kullanırken virgülle ayrılmış bir değer listesi sağlayabilirsiniz. contains regex operatörünü kullanırken RE2 biçiminde normal ifadeler oluşturabilirsiniz. Normal ifadeniz, hedef sürüm dizesinin tamamıyla veya bir kısmıyla eşleşebilir. Hedef dizenin başlangıcı, sonu veya tamamıyla eşleşmek için ^ ve $ tutturucularını da kullanabilirsiniz. |
| Kullanıcı kitleleri | tümünü içerir,
en az birini içerir, tümünü içermez, en az birini içermez |
Denemenize dahil edilebilecek kullanıcıları hedeflemek için bir veya daha fazla Analyticskitle seçin. | Google Analytics kitlelerini hedefleyen bazı denemelerde, Analytics veri işleme gecikmesine tabi oldukları için veri birikmesi birkaç gün sürebilir. Bu gecikmeyle en çok, genellikle oluşturulduktan 24-48 saat sonra uygun kitlelere kaydedilen yeni kullanıcılarda veya yeni oluşturulan kitlelerde karşılaşma olasılığınız yüksektir. |
| Kullanıcı özelliği | Metin için:
içerir, içermez, tam olarak eşleşir, normal ifade içerir Sayılar için: <, ≤, =, ≥, > |
Analytics kullanıcı özelliği, denemeye dahil edilebilecek kullanıcıları seçmek için kullanılır. Kullanıcı özelliği değerlerini seçmek için çeşitli seçenekler sunulur.
İstemcide, kullanıcı özelliklerine yalnızca dize değerleri ayarlayabilirsiniz. Sayısal operatörler kullanan koşullarda Remote Config hizmeti, ilgili kullanıcı özelliğinin değerini tam sayıya/kayan noktalı sayıya dönüştürür. |
contains regex operatörünü kullanırken RE2 biçiminde normal ifadeler oluşturabilirsiniz. Normal ifadeniz, hedef sürüm dizesinin tamamıyla veya bir kısmıyla eşleşebilir. Hedef dizenin başlangıcı, sonu veya tamamıyla eşleşmek için ^ ve $ tutturucularını da kullanabilirsiniz. |
| Ülke/Bölge | Yok | Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla ülke ya da bölge. | |
| Diller | Yok | Denemeye dahil edilebilecek kullanıcıları seçmek için kullanılan bir veya daha fazla dil ve yerel ayar. | |
| İlk açılış |
Daha fazla
Daha az Arasında |
Uygulamanızı ilk açtıkları tarihe göre kullanıcıları hedefleyin (gün cinsinden belirtilir). | |
| Son uygulama etkileşimi |
Daha fazla
Daha az Arasında |
Uygulamanızla etkileşime geçtikleri son tarihe göre kullanıcıları hedefleyin (gün cinsinden belirtilir). |
A/B Testing metrik
Denemenizi oluştururken, kazanan varyantı belirlemek için kullanılan birincil veya hedef metriği seçersiniz. Ayrıca, her deneme varyantının performansını daha iyi anlamanıza yardımcı olmak ve her varyant için farklılık gösterebilecek önemli trendleri (ör. kullanıcıları elde tutma, uygulama kararlılığı ve uygulama içi satın alma geliri) izlemek için diğer metrikleri de takip etmeniz gerekir. Denemenizde en fazla beş hedef dışı metrik izleyebilirsiniz.
Örneğin, uygulamanıza yeni uygulama içi satın alma işlemleri eklediğinizi ve iki farklı "hatırlatma" mesajının etkinliğini karşılaştırmak istediğinizi varsayalım. Bu durumda, kazanan varyantın en yüksek uygulama içi satın alma gelirini sağlayan bildirimi temsil etmesini istediğiniz için hedef metriğiniz olarak satın alma gelirini ayarlamayı tercih edebilirsiniz. Ayrıca, hangi varyantın gelecekte daha fazla dönüşüm sağladığını ve kullanıcıları elde tuttuğunu da izlemek istediğiniz için İzlenecek diğer metrikler bölümüne aşağıdakileri ekleyebilirsiniz:- Uygulama içi satın alma ve reklam gelirinizin iki varyant arasında nasıl farklılık gösterdiğini görmek için Tahmini toplam gelir
- Günlük/haftalık kullanıcı elde tutma oranınızı izlemek için Elde tutma (1 gün), Elde tutma (2-3 gün), Elde tutma (4-7 gün)
Aşağıdaki tablolarda, hedef metriklerinin ve diğer metriklerin nasıl hesaplandığıyla ilgili ayrıntılı bilgi verilmektedir.
Hedef metrikleri
| Metrik | Açıklama |
|---|---|
| Kilitlenme sorunu yaşamayan kullanıcı sayısı | Deneme sırasında Firebase Crashlytics SDK'sı tarafından algılanan ve uygulamanızda hatalarla karşılaşmayan kullanıcıların yüzdesi.
Not: Firebase Crashlytics, web uygulamalarında desteklenmez. |
| Tahmini reklam geliri | Tahmini reklam kazançları. |
| Tahmini toplam gelir | Satın alma ve tahmini reklam gelirlerinin birleştirilmiş değeri. |
| Satın alma geliri | Tüm purchase ve in_app_purchase etkinliklerinin birleştirilmiş değeri.
|
| Elde tutma (1 gün) | Uygulamanıza günlük olarak geri dönen kullanıcıların sayısı. |
| Elde tutma (2-3 gün) | 2-3 gün içinde uygulamanıza geri dönen kullanıcıların sayısı. |
| Elde tutma (4-7 gün) | 4-7 gün içinde uygulamanıza geri dönen kullanıcıların sayısı. |
| Elde tutma (8-14 gün) | 8-14 gün içinde uygulamanıza geri dönen kullanıcıların sayısı. |
| Elde tutma (en az 15 gün) | Uygulamanızı son kullandıklarından 15 gün veya daha uzun bir süre sonra geri dönen kullanıcı sayısı. |
| first_open | Kullanıcı bir uygulamayı yükledikten veya yeniden yükledikten sonra ilk kez açtığında tetiklenen bir Analytics etkinliğidir. Dönüşüm hunisinin bir parçası olarak kullanılır. |
Diğer metrikler
| Metrik | Açıklama |
|---|---|
| notification_dismiss | Bildirim oluşturucu tarafından gönderilen bir bildirim kapatıldığında tetiklenen bir Analytics etkinliği (yalnızca Android). |
| notification_receive | Bildirim oluşturucu tarafından gönderilen bir bildirim, uygulama arka plandayken alındığında tetiklenen bir Analytics etkinliği (yalnızca Android). |
| os_update | Cihazın işletim sistemi yeni sürüme güncellendiğinde bunu izleyen bir Analytics etkinliğidir.Daha fazla bilgi için Otomatik olarak toplanan etkinlikler başlıklı makaleyi inceleyin.
Bu metrik, web uygulamaları için desteklenmez. |
| screen_view | Uygulamanızda görüntülenen ekranları izleyen bir Analytics etkinliğidir. Daha fazla bilgi için Ekran Görüntülemelerini İzleme başlıklı makaleyi inceleyin. |
| session_start | Uygulamanızdaki kullanıcı oturumlarını sayan bir Analytics etkinliktir. Daha fazla bilgi için Otomatik olarak toplanan etkinlikler başlıklı makaleyi inceleyin. |