Skip to content

Crear pruebas multivariantes y pruebas A/B

Puedes crear una prueba multivariante o A/B para cualquier campaña que se dirija a un solo canal y un solo dispositivo. Por ejemplo, si quieres usar pruebas multivariantes o A/B para una campaña push, puedes dirigirte solo a dispositivos iOS o solo a dispositivos Android, pero no a ambos tipos de dispositivo en la misma campaña.

El menú desplegable que aparece al seleccionar el botón "Create campaign" para elegir entre multicanal o canal único.

Paso 1: Crea tu campaña

  1. Ve a Messaging > Campaigns.
  2. Selecciona Create campaign y un canal para la campaña en la sección que permite pruebas multivariantes y A/B. Para documentación detallada sobre cada canal de mensajería, consulta Crear una campaña.

Paso 2: Redacta tus variantes

Puedes crear hasta ocho variantes de tu mensaje, diferenciando entre títulos, contenido, imágenes y más. El número de diferencias entre los mensajes determina si se trata de una prueba multivariante o A/B. Una prueba A/B examina el efecto de cambiar una variable, mientras que una prueba multivariante examina dos o más.

Para obtener ideas sobre cómo empezar a diferenciar tus variantes, consulta Consejos para diferentes canales.

Seleccionar "Add Variant" para una campaña.

Paso 3: Planifica tu campaña

Planificar tu campaña multivariante funciona igual que planificar cualquier otra campaña de Braze. Todos los tipos de entrega estándar están disponibles.

Una vez que comienza una prueba multivariante, no puedes hacer cambios en la campaña. Si cambias los parámetros, como la línea del asunto o el cuerpo HTML, Braze considera que el experimento está comprometido y lo desactiva inmediatamente.

Paso 4: Elige un segmento y distribuye a tus usuarios entre variantes

Selecciona los segmentos a los que dirigirte y luego distribuye a los miembros entre las variantes seleccionadas y el grupo de control opcional. Para conocer las mejores prácticas sobre cómo elegir un segmento para las pruebas, consulta Elegir un segmento.

Para campañas push, de correo electrónico y webhook planificadas para enviarse una sola vez, también puedes usar una optimización. Una optimización reserva una parte de tu audiencia objetivo de la prueba A/B y la retiene para un segundo envío optimizado basado en los resultados de la primera prueba.

Grupo de control

Puedes reservar un porcentaje de tu audiencia objetivo para un grupo de control aleatorio. Los usuarios del grupo de control no reciben la prueba, pero Braze monitorea su tasa de conversión durante la duración de la campaña.

Al ver tus resultados, puedes comparar las tasas de conversión de tus variantes con una tasa de conversión de referencia proporcionada por tu grupo de control. Esto te permite comparar tanto los efectos de tus variantes como los efectos de tus variantes frente a la tasa de conversión que resultaría si no enviaras ningún mensaje.

Panel de pruebas A/B que muestra el desglose porcentual del grupo de control, variante 1, variante 2 y variante 3 con un 25 % para cada grupo.

Grupos de control con pruebas A/B

Al usar un límite de velocidad con una prueba A/B, el límite de velocidad no se aplica al grupo de control de la misma manera que al grupo de prueba, lo cual es una fuente potencial de sesgo temporal. Usa ventanas de conversión apropiadas para evitar este sesgo.

Grupos de control con Intelligent Selection

El tamaño del grupo de control para una campaña con Intelligent Selection se basa en el número de variantes. Si cada variante se envía a más del 20 % de los usuarios, entonces el grupo de control es del 20 % y las variantes se dividen equitativamente en el 80 % restante. Sin embargo, si tienes suficientes variantes como para que cada una se envíe a menos del 20 % de los usuarios, entonces el grupo de control debe reducirse. Cuando Intelligent Selection comienza a analizar el rendimiento de tu prueba, el grupo de control crece o se reduce en función de los resultados.

Paso 5: Designa un evento de conversión (opcional)

Configurar un evento de conversión para una campaña te permite ver cuántos destinatarios de esa campaña realizaron una acción particular después de recibirla.

Esto solo afecta a la prueba si elegiste Primary Conversion Rate en los pasos anteriores. Para más información, consulta Eventos de conversión.

Paso 6: Revisa y lanza

En la página de confirmación, revisa los detalles de tu campaña multivariante y lanza la prueba. A continuación, aprende cómo entender los resultados de tu prueba.

Cosas que debes saber

Si tu experimento ya ha comenzado a enviarse y editas el mensaje, el experimento queda invalidado y se eliminan todos los resultados del experimento.

  • Para evitar cualquier interferencia con el comportamiento esperado del experimento, te recomendamos no editar los mensajes dentro de la hora posterior al lanzamiento de la campaña del experimento.
  • Si tu experimento está completado y editas el mensaje después del envío, los resultados del experimento permanecen disponibles en el análisis de tu dashboard. Sin embargo, si relanzas la campaña, los resultados del experimento se eliminan.

Consejos para diferentes canales

Dependiendo del canal que selecciones, puedes probar diferentes componentes de tu mensaje. Por ejemplo, puedes intentar redactar variantes con una idea de lo que quieres probar y lo que esperas demostrar. ¿Qué palancas puedes mover y cuáles son los efectos deseados? Aunque hay millones de posibilidades que puedes investigar usando pruebas multivariantes y A/B, aquí tienes algunas sugerencias para empezar:

Además, la duración ideal de tu prueba también puede variar según el canal. Ten en cuenta la cantidad promedio de tiempo que la mayoría de los usuarios pueden necesitar para interactuar con cada canal.

Por ejemplo, si estás probando un push, puedes obtener resultados significativos más rápido que al probar un correo electrónico, ya que los usuarios ven las notificaciones push de inmediato, pero pueden pasar días antes de que vean o abran un correo electrónico. Si estás probando mensajes dentro de la aplicación, ten en cuenta que los usuarios deben abrir la aplicación para ver la campaña, por lo que deberías esperar más tiempo para recopilar resultados tanto de los usuarios que abren la aplicación con más frecuencia como de los usuarios más típicos.

Si no estás seguro de cuánto tiempo debe durar tu prueba, la función Intelligent Selection puede ser útil para encontrar una variante ganadora de manera eficiente.

Elegir un segmento

Dado que diferentes segmentos de tus usuarios pueden responder de manera diferente a los mensajes, el éxito de un mensaje particular dice algo tanto sobre el mensaje en sí como sobre su segmento objetivo. Por lo tanto, intenta diseñar una prueba teniendo en cuenta tu segmento objetivo.

Por ejemplo, mientras que los usuarios activos pueden tener tasas de respuesta iguales a “¡Esta oferta expira mañana!” y “¡Esta oferta expira en 24 horas!”, los usuarios que no han abierto la aplicación en una semana pueden ser más receptivos a la segunda redacción, ya que crea una mayor sensación de urgencia.

Además, al elegir en qué segmento ejecutar tu prueba, asegúrate de considerar si el tamaño de ese segmento es lo suficientemente grande para tu prueba. En general, las pruebas multivariantes y A/B con más variantes requieren un grupo de prueba más grande para obtener resultados estadísticamente significativos. Esto se debe a que más variantes resultan en menos usuarios viendo cada variante individual.

Sesgo y aleatorización

Una pregunta común sobre las asignaciones de grupos de control y de prueba es si pueden introducir sesgo en tus pruebas. Otros a veces se preguntan cómo sabemos si estas asignaciones son verdaderamente aleatorias.

Los usuarios se asignan a variantes de mensaje, variantes en Canvas o sus respectivos grupos de control concatenando su ID de usuario (generado aleatoriamente) con el ID de la campaña o Canvas (generado aleatoriamente), tomando el módulo de ese valor con 100 y luego ordenando a los usuarios en segmentos que corresponden a las asignaciones de porcentaje para las variantes y el control opcional elegidos en el dashboard. Por lo tanto, no hay una forma práctica en que los comportamientos de los usuarios antes de crear una campaña o Canvas particular puedan variar sistemáticamente entre variantes y control. Tampoco es práctico ser más aleatorio (o más precisamente, pseudoaleatorio) que esta implementación.

Errores a evitar

Hay algunos errores comunes que debes evitar para no crear la apariencia de diferencias basadas en el canal de mensajería si las audiencias no se filtran correctamente.

Por ejemplo, si envías un mensaje push a una audiencia amplia con un grupo de control, el grupo de prueba envía mensajes solo a usuarios con un token de notificaciones push. Sin embargo, el grupo de control incluye tanto a usuarios que tienen un token de notificaciones push como a usuarios que no lo tienen. En este caso, tu audiencia inicial para la campaña o Canvas debe filtrar por tener un token de notificaciones push (Foreground Push Enabled es true). Lo mismo debe hacerse para la elegibilidad de recibir mensajes en otros canales: estar suscrito, tener un token de notificaciones push o estar registrado.

Ten en cuenta que si una variante de control no contiene ningún paso en Canvas, los eventos de criterios de salida no se registran para los usuarios en la variante de control.

New Stuff!