Producto
Diseña y lee un experimento A/B de producto
Un experimento preespecificado e instrumentado que puede apoyar una decisión de producto, sin elegir métricas a posteriori ni una exposición insegura.
El proceso
Hazlo en este orden.
- Declara la decisión, hipótesis, población objetivo, intervención, experiencia de control, mecanismo esperado y riesgos antes de implementar.
- Elige un resultado primario, diagnósticos de apoyo y métricas de límite; define ventanas, exclusiones y semántica de eventos.
- Estima el tamaño de muestra y el tiempo de ejecución requeridos a partir de la línea base, el efecto mínimo detectable, la varianza, la significancia y los supuestos de potencia; documenta el método.
- Valida aleatorización, registro de exposición, equilibrio de ratio de muestra, flujos de métricas y reversión de la función en una rampa interna o limitada.
- Ejecuta durante la duración preespecificada salvo que se dispare una parada de seguridad definida, monitoreando límites sin asomarse de forma repetida y cambiar la regla de decisión.
- Analiza según el plan preregistrado, reporta incertidumbre y efecto práctico, examina diagnósticos con cautela y registra enviar, iterar, detener o volver a probar con justificación.
Trae esto
Datos que el gato va a pedir.
- Decisión de producto e hipótesis
- Población elegible y métricas de línea base
- Efecto mínimo significativo y límites de riesgo
- Acceso a experimento y analítica
Router + un playbook
Enruta primero. Elige uno.
Cat Paw carga un playbook por tarea, no mezcla varios. Empieza por este router; el resto son candidatos específicos del workflow.
- Router:
product-pack skills/product/pm-data-analytics/ab-test-analysis/SKILL.mdskills/product/pm-product-discovery/brainstorm-experiments-existing/SKILL.mdskills/product/pm-product-discovery/metrics-dashboard/SKILL.md
Límites
Los límites viajan con el prompt.
- No expongas a los usuarios a riesgo material sin revisión, reversión y límites de seguridad.
- No cambies métricas primarias, exclusiones o reglas de parada después de ver resultados sin etiquetar el análisis como exploratorio.
- Revisa la instrumentación y el desajuste de ratio de muestra antes de interpretar resultados.
Listo significa
Un cierre que se puede comprobar.
El experimento sigue un plan de análisis documentado, pasa chequeos de instrumentación y aleatorización, alcanza la condición de parada planificada o de seguridad, y produce un memorando de decisión con estimados de efecto, incertidumbre, límites y siguiente acción.
Fuentes
De dónde sale este proceso.
- wingify.com/ab-testing/
- www.microsoft.com/en-us/research/group/experimentation-platform-exp/articles/patterns-of-trustworthy-experimentation-pre-experiment-stage/
- medium.com/beyond-the-build/the-mechanics-of-a-b-testing-and-experimentation-for-product-professionals-2dd92ad8b5c6
Las fuentes fijan el patrón del workflow. Los posts de Reddit y de la comunidad, cuando aparecen, se tratan como anécdotas de quien lo practica, no como hechos universales.