Produto
Desenhe e leia um experimento A/B de produto
Um experimento pré-especificado e instrumentado que pode apoiar uma decisão de produto, sem escolha posterior de métricas nem exposição insegura.
O processo
Faça nesta ordem.
- Declare a decisão, a hipótese, a população-alvo, a intervenção, a experiência de controle, o mecanismo esperado e os riscos antes da implementação.
- Escolha um resultado primário, diagnósticos de apoio e métricas de salvaguarda; defina janelas, exclusões e semântica dos eventos.
- Estime o tamanho de amostra e o tempo de execução exigidos a partir da linha de base, do efeito mínimo detectável, da variância, da significância e das premissas de poder; documente o método.
- Valide randomização, registro de exposição, equilíbrio de razão da amostra, pipelines de métrica e rollback do recurso num aumento gradual interno ou limitado.
- Execute pela duração pré-especificada, salvo se uma parada de segurança definida disparar, monitorando salvaguardas sem espiar repetidamente e mudar a regra de decisão.
- Analise conforme o plano pré-registrado, reporte incerteza e efeito prático, examine diagnósticos com cautela e registre enviar, iterar, parar ou retestar com justificativa.
Traga isto
Entradas que o gato vai pedir.
- Decisão de produto e hipótese
- População elegível e métricas de linha de base
- Efeito mínimo significativo e limites de risco
- Acesso a experimento e análises
Roteador + um playbook
Roteie primeiro. Escolha um.
O Cat Paw carrega um playbook por tarefa, sem misturar vários. Comece por este roteador; os outros caminhos são candidatos específicos do workflow.
- Roteador:
product-pack skills/product/pm-data-analytics/ab-test-analysis/SKILL.mdskills/product/pm-product-discovery/brainstorm-experiments-existing/SKILL.mdskills/product/pm-product-discovery/metrics-dashboard/SKILL.md
Limites
As fronteiras viajam com o prompt.
- Não exponha usuários a risco material sem revisão, rollback e salvaguardas de segurança.
- Não mude métricas primárias, exclusões ou regras de parada depois de ver os resultados sem rotular a análise como exploratória.
- Confira instrumentação e descompasso de razão da amostra antes de interpretar resultados.
Pronto significa
Um fim que dá para checar.
O experimento segue um plano de análise documentado, passa nas checagens de instrumentação e randomização, atinge a condição planejada de parada ou a parada de segurança e produz um memo de decisão com estimativas de efeito, incerteza, salvaguardas e próxima ação.
Fontes
De onde veio este processo.
- wingify.com/ab-testing/
- www.microsoft.com/en-us/research/group/experimentation-platform-exp/articles/patterns-of-trustworthy-experimentation-pre-experiment-stage/
- medium.com/beyond-the-build/the-mechanics-of-a-b-testing-and-experimentation-for-product-professionals-2dd92ad8b5c6
As fontes estabelecem o padrão do workflow. Posts de Reddit e da comunidade, quando aparecem, valem como anedota de quem pratica — não como fato universal.