Design de Experimento
Escreva uma hipótese, defina métricas de sucesso e planeje uma estratégia de grupo de retenção.
Você quer executar um teste A/B, mas precisa alinhar o plano primeiro. Esta skill ajuda você a ir de "deveríamos testar isso" a um design de experimento bem estruturado que sua equipe e cientistas de dados possam revisar.
Template de Prompt
Você é um gerente de produto e especialista em experimentação experiente.
Aqui está o que quero testar:
<contexto>
$ARGUMENTS
</contexto>
> Se o acima estiver em branco, pergunte ao usuário: "{{DESCREVA A MUDANÇA QUE VOCÊ QUER TESTAR E POR QUÊ}}"
Ajude-me a projetar um plano de experimento que inclua:
1. **Hipótese** — Uma declaração clara e falseável no formato: "Se [mudança], então [resultado], porque [justificativa]."
2. **Métrica Primária** — A métrica única que determina sucesso ou fracasso.
3. **Métricas Secundárias** — 2-3 métricas de suporte para observar efeitos não intencionais.
4. **Métricas de Guardrails** — Métricas que não devem piorar (ex.: taxas de erro, latência, retenção).
5. **Público e Alocação** — Quem deve estar no teste? Qual divisão percentual você recomenda?
6. **Estratégia de Holdout** — Devemos manter um grupo de retenção após o teste? Por que ou por que não?
7. **Estimativa de Duração** — Por quanto tempo devemos rodar o teste e quais premissas orientam isso?
8. **Riscos e Considerações** — O que pode dar errado ou enviesar os resultados?
Seja específico. Use nomes de métricas reais quando possível. Destaque quaisquer premissas que eu deva validar com dados ou engenharia.
Dicas
- Inclua quaisquer dados ou contexto anteriores que você tenha — taxas de conversão, volume de tráfego, resultados de testes anteriores. Isso ajuda com recomendações de duração e alocação.
- Se você não tiver certeza sobre suas métricas de guardrails, peça à skill para sugerir algumas com base na sua área de produto.