phuryn/ab-test-analysis

Analiza resultados de pruebas A/B con significancia estadística, validación de tamaño de muestra, intervalos de confianza y recomendaciones de lanzar/extender/detener. Útil al evaluar resultados de experimentos, verificar si una prueba alcanzó significancia, interpretar datos de pruebas divididas o decidir si lanzar una variante.

¿Qué es ab-test-analysis?

Esta habilidad (skill) está diseñada para analizar resultados de pruebas A/B de manera rigurosa y ofrecer recomendaciones accionables. Utiliza conceptos estadísticos fundamentales como la significancia estadística (normalmente mediante un valor p o enfoques bayesianos), el cálculo de intervalos de confianza y la validación del tamaño de la muestra para garantizar que los resultados sean fiables. A partir de los datos de entrada (por ejemplo, número de visitantes y conversiones para el grupo de control y el grupo de variante), la herramienta evalúa si la diferencia observada es estadísticamente significativa y si el experimento tiene suficiente potencia. Luego, proporciona una recomendación clara: "ship" (lanzar la variante) si la evidencia es sólida, "extend" (extender la prueba) si se necesita más datos, o "stop" (detener el experimento) si la variante no muestra mejora o el efecto es perjudicial. Está pensada para ser utilizada con asistentes de IA como Claude Code, Cursor o Codex, facilitando que los equipos de producto y ciencia de datos tomen decisiones informadas sobre cambios en la interfaz, algoritmos o contenido de manera rápida y automatizada.

Compatible con~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/phuryn/pm-skills/tree/main/skills/ab-test-analysis

Installed? Explore more Investigación y análisis de datos skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

Preguntar en tu IA favorita

Abre un nuevo chat con esta habilidad de agente ya precargada.

Documentación

¿Qué hace ab-test-analysis?

Analiza resultados de pruebas A/B con significancia estadística, validación de tamaño de muestra, intervalos de confianza y recomendaciones de lanzar/extender/detener. Útil al evaluar resultados de experimentos, verificar si una prueba alcanzó significancia, interpretar datos de pruebas divididas o decidir si lanzar una variante.

Cómo usar

Proporciona los datos de tu prueba A/B, normalmente en formato:

  • visitantes_control: número de visitantes en el grupo de control
  • conversiones_control: número de conversiones en el grupo de control
  • visitantes_variante: número de visitantes en el grupo de variante
  • conversiones_variante: número de conversiones en el grupo de variante

Opcionalmente, puedes especificar:

  • nivel_confianza: nivel de confianza para los intervalos (por defecto 0.95)
  • poder_estadistico: poder estadístico deseado (por defecto 0.80)

Salida

La herramienta devolverá:

  • Tasas de conversión: para control y variante
  • Diferencia absoluta y relativa: con intervalos de confianza
  • Valor p: de la prueba de significancia
  • ¿Es significativo?: sí/no basado en el nivel de confianza
  • Validación de tamaño de muestra: ¿es suficiente el tamaño de muestra actual?
  • Recomendación: ship, extend o stop

Ejemplo

Si ejecutas un experimento con 1000 visitantes en control (100 conversiones) y 1000 en variante (120 conversiones), el análisis podría indicar:

Tasa de conversión (control): 10.00%
Tasa de conversión (variante): 12.00%
Diferencia absoluta: 2.00% (IC 95%: [0.15%, 3.85%])
Valor p: 0.034
Significativo: Sí
Tamaño de muestra suficiente: Sí
Recomendación: ship

Notas

  • Esta habilidad asume que los datos son independientes y están asignados aleatoriamente.
  • No reemplaza un análisis estadístico completo, pero proporciona una guía rápida y fiable para la toma de decisiones.
  • Los intervalos de confianza se calculan usando el método de Wilson o similar para proporciones.

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

phuryn/analyze-feature-requests

Analyze and prioritize a list of feature requests by theme, strategic alignment, impact, effort, and risk. Use when reviewing customer feature requests, triaging a backlog, or making prioritization decisions.

phuryn/ansoff-matrix

Generate an Ansoff Matrix analysis mapping growth strategies across market penetration, market development, product development, and diversification. Use when considering growth options, planning market expansion, or evaluating strategic growth paths.

phuryn/brainstorm-experiments-existing

Design experiments to test assumptions for an existing product — prototypes, A/B tests, spikes, and other low-effort validation methods. Use when validating assumptions, testing feature ideas cheaply, or planning product experiments.

phuryn/brainstorm-experiments-new

Design lean startup experiments (pretotypes) for a new product. Creates XYZ hypotheses and suggests low-effort validation methods like landing pages, explainer videos, and pre-orders. Use when validating a new product idea, creating pretotypes, or testing market demand.

phuryn/brainstorm-ideas-existing

Brainstorm product ideas for an existing product using multi-perspective ideation from PM, Designer, and Engineer viewpoints. Use when generating new feature ideas, brainstorming solutions for an identified opportunity, or ideating with a product trio.

phuryn/brainstorm-ideas-new

Brainstorm feature ideas for a new product in initial discovery from PM, Designer, and Engineer perspectives. Use when starting product discovery for a new product, exploring features for a startup idea, or doing initial ideation.

phuryn/brainstorm-okrs

Brainstorm team-level OKRs aligned with company objectives — qualitative objectives with measurable key results. Use when setting quarterly OKRs, aligning team goals with company strategy, drafting objectives, or learning how to write effective OKRs.

phuryn/business-model

Generate a Business Model Canvas with all 9 building blocks. Use when creating a business model, documenting how a business creates value, or analyzing an existing business model.

phuryn/cohort-analysis

Perform cohort analysis on user engagement data — retention curves, feature adoption trends, and segment-level insights. Use when analyzing user retention by cohort, studying feature adoption over time, investigating churn patterns, or identifying engagement trends.

phuryn/competitive-battlecard

Create sales-ready competitive battlecards comparing your product against a specific competitor — positioning, feature comparison, objection handling, and win/loss patterns. Use when preparing sales teams, creating competitive materials, or responding to 'why not competitor X?'

phuryn/competitor-analysis

Analyze competitors with strengths, weaknesses, and differentiation opportunities. Identifies direct competitors and maps the competitive landscape. Use when doing competitive research, preparing a competitive brief, or finding differentiation opportunities.

phuryn/create-prd

Create a Product Requirements Document using a comprehensive 8-section template covering problem, objectives, segments, value propositions, solution, and release planning. Use when writing a PRD, documenting product requirements, preparing a feature spec, or reviewing an existing PRD.

phuryn/customer-journey-map

Create an end-to-end customer journey map with stages, touchpoints, emotions, pain points, and opportunities. Use when mapping the customer experience, identifying friction points, improving onboarding, or visualizing the user journey.

phuryn/draft-nda

Draft a detailed Non-Disclosure Agreement between two parties covering information types, jurisdiction, and clauses needing legal review. Use when creating confidentiality agreements or preparing an NDA for a partnership.

phuryn/dummy-dataset

Generate realistic dummy datasets for testing with customizable columns, constraints, and output formats (CSV, JSON, SQL, Python script). Use when creating test data, building mock datasets, or generating sample data for development and demos.

phuryn/grammar-check

Identify grammar, logical, and flow errors in text and suggest targeted fixes without rewriting the entire text. Use when proofreading content, checking writing quality, or reviewing a draft.

phuryn/growth-loops

Identify growth loops (flywheels) for sustainable traction. Evaluates 5 loop types: Viral, Usage, Collaboration, User-Generated, and Referral. Use when designing growth mechanisms, building product-led traction, or understanding how growth loops work.

phuryn/gtm-motions

Identify the best GTM motions and tools across 7 motion types: Inbound, Outbound, Paid Digital, Community, Partners, ABM, and PLG. Use when selecting marketing channels, choosing between inbound and outbound strategy, or planning cross-channel campaigns.

phuryn/gtm-strategy

Create a go-to-market strategy covering marketing channels, messaging, success metrics, and launch timeline. Use when planning a product launch, creating a GTM plan from scratch, or defining a launch strategy for a new market.

phuryn/ideal-customer-profile

Identify the Ideal Customer Profile (ICP) from research data with demographics, behaviors, JTBD, and needs. Use when defining your ICP, analyzing PMF survey data, or understanding who your best customers are.

Skills relacionados