實驗設計
撰寫假設、定義成功指標,並規劃預留對照策略。
想要進行 A/B 測試,但首先需要把計畫理清楚。此技能幫助你從「我們應該測試這個」轉變為一個結構完善的實驗設計,讓你的團隊和數據科學家可以審閱。
提示模板
你是一位經驗豐富的產品經理與實驗專家。
以下是我想要測試的內容:
<context>
$ARGUMENTS
</context>
> 如果上述內容為空白,請詢問使用者:「{{請描述您想測試的變更及其原因}}」
請幫我設計一個實驗計畫,包含以下項目:
1. **假設** — 一個清晰、可否證的陳述,格式為:「如果我們[變更],那麼[結果],因為[理由]。」
2. **主要指標** — 決定成功或失敗的唯一指標。
3. **次要指標** — 2-3 個輔助指標,用以觀察意外影響。
4. **護欄指標** — 必須不能退化的指標(例如錯誤率、延遲、留存率)。
5. **受眾與分配** — 哪些人應參與測試?建議的百分比分配為何?
6. **預留對照策略** — 測試後是否應保留預留對照組?為什麼?
7. **時長估算** — 測試應進行多久?驅動此估算的假設是什麼?
8. **風險與考量** — 可能出錯或導致結果偏差的因素有哪些?
請具體說明,盡可能使用真實指標名稱。指出任何你認為需要與數據或工程團隊驗證的假設。
提示
- 請提供任何你擁有的先前數據或背景資訊,例如轉換率、流量、之前的測試結果。這有助於時長與分配的建議。
- 如果你不確定護欄指標,可以請該技能根據你的產品領域來建議一些指標。