A/Bテストの必要サンプル数 計算ドリル(解答・解説)

  1. ベースCVRが4%のページで、相対25%の改善を検出したいとき、改善後のCVRは何%ですか。
    解答:5%
    相対%の改善幅は、ベースCVRに \((1 + r \div 100)\) を掛けて求めます。 \(4 \times (1 + 25 \div 100) = 4 \times 1.25 = 5\) よって5%です。
  2. ベースCVRが2%のページで、絶対0.5ポイントの改善を検出したいとき、改善後のCVRは何%ですか。また、それは相対何%の改善にあたりますか。
    解答:2.5%、相対25%
    絶対ポイントの改善幅は、ベースCVRにそのまま足します。 \(2 + 0.5 = 2.5\) 相対%に直すには、差をベースCVRで割ります。 \(0.5 \div 2 \times 100 = 25\) よって改善後のCVRは2.5%、相対25%の改善です。
  3. ベースCVRが4%、改善後のCVRが5%のとき、式に使う平均のCVR \(\bar{p}\) を小数で求めなさい。
    解答:\(0.045\)
    \(\bar{p}\) は2つのCVRの平均で、式では%を小数に直して使います。 \(\bar{p} = (0.04 + 0.05) \div 2 = 0.09 \div 2 = 0.045\)
  4. ベースCVRが40%、改善後のCVRが60%のA/Bテストで、簡略式 \(n \fallingdotseq 2\bar{p}(1-\bar{p})(z_{\alpha/2}+z_{\beta})^2 \div (p_2-p_1)^2\) を使って各群の必要サンプル数を求めなさい。ただし \(z_{\alpha/2} = 1.96\)、\(z_{\beta} = 0.84\) とします。
    解答:98
    まず平均のCVRを求めます。 \(\bar{p} = (0.4 + 0.6) \div 2 = 0.5\) \(2\bar{p}(1-\bar{p})\) を計算します。 \(2 \times 0.5 \times 0.5 = 0.5\) \(z\) 値の和の2乗を計算します。 \((1.96 + 0.84)^2 = 2.8^2 = 7.84\) 検出したい差の2乗で割ります。 \(0.5 \times 7.84 \div (0.6 - 0.4)^2 = 3.92 \div 0.04 = 98\) よって各群98人です。
  5. 各群の必要サンプル数が6000人で、テスト対象ページに1日800回の訪問があるとき、必要な日数は何日ですか。
    解答:15日
    A・B合計のサンプル数を1日あたりの流入数で割ります。 \(2 \times 6000 \div 800 = 12000 \div 800 = 15\) 割り切れるので切り上げは不要で、15日です。
  6. 各群の必要サンプル数が7000人で、1日1500回の訪問があるとき、必要な日数は何日ですか。
    解答:10日
    A・B合計のサンプル数を1日あたりの流入数で割ります。 \(2 \times 7000 \div 1500 = 14000 \div 1500 = 9.33\cdots\) 日数は端数を切り上げるので、10日です。 9日では \(1500 \times 9 = 13500\) 人しか集まらず、必要な14000人に届きません。
  7. あるA/Bテストで、検出したい改善幅(絶対ポイント)を半分にすると、各群の必要サンプル数はおよそ何倍になりますか。ただしベースCVRと有意水準・検出力は変えないものとします。
    解答:約4倍
    必要サンプル数の式は、検出したい差 \((p_2 - p_1)\) の2乗で割る形になっています。 差が \(\dfrac{1}{2}\) になると、その2乗は \(\dfrac{1}{4}\) になります。 \(\left(\dfrac{1}{2}\right)^2 = \dfrac{1}{4}\) \(\dfrac{1}{4}\) で割ることは4を掛けることと同じなので、必要サンプル数は約4倍になります。 (分子のばらつきの部分も \(p_2\) が変わるとわずかに変わるため「約」4倍です。)
問題ページを開く A/Bテストの必要サンプル数