Cryptul

A/Bテスト 必要サンプルサイズ計算ツール

A/Bテストに必要なサンプル数を、ベースラインCVR・検出したい差(MDE)・有意水準・検出力の4つから逆算します。 1群あたりと合計の必要件数に加え、1日あたりの想定流入を入れればテスト期間(日数)の目安まで表示。テストを始める前に「この設計は成立するのか」を判定できます。計算はすべてブラウザ内で処理され、データはサーバーに送信されません。最初は記事の基準例(CVR3.0%→+0.5pt)を表示しているので、お手元の条件に置き換えてご利用ください。

条件を入力数値は書き換えられます
② 検出したい最小の差(MDE)「これ以上の差なら施策を動かす」基準。ビジネス側が決める

→ 目標CVR 3.50%(相対 +16.7%

③ 有意水準:④ 検出力:検定:
必要サンプル数
1群あたり必要サンプル
19,716
件(A群・B群それぞれ)
合計(A群+B群)
39,432
テスト所要日数の目安
約12日
1日3,300件で割った概算

効果量 Cohen's h = 0.0282(ベースライン3.00% → 目標3.50%)。2標本の比率の逆正弦変換にもとづく正規近似で、有意水準5%・検出力0.80両側検定の条件です。

MDEを変えると必要サンプルはどう動くか
検出したい差(MDE)1群あたり合計所要日数
+1.00pt(2倍)5,27610,552約4日
+0.50pt(現在)19,71639,432約12日
+0.25pt(半分)76,007152,014約47日

検出したい差を半分にすると、必要サンプルはおよそ4倍に膨らみます(効果量の2乗に反比例)。「もっと小さい差まで見たい」は「テスト期間が4倍になってもよいか」とほぼ同義です。

使い方:テストを始める前に「成立するか」を判定する

算出した合計サンプルを日次の流入で割り、テスト期間が現実的かを確かめます。期間内に集まらないときは、勘で始めずMDEを緩める・上流の指標で測る・対象を絞るといった設計側の調整で折り合いをつけてください。テスト後の有意差判定はA/Bテスト有意差判定ツールが使えます。

サンプルサイズ設計からA/Bテストの効果検証・レポーティングまでの伴走はWeb運用代行サービス「TANTOU」で支援しています。

入力項目の読み方のポイント

ベースライン率とMDE

要するに:ベースライン率は「今のCVR」。MDEは「これ以上良くなったら施策を採用する、という最小の差」。この2つが必要サンプルをほぼ決めます。

ベースライン率は既存パターン(A群)の現状の転換率で、過去実績の平均から推定します。MDE(Minimum Detectable Effect)は検出したい最小の差で、改修コストを回収できる売上から逆算する事業判断です。検出したい差が小さいほど必要サンプルは急増するため、MDEは「ビジネス的に意味のある最小の差」と「期間内に集められる差」の折り合いで決めます。

有意水準と検出力

要するに:有意水準は「差がないのに“ある”と誤る確率の上限」(通常5%)。検出力は「差があるとき気づける確率」(通常80%)。どちらもテスト前に決めます。

有意水準α(通常0.05)は偽陽性の上限、検出力(通常0.80)は本当に差があるときに検出できる確率です。検出力0.80は「効く施策を5回に1回は見逃す」設定でもあり、見逃しのコストが高い意思決定では0.90に上げますが、必要サンプルは約34%増えます。どちらも結果を見る前に決めておく数字です。

効果量の2乗に反比例

要するに:「検出したい差を半分にすると、必要なデータは4倍」という性質。精密に測りたいほど、テスト期間は急激に伸びます。

必要サンプル数は効果量の2乗を分母に持つため、検出したい差を半分にすると必要件数は約4倍に膨らみます。逆に、MDEを少し緩めるだけでサンプル要件は劇的に軽くなります。本ツールの感応度表は、MDEを半分・2倍にしたときの必要数の変化を並べて、この性質を確認できるようにしています。

よくある質問

Q. 何を入力すればサンプルサイズが出ますか?

A. 現状のCVR(ベースライン率)、検出したい最小の差(MDE)、有意水準(通常95%)、検出力(通常0.80)の4つです。MDEは「3.0%を3.5%にしたい」のような絶対差(pt)でも、「現状から10%改善したい」のような相対差(%)でも指定できます。この4つが決まれば必要サンプル数は一意に計算されます。

Q. 「1群あたり」と「合計」のどちらを使えばよいですか?

A. テストにはA群(現行)とB群(新案)の2群があるため、実際に必要な総トラフィックは1群あたりの2倍=合計です。テスト期間を見積もるときは合計を日次の流入で割ります。1日あたりの想定流入を入力すると、所要日数の目安まで自動で計算します。

Q. MDE(検出したい最小の差)はどう決めればよいですか?

A. 「測れたら嬉しい差」ではなく、「この差未満なら、そもそも施策を動かさない」という損益分岐ラインです。改修コストを回収できる売上から逆算してビジネス側が決めます。必要サンプルはMDEの2乗に反比例するため、MDEを半分にすると必要数は約4倍に増えます。小さく置きすぎるとテストが終わらなくなる点に注意してください。

Q. どんな計算方法ですか?平均値(売上や滞在時間)でも使えますか?

A. 本ツールは比率(CVR・CTR・クリック率など2値の指標)専用で、2つの比率を効果量 Cohen's h(逆正弦変換)に直し、正規近似で1群あたりの必要サンプル数を逆算します(statsmodels の NormalIndPower と同じ結果)。売上金額や滞在時間のような連続値の平均差を見たい場合は、効果量に Cohen's d を使う別の計算(t検定ベース)が必要です。

Q. 計算した必要サンプルが、流入が少なくて集まりません。

A. 勘でテストを始めず、設計を調整します。最も効くのはMDEを緩めること(必要数が2乗で減ります)。次に、最終CVより発生頻度の高いCTR・フォーム到達率など上流の指標で測る、コンバージョンしやすいセグメントに絞ってベースライン率を上げる、といった工夫があります。どの調整でも届かないなら、固定サンプルのA/Bテスト自体がサイト規模に合っていない可能性があり、バンディットなど逐次的な手法が選択肢になります。

Q. 入力したデータはどこかに送信されますか?

A. 送信されません。計算はすべてブラウザ内のJavaScriptで処理されます。

関連記事

基礎知識集

他の無料ツール

マーケティング分析

CV逆算電卓(必要セッション数・CVRシミュレーター)

月間セッション数・CV数・目標CV数を入れるだけで、必要なセッション数とCVRを逆算。CVR改善と流入増の組み合わせ早見表、SEO記事で賄う場合の必要記事数の目安、どちらに伸びしろがあるかの診断を表示します。

ドル円換算ツール(API・クラウドのトークン課金を日本円で計算)

米ドルと日本円を毎日更新の為替レートで相互換算。AIのAPIでよくあるトークン課金(100万トークンあたりの単価)を、入力と出力の単価を分けて日本円まで計算します。トークン制の動画生成にも対応しています。

CPA/ROAS逆算電卓(広告費用対効果シミュレーター)

CPC・CVR・客単価・粗利率を入れるだけで、CPA・損益分岐CPA・ROASと黒字/赤字判定をその場で計算。目標CV数から必要な広告予算、目標ROASを保てる上限CPCの早見表も表示します。

UTM・広告計測タグ作成ツール

UTMパラメータ付きURLとGoogleタグマネージャー用の成果イベントを作成。広告媒体が発行するクリックIDの欠落確認と、Cookie規制に備えた計測体制のセルフチェックもできます。

ブラウザ・端末シェアモニター

日本と世界のPC・スマホ・タブレットアクセス比率と、全端末・PC・スマホ別のChrome・Safari・Edge・Firefox・Braveのシェア推移を図解します。

EFO診断・入力フォームチェックツール

問い合わせ・申込フォームのURLを入力するかHTMLを貼り付けるだけで、入力項目数・label紐付け・type/inputmode/autocomplete・必須指定・入力欄の分割などEFO(入力フォーム最適化)の観点を100点満点で簡易採点。離脱につながる改善点をその場で一覧表示します。解析結果は保存しません。

ファネル分析電卓(ステップ別離脱率・ボトルネック診断)

各ステップの到達人数を入れるだけで、通過率・離脱率を計算してファネル図で図解。最も落ちている段階(ボトルネック)の特定と、改善した場合のコンバージョン増加の試算を表示します。

バイラル係数シミュレーター(K-factor・ユーザー数推定)

招待数・転換率・サイクルタイム・観測期間を入れるだけで、バイラル係数(K-factor)とサイクル別の累積ユーザー数の推移を計算。有料獲得と組み合わせたときのブレンド獲得倍率も表示する無料ツールです。

複利・成長シミュレーター(MAU/WAU成長予測・複利計算)

初期値・成長率・期間を入れるだけで、複利での到達規模・投入分・成長分を計算し、推移をグラフと表で表示。資産運用の複利(CAGR)から、WebサービスのMAU/WAU成長まで、成長率の減衰や上限つきの飽和(ロジスティック)モデルも選べます。すべてブラウザ内で計算され、データはサーバーに送信されません。

A/Bテスト有意差判定ツール(カイ二乗・z検定)

各パターンの訪問数とCV数を入れるだけで、統計的に有意な差があるかをその場で判定。p値・選択した信頼水準(95%/99%)に応じた信頼区間・相対リフトと、有意差が出ない場合に必要なサンプル数の目安も表示します。すべてブラウザ内で計算され、データはサーバーに送信されません。

薬機法・景品表示法 広告表現 簡易チェックツール(無料)

広告文・バナーコピーを貼り付けるだけで、薬機法(医薬品的な効能効果の標榜)と景品表示法(優良誤認・有利誤認)のリスクフレーズをその場で簡易検出。網羅的・完璧なチェックリストではないため、ステルスマーケティング規制の自己点検チェックリストもあわせて表示します。すべてブラウザ内で処理され、入力内容はサーバーに送信されません。より高精度な確認はTANTOUで承っております。

SEO・AIクローラー対策

SEO・AI検索(GEO)診断ツール

サイトURLを入力するだけで、技術的SEO・コンテンツ・AI検索対応(GEO/LLMO)を無料で診断。タイトルや構造化データ、AI検索クローラーの許可状況などをスコア化し、改善ポイントを提示します。被リンク・順位を含む詳しい分析はコンサルティングでご案内します。

robots.txt メーカー(AIクローラー対応)

GPTBot・ClaudeBot などのAIクローラーから検索エンジン・SEO分析ツールまで、クローラーごとに許可/拒否を選ぶだけで robots.txt を生成。コピー・ダウンロードしてそのまま使えます。

GA4 AI流入 正規表現ジェネレーター(カスタムチャネルグループ用)

ChatGPT・Gemini・Claude・Perplexity などのAIサービスを選ぶだけで、GA4のカスタムチャネルグループや探索レポートで使う「セッションの参照元」一致の正規表現を生成。標準の「AIアシスタント」チャネルで取りこぼすAI流入を自前で拾えます。

robots.txt チェッカー(AIクローラー対応)

サイトURLを入力するだけで robots.txt を取得し、AIクローラー・検索エンジン・SEO分析ツールごとのアクセス可否を診断。AI検索(LLMO)への影響も警告します。

OGP確認・チェックツール

URLを入力するだけでOGPタグを取得し、Google検索結果・X・Facebook/LINE風のプレビューと改善チェックリストを表示。シェア時の見え方を公開前に確認できます。

Search Console CTR診断ツール(順位別CTR目安と比較)

Search Console のクエリ別・ページ別データを貼り付けるだけで、各行のCTRが掲載順位ごとの一般的な目安より高いか低いかをその場で判定。改善余地の大きいクエリと、目安まで上げたときのクリック増の概算も表示します。すべてブラウザ内で処理され、データはサーバーに送信されません。

ネットワーク・サーバー

テキスト・データ整形

文字数カウント(高機能・テキスト変換つき)

文字数・行数・バイト数・原稿用紙換算・読了時間・文字種の内訳をリアルタイム表示。markdownの記法やHTMLタグを除いた「ウェブ記事の表示文字数」も数えられます。任意の上限設定やSNS投稿の上限との比較に加え、全角半角・大文字小文字・ひらがなカタカナ変換、余分な空白/改行の削除、重複行削除・並べ替え、markdown/HTML除去などテキスト変換もできる無料の高機能文字数カウンターです。

半角カナ変換(全角カタカナ⇄半角カナ)

全角カタカナを半角カナに、半角カナを全角カタカナに一括変換。カナ・英字・数字・記号・スペースを文字種ごとに選んで変換でき、ひらがな⇄カタカナや小さいカナ(ャュョッ)の大文字化にも対応します。どの文字がどう変わったかを1文字ずつ確認でき、すべてブラウザ内で処理され入力はサーバーに送信されません。

テキスト・文章・文字の比較/差分(diff)チェックツール(校正・送信なし)

2つのテキスト・文章を貼り付けるだけで、追加・削除・変更箇所を色分け表示する無料の差分(diff)チェックツール。文字・単語・行の単位で比較でき、変更箇所の抽出、修正前後の文字数・読了時間の増減比較、無視オプション(空白・大文字小文字・全角半角)、一致度の表示、左右2画面/インライン切り替えにも対応。記事の校正やファイル比較にも使え、すべてブラウザ内で処理されサーバーに送信されません。

JSON整形・チェックツール

JSONの整形(インデント幅を選択可)・圧縮・キーのABC順ソート・構文エラー位置の特定をすべてブラウザ内で実行。データはサーバーに送信されません。

Mermaid ライブエディタ・図ビューア(オンライン・無料)

Mermaid記法を貼り付けるだけで、フローチャート・シーケンス図・ガントチャート・クラス図・円グラフなどをその場でリアルタイム描画。SVG・PNGでダウンロードでき、サンプルから記法も確認できます。すべてブラウザ内で処理され、図のコードはサーバーに送信されません。

ダミー画像ジェネレーター

幅・高さ・色・文字を指定するだけで、モックアップやレイアウト確認用のダミー画像(プレースホルダー画像)をその場で生成。PNG・JPEG・WebP・SVGでダウンロードでき、すべてブラウザ内で処理されます。

画像形式変換ツール(WebP・PNG・JPEG 相互変換)

PNG・JPEG・WebP・GIF・SVGなどの画像を、WebP・PNG・JPEGへその場で一括変換。変換後のファイルサイズと削減率を表示し、まとめてダウンロードできます。すべてブラウザ内で処理され、画像はサーバーに送信されません。

画像圧縮ツール(無料・一括)

PNG・JPEG・WebPなどの画像を、画質を保ったまま圧縮(軽量化)。元の形式のまま、または高圧縮なWebPへ変換でき、リサイズにも対応。圧縮前後のサイズと削減率を見ながら一括処理できます。すべてブラウザ内で処理され、画像はサーバーに送信されません。

ファビコン作成ツール(favicon.ico 生成)

画像や文字から favicon.ico と各サイズのPNG(apple-touch-icon・PWA用含む)をまとめて生成し、<head>に貼るHTMLも出力。すべてブラウザ内で処理され、画像はサーバーに送信されません。

データ分析・統計

オッズ比→確率変換シミュレーター(ロジスティック回帰)

ベース確率とオッズ比を入れるだけで、ロジスティック回帰の係数から実際の確率と確率の倍率をその場で計算。オッズ比を確率の倍率と勘違いしやすい誤解を、具体的な数値で確かめられる無料ツールです。

バスケット分析計算機(support・confidence・lift)

全取引数とアイテムA・Bの件数を入れるだけで、アソシエーション分析(バスケット分析)のsupport・confidence・liftをその場で計算。lift値から偶然以上に一緒に売れているかを判定できる無料ツールです。

協調フィルタリング シミュレーター(レコメンドの仕組み体験)

ユーザー×商品の評価表を編集するだけで、協調フィルタリング(アイテムベース)のレコメンドスコアをその場で計算。コサイン類似度から『あなたへのおすすめ』がどう決まるかを体験できる無料ツールです。

基本統計量の計算ツール

ExcelやCSVの数値データを貼り付けるだけで、平均・中央値・標準偏差・四分位数・外れ値をまとめて計算し、ヒストグラムも自動作成。すべてブラウザ内で処理され、データはサーバーに送信されません。

類似度・距離の計算ツール(コサイン類似度・ジャッカード係数)

2つの数値ベクトルやタグ・単語を入力するだけで、コサイン類似度・ユークリッド距離・マンハッタン距離・ジャッカード係数を、似ている度合いの判定と図解つきでその場で計算。RAG・検索・クラスタリング・重複検知での指標選びに使えます。すべてブラウザ内で処理され、データはサーバーに送信されません。

単回帰分析ツール

広告費と売上のような2列の数値データを貼り付けるだけで、散布図・回帰直線・回帰式・相関係数・決定係数を自動計算。回帰式を使った予測値の計算もできる無料の簡易回帰分析ツールです。

相関係数の計算ツール(ピアソン・スピアマン・相関行列)

2列以上の数値データを貼り付けるだけで、ピアソン相関係数とスピアマン順位相関係数を同時に計算し、散布図も自動作成。3列以上なら全組み合わせの相関行列をヒートマップで表示します。すべてブラウザ内で処理され、データはサーバーに送信されません。

簡易未来予測ツール(トレンド予測)

月次売上や日別アクセス数などの時系列データを貼り付けるだけで、トレンドから先の期間を予測しグラフと95%予測区間つきで表示。ExcelやCSVのコピーをそのまま使える無料の予測ツールです。

サンキーダイアグラム作成ツール(無料・日本語)

「元 [数値] 先」と書くだけで、量の流れを帯の太さで表すサンキーダイアグラムをその場で描画。家計の収支・損益計算書(PL)・サイト流入・エネルギーフローの可視化に。色変更・背景透過に対応し、SVG・PNGでダウンロードできます。すべてブラウザ内で処理され、データはサーバーに送信されません。

グラフ作成ツール(無料・日本語)|棒・折れ線・円・帯・ヒストグラム・散布図

数値を貼り付けるだけで、棒グラフ・折れ線グラフ・円グラフ・帯グラフ・ヒストグラム・散布図をその場で描画。Excel・スプレッドシートのコピー(タブ区切り)もそのまま使えます。色変更・背景透過に対応し、SVG・PNGでダウンロードできます。すべてブラウザ内で処理され、データはサーバーに送信されません。

Webサイトの運用、まるごと任せませんか?

株式会社クリプタルは、SEO・AI検索(LLMO)対応からコンテンツ制作までを定額で、広告運用を広告費の10%の手数料で、AI業務効率化を業務理解に基づく伴走支援で代行するWeb運用代行サービス「TANTOU」を提供しています。

お問い合わせ