· 利得軸 · 同符号・未解決
MDE は 4.31 ポイント、しかし問題バンクは 378 問しかない
ゲート対多数決という比較では、検出力 80% に 491 対が必要だと計算できますが、問題バンクは実際には 378 問しかありません。この「同符号・未解決」は未完了なのではなく、物理的に測れないのです。
検出力MDE統計同符号・未解決
#先に計算し、それから実行する
R529(問題バンク横断)の前に、私たちはまず一つのことを計算しました:真の効果が存在するとき、80% の確率でそれを検出するには、何問必要か?
| |
|---|
| MDE @ n = 371 | 4.31 ポイント |
| 検出力 80% に必要な数 | 約 491 対 |
| 問題バンクの実際の大きさ | 378 問 |
#実測の結果
| 問題バンク | n | Δ | 統計 |
|---|
| LCB v2 | 120 | +6.67 pp | p = 0.15 |
| LCB v3 | 189 | +1.59 pp | 95% CI [−3.17, +6.35]、p = 0.6636 |
| MBPP+ クリーン再現(新しい 192 問) | 192 | +4.69 pp | 95% CI [−1.11, 9.42] |
#三つの区間の幅
| 問題バンク | 95% CI | 半幅 |
|---|
| LCB v3(n=189) | [−3.17, +6.35] | 4.76 pp |
| MBPP+ 再現(n=192) | [−1.11, +9.42] | 5.27 pp |
| MBPP+ 統合(n=371) | — | 半幅は MDE 4.31 pp に対応 |
#同じ概念が別の実験ではどう現れるか
E10 のすべての数字
R460 の検出力とその帰結
| 実験 | n | 検出力 | 80% に必要な数 |
|---|
| E10 信頼のオン・オフ | 60 | 0.163 | 337 |
| R460 で +10 pp に対して | 120 | 0.43 – 0.63 | — |
| R529 統合 | 716 | (効果量が小さすぎる) | — |
| ゲート vs 多数決 | 371 | — | 491 |
最後の行は「113 問足りない」唯一のケースです——他のいくつかは何倍も足りません。}}
#この判断の四つの特徴
#なぜ EQ5 の比較はかえって成立するのか
#この事例の一般則
約 6 分で読めます · このページは判定済みの主張を 1 件引用しています