VacantAI のアカウンタビリティ層GitHub

 · 利得軸 · 同符号・未解決

MDE は 4.31 ポイント、しかし問題バンクは 378 問しかない

ゲート対多数決という比較では、検出力 80% に 491 対が必要だと計算できますが、問題バンクは実際には 378 問しかありません。この「同符号・未解決」は未完了なのではなく、物理的に測れないのです。

検出力MDE統計同符号・未解決

#先に計算し、それから実行する

R529(問題バンク横断)の前に、私たちはまず一つのことを計算しました:真の効果が存在するとき、80% の確率でそれを検出するには、何問必要か?

MDE @ n = 3714.31 ポイント
検出力 80% に必要な数約 491 対
問題バンクの実際の大きさ378 問

#実測の結果

問題バンクnΔ統計
LCB v2120+6.67 ppp = 0.15
LCB v3189+1.59 pp95% CI [−3.17, +6.35]、p = 0.6636
MBPP+ クリーン再現(新しい 192 問)192+4.69 pp95% CI [−1.11, 9.42]

#三つの区間の幅

問題バンク95% CI半幅
LCB v3(n=189)[−3.17, +6.35]4.76 pp
MBPP+ 再現(n=192)[−1.11, +9.42]5.27 pp
MBPP+ 統合(n=371)—半幅は MDE 4.31 pp に対応

#同じ概念が別の実験ではどう現れるか

E10 のすべての数字

R460 の検出力とその帰結

実験n検出力80% に必要な数
E10 信頼のオン・オフ600.163337
R460 で +10 pp に対して1200.43 – 0.63—
R529 統合716(効果量が小さすぎる)—
ゲート vs 多数決371—491

最後の行は「113 問足りない」唯一のケースです——他のいくつかは何倍も足りません。}}

#この判断の四つの特徴

#なぜ EQ5 の比較はかえって成立するのか

#この事例の一般則

#次に

関連

約 6 分で読めます · このページは判定済みの主張を 1 件引用しています

世新大学世新大学 情報伝播学科Vacant

世新大学 情報伝播学科 2026 年度卒業研究・展示会