VacantAI のアカウンタビリティ層GitHub

 · 利得軸 · 同符号・未解決

五回の再現の後:看板の主張は自らの安定性ルールに負けた

R460 では修正ループが再サンプリングより 13.33 ポイント多いと測定され、Holm p = .0112 でした。同一問題での再現を五回行うと五回とも有意でなく、補正を通過したのは 0/5、状態は「同符号・未解決」に下がりました。

五回の再現事前登録統計自己修正

このページが引用する判定 3 件:成立 2・同符号・未解決 1クリックするとその主張カードへ移動します

#出来事の順序

2026-09-07:R460 の事前登録が四つの状態ルールを固定。

2026-09-11:R460 の実行完了(LCB v2 120 問、6 ブロック × 20)。

アーム成功率
OFF70 / 12058.33%
CONFORM85 / 12070.83%
OFF578 / 12065.00%
H-PI91 / 12075.83%
H-OC96 / 12080.00%
H-MIX101 / 12084.17%

H-MIX − CONFORM:b=22、c=6、+13.33 pp、条件付き区間 [4.22, 19.46]、Holm p = .0112 → EFFECTIVE。

2026-09-11:R460R の事前登録が「同一問題での五回の再現」の主張ルールを固定。

2026-09-12:五回の実行完了。

#事前登録された主張のルール

一回ずつ判定五回とも通過する必要がある
禁止n の統合、平均、一回だけ選んで報告
判定の閾値条件付き区間の下限 > 0 かつ Holm 補正を通過

#五回の再現の結果

納品率(%):

アームr1r2r3r4r5
OFF57.5054.1757.5051.6751.26
OFF560.8361.6759.1766.6768.64
CONFORM71.6772.5075.0070.8370.94
H-PI76.6779.1775.8380.8370.83
H-OC76.6773.3375.0078.3375.00
H-MIX77.5076.6775.8373.3374.79

H-MIX − CONFORM:

r1r2r3r4r5
Δ+5.83+4.17+0.83+2.50+4.31
Holm p.6301.91651.0000.6776.9224
95% CI[−2.79, 12.89][−5.35, 12.80][−7.44, 8.89][−5.94, 10.28][−4.54, 12.01]
状態INCONCLUSIVEINCONCLUSIVERULED_OUTINCONCLUSIVEINCONCLUSIVE

Holm を通過したのは 0 / 5。

#必ず併記する五つの報告事項

決定文書は次の五つを同時に書くよう求めており、一つも欠かせません:

① 五回とも同符号✓ 五回ともプラス
② Holm を通過したのはゼロ回✓
③ 五つの補正前区間がすべて R460 と交わる✓ R460 の区間は [4.22, 19.46]
④ 五つの上限がすべて +13.33 を下回る✓ 12.89 / 12.80 / 8.89 / 10.28 / 12.01
⑤ 問題バンクをまたぐ結果も Holm を通過していない✓ R529:+1.12 pp、Holm p = .3409

#禁止された言い方

決定文書は禁止リストをそのまま列挙しています:

「再現は安定」「再現失敗」「効果が消えた」「同等」「引き分け」「ループは役に立たない」。

n の統合、平均、一回だけを選んで報告することは禁止。

#ただし二つは同じデータで成り立つ

#ループ vs 一回だけの抽出

結果
三つの H アーム vs OFF15 / 15 セルすべてがそれぞれの Holm を通過
Δ の範囲+17.5 ~ +29.2 pp

#ゲート vs 一回だけの抽出

CONFORM − OFF:+14.17 / +18.33 / +17.50 / +19.17 / +18.97 pp(事前登録されたどのファミリーにも含まれず、補正前)。

利得の本体は「実行可能な受け入れゲート+再サンプリング」であり、フィードバックループはその上に乗った小さな上積みにすぎません。}}

すべての数字

#探索的な量:投票はゲートに負けた

再現OFF5 − CONFORM補正前 p
r1−10.83 pp0.019
r2−10.83 pp—
r3−15.83 pp—
r4−4.17 pp—
r5−1.74 pp—

3/5 で補正前 p < .05——そして有意でなかった二つは、ちょうど r4 と r5、つまりバックエンドの共存がゼロだった二回です。

バックエンドの共存率:8.5% / 71.3% / 2.1% / 0% / 0%。

#R529:問題バンクをまたいでも成り立たない

問題セットnH−C b/cC−O b/c
LCB v3 medium1356/514/4
LCB v3 hard545/33/0
HumanEval+1565/421/3
MBPP+37115/1126/8
統合71631/2364/15
比較差統計
H-MIX − CONFORM+1.12 pp区間 [−1.02, 3.13]、Holm p = .3409
H-MIX − OFF+7.96 ppHolm p = 2.02 × 10⁻⁸
CONFORM − OFF+6.84 ppファミリー外

8 個の事前予測:4 個的中・4 個外れ → INCONCLUSIVE。

#R532:より強いモデルに替えると負になった

2026-09-17/18。qwen3.8-27b Q4_K_M、非 reasoning、836 タスク、43 ブロック、無効 0。

H-MIX − CONFORM は五つの問題セットですべて負:−5.83 / −5.19 / −16.67 / −1.28 / −0.54。統合 −3.23 pp、区間 [−5.52, −0.75]、Holm p = 0.0101。

#最終的な状態

主張状態
ループは一回だけの抽出より多く納品する成立(15/15 が Holm を通過)
ゲートは一回だけの抽出より多く納品する成立(五回ともファミリー外で有意)
利得の本体はゲート+再サンプリング成立(監査による判断)
ループは再サンプリングより多く納品し、token も多く使わない同符号・未解決
他の二つのループアームも再サンプリングに勝つ同符号・未解決(10/10 が Holm を通過せず)
ループの利得はループから来ており、prompt からではない成立(D5 の帰属分析)

最後の項目をどう測ったか

そして「token を多く使わない」がなぜ成り立たないのか

#この事例が教えたこと

#次に

関連

約 9 分で読めます · このページは判定済みの主張を 3 件引用しています

世新大学世新大学 情報伝播学科Vacant

世新大学 情報伝播学科 2026 年度卒業研究・展示会