VacantAI 的可究責層GitHub

實驗 · 結果 / 增益 · 

增益軸

這是花最多力氣、也自我推翻最多的一條軸。頭條是「AI 評審輸給多數決」,結論是「可執行驗收閘門+重抽有效,修訂迴圈的額外增益同號未解析」。

本頁引用 7 條裁決:成立 2・推翻 1・說太滿 1・無可分辨差異 1・同號未解析 2點一條跳到那張宣稱卡

#這一軸回答什麼

在需求已可編譯為可執行驗收測資的條件下,驗收閘門、重抽與失敗回饋修訂,各自為交付成功率帶來多少增益,代價是多少 token。

增益軸:22 條宣稱的裁決

成立10/22推翻4/22說太滿2/22無可分辨差異5/22同號未解析1/22

增益軸・迴圈:17 條宣稱的裁決

成立6/17推翻7/17同號未解析4/17

#開頭:委員會式設計輸了

#早期 G 系列(探索性)

等預算比較(同題、同呼叫數):

比較n結果p
ON vs OFF5(371 任務)34782.42% vs 83.57%0.5572
OFF5 vs OFF(非等預算)34983.09% vs 78.51%0.0090

關鍵發現:OFF5 臂在程式裡寫死了 accepted = True——它沒有拒絕這條路。所以上面那個比較實際上是「一個有免費閘門的臂」對「一個被禁止拒絕的臂」。

#R437 決定性三臂 run

事前訂的三個判準(2026-08-24/28 凍結):

判準裁決
① OFF 失敗率落在 20–60%✓ 26.44%(Wilson [20.4, 33.4])——量具有訊號
② 三臂有可分辨差異量不到(這本身就是答案)
③ ON 在等預算下贏 OFF5✓ 答案是沒有

#R438 機制分析(成立)

指標數值
評審票準確率0.7552
「全部判通過」零智慧基線0.7522
差距+0.29 pp
單輪修訂「沒有機會修正」93 / 113
盲目採用修訂版後隱藏通過率82.3% → 78.8%(−3.5 pp)
修訂帶來的真實改善1 / 113

為什麼評審層幾乎等於常數函數

#兩個假說都被排除

人類在 2026-09-01 提出兩個解釋,兩個都被自己的實驗排除。

#H-A 天花板:worker 太強

換成單一 12B 模型(gemma-4-12b,179 題),獨立稽核逐列重算與 R516 完全一致(rows.jsonl 525 行 sha 440d973c、calls 1,986 sha 3d24b73d)。

臂n通過失敗率
OFF17912231.8%(Wilson [25.5, 39.0])
ON167(+12 void = 6.7%)12226.9%
OFF517913226.3%

ON vs OFF5:n=167、b=11、c=12、p = 1.0000。評審的 grounded lift +4.19 pp,95% [0.00, +8.58]。

把 worker 換弱,失敗率確實升了(25.5% → 31.8%),增益仍然沒有出現。

#H-B 難題:題庫太簡單

換成有日期戳的比賽難題(LiveCodeBench v1,91 題 medium+hard,gemma-only)。

臂n通過失敗率交付洩漏每題呼叫
OFF914748.4% [38.4, 58.5]91441.00
ON87(4 void)5833.3%69(79.3% 覆蓋)115.09
OFF5915638.5%91355.00

ON vs OFF5:n=87、b=15、c=10、p = 0.4244。題庫確實更難(比 MBPP+ 的 31.8% 高 16.6 pp),但增益仍然沒出現。

三個乾淨的 run、兩個模型家族、兩個題庫��兩種難度,答案一致:等預算下這個機制打不贏 self-consistency。}}

兩個解釋先被排除,機制才有地方改

#順帶:洩漏率是閘門最穩的好處

臂接收但實際失敗(洩漏)
OFF44
OFF535
ON11

題目越難,拒絕越值錢。 這是整條軸裡最早成立的機制結論。

#轉向:R440P,執行取代意見

2026-09-03。刪除評審委員會,改成跑客戶自己的驗收測資。零 API 的離線重放:把已保存的五候選資料重算一遍。

g_r441(gemma-12b)g_r356(qwen35b + gemma12b 池)
候選895(179×5)735(147×5)
早停通過率78.21%,1.34 呼叫82.99%,1.13 呼叫
OFF5 實際出貨73.74%,5.00 呼叫77.55%,5.00 呼叫
差+4.47 pp,b=13 c=5,p=0.0963+5.44 pp,b=11 c=3,p=0.0574
候選池上限82.68%(31 題五份全錯)85.03%(22 題全錯)
早停 vs 單抽+7.82 pp,b=14 c=0,p=0.0001+6.80 pp,b=10 c=0,p=0.0020

#兩個自我審查

  • R440P 自己的審計抓到自己的錯:第一版「等預算」規則用隱藏測資的多數決——違反 V/GT 分離,而且不是一個可出貨的機制。改成只看可見。
  • R440U 閘門成本(成立):ON 是唯一能扣留的臂(覆蓋 0.829 vs 其他 1.0)。中段 n=77:扣留 14,丟掉正確答案的次數 a = 0。事前訂的判準 a ≤ 2 → 閉。

閘門這條線的全部數字與裁決

#R445:三個題庫的收斂

題庫nΔp / CI每題呼叫
MBPP+(併庫)371+4.58 pp[+0.57, +8.04]1.51
LCB v2120+19.17 ppb=31 c=8,p=0.00031.71
LCB v3189+7.94 ppb=25 c=10,p=0.01671.55

事後審計被拒交的題目:五個草稿每次都錯——r447 7/7、r449b 8/8、r449c 10/10、r461 15/15。閘門拒掉的不是運氣。

題目越難,早停越值錢

#EQ5:同一組候選,閘門 vs 投票

conformance-gate

#R460:六臂,事前寫死四個狀態

2026-09-07 至 09-11。LCB v2 120 題,6 個區塊 × 20。gemma-4-12b-it-qat Q4_0,temperature 0.7,六種 persona,LM Studio 0.4.17,reasoning token 全為 0。

臂成功率
OFF70/12058.33%
CONFORM85/12070.83%
OFF578/12065.00%
H-PI91/12075.83%
H-OC96/12080.00%
H-MIX101/12084.17%

H-MIX − CONFORM:b=22、c=6、+13.33 pp、條件區間 [4.22, 19.46]、Holm p = .0112 → 標為 EFFECTIVE。

#R460R:五次複製,頭條宣稱輸給自己的規則

這是整個專題最重要的一頁。 詳細拆解見 five-replications,這裡只放結論:

五次的 H-MIX − CONFORM+5.83 / +4.17 / +0.83 / +2.50 / +4.31 pp
五次的 Holm p.6301 / .9165 / 1.0000 / .6776 / .9224
通過 Holm 的次數0 / 5
狀態INCONCLUSIVE / INCONCLUSIVE / RULED_OUT / INCONCLUSIVE / INCONCLUSIVE
五個未校正區間全部與 R460 的 [+4.22, 19.46] 相交
五個上界全部低於 +13.33

被禁用的說法:「複製穩定」、「複製失敗」、「效應消失」、「等價」、「打成平手」、「迴圈沒用」。禁止合併 n、禁止平均、禁止挑一次來報。

#但有兩條在同一批資料上站得住

差異統計
三條 H 臂 vs OFF15/15 格全部通過自己的 Holm差異範圍 +17.5 ~ +29.2 pp
CONFORM − OFF+14.17 / +18.33 / +17.50 / +19.17 / +18.97 pp落在每個預註冊家族之外

增益的主體是「可執行的驗收閘門+重抽」,回饋迴圈只是疊在它上面的小增量。

#探索量:投票輸給閘門,而且貴一倍以上

複製OFF5 − CONFORM未校正 p
r1−10.83 pp0.019
r2−10.83 pp—
r3−15.83 pp—
r4−4.17 pp—
r5−1.74 pp—

3/5 未校正 p < .05——而兩個不顯著的正好是 r4 與 r5,也就是後端零共存的兩次。 這條不在任何預註冊家族裡,狀態是「同號未解析」。

#R529:跨題庫四集

題庫集nOFFCONFORMH-MIXH−C b/cC−O b/c
LCB v3 medium1351151251266/514/4
LCB v3 hard543841435/33/0
HumanEval+1561291471485/421/3
MBPP+37127729529915/1126/8
併庫71655960861631/2364/15
比較差異統計
H-MIX − CONFORM+1.12 pp條件區間 [−1.02, 3.13],Holm p = .3409
H-MIX − OFF+7.96 ppHolm p = 2.02 × 10⁻⁸
CONFORM − OFF+6.84 pp家族外,未校正

8 條事前預測:4 中 4 失 → INCONCLUSIVE。異質性 χ² = 0.135、df = 3、p = .987(僅供描述,最小期望格數 < 5)。

假交付沒有重現:6 vs 9、7 vs 11、6 vs 6、58 vs 56(MBPP+)。

#成本:這是成功率提升,不是 token 效率提升

R460 每題 token / 每個正確交付的 token:

臂率token/題token/正確
OFF58.33%2,9134,994
CONFORM70.83%5,8058,195
OFF565.00%15,00423,084
H-PI75.83%9,44812,459
H-OC80.00%7,4329,290
H-MIX84.17%5,6776,745
  • H-MIX vs OFF:2.23–2.78×/題、1.65–2.11×/正確
  • H-MIX vs CONFORM:0.92–1.56×/題(R460R)、1.07–1.69×/題(R529)
  • 五次複製中有四次,H-MIX 每個正確交付比 CONFORM 更貴
  • OFF5 vs CONFORM:2.16–2.85×/題,而且每次交付率都更低

逐通重算的 token 帳

「同樣的上限」不等於「同樣的實際成本」。

#R532:換更強的模型

2026-09-17/18。qwen/qwen3.8-27b Q4_K_M,非 reasoning,836 任務、43 個區塊、0 作廢、2,508 列;V/GT 指紋 199,019 項 CLEAN;86 條收據鏈 / 3,895 筆全部驗得過。

H-MIX − CONFORM 的五個題庫集全部為負:−5.83 / −5.19 / −16.67 / −1.28 / −0.54。併庫 −3.23 pp,區間 [−5.52, −0.75],Holm p = 0.0101(b=38, c=65)。

#檢定力:為什麼有些題目永遠量不出來

題庫Δ統計
LCB v2+6.67 ppp = 0.15
LCB v3+1.59 pp95% CI [−3.17, +6.35],p = 0.6636
MBPP+ 乾淨複製(192 題)+4.69 pp95% CI [−1.11, 9.42]

MDE 4.31 pp,但題庫只有 378 題

#這條軸目前欠的

#接下來

最後更新: · 閱讀約 14 分鐘 · 本頁引用 7 條已裁決宣稱

世新大學世新大學資訊傳播學系Vacant

世新大學資訊傳播學系 2026 畢業專題・實體展覽