VacantAI 的可究責層GitHub

 · 增益軸 · 成立

評審追蹤的是題目難度,不是答案對錯

同一個評審層,在 MBPP+ 上近乎一律判通過(0.305 錯誤率),在 LiveCodeBench 難題上近乎一律判不通過(0.46 錯誤率)。它跟著全域性質走,不是跟著這份答案走。

評審機制分析跨題庫

#兩個題庫,同一個評審

MBPP+LCB v1(medium + hard)
題數17991
OFF 臂失敗率31.8%48.4%
初稿實際錯誤率0.3050.460
評審的原始 FAIL 主張少數(近乎一律 PASS)234 / 261 = 89.7%(近乎一律 FAIL)
評審層 − 零智慧基線−2.99 pp+0.77 pp

#審計過程中的意外

我們在查 FAIL 主張的時候,發現了大量「FAIL 主張被丟棄」:

round346 的原始 FAIL 主張率1.2% – 25.8%
其中被判定為 outside_input_contract 而丟棄73.6% – 100%

#另一個觀察:集體盲區

三次 run 併起來,在 49 個真的會失敗的任務上:

總任務數275
真負例(TN = 0 的部分)0
3 個評審代理投的票147
其中說「pass」145(98.6%)
曾經投不通過的任務2 / 49(而兩次都被多數壓過)

#三次 run 的一致結果

R438 的分析與兩個後續 run:

run評審準確率零智慧基線差距
R438(179 題)0.75520.7522+0.29 pp
R440N(179 題,gemma-only)+4.19 pp(grounded)—95% [0.00, +8.58]
R440T(91 題,LCB hard)——+0.77 pp,95% [−19.16, +11.11]

#這條結論怎麼導致設計改變

閘門怎麼取代它

#一個反面測試

R440P 做了一個很乾淨的檢驗:用零 API 的離線重放,把 895 個候選(179 題 × 5 份)全部重跑一遍。

g_r441g_r356
候選數895735
「可見過了但隱藏沒過」00
早停閘門通過率78.21%82.99%
每題呼叫1.341.13

#誠實邊界

#接下來

相關

閱讀約 5 分鐘

世新大學世新大學資訊傳播學系Vacant

世新大學資訊傳播學系 2026 畢業專題・實體展覽