VacantAI 的可究責層GitHub

 · 增益軸 · 成立

題目越難,驗收閘門越值錢

早停閘門在 MBPP+ 上多交付 7.8 個百分點,在 LiveCodeBench 難題上多交付 20.9 個百分點。而且「洩漏率」從 44 降到 11——拒交在難題上最值錢。

LiveCodeBench閘門難度增益

#三個維度的對照

MBPP+LCB v1(難題)
題數17991
OFF(單抽一次)失敗率31.8%48.4%
閘門 vs 單抽一次+7.82 pp+20.88 pp
b / c(早停救回 / 單抽就對)14 / 019 / 0
候選池上限82.68%75.82%
單抽一次的成功率78.2%45.05%

#洩漏率:拒交在難題上最值錢

臂MBPP+ 洩漏LCB 難題洩漏
OFF(單抽)—44 / 91
OFF5(五次投票)—35
CONFORM(閘門)—11
MBPP+LCB 難題
閘門 vs 五次投票+4.47 pp+4.40 pp
p0.09630.424
閘門 vs 單抽+7.82 pp+20.88 pp
p0.0001< 0.0001

這是因為難題上模型更容易自信地交出壞東西。閘門的機制是「跑你的測試,過才交」——它在難題上仍然能判斷「這個不過」,而投票機制在五份都錯的時候只能錯。

#41 個被拒交的題目

事後審計每一個被閘門拒交的題目,看五份草稿是不是真的都錯:

批次被拒交五份全錯
r44777 / 7
r449b88 / 8
r449c1010 / 10
r4611515 / 15

#三個題庫的收斂

R445 用三個題庫集收斂(閘門 vs 單抽一次):

題庫nΔ統計每題呼叫
MBPP+(併庫 371)371+4.58 pp95% CI [+0.57, +8.04]1.51
LCB v2(難題)120+19.17 ppb=31 c=8,p = 0.00031.71
LCB v3189+7.94 ppb=25 c=10,p = 0.01671.55

R445 的 8 條事前預測:7 中 1 失(失誤的是區間半寬比預測大)。

#這條發現的機制解釋

② 拒絕的資訊價值。 難題上模型的假交付率更高(44 / 91 = 48.3%),所以「能判斷不過」這件事的價值更高。

#這對「我們的機制有效」這個宣稱意味著什麼

這裡有一個張力

H-B 假說是「MBPP+ 對現代模型太簡單,換難題庫就會顯出增益」。那個假說的對象是委員會式設計。

結果:換到難題庫,委員會的增益還是沒出現(ON vs OFF5 在 LCB 難題上 p = 0.4244)。

#誠實邊界

#接下來

相關

閱讀約 5 分鐘

世新大學世新大學資訊傳播學系Vacant

世新大學資訊傳播學系 2026 畢業專題・實體展覽