VacantAI のアカウンタビリティ層GitHub

 · 利得軸 · 成立

問題が難しいほど、受け入れゲートの価値は高くなる

早期停止ゲートは MBPP+ で 7.8 ポイント、LiveCodeBench の難問で 20.9 ポイント多く納品しました。しかも「漏れ率」は 44 から 11 に下がりました——納品拒否は難問でこそ最も価値があります。

LiveCodeBenchゲート難度利得

#三つの次元の対照

MBPP+LCB v1(難問)
問題数17991
OFF(一回だけの抽出)の失敗率31.8%48.4%
ゲート vs 一回だけの抽出+7.82 pp+20.88 pp
b / c(早期停止で救済 / 一回の抽出で正解)14 / 019 / 0
候補プールの上限82.68%75.82%
一回だけの抽出の成功率78.2%45.05%

#漏れ率:納品拒否は難問でこそ最も価値がある

アームMBPP+ の漏れLCB 難問の漏れ
OFF(一回だけの抽出)—44 / 91
OFF5(五回の投票)—35
CONFORM(ゲート)—11
MBPP+LCB 難問
ゲート vs 五回の投票+4.47 pp+4.40 pp
p0.09630.424
ゲート vs 一回だけの抽出+7.82 pp+20.88 pp
p0.0001< 0.0001

これは、難問ではモデルが自信満々に壊れたものを出しやすいからです。ゲートの仕組みは「あなたのテストを実行し、合格したら納品する」です——難問でも「これは不合格」と判断できますが、投票の仕組みは五つすべてが誤っているときには誤るしかありません。

#納品拒否された 41 問

ゲートが納品拒否した問題を一つ残らず事後監査し、五つの草稿が本当にすべて不正解かを確かめました:

バッチ納品拒否五つすべて不正解
r44777 / 7
r449b88 / 8
r449c1010 / 10
r4611515 / 15

#三つの問題バンクでの収束

R445 は三つの問題セットで収束を確かめました(ゲート vs 一回だけの抽出):

問題バンクnΔ統計呼び出し/問
MBPP+(統合 371)371+4.58 pp95% CI [+0.57, +8.04]1.51
LCB v2(難問)120+19.17 ppb=31 c=8、p = 0.00031.71
LCB v3189+7.94 ppb=25 c=10、p = 0.01671.55

R445 の 8 個の事前予測:7 個的中・1 個外れ(外れたのは、区間の半幅が予測より大きかったこと)。

#この発見のメカニズム的な説明

② 拒否の情報価値。 難問ではモデルの偽の納品率が高い(44 / 91 = 48.3%)ので、「不合格と判断できる」ことの価値がより高くなります。

#これは「私たちの仕組みは有効だ」という主張にとって何を意味するか

ここには一つの緊張がある

H-B 仮説は「MBPP+ は現代のモデルには簡単すぎるので、難問の問題バンクに替えれば利得が現れる」というものでした。その仮説の対象は委員会型の設計です。

結果:難問の問題バンクに替えても、委員会の利得はやはり現れませんでした(LCB 難問での ON vs OFF5 は p = 0.4244)。

#誠実な限界

#次に

関連

約 6 分で読めます

世新大学世新大学 情報伝播学科Vacant

世新大学 情報伝播学科 2026 年度卒業研究・展示会