問題が難しいほど、受け入れゲートの価値は高くなる
早期停止ゲートは MBPP+ で 7.8 ポイント、LiveCodeBench の難問で 20.9 ポイント多く納品しました。しかも「漏れ率」は 44 から 11 に下がりました——納品拒否は難問でこそ最も価値があります。
#三つの次元の対照
| MBPP+ | LCB v1(難問) | |
|---|---|---|
| 問題数 | 179 | 91 |
| OFF(一回だけの抽出)の失敗率 | 31.8% | 48.4% |
| ゲート vs 一回だけの抽出 | +7.82 pp | +20.88 pp |
| b / c(早期停止で救済 / 一回の抽出で正解) | 14 / 0 | 19 / 0 |
| 候補プールの上限 | 82.68% | 75.82% |
| 一回だけの抽出の成功率 | 78.2% | 45.05% |
#漏れ率:納品拒否は難問でこそ最も価値がある
| アーム | MBPP+ の漏れ | LCB 難問の漏れ |
|---|---|---|
| OFF(一回だけの抽出) | — | 44 / 91 |
| OFF5(五回の投票) | — | 35 |
| CONFORM(ゲート) | — | 11 |
| MBPP+ | LCB 難問 | |
|---|---|---|
| ゲート vs 五回の投票 | +4.47 pp | +4.40 pp |
| p | 0.0963 | 0.424 |
| ゲート vs 一回だけの抽出 | +7.82 pp | +20.88 pp |
| p | 0.0001 | < 0.0001 |
これは、難問ではモデルが自信満々に壊れたものを出しやすいからです。ゲートの仕組みは「あなたのテストを実行し、合格したら納品する」です——難問でも「これは不合格」と判断できますが、投票の仕組みは五つすべてが誤っているときには誤るしかありません。
#納品拒否された 41 問
ゲートが納品拒否した問題を一つ残らず事後監査し、五つの草稿が本当にすべて不正解かを確かめました:
| バッチ | 納品拒否 | 五つすべて不正解 |
|---|---|---|
| r447 | 7 | 7 / 7 |
| r449b | 8 | 8 / 8 |
| r449c | 10 | 10 / 10 |
| r461 | 15 | 15 / 15 |
#三つの問題バンクでの収束
R445 は三つの問題セットで収束を確かめました(ゲート vs 一回だけの抽出):
| 問題バンク | n | Δ | 統計 | 呼び出し/問 |
|---|---|---|---|---|
| MBPP+(統合 371) | 371 | +4.58 pp | 95% CI [+0.57, +8.04] | 1.51 |
| LCB v2(難問) | 120 | +19.17 pp | b=31 c=8、p = 0.0003 | 1.71 |
| LCB v3 | 189 | +7.94 pp | b=25 c=10、p = 0.0167 | 1.55 |
R445 の 8 個の事前予測:7 個的中・1 個外れ(外れたのは、区間の半幅が予測より大きかったこと)。
#この発見のメカニズム的な説明
② 拒否の情報価値。 難問ではモデルの偽の納品率が高い(44 / 91 = 48.3%)ので、「不合格と判断できる」ことの価値がより高くなります。
#これは「私たちの仕組みは有効だ」という主張にとって何を意味するか
H-B 仮説は「MBPP+ は現代のモデルには簡単すぎるので、難問の問題バンクに替えれば利得が現れる」というものでした。その仮説の対象は委員会型の設計です。
結果:難問の問題バンクに替えても、委員会の利得はやはり現れませんでした(LCB 難問での ON vs OFF5 は p = 0.4244)。
#誠実な限界
#次に
- ゲートの完全なルール:conformance-gate
- 排除された二つの仮説:hypotheses-excluded
- 評価者の層が難問でなぜより悪いのか:reviewer-tracks-difficulty

