これは成功率の向上であり、token 効率の向上ではない
一通ずつ再計算した 197 セルで差はゼロでした。H-MIX は一回だけの抽出の 2.23–2.78 倍の token を使い、五回の再現のうち四回で、正しい納品一件あたりのコストがゲートより高くつきました。「同じ上限」は「同じ実際のコスト」ではありません。
#混同しやすい二つの定義
reasoning | completion の部分集合であり、別に一回加算されるものではない |
| 失敗したリクエスト | 中核実験の 116 件の失敗したリクエストには usage がなく、不明として計上(0 で埋めない) |
#R460 のコスト
| アーム | 納品率 | token / 問 | token / 正しい納品 |
|---|---|---|---|
| OFF | 58.33% | 2,913 | 4,994 |
| CONFORM | 70.83% | 5,805 | 8,195 |
| OFF5 | 65.00% | 15,004 | 23,084 |
| H-PI | 75.83% | 9,448 | 12,459 |
| H-OC | 80.00% | 7,432 | 9,290 |
| H-MIX | 84.17% | 5,677 | 6,745 |
#三つの比
| 比較 | 問題あたり | 正しい納品あたり |
|---|---|---|
| H-MIX vs OFF | 2.23 – 2.78× | 1.65 – 2.11× |
| H-MIX vs CONFORM | 0.92 – 1.56×(R460R)/1.07 – 1.69×(R529) | — |
| OFF5 vs CONFORM | 2.16 – 2.85×、しかも毎回納品率がより低い | — |
#「token を多く使わない」は成り立たない
私たちの元の看板の主張は「修正ループは再サンプリングより多く納品し、しかも token を多く使わない」でした。
| r1 | r2 | r3 | r4 | r5 | |
|---|---|---|---|---|---|
| H-MIX vs CONFORM 問題あたり | 0.92× | — | — | — | 1.56× |
| 正しい納品あたり | — | — | — | — | 四回は CONFORM より高い |
#なぜ「同じ上限」は「同じコスト」ではないのか
#R529 のホスト別の発見
R529 は互いに重ならない四つの問題セットを使い、二台の LM Studio ホストにまたがっていました:
| ホスト | HumanEval+ の結果 | H-MIX token/問 | CONFORM token/問 | 差 |
|---|---|---|---|---|
| reasoning 有効(0.4.24) | 両アームとも 94 / 100 | 4,368 | 2,291 | +90.7% |
| reasoning 無効(0.4.17) | 54 / 56 vs 53 / 56 | 924 | 1,064 | −13.2% |
reasoning は completion の 63.0% – 96.3% を占めます。
#より良い設計の順序
したがって私たちが勧める順序は、まず早期停止つき再サンプリングを作り、修正は後から加える付加価値として扱うことです。}}
#誠実な限界
#次に
- 同じデータでの納品率の結果:loop-vs-single-shot
- コストが主張の判定にどう影響したか:five-replications
- ゲートの完全なルール:受け入れゲート

