VacantAI のアカウンタビリティ層GitHub

 · 利得軸 · 未再検証

これは成功率の向上であり、token 効率の向上ではない

一通ずつ再計算した 197 セルで差はゼロでした。H-MIX は一回だけの抽出の 2.23–2.78 倍の token を使い、五回の再現のうち四回で、正しい納品一件あたりのコストがゲートより高くつきました。「同じ上限」は「同じ実際のコスト」ではありません。

コストtoken統計

#混同しやすい二つの定義

reasoningcompletion の部分集合であり、別に一回加算されるものではない
失敗したリクエスト中核実験の 116 件の失敗したリクエストには usage がなく、不明として計上(0 で埋めない)

#R460 のコスト

アーム納品率token / 問token / 正しい納品
OFF58.33%2,9134,994
CONFORM70.83%5,8058,195
OFF565.00%15,00423,084
H-PI75.83%9,44812,459
H-OC80.00%7,4329,290
H-MIX84.17%5,6776,745

#三つの比

比較問題あたり正しい納品あたり
H-MIX vs OFF2.23 – 2.78×1.65 – 2.11×
H-MIX vs CONFORM0.92 – 1.56×(R460R)/1.07 – 1.69×(R529)—
OFF5 vs CONFORM2.16 – 2.85×、しかも毎回納品率がより低い—

#「token を多く使わない」は成り立たない

私たちの元の看板の主張は「修正ループは再サンプリングより多く納品し、しかも token を多く使わない」でした。

r1r2r3r4r5
H-MIX vs CONFORM 問題あたり0.92×———1.56×
正しい納品あたり————四回は CONFORM より高い

#なぜ「同じ上限」は「同じコスト」ではないのか

#R529 のホスト別の発見

R529 は互いに重ならない四つの問題セットを使い、二台の LM Studio ホストにまたがっていました:

ホストHumanEval+ の結果H-MIX token/問CONFORM token/問差
reasoning 有効(0.4.24)両アームとも 94 / 1004,3682,291+90.7%
reasoning 無効(0.4.17)54 / 56 vs 53 / 569241,064−13.2%

reasoning は completion の 63.0% – 96.3% を占めます。

#より良い設計の順序

R532 の修正案

したがって私たちが勧める順序は、まず早期停止つき再サンプリングを作り、修正は後から加える付加価値として扱うことです。}}

#誠実な限界

#次に

関連

約 6 分で読めます

世新大学世新大学 情報伝播学科Vacant

世新大学 情報伝播学科 2026 年度卒業研究・展示会