核心概念 · 概念 / 產品主線 / 0.9.0 · 無可分辨差異 ·
零設定 Vacant
裝了就有作用,不需要任何設定。它只做一件事:在同一個工作階段裡把話送回去一次。代價是它缺了三個零件——可執行的訊號、重來的權力、拒交的權力。四個批次裡三個沒量到差別。
本頁引用 14 條裁決:成立 4・推翻 5・說太滿 1・無可分辨差異 4點一條跳到那張宣稱卡
零設定是 v0.9.0 的產品主線。它的設計目標不是做得多,而是裝完之後照常用——不打契約、不加設定、不換工作流程。
#它做什麼
核心是交件前檢查:agent 說「做完了」的那一刻,檢查要求寫出的檔在不在、有沒有跑過測試、失敗的步驟是不是被略過、有沒有出處不明的數字。
設計原則是 「只有幾乎一定是真的問題才退回;其他一律只寫進交件說明」:
| 退回類型 | 回合上限 | 理由 |
|---|
| 沒有出處的具體值 | 2 | 七個條件要全部成立 |
| 任務單獨點名的檔沒打開 | 1 | |
| 說測過但紀錄對不上 | 2 | |
| 失敗的步驟被略過 | 2 | |
| 要求寫出的檔不存在 | 2 | DABstep 的答案沒有可見測資,這一類才是主要觸發點 |
其餘的寫進「交件說明」給人看,不退回。
回合預算提醒從 v3.6 起預設關閉。 理由是一個可以量出來的取捨:
提醒讓答對率從 51.9% 升到 59.3%,但交出去的答案裡對的比例從約 82% 掉到 65%。作者的理由是:「對一個不看評分的人,多一個沒有根據的答案不是改善。」
#四個批次的結果
#① DABstep 付費批次:兩個模型都沒量到差別
77 題,每題每組一跑:
| 模型 | 沒裝 | 裝了 | p |
|---|
| gemma-4-26b(主要) | 50/77(64.9%) | 44/77(57.1%) | 0.21 |
| qwen3.8-27b(次要) | 68/77(88.3%) | 64/77(83.1%) | 0.29 |
照預註冊的說法,這叫沒量到差別,不叫「沒有效果」。
那一輪 8 次退回全部是誤報:
為什麼會這樣?82 個失敗跑裡有 54 個是「15 回合用完、答案檔還不存在」——閘門的檢查根本輪不到。剩下的錯答案,每一步都有根據,錯在「這個決定對不對」,這是只看有沒有根據的檢查從設計上看不到的東西。
#② 本機 711 格批次:p=0.021,但集中在 6 題
79 題 × 三組 × 3 次,主要分析用 77 題:
| 組 | 平均答對率 |
|---|
| A(沒裝) | 51.9% |
| C1(現版零設定) | 53.2% |
| C2(v3) | 59.3% |
預註冊主要檢定 p=0.0207,平均差 +7.4 pp。但這個 p 值不能單獨拿出去講:
作者的敏感度分析:拿掉 6 題中任兩題,p 就超過 0.05;6 題全拿掉,平均差 0.009、p=0.80。差異全部來自「走到第 14 回合還沒有答案檔」那一層,而 v3-3 這條機制一次都沒觸發:
而且 v3 是看過上一輪同一批 77 題的紀錄之後設計的,題目與規則不是獨立的。人類沒有逐條簽那份預註冊。
#③ Colab 五組程式題庫 920 題:沒量到差別
| 答對 | 率 |
|---|
| 沒裝 | 748/920 | 81.3% |
| 裝了 v3.6.1 | 758/920 | 82.4% |
p = 0.387。
這一輪最重要的發現不在答對率,在退回機制本身:
472 次退回裡 455 次是因為它只認 pytest 與 python -m unittest,不認 agent 實際跑過的 sh run_tests.sh。那 293 格的 agent 明明跑過測試。
#④ u274 預註冊批次:9 對 10
274 題依種子順序的前 100 題,全 hard、沒用過:
沒裝 9/100,裝了 10/100,McNemar 精確雙尾 p = 1.0。
原文:「就算 7 對全是 C 單獨對,p 也只有 0.016;6 比 1 是 0.125。這一批只看得到非常大的差。」
而且缺檔退回在這一批完全沒有幫上忙:
#v3.7 修掉三個缺陷
三個批次都沒量到差別之後,作者回頭修了三件事:
test_claim 認任意的測試腳本 — 不只認 pytest,只要在指令的位置被執行、檔名以 test 開頭或結尾就算。另有細則:「測試腳本紅了、之後又有一次跑測試是綠的=修好了,不算失敗的步驟被略過;一直沒綠的照舊退回。」- 交付物也從人要 agent 照著做的說明檔認 — 只收對 agent 的命令;否定、可有可無、舉例的不算。
- 模型錯誤結束的回合一律不退回 — 只寫給人看。
效果:
但作者自己寫明 v3.7 對答對率的上限很小:「Colab 新增的 10 跑缺檔退回就算全部救回,也是 920 題裡 +10 題。」
#v3.7 的後續實測:量到了,換引擎就沒了
2026-10-02,v3.7 在 Colab 上第一次量到差:
| 組 | 答對 | 率 |
|---|
| A | 97/231 | 42.0% |
| C37 | 123/231 | 53.2% |
| C37R | 139/231 | 60.2% |
C37 − A 平均差 +11.3 pp,p = 0.0028。
2026-10-03,同一個 v3.7 換成 LM Studio GGUF 後端複製:
| 組 | 答對 | 率 |
|---|
| A | 122/231 | 52.8% |
| C37 | 121/231 | 52.4% |
C37 − A −0.4 pp,p = 0.84。
作者對照組的結論是「一個引擎有、一個沒有」,並給了機制解釋:GGUF 上退回要用回合,被 15 回合切斷的從 59 升到 74,補回的和被切掉的剛好抵銷。
任務導向三題庫 94 題(不設回合上限)同樣沒量到差別:
跨批次的機制總結:DABstep 15 回合、沒裝的 agent 有 18%「說完卻沒寫」就量得到差;任務導向三庫只有 4% 就量不到。
這是這一頁最重要的一段。
零設定的 C 組缺三個零件,而這三個正是過去量到增益的機制所提供的:
| 零件 | CONFORM | 零設定 |
|---|
| 可執行的訊號 — 真的知道對錯 | 客戶的驗收測資,會跑 | DABstep 的答案沒有可見測資 |
| 重來的權力 | 最多五份候選 | 只在同一個工作階段裡退回,最多 2 次 |
| 拒交的權力 | 全不通過就不交 | 失敗一律放行,交出去的就是 agent 最後那一份 |
所以正確的說法是:「在同一個工作階段裡講一次」這條路,四個批次裡三個沒量到差別。過去有增益的都是 Vacant 握著生成的機制。 這不是矛盾,是兩個不同的機制被分別量過。
原文也明令不可以說「和過去的資料完全一致」或「過去的資料預測了這個結果」——只能說不矛盾。
#誠實邊界
- v3-2/v3-3 只在 agent 被告知回合上限時作用。 一般互動使用(pi 預設沒有上限)幾乎不會觸發。
- 提醒只看檔在不在,不說答案對不對。
- 付費批次的模擬數字假設模型照做,而且是 gemma-26b 開思考;本機的 gemma-4-12b 不思考是不同的模型。
- 模擬使用者那組證據是 L-fake:劇本決定了模型看到退回之後怎麼做。它證明「退回送得到、改了會被看見、沒問題時完全不動」,不證明真模型會照做。
- R530 在 2026-09-28 收官(退回 32 格、全對的被退 4 格),不再是未收官項。
零設定四個批次的完整記錄,含每個批次不能說什麼
#接下來