證據帳本
58 條對外宣稱,每一條都有裁決值、依據數值與重算方式。被推翻的、說太滿的、量不出差異的,全部留在表上——一個宣稱可究責的系統,必須先能對自己可究責。
#這張表是怎麼來的
每條宣稱帶四樣東西:
- 原文 — 當時對外說的是什麼。
- 依據數值 — 支撐它的數字,帶分母。
- 裁決值 — 六種狀態之一。
- 更正後 — 如果裁決是「推翻」或「說太滿」,正確的說法是什麼。
- 成立事前訂的判準通過(預註冊、跑完對答案)
- 推翻宣稱是錯的,正確說法列在「更正後」
- 說太滿核心站得住但說得太滿,或原始證據/機制解釋有問題
- 無可分辨差異量到沒有可分辨的效應——這本身就是答案,不是沒測完
- 同號未解析預註冊的規則沒有觸發任何一個狀態,沒量出來,不是沒有差異
- 未複驗尚未送複驗——不等於通過
#統計
#完整帳本
點任何一列展開看依據數值、原始紀錄路徑與重算方式。
顯示 58/58 條
| ID | 宣稱 | 原文 | 裁決 |
|---|---|---|---|
pulse.definition | 脈衝攻擊的定義 | 脈衝攻擊=放電 B 筆連續作惡 → 蓄積 R 筆乾淨交付 → 重複;既有三種策略是其特例 | 未複驗 |
pulse.timing_minor筆記 → | 時間結構幾乎不影響總得手 | 攻擊的時間結構幾乎不影響總得手數:15 格 (burst,recover) 網格落在 2.83–5.13(1.81 倍) | 說太滿 |
pulse.blindspot_dominates | 盲區的影響大於攻擊者參數 | 盲區的影響遠大於攻擊者的參數選擇:pulse 8.9 倍、patient 54 倍,對照參數網格的 1.81 倍 | 說太滿 |
pulse.crossover筆記 → | 盲區高過 0.5–0.75 後脈衝不如持續作惡 | 盲區超過約 0.5–0.75 之後,脈衝反而不如單純的持續作惡(盲區拉滿時差 3.8 倍) | 推翻 |
pulse.audit_cannot_close_blindspot筆記 → | 加大稽核救不回有盲區的情況 | 加大稽核率救得回零盲區(100% 稽核=完全封鎖),救不回有盲區的情況(仍有 0.97 得手、僅 57% 全擋) | 推翻 |
pulse.starvation筆記 → | 一次被抓=永久除名 | 一次被抓=永久除名。被抓過的 16 個 seed 裡,16 個在那之後再也沒被路由過 | 說太滿 |
pulse.reaction_lag | 零盲區下仍漏 2.53 筆、28 輪才反應 | 即使零盲區,一波仍漏掉 2.53 筆、平均 28 輪才反應 | 未複驗 |
pulse.crude_wins_under_blindspot筆記 → | 等預算下 crude 策略勝過脈衝 | 等預算(各 12 筆)+盲區 0.5 之下,whitewash 8.17 反而勝過脈衝 4.23 | 推翻 |
entry.fee_backfires | 入場費設太低反而幫攻擊者熬過見習期 | 入場費設得太低反而幫攻擊者熬過見習期:stake=0 全擋,stake=2 得手 5.00、ROI 2.35 | 未複驗 |
entry.reviewer_accuracy_binds | 真正的約束是評審準確率 | 真正的約束是評審準確率:acc=0 時得手 16.65、ROI 1.04(作惡開始有利可圖) | 未複驗 |
realmodel.e10_paired_null筆記 → | E10 信任開關配對實驗無顯著差異 | E10 信任開關 N=60 配對:on 36/60 vs off 31/60,差 +8.3%,95% CI [-5.0%, 21.7%] 跨 0、McNemar p=0.332,不顯著 | 未複驗 |
realmodel.measurement_error筆記 → | 第一次量測讀錯欄位的假結果 | 第一次量測是錯的:讀了 audit.passed 當品質判準,而 off 臂依設計不稽核,做出 0/11 vs 5/10 的假結果 | 未複驗 |
gain.signal_exists | 量具本身有訊號(OFF 失敗率落窗) | 量具有訊號:無信任層(OFF)時失敗率 26.44%,落在事前訂的 20–60% 窗內 | 成立 |
gain.arms_differ筆記 → | 三臂交付品質有可分辨差異 | 三臂(OFF/ON/OFF5)的交付品質有可分辨的差異 | 無可分辨差異 |
gain.equal_budget_on_beats_off5筆記 → | 等預算下 Vacant 贏過五次取多數 | 等預算下,Vacant(ON)打得贏同題跑五次取多數決(OFF5) | 推翻 |
gain.mechanism筆記 → | 打不贏的機制:評審票近乎常數、修訂無淨修正 | 打不贏的機制:評審票幾乎是常數函數,修訂幾乎不產生淨修正 | 成立 |
gain.ceiling_hypothesis筆記 → | 換弱模型就會顯出增益(天花板假說 H-A) | 35b worker 太強造成天花板效應,換成 12b 單模型後 Vacant 就會顯出增益 | 推翻 |
gain.hard_bench_hypothesis筆記 → | 換難題庫就會顯出增益(難度假說 H-B) | MBPP+ 對現代模型太簡單,換成有日期戳的比賽難題(LiveCodeBench)就會顯出增益 | 推翻 |
gain.reviewer_tracks_difficulty筆記 → | 評審追蹤的是題目難度不是答案對錯 | 評審追蹤的是題目難度這個全域性質,不是個別答案的對錯 | 成立 |
gain.clean_dataset | 決定性 run 是第一個乾淨的完整資料集 | 決定性 run 是第一個乾淨的完整資料集:無已知 bug 污染、void 率在窗口內 | 說太滿 |
gain.conform_early_stop_beats_single筆記 → | 早停閘門比單抽一份多交付 | 「跑客戶自己的驗收測資、交第一份通過的、全不通過就拒交」(CONFORM 早停閘門)比「單抽一份就收」(OFF)多交付 | 成立 |
gain.gate_rule_beats_majority_vote_same_candidates筆記 → | 同一組候選,閘門規則勝過五份投票 | 在同一組 5 份候選、同樣 5 通呼叫下,閘門規則(交第一份通過的、全不通過就不交)比五份投票取多數交付得多 | 成立 |
gain.conform_vs_off5_unresolved筆記 → | 閘門在交付準確率上贏過多數決 | 閘門(CONFORM)在交付準確率上贏得過同題跑五次取多數決(OFF5) | 同號未解析 |
gain.lossless_visible_filter筆記 → | 可見篩選是無損的 | 可見篩選是無損的——沒有出現「隱藏測資會過、但可見驗收沒過」的候選 | 成立 |
gain.off5_helps_on_hard_only筆記 → | 五倍預算只在難題上買得到東西 | 五倍預算的 self-consistency(OFF5 對 OFF)只在難題上買得到東西 | 成立 |
peerexec.mutual_execution_below_threshold | 多數門檻以下互跑可指名說謊者 | 在多數門檻以下(腐化執行器數 ≤ ⌊(k−1)/2⌋),互跑不互審的交付與無腐化基線逐位相同,說謊者被指名、誠實者不被誣告 | 成立 |
peerexec.suite_fixed_point筆記 → | 互跑對「驗收套件本身腐化」毫無防禦 | 互跑不互審對「驗收套件本身腐化」毫無防禦——這是機制的固定點,R451→R452 把它縮小成一個殘餘,但沒有消滅 | 成立 |
peerexec.majority_bound | 指名有數學上界 ⌊(k−1)/2⌋ | 指名有數學上界:多數決最多容忍 ⌊(k−1)/2⌋ 個腐化執行器,過半即反轉 | 成立 |
harness.hmix_loop_beats_resample_same_budget筆記 → | 修訂迴圈比換人重抽多交付且不多花 token | 把五通呼叫花在「跑客戶的驗收測資、把失敗原文貼回去、讓同一個 worker 改」(H-MIX),比花在換人重抽(CONFORM)多交付,且 token 不多花 | 同號未解析 |
harness.loop_beats_single_shot_replicated筆記 → | 回饋迴圈比單抽一份多交付 | 把五通呼叫花在回饋迴圈(H-MIX/H-PI/H-OC),比單抽一份就收(OFF)多交付——這一條跨題庫、跨複製都站得住 | 成立 |
harness.gain_comes_from_executable_gate_and_resample筆記 → | 增益主體是閘門+重抽,迴圈是小增量 | 增益的主體是「可執行的驗收閘門+重抽」,回饋迴圈只是疊在它上面的小增量 | 成立 |
harness.majority_vote_loses_to_gate筆記 → | 同樣五通,投票輸給閘門且貴一倍以上 | 同樣五通呼叫,五份投票取多數(OFF5)**輸給**「跑驗收測資、交第一份通過的」(CONFORM),而且貴一倍以上 | 同號未解析 |
harness.hpi_hoc_vs_resample_unresolved | 另外兩條迴圈臂也贏過換人重抽 | pi 式原始回饋迴圈(H-PI)與計畫+診斷+自測(H-OC)也贏過換人重抽 | 同號未解析 |
harness.gain_is_the_loop_not_the_prompt筆記 → | 增益幾乎全來自迴圈不是 prompt 措辭 | H-MIX 的增益幾乎全來自「把失敗原文貼回去讓它改」的迴圈,不是第一輪 prompt 的措辭 | 成立 |
zero.dabstep_paid_no_difference筆記 → | 零設定對 DABstep:兩個模型都沒量到差別 | 在 DABstep 付費正式批次上,裝了零設定 Vacant 的 agent 答對率沒有量到比沒裝的高:gemma-4-26b 50/77 對 44/77(p=0.21)、qwen3.8-27b 68/77 對 64/77(p=0.29)。 | 無可分辨差異 |
zero.dabstep_paid_rejects_all_false筆記 → | 那一輪 8 次退回全部是誤報 | 零設定在 DABstep 付費批次觸發的 8 次退回,修正後全部都不會發生——158 跑一次都不會退回,也就是修好之後 C 等於 A,不幫忙也不傷害。 | 推翻 |
zero.local711_p021_thin筆記 → | 本機 711 格批次 p=0.021,但差別集中在 6 題 | 零設定 v3 在本機 711 格批次對沒裝的預註冊主要檢定 p=0.0207,但作者自己寫明顯著性很薄:6 題全拿掉之後平均差 0.009、p=0.80;兩跑的結果翻過來 p 就超過 0.05。 | 說太滿 |
zero.v3_3_never_fired筆記 → | v3-3「只剩一回合只退回缺檔」一次都沒觸發 | v3-3 這條機制在本機 150 次走到交件前檢查中一次都沒有觸發,沒有可觀察的貢獻。 | 推翻 |
zero.colab920_no_difference筆記 → | 零設定對 Colab 920 題程式庫沒量到差別 | 在 Colab 五組程式題庫 920 題上,裝了 v3.6.1 的 agent 答對率沒有量到比沒裝的高:748/920(81.3%)對 758/920(82.4%),p=0.387。 | 無可分辨差異 |
zero.colab920_rejects_96pct_false筆記 → | 920 題批次上 96% 的退回是誤退 | v3.6.1 在程式題上的退回 96% 是誤退:472 次退回裡 455 次是因為它只認 pytest 與 python -m unittest,不認 agent 實際跑過的 sh run_tests.sh。 | 推翻 |
zero.u274_no_difference筆記 → | u274 預註冊批次:9 對 10,沒有量到差別 | 在 274 題依種子順序的前 100 題(全 hard、沒用過)上,沒裝 9/100 答對、裝了 v3.6.1 10/100 答對,McNemar 精確雙尾 p=1.0,沒有量到差別。 | 無可分辨差異 |
zero.u274_missing_file_returns_all_wrong筆記 → | u274 的缺檔退回 31 跑,之後沒有任何一跑答對 | u274 批次裡缺檔退回觸發 31 跑(共 37 次),這 31 跑最後沒有一跑答對——17 錯、14 還是沒交。C 多交的答案檔都錯,也多撞 18 次時限。 | 推翻 |
zero.v37_fixes_three_defects筆記 → | v3.7 修掉三個缺陷,退回從 309 降到 29 | v3.7 修掉三個缺陷:認任意測試腳本(不只 pytest)、交付物也從人要 agent 照著做的說明檔認、模型錯誤結束的回合一律不退回。在 Colab 920 題批次上第一次就退回的跑數從 309 降到 29。 | 成立 |
zero.v37_colab_p0028筆記 → | v3.7 在 Colab 上量到 +11.3 pp(p=0.0028) | v3.7 在 Colab 的 DABstep 711 格批次上量到比沒裝的高:A 97/231(42.0%)、C37 123/231(53.2%)、C37R 139/231(60.2%);主要檢定 C37−A 平均差 +11.3 pp,p=0.0028。 | 成立 |
zero.v37_gguf_not_replicated筆記 → | 同一個 v3.7 換成 GGUF 後端就沒有複製出來 | 在 vacant-dev 複製(LM Studio GGUF、gemma-4-12b、15 回合上限)上,同一個 v3.7 的主要檢定不顯著:C37−A −0.4 pp,p=0.84。Colab 那個 p=0.0028 沒有複製出來。 | 推翻 |
zero.task3_no_difference筆記 → | 任務導向三題庫 94 題沒量到差別 | 在任務導向三題庫 94 題、Colab、不設回合上限下,v3.7 沒有量到差別:A 136/188(72.3%)對 C37 141/188(75.0%),Wilcoxon p=0.36。 | 無可分辨差異 |
zero.reminder_default_off筆記 → | 回合預算提醒預設關,因為它多交的答案錯多於對 | 從 v3.6 起回合預算提醒預設關閉,要的人自己加 --budget-reminder。理由是提醒讓答對率從 51.9% 升到 59.3%,但多交出來的答案錯多於對。 | 成立 |
zero.not_contradicts_past筆記 → | 零設定的否定結果與過去的資料不矛盾 | 零設定三個批次的否定結果與過去量到的增益不矛盾,因為過去沒有量過完全一樣的設定。過去有增益的都是 Vacant 自己握著生成的機制。 | 成立 |
trace.two_layer_attribution | 追緝分兩層:只有事實層能接後果 | 每一個追緝結論分兩層:事實層(重跑翻轉、自稱成功但指令失敗、違反禁止項)才可以接信譽後果;推論層(「第 k 步造成」「讀到壞輸入」)只進報告。 | 成立 |
trace.lfake_attribution_correct | 追緝端到端歸因正確 33/33、25/25、16/16 | 四個真 agent 端到端跑八個埋錯情境,歸因正確(狀態/類別/等級/指到的步驟/來源都對)33/33;同一批情境走 vacant do 是 25/25;真互動 TUI 是 16/16。 | 成立 |
trace.feedback_never_names_actor | 給 agent 的回饋裡從來沒有行動者識別 | 三張端到端表裡,給 agent 的回饋中都沒有出現行動者識別:原生 0/33、vacant do 0/25、TUI 0/16。咎責對象是步驟與行動者,但回饋只給人看。 | 成立 |
trace.review47_and_boundaries | 追緝線的 47 條對抗審查與七條誠實邊界 | 追緝線做過五個鏡頭 47 條對抗審查,46 條成立、1 條判為既有誠實邊界但照樣收緊,並列七條誠實邊界,其中三句明令不准說。 | 成立 |
trace.scale_perf | 四萬檔的第一次掃描要 5.7 秒,之後每次掛鉤 557 毫秒 | 追緝掃整個工作區(增量)在 4 核本機上可撐住掛鉤的 30 秒上限:4 萬檔第一次掃描 5.7 秒,之後每次掛鉤 p50 557 ms、p95 597 ms,Stop 端到端 1.9 秒。 | 成立 |
tui.seven_measurement_errors | 互動式 A/B harness 的七個量測錯誤,方向都讓數字長得比實際好看 | 互動式 TUI 的 A/B harness 有七個量測錯誤,每一個都在真 pi 0.87.1 上抓到,而且每一個的方向都是讓數字長得比實際好看。 | 成立 |
pi.possess_three_defects | pi extension 缺三樣東西,裝了等於沒裝 | pi 互動模式的 extension 有三個缺陷,其中兩個讓它完全不能用:安裝報成功但每一通都 sink、模型 id 對不上實際送出的。 | 推翻 |
opencode.w2_silent_noop | opencode 沒有 stop 事件:37 個 step 的完整病歷、零個裁決 | opencode 的 plugin 沒有註冊 stop 事件,導致回合結束檢查不可達:一格實測記下 37 個 step 的完整簽章病歷、零個裁決、沒有 delivery.md。作者說這比不做更危險,因為鏈看起來是對的。 | 推翻 |
wave1.unresolved | 原生平台 wave 1:同號未解析,不是負結果 | 原生平台 wave 1(20 題 × 三臂)配對 McNemar 的 discordant 只有 2 對,p=0.50,作者記為 unresolved——不是負結果也不是正結果。 | 同號未解析 |
intake.five_silent_defects | 通用收件口端到端量出五件『會讓人以為成立、其實不成立』的缺陷 | 通用收件口的端到端量出五件缺陷,其中兩件是單元測試抓不到的:Codex 會拒絕啟動、OpenCode 的加法層讓使用者的全域規則安靜地從提示裡消失。 | 推翻 |
逐條明細
pulse.definition脈衝攻擊的定義未複驗防守軸
脈衝攻擊=放電 B 筆連續作惡 → 蓄積 R 筆乾淨交付 → 重複;既有三種策略是其特例
原始紀錄:vacant/entrycost.py::_should_defect 的 pulse 分支
先行研究
不是新的。2005 年即為 strategic oscillation,2009 年進 ACM Computing Surveys 的攻擊分類表,命名為 oscillation attack。
pulse.timing_minor時間結構幾乎不影響總得手說太滿防守軸
攻擊的時間結構幾乎不影響總得手數:15 格 (burst,recover) 網格落在 2.83–5.13(1.81 倍)
更正後
在盲區 0.5 這一點上量不到時間結構的效應,但那是 absence of evidence。把得手拆成「路由次數 × 每次得手率」後,前者跨度 6.06 倍、後者 8.45 倍——總數之所以平,是曝光與效率反向抵消。攻擊能力差 8.45 倍。
依據數值
- 最小
- 2.8333
- 最小格
- (1,20)
- 最大
- 5.1333
- 最大格
- (8,20)
欄位:cells[].accepted_bad.mean
原始紀錄:脈衝攻擊_2026-08-03/E24.json
pulse.blindspot_dominates盲區的影響大於攻擊者參數說太滿防守軸
盲區的影響遠大於攻擊者的參數選擇:pulse 8.9 倍、patient 54 倍,對照參數網格的 1.81 倍
更正後
盲區與時間結構有強交互作用(雙因子分解 η²=0.264,是時間結構主效應的 4 倍),所以「真正的變數是 X」這個句型本身不成立。在盲區 1.0 且曝光固定為 90 次時,光是時間結構就跨 29 倍——比歸給盲區的 8.9 倍還大。
依據數值
- pulse blind=0
- 2.3667
- pulse blind=1
- 21
- patient blind=0
- 1.4667
- patient blind=1
- 79
欄位:cells[].accepted_bad.mean
原始紀錄:脈衝攻擊_2026-08-03/E20.json
pulse.crossover盲區高過 0.5–0.75 後脈衝不如持續作惡推翻防守軸
盲區超過約 0.5–0.75 之後,脈衝反而不如單純的持續作惡(盲區拉滿時差 3.8 倍)
更正後
盲區升高時改變的是**最佳蓄積長度往 0 移動**,不是脈衝這個家族變弱。實測 pulse(20,2)/(20,1)/(50,1) 在盲區 1.0 得手 81/84/87,全部高過 patient 的 79。
依據數值
- blind=0.75
- {"patient":8.3333,"pulse":7.7667}
- blind=1.0
- {"patient":79,"pulse":21}
原始紀錄:脈衝攻擊_2026-08-03/E20.json
pulse.audit_cannot_close_blindspot加大稽核救不回有盲區的情況推翻防守軸
加大稽核率救得回零盲區(100% 稽核=完全封鎖),救不回有盲區的情況(仍有 0.97 得手、僅 57% 全擋)
更正後
偵測機率是單一乘積 (1−盲區)×抽樣率×準確率,三者同軸。抽樣率與盲區可互相替換(稽核 0.5→1.0 剛好抵銷 50% 盲區,配對差 0.03、p=0.78)。盲區改變的是防禦的**天花板**(殘量 β/(1−β)),不是抽樣率有沒有用。
依據數值
- blind=0 audit=1.0
- {"accepted_bad":0,"shutout":1}
- blind=0.5 audit=1.0
- {"accepted_bad":0.9667,"shutout":0.5667}
原始紀錄:脈衝攻擊_2026-08-03/E21.json
pulse.starvation一次被抓=永久除名說太滿防守軸
一次被抓=永久除名。被抓過的 16 個 seed 裡,16 個在那之後再也沒被路由過
更正後
被 slash(0.5) 一次就在任何可達視野內退出路由。乾淨隔離後更強:defect_budget=1、4000 輪下,未被抓的 27/30 跑到第 3993 輪,被抓的 3/3 其後 3961 輪零路由。真正的機制不是「per-stream 時鐘讓等待無效」——等待其實有效(UCB 探索項);致命的是 slash 的 β += (α+β) 同時砍半均值並加倍 n,而 n 是回歸時間的指數係數:懲罰把自己的赦免管道一起關小了。
依據數值
- 被抓的 seed 數
- 16
- 其後再被路由的 seed 數
- 0
- 最後被路由輪次中位數
- 171
- 總輪數
- 600
原始紀錄:脈衝攻擊_2026-08-03/E17/logs/burst3__p*.jsonl
pulse.reaction_lag零盲區下仍漏 2.53 筆、28 輪才反應未複驗防守軸
即使零盲區,一波仍漏掉 2.53 筆、平均 28 輪才反應
依據數值
- hits_per_burst
- 2.5333
- react_lag_rounds
- 27.95
欄位:cells[label=blind=0.0].hits_per_burst.mean / react_lag_mean.mean
原始紀錄:脈衝攻擊_2026-08-03/E22.json
pulse.crude_wins_under_blindspot等預算下 crude 策略勝過脈衝推翻防守軸
等預算(各 12 筆)+盲區 0.5 之下,whitewash 8.17 反而勝過脈衝 4.23
更正後
真正綁住預算後排名反轉(budget=2:patient/pulse 1.67 vs whitewash 0.97,配對 p=0.0015)。whitewash 的優勢來自免費換身份重新取得路由權——它用掉 4.7 個身份、到第 542 輪還在接單,而 pulse 第 160 輪就被餓死。那是入場成本問題,與脈衝的時機結構無關。
依據數值
- whitewash
- 8.1667
- sybil
- 6.1333
- pulse(5,20)
- 4.3
- pulse(3,10)
- 4.2333
- patient
- 3.7333
原始紀錄:脈衝攻擊_2026-08-03/E19.json
entry.fee_backfires入場費設太低反而幫攻擊者熬過見習期未複驗防守軸
入場費設得太低反而幫攻擊者熬過見習期:stake=0 全擋,stake=2 得手 5.00、ROI 2.35
欄位:cells[].accepted_bad.mean / roi.mean
原始紀錄:入場成本_2026-07-26/E4.json
entry.reviewer_accuracy_binds真正的約束是評審準確率未複驗防守軸
真正的約束是評審準確率:acc=0 時得手 16.65、ROI 1.04(作惡開始有利可圖)
原始紀錄:入場成本_2026-07-26/E12.json
realmodel.e10_paired_nullE10 信任開關配對實驗無顯著差異未複驗防守軸
E10 信任開關 N=60 配對:on 36/60 vs off 31/60,差 +8.3%,95% CI [-5.0%, 21.7%] 跨 0、McNemar p=0.332,不顯著
原始紀錄:真模型_2026-07-26/E10/{on,off}/rows.jsonl
realmodel.measurement_error第一次量測讀錯欄位的假結果未複驗防守軸
第一次量測是錯的:讀了 audit.passed 當品質判準,而 off 臂依設計不稽核,做出 0/11 vs 5/10 的假結果
原始紀錄:examples/realmodel_suite.py 的註解(該處保留了錯誤的完整說明)
gain.signal_exists量具本身有訊號(OFF 失敗率落窗)成立增益軸
量具有訊號:無信任層(OFF)時失敗率 26.44%,落在事前訂的 20–60% 窗內
依據數值
- OFF processed
- 179
- OFF infra_void
- 5
- measured
- 174
- 失敗率
- 0.2644
- Wilson CI95
- [0.204,0.334]
原始紀錄:增益實驗_2026-08-30/DECISION_20260901_R437_DECISIVE_RUN_COMPLETE_FINAL.md
gain.arms_differ三臂交付品質有可分辨差異無可分辨差異增益軸
三臂(OFF/ON/OFF5)的交付品質有可分辨的差異
更正後
「三臂有差異」不成立。在這個 worker 池(qwen3.6-35b+gemma-4-12b)與 MBPP+ 上,ON 與 OFF5 的交付品質量不出可分辨差異。
依據數值
- raw ON vs OFF5
- {"n":101,"ON":0.7525,"OFF5":0.7723,"b":6,"c":8,"p":0.7905}
- typing 修正版
- {"n":101,"ON":0.8416,"OFF5":0.8119,"b":5,"c":2,"p":0.4531}
原始紀錄:增益實驗_2026-08-30/DECISION_20260901_R437_DECISIVE_RUN_COMPLETE_FINAL.md
gain.equal_budget_on_beats_off5等預算下 Vacant 贏過五次取多數推翻增益軸
等預算下,Vacant(ON)打得贏同題跑五次取多數決(OFF5)
更正後
ON 比 self-consistency 多做的事(評審+單輪修訂)在這批 worker 與題目上沒有交付可量測的價值;邊界:換更強評審、換「有反例才修」觸發、換題庫都可能翻盤,那是新實驗(R440/R440B 階梯)。
依據數值
- 完整配對
- {"n":101,"p":0.4531}
- 難題子集(OFF 失敗集合)
- {"n":21,"ON":0.2857,"OFF5":0.2857,"b":1,"c":1,"p":1}
原始紀錄:增益實驗_2026-08-30/DECISION_20260901_R438_HARD_SUBSET_AND_REVISE_MECHANISM.md
gain.mechanism打不贏的機制:評審票近乎常數、修訂無淨修正成立增益軸
打不贏的機制:評審票幾乎是常數函數,修訂幾乎不產生淨修正
依據數值
- 生效評審票準確率
- 0.7552
- almost-PASS 基線
- 0.7522
- 差
- 0.0029
- revise 反事實 no_opportunity
- 93/113
- 盲目採用 revised 的 hidden 通過率
- 82.3%→78.8%
- discarded_win
- 0/113
- revision_transition=improved
- 1/113
原始紀錄:增益實驗_2026-08-30/DECISION_20260901_R438_HARD_SUBSET_AND_REVISE_MECHANISM.md
gain.ceiling_hypothesis換弱模型就會顯出增益(天花板假說 H-A)推翻增益軸
35b worker 太強造成天花板效應,換成 12b 單模型後 Vacant 就會顯出增益
更正後
在這個機制設計下,worker 強弱不是綁定約束。
依據數值
- OFF 失敗率
- 0.318
- ON vs OFF5
- {"n":167,"b":11,"c":12,"p":1}
- 評審 grounded −基線
- +4.19pp(95% [0, 8.58])
- ON void
- 12/179
原始紀錄:增益實驗_2026-08-30/DECISION_20260903_R440N_E1_INDEPENDENT_AUDIT_CONCUR.md
gain.hard_bench_hypothesis換難題庫就會顯出增益(難度假說 H-B)推翻增益軸
MBPP+ 對現代模型太簡單,換成有日期戳的比賽難題(LiveCodeBench)就會顯出增益
更正後
三個乾淨 run、兩個模型家族、兩個題庫、兩種難度,答案一致:等預算下這個機制打不贏 self-consistency。
依據數值
- OFF 失敗率
- 0.484
- Wilson CI95
- [0.384,0.585]
- ON vs OFF5
- {"n":87,"b":15,"c":10,"p":0.4244}
- 題庫確實更難
- 比 MBPP+ 的 31.8% 高 16.6pp
原始紀錄:增益實驗_2026-08-30/DECISION_20260904_R440T_E3_WRAPUP.md
gain.reviewer_tracks_difficulty評審追蹤的是題目難度不是答案對錯成立增益軸
評審追蹤的是題目難度這個全域性質,不是個別答案的對錯
依據數值
- MBPP+
- {"原始 FAIL 主張":"少數(近乎一律 PASS)","初稿錯誤率":0.305,"原始層−常數基線":"-2.99pp"}
- LCB 難題
- {"原始 FAIL 主張":"234/261 = 89.7%(近乎一律 FAIL)","初稿錯誤率":0.46,"原始層−常數基線":"+0.77pp"}
- 解釋
- 換題庫只是換了它偏向哪一個常數
原始紀錄:增益實驗_2026-08-30/DECISION_20260904_R440T_E3_WRAPUP.md
gain.clean_dataset決定性 run 是第一個乾淨的完整資料集說太滿增益軸
決定性 run 是第一個乾淨的完整資料集:無已知 bug 污染、void 率在窗口內
更正後
配對分析用的是三臂皆非 void 的 n=101 題,統計結論不受 void 直接影響;但「乾淨」應改成「無已知 bug 污染、配對子集 n=101」,void 率要照實列出。round459/R440D 之後的 qwen-only run void 79% 已另案判為不可用。
依據數值
- ON infra_void
- 66/179
- OFF5 infra_void
- 30/179
- OFF infra_void
- 5/179
- R437 自記
- void率 ON=36.2% OFF5=16.9% ⚠VOID-GATE-WARNING
- equal_budget_comparison_valid(summary 欄位)
- false
原始紀錄:增益實驗_2026-08-30/g_r356_3arm_summary.json
gain.conform_early_stop_beats_single早停閘門比單抽一份多交付成立增益軸
「跑客戶自己的驗收測資、交第一份通過的、全不通過就拒交」(CONFORM 早停閘門)比「單抽一份就收」(OFF)多交付
依據數值
- MBPP+ 併庫 371 題
- +4.58pp(CI [+0.57, +8.04])
- LCB v2 120 題
- {"delta_pp":19.17,"b":31,"c":8,"p":0.0003}
- LCB v3 189 題
- {"delta_pp":7.94,"b":25,"c":10,"p":0.0167}
- 呼叫/題
- 1.51/1.71/1.55 對 1.00
欄位:rows.jsonl 的 arm/task_id/delivered/hidden_pass/calls_used
原始紀錄:runs/g_r444_conform_mbpp/rows.jsonl、runs/g_r445_conform_mbpp_ext/rows.jsonl(MBPP+ 併庫 371 題);runs/g_r447_conform_lcb2/rows.jsonl(LCB v2 120 題);runs/g_r461_lcb3_three_arm/rows.jsonl(LCB v3 189 題)
重算方式:ops/gain/replay/conform_settle.py、ops/gain/replay/paired_ci.py、ops/gain/replay/pooled_paired_ci.py(零 API,只讀 rows.jsonl)
gain.gate_rule_beats_majority_vote_same_candidates同一組候選,閘門規則勝過五份投票成立增益軸
在同一組 5 份候選、同樣 5 通呼叫下,閘門規則(交第一份通過的、全不通過就不交)比五份投票取多數交付得多
依據數值
- r446
- {"gate":75.47,"vote":71.43,"b":24,"c":9,"delta_pp":4.04,"ci95":[0.796,6.529],"p":0.0135}
- r448
- {"gate":77.09,"vote":73.58,"b":21,"c":8,"delta_pp":3.5,"ci95":[0.81,6.47],"p":0.0241}
- r449b
- {"gate":70.83,"vote":62.5,"b":15,"c":5,"delta_pp":8.33,"ci95":[0.3,13.78],"p":0.0414}
- r449c(UNRESOLVED)
- {"gate":83.07,"vote":78.84,"b":13,"c":5,"delta_pp":4.23,"ci95":[-0.66,7.68],"p":0.0963}
原始紀錄:runs/g_r446_eq5_mbpp/rows.jsonl(MBPP+ 371 題)、runs/g_r448_eq5_mbpp_seed2/rows.jsonl(MBPP+ 371 題、換種子)、runs/g_r449_eq5_lcb2/rows.jsonl(LCB v2 難題 120 題)、runs/g_r449c_eq5_lcb3/rows.jsonl(LCB v3 189 題,判 UNRESOLVED)
重算方式:ops/gain/analyze_eq5.py(零 API,只讀 rows.jsonl;它自己印的 prereg 區塊**不是**仲裁者,見 R449B §三 末)
gain.conform_vs_off5_unresolved閘門在交付準確率上贏過多數決同號未解析增益軸
閘門(CONFORM)在交付準確率上贏得過同題跑五次取多數決(OFF5)
依據數值
- LCB v2
- {"delta_pp":6.67,"p":0.15}
- LCB v3
- {"delta_pp":1.59,"ci95":[-3.17,6.35],"p":0.6636}
- MBPP+ 乾淨複製(新 192 題)
- {"delta_pp":4.69,"ci95":[-1.11,9.42]}
- MDE@371
- 4.31
- 80%_power_需配對數
- 491
- 題庫上限
- 378
原始紀錄:runs/g_r447_conform_lcb2/rows.jsonl(LCB v2 120 題)、runs/g_r461_off_gate_lcb3/rows.jsonl 與 runs/g_r461_lcb3_three_arm/rows.jsonl(LCB v3 189 題);MBPP+ 側 runs/g_r445_conform_mbpp_ext/rows.jsonl
重算方式:ops/gain/replay/paired_ci.py、ops/gain/replay/off5_k_curve.py
gain.lossless_visible_filter可見篩選是無損的成立增益軸
可見篩選是無損的——沒有出現「隱藏測資會過、但可見驗收沒過」的候選
依據數值
- MBPP+ 合計
- 0/1630
- LCB v1 重放
- 0/455
- LCB v2 真跑
- 0/120
- LCB v3 真跑
- 0/189
- 重疊(非獨立樣本)
- LCB v1 重放與 LCB v2 真跑共用 91 題
欄位:rows.jsonl 的 visible_pass 與 hidden_pass;違反=hidden_pass ∧ ¬visible_pass
原始紀錄:runs/g_r441_gemma_only_mbpp_b/rows.jsonl(0/895)、runs/g_r356_3arm_20260830/rows.jsonl(0/735)、runs/g_r443_gemma_lcb/rows.jsonl(LCB v1 重放 0/455)、runs/g_r447_conform_lcb2/rows.jsonl(LCB v2 真跑 0/120)、runs/g_r461_off_gate_lcb3/rows.jsonl(LCB v3 真跑 0/189)
重算方式:ops/gain/replay/rows_visible_audit.py、ops/gain/replay/verify_hidden.py、ops/gain/replay/check_lcb_visible_subset.py
gain.off5_helps_on_hard_only五倍預算只在難題上買得到東西成立增益軸
五倍預算的 self-consistency(OFF5 對 OFF)只在難題上買得到東西
依據數值
- MBPP+
- {"delta_pp":0.81,"ci95":[-2.78,4.28],"格":"RULED_OUT"}
- LCB v2
- {"delta_pp":12.5,"b":22,"c":7,"p":0.0081}
- LCB v3
- {"delta_pp":6.35,"b":22,"c":10,"p":0.0501}
- 對照(改花法比加預算更有用)
- +19.2pp @1.71 通 vs +12.5pp @5 通
- r461 不算難題複製
- lcb3 的 OFF 失敗率 27.5%,已回到 MBPP+ 量級 31.8%
原始紀錄:runs/g_r441_gemma_only_mbpp_b/rows.jsonl 與 runs/g_r356_3arm_20260830/rows.jsonl(MBPP+)、runs/g_r447_conform_lcb2/rows.jsonl(LCB v2 120 題)、runs/g_r461_lcb3_three_arm/rows.jsonl(LCB v3 189 題)
重算方式:ops/gain/replay/off5_k_curve.py、ops/gain/replay/paired_ci.py
peerexec.mutual_execution_below_threshold多數門檻以下互跑可指名說謊者成立紀錄與多方
在多數門檻以下(腐化執行器數 ≤ ⌊(k−1)/2⌋),互跑不互審的交付與無腐化基線逐位相同,說謊者被指名、誠實者不被誣告
依據數值
- 模擬 門檻以下
- {"與無腐化基線逐位相同":"100 格","說謊者被指名":1,"誠實者被誣告":0,"1 個腐化 k=1":"−7.8pp、偵測 0","1 個腐化 k=3":"偵測 1.000"}
- 真跑 R453(k=2)
- {"跨機可見標籤一致":"1840/1840","出貨 sha":"340/340","拒交":"26/26","誠實執行器被指名":0,"每台鏈驗真":"2/2","spec/render sha 跨機相同":"368/368"}
- 真跑 R454(k=3、1 把說謊)
- {"說謊格 dissenters 恰為 {K3}":"273/273","誠實金鑰出現在指名欄":"0(分母 1840)","自相矛盾格裁決仍正確":"58/58","三條鏈驗真":"3/3(鏈長 1840/1840/1899)","證言逐筆驗簽失敗":"0(共 5519 筆)"}
原始紀錄:【模擬】ops/gain/replay/peer_exec_sweep.json(200 格:r446 371 題×5 候選、r443 91 題×5、k∈{1,3,5,7}、腐化比例 0–70%、五種攻擊)、ops/gain/replay/peer_exec_flake.json(抖動×腐化);【真跑】ops/gain/replay/r453/r453_result.json 與 r453_independent_audit.json(k=2、Mac+vacant-dev)、ops/gain/replay/r454/r454_result.json 與 r454_naming_table.tsv(k=3、1 把說謊)
重算方式:ops/gain/replay/peer_exec_sim.py(模擬)、ops/gain/replay/peer_exec_real.py(真跑)、ops/gain/replay/receipt_chain_audit.py(鏈驗證);程式在 vacant/peerexec.py
peerexec.suite_fixed_point互跑對「驗收套件本身腐化」毫無防禦成立紀錄與多方
互跑不互審對「驗收套件本身腐化」毫無防禦——這是機制的固定點,R451→R452 把它縮小成一個殘餘,但沒有消滅
依據數值
- trivial 套件
- {"交付率":"−6.47pp/−18.68pp","假交付":"31%/49%","四個 k 的爭議率":"全部 0.0%"}
- R451 量具綁進 commit
- trivial 套件 371/371 在 commit 就被拒(沒花一次沙箱)
- R451 stateful 變體
- {"交付率":"−75.20pp","交付":"0.00%","gauge_status":"ok(量具作為部分解作廢)"}
- R452 套件改成資料
- {"exec 走私上鏈":"368/371 → 0/371","超大十六進位整數穿門":"11/11 → 0/11","無損":"1840(MBPP+)+455(LCB)個候選逐格相同、0 不一致"}
- 殘餘(一律講兩個數字,分母 366/371 上鏈題)
- {"可實現 generic_gauged":"17.93% → 20.65%=+2.72pp","事後諸葛上限 weak_oracle":"+4.35pp"}
原始紀錄:ops/gain/replay/peer_exec_trivial_suite.json(「載得進就算過」的套件)、ops/gain/replay/r451_stateful_gate.json(量具兩方向滿分的 stateful 變體)、ops/gain/replay/peer_exec_suitespec_gate.json 與 r452b_smuggle_gate.json(exec 走私)、ops/gain/replay/r452c_generic_gate.json 與 r452c_channel_hunt.json(殘餘:generic_gauged/weak_oracle)、ops/gain/replay/r453/r453_gauge.json
重算方式:ops/gain/replay/r452_suitespec.py、ops/gain/replay/r452c_generic_gate.py、ops/gain/replay/r452b_smuggle_gate.py;程式在 vacant/suitegauge.py
peerexec.majority_bound指名有數學上界 ⌊(k−1)/2⌋成立紀錄與多方
指名有數學上界:多數決最多容忍 ⌊(k−1)/2⌋ 個腐化執行器,過半即反轉
依據數值
- 容忍上界
- ⌊(k−1)/2⌋
- 過半後誣告率
- 0.175/0.374(兩批掃描:r446 371 題×5、r443 91 題×5)
- 固定腐化比例下 k=1..7 交付率
- 一字不變(串謀 67.39%、破壞 0%)
- k=3/quorum=2 缺一票
- 1-1 平手 ⇒ 未決、不指名
原始紀錄:ops/gain/replay/peer_exec_sweep.json(配套量測:固定腐化比例下 k 從 1 到 7交付率一字不變)、ops/gain/replay/r454/r454_naming_table.tsv(真跑的指名欄)
harness.hmix_loop_beats_resample_same_budget修訂迴圈比換人重抽多交付且不多花 token同號未解析增益軸・迴圈
把五通呼叫花在「跑客戶的驗收測資、把失敗原文貼回去、讓同一個 worker 改」(H-MIX),比花在換人重抽(CONFORM)多交付,且 token 不多花
依據數值
- R460
- {"OFF":{"deliv":58.33,"false_delivery_n":50,"tokens_per_task":2913},"CONFORM":{"deliv":70.83,"false_delivery_n":29,"tokens_per_task":5805},"OFF5":{"deliv":65,"false_delivery_n":42,"tokens_per_task":15004},"HPI":{"deliv":75.83,"false_delivery_n":17,"tokens_per_task":9448},"HOC":{"deliv":80,"false_delivery_n":18,"tokens_per_task":7432},"HMIX":{"deliv":84.17,"false_delivery_n":14,"tokens_per_task":5677},"HMIX_vs_CONFORM":{"b":22,"c":6,"delta_pp":13.33,"ci95":[4.22,19.46],"p":0.0037,"holm_p_adj":0.0112,"verdict":"EFFECTIVE"},"HMIX_vs_OFF":{"b":34,"c":3,"delta_pp":25.83,"ci95":[17.32,29.78]}}
- R460R_HMIX_vs_CONFORM_by_rep
- [{"rep":1,"num":93,"den":120,"conform_num":86,"delta_pp":5.83,"b":15,"c":8,"ci95":[-2.79,12.89],"holm_p_adj":0.63,"four_state":"INCONCLUSIVE"},{"rep":2,"num":92,"den":120,"conform_num":87,"delta_pp":4.17,"b":17,"c":12,"ci95":[-5.35,12.8],"holm_p_adj":0.917,"four_state":"INCONCLUSIVE"},{"rep":3,"num":91,"den":120,"conform_num":90,"delta_pp":0.83,"b":12,"c":11,"ci95":[-7.44,8.89],"holm_p_adj":1,"four_state":"RULED_OUT","ci95_upper":8.89,"四狀態語意":"RULED_OUT =排除 ≥+10pp,不是排除任何效果"},{"rep":4,"num":88,"den":120,"conform_num":85,"delta_pp":2.5,"b":13,"c":10,"ci95":[-5.94,10.28],"holm_p_adj":0.678,"four_state":"INCONCLUSIVE","註":"上界 10.28 離 RULED_OUT 只差 0.28pp ⇒ 四狀態計數對區間方法極敏感"},{"rep":5,"num":87,"den":116,"conform_num":82,"delta_pp":4.31,"b":14,"c":9,"ci95":[-4.54,12.01],"holm_p_adj":0.922,"four_state":"INCONCLUSIVE","分母":"complete-case 116(7 列 infra_void 作廢)","作廢最壞界":[0.83,7.5]}]
- R460R_rep5_per_arm_den
- {"OFF":119,"CONFORM":117,"OFF5":118,"HPI":120,"HOC":120,"HMIX":119}
- R460R_rep5_infra_void
- {"n":7,"by_arm":{"OFF":1,"CONFORM":3,"OFF5":2,"HMIX":1},"來源":"2026-09-13 01:44Z 後端模型崩潰後 JIT 重載(TTL 1h、每小時 :07 卸載);notes.jsonl 逐筆寫 HTTP 400 Failed to load model gemma-4-12b-it-qat(5)/HTTP 500(2)"}
- R460R_reps_run
- 5
- R460R_reps_prereg
- 5
- R460R_statement_rule
- 5/5 同號成立、≥4/5 Holm 顯著不成立(0/5)⇒ 逐次照實列;不准寫「複製穩定」「多數支持」,也不准寫「複製失敗」「效果消失」「等價」
- R460R_holm_significant_n
- 0
- R460R_ci_all_intersect_R460
- 五個未調整區間全部與 R460 的 [4.22, 19.46] 相交
- R460R_ci_uppers
- [12.89,12.8,8.89,10.28,12.01]
- R460R_ci_uppers_all_below_13.33
- true
- R460R_power_expectation
- n=120 對 +10pp 檢定力 0.43–0.63 ⇒ 五次預期 2–3 次過;真值若為 +10pp,0/5 的機率約 0.007–0.06(下尾)
- R460R_co_tenancy_pct
- [8.5,71.3,2.1,0,0]
- R529_HMIX_vs_CONFORM_by_set
- [{"set":"lcb3_medium","num":126,"den":135,"conform_num":125,"delta_pp":0.74,"b":6,"c":5},{"set":"lcb3_hard","num":43,"den":54,"conform_num":41,"delta_pp":3.7,"b":5,"c":3},{"set":"humanevalplus","num":148,"den":156,"conform_num":147,"delta_pp":0.64,"b":5,"c":4},{"set":"mbppplus","num":299,"den":371,"conform_num":295,"delta_pp":1.08,"b":15,"c":11}]
- R529_HMIX_vs_CONFORM_pooled
- {"num":616,"den":716,"conform_num":608,"delta_pp":1.12,"b":31,"c":23,"holm_p_adj":0.341}
- R529_four_state
- INCONCLUSIVE
- 方向
- 9/9 同號(五次複製+四集),幅度未確立
原始紀錄:runs/g_r460_harness_lcb2_{a1,a2,a3,b1,b2,b3}/rows.jsonl 與 calls.jsonl(六塊各 20 題,合併 120 題);runs/g_r460r{1,2,3,4,5}_harness_lcb2_{a1,a2,a3,b1,b2,b3}/rows.jsonl(五次複製,各 120 題;r5 713 列,7 列 infra_void 在 notes.jsonl);runs/g_r529_{lcb3m_a1..a7,lcb3h_a1..a3,hep_a1..a8,mbpp_a1..a19}/rows.jsonl(四集,716 題)
重算方式:ops/gain/analyze_r460.py --run <六塊> --bank lcb2 --rescore-turn1(零 API,只跑沙箱);ops/gain/analyze_r460r.py --reps 1 2 3 4 5 --bank lcb2;落盤 ops/gain/replay/r460/r460_analyze.json、**ops/gain/replay/r460r/r460r_analyze_5reps.json**(與 `_norescore.json` 仲裁區塊逐位元相同)、ops/gain/replay/r529/r529_analyze.json。本條的 R460R 數字由 rows.jsonl 獨立重算(accepted∧meets_demand),與 analyzer 逐格一致。
harness.loop_beats_single_shot_replicated回饋迴圈比單抽一份多交付成立增益軸・迴圈
把五通呼叫花在回饋迴圈(H-MIX/H-PI/H-OC),比單抽一份就收(OFF)多交付——這一條跨題庫、跨複製都站得住
依據數值
- R460R_vs_OFF_by_rep
- {"HMIX":[{"rep":1,"num":93,"off_num":69,"den":120,"delta_pp":20,"b":29,"c":5},{"rep":2,"num":92,"off_num":65,"den":120,"delta_pp":22.5,"b":34,"c":7},{"rep":3,"num":91,"off_num":69,"den":120,"delta_pp":18.33,"b":28,"c":6},{"rep":4,"num":88,"off_num":62,"den":120,"delta_pp":21.67,"b":33,"c":7},{"rep":5,"num":88,"off_num":61,"den":118,"delta_pp":22.88,"b":34,"c":7,"分母":"complete-case 118"}],"HPI":[{"rep":1,"delta_pp":19.17,"b":26,"c":3,"den":120},{"rep":2,"delta_pp":25,"b":35,"c":5,"den":120},{"rep":3,"delta_pp":18.33,"b":29,"c":7,"den":120},{"rep":4,"delta_pp":29.17,"b":39,"c":4,"den":120},{"rep":5,"delta_pp":19.33,"b":31,"c":8,"den":119}],"HOC":[{"rep":1,"delta_pp":19.17,"b":28,"c":5,"den":120},{"rep":2,"delta_pp":19.17,"b":30,"c":7,"den":120},{"rep":3,"delta_pp":17.5,"b":28,"c":7,"den":120},{"rep":4,"delta_pp":26.67,"b":38,"c":6,"den":120},{"rep":5,"delta_pp":24.37,"b":31,"c":2,"den":119}],"holm":"十五格全部顯著(每次複製之內 6 個檢定的家族)"}
- R529_HMIX_vs_OFF_by_set
- [{"set":"lcb3_medium","num":126,"off_num":115,"den":135,"delta_pp":8.15,"b":17,"c":6},{"set":"lcb3_hard","num":43,"off_num":38,"den":54,"delta_pp":9.26,"b":7,"c":2},{"set":"humanevalplus","num":148,"off_num":129,"den":156,"delta_pp":12.18,"b":24,"c":5},{"set":"mbppplus","num":299,"off_num":277,"den":371,"delta_pp":5.93,"b":31,"c":9}]
- R529_HMIX_vs_OFF_pooled
- {"num":616,"off_num":559,"den":716,"delta_pp":7.96,"b":79,"c":22,"holm_p_adj":2.02e-8}
- 真來源數
- 3
- 分母警語
- HumanEval+ 是 156/164(8 題因沙箱信封排除);R460R r5 的三個對照分母各自不同(118/119/119,7 列 infra_void),不准統一回填 120
- 後端負載不同質
- 五次與 R529 的共租率 8.5/71.3/2.1/0/0%;這一條的效果量大到共租解釋不了(量級上限 ≤1.7pp/臂),但仍要寫明
原始紀錄:runs/g_r460r{1,2,3,4,5}_harness_lcb2_*/rows.jsonl(五次 × 120 題;r5 713 列);runs/g_r529_*/rows.jsonl(四集 716 題)
重算方式:ops/gain/replay/r529/r529_analyze.json;ops/gain/replay/r460r/r460r_analyze_5reps.json;R460R 五次由 rows.jsonl 獨立重算(r5 用 complete-case 分母)
harness.gain_comes_from_executable_gate_and_resample增益主體是閘門+重抽,迴圈是小增量成立增益軸・迴圈
增益的主體是「可執行的驗收閘門+重抽」,回饋迴圈只是疊在它上面的小增量
依據數值
- R460R_CONFORM_vs_OFF_by_rep
- [{"rep":1,"conform_num":86,"off_num":69,"den":120,"delta_pp":14.17,"b":22,"c":5,"p_uncorrected":0.0015},{"rep":2,"conform_num":87,"off_num":65,"den":120,"delta_pp":18.33,"b":28,"c":6,"p_uncorrected":0.0002},{"rep":3,"conform_num":90,"off_num":69,"den":120,"delta_pp":17.5,"b":26,"c":5,"p_uncorrected":0.00019},{"rep":4,"conform_num":85,"off_num":62,"den":120,"delta_pp":19.17,"b":30,"c":7,"p_uncorrected":0.00019},{"rep":5,"conform_num":82,"off_num":60,"den":116,"delta_pp":18.97,"b":28,"c":6,"p_uncorrected":0.0002,"分母":"complete-case 116(7 列 infra_void 作廢)"}]
- R529_CONFORM_vs_OFF_by_set
- [{"set":"lcb3_medium","conform_num":125,"off_num":115,"den":135,"delta_pp":7.41,"b":14,"c":4,"p_uncorrected":0.031},{"set":"lcb3_hard","conform_num":41,"off_num":38,"den":54,"delta_pp":5.56,"b":3,"c":0,"p_uncorrected":0.25},{"set":"humanevalplus","conform_num":147,"off_num":129,"den":156,"delta_pp":11.54,"b":21,"c":3,"p_uncorrected":0.00028},{"set":"mbppplus","conform_num":295,"off_num":277,"den":371,"delta_pp":4.85,"b":26,"c":8,"p_uncorrected":0.0029}]
- R529_CONFORM_vs_OFF_pooled
- {"conform_num":608,"off_num":559,"den":716,"delta_pp":6.84,"b":64,"c":15,"p_uncorrected":2.3e-8}
- 迴圈再加多少
- {"R460R":[5.83,4.17,0.83,2.5,4.31],"R529":[0.74,3.7,0.64,1.08]}
- p 全部未校正
- 五次 CONFORM−OFF 的 p_raw 全部 < 0.002,但 CONFORM−OFF 不在任何預註冊的 Holm 家族裡 ⇒ 不可讀成「閘門的效果是顯著的」
- 事後補的四集 Holm(只當描述)
- {"humanevalplus":0.0011,"mbppplus":0.0088,"lcb3_medium":0.062,"lcb3_hard":0.25}
- 不是因果
- CONFORM 與 H-MIX 是兩條各自跑的臂,不是兩階段;「閘門 +14pp、迴圈 +6pp」是相減得到的敘述,不是被分離出來的成分
原始紀錄:runs/g_r460r{1,2,3,4,5}_harness_lcb2_*/rows.jsonl;runs/g_r529_*/rows.jsonl
重算方式:分子分母由 rows.jsonl 獨立重算(交付判準=accepted ∧ meets_demand);ops/gain/replay/r460r/r460r_analyze_5reps.json
harness.majority_vote_loses_to_gate同樣五通,投票輸給閘門且貴一倍以上同號未解析增益軸・迴圈
同樣五通呼叫,五份投票取多數(OFF5)**輸給**「跑驗收測資、交第一份通過的」(CONFORM),而且貴一倍以上
依據數值
- OFF5_vs_CONFORM_by_rep
- [{"rep":1,"off5_num":73,"conform_num":86,"den":120,"delta_pp":-10.83,"b":7,"c":20,"p_uncorrected":0.019},{"rep":2,"off5_num":74,"conform_num":87,"den":120,"delta_pp":-10.83,"b":9,"c":22,"p_uncorrected":0.029},{"rep":3,"off5_num":71,"conform_num":90,"den":120,"delta_pp":-15.83,"b":4,"c":23,"p_uncorrected":0.00031},{"rep":4,"off5_num":80,"conform_num":85,"den":120,"delta_pp":-4.17,"b":12,"c":17,"p_uncorrected":0.458,"共租":"零(1004 獨占三串)"},{"rep":5,"off5_num":80,"conform_num":82,"den":115,"delta_pp":-1.74,"b":11,"c":13,"p_uncorrected":0.839,"分母":"complete-case 115","共租":"零(1004 獨占三串)"}]
- 同號 5/5
- true
- 未校正 p < 0.05 的次數
- 3
- 乾淨的兩次不顯著
- 後端零共租的 r4/r5 恰好是 −4.17/−1.74 那兩次;同期 OFF 掉到 51.67/51.26%、OFF5 升到 66.67/68.64%、CONFORM 幾乎沒動(70.83/70.94%)⇒ 跨次差異裡有一塊不是取樣
- 但共租解釋不了這個形狀
- OFF5 =五份 OFF 取多數;OFF 變差的同時 OFF5 好了 7–9pp,方向相反 ⇒「乾淨的兩次不顯著」目前只能當描述,講成「共租讓前三次看起來更誇張」是還沒有證據的因果話
- tokens_per_task
- {"OFF5":[15565,14877,14954,15226,14163],"CONFORM":[6497,6880,5246,5770,6416],"ratio":[2.4,2.16,2.85,2.64,2.21]}
- calls_per_task
- {"OFF5":[5.04,5.03,5.03,5.03,5.12],"CONFORM":[1.78,1.71,1.53,1.69,1.79]}
- OFF5_vs_OFF_by_rep
- [{"rep":1,"delta_pp":3.33,"p_uncorrected":0.58},{"rep":2,"delta_pp":7.5,"p_uncorrected":0.16},{"rep":3,"delta_pp":1.67,"p_uncorrected":0.85},{"rep":4,"delta_pp":15,"p_uncorrected":0.0021},{"rep":5,"delta_pp":16.24,"p_uncorrected":0.00088}]
- 口徑差異
- Fable 摘要寫 token 2.4–2.9 倍;本輪自 calls.jsonl 重算 rep2 是 2.16 倍(analyzer 含 wire_probe、rows 的 harness_tokens_total 不含)。r5 的 2.21 排除了作廢題的呼叫;把作廢題的 47,102 token 算進去(tpc_incl_void)是 2.25——兩個數字不可混用
原始紀錄:runs/g_r460r{1,2,3,4,5}_harness_lcb2_*/rows.jsonl 與 calls.jsonl
重算方式:交付由 rows.jsonl 重算;token/呼叫由 calls.jsonl 的 usage 逐通加總(preflight 另計、未計入;r5 排除作廢題的呼叫)
harness.hpi_hoc_vs_resample_unresolved另外兩條迴圈臂也贏過換人重抽同號未解析增益軸・迴圈
pi 式原始回饋迴圈(H-PI)與計畫+診斷+自測(H-OC)也贏過換人重抽
依據數值
- R460
- {"HPI_vs_CONFORM":{"delta_pp":5,"ci95":[-4.4,13.3],"holm_p_adj":0.345},"HOC_vs_CONFORM":{"delta_pp":9.17,"ci95":[-1,17.62],"holm_p_adj":0.16}}
- R460R_vs_CONFORM_by_rep
- {"HPI":[{"rep":1,"num":92,"conform_num":86,"den":120,"delta_pp":5,"b":16,"c":10,"holm_p_adj":0.654},{"rep":2,"num":95,"conform_num":87,"den":120,"delta_pp":6.67,"b":19,"c":11,"holm_p_adj":0.602},{"rep":3,"num":91,"conform_num":90,"den":120,"delta_pp":0.83,"b":16,"c":15,"holm_p_adj":1},{"rep":4,"num":97,"conform_num":85,"den":120,"delta_pp":10,"b":20,"c":8,"holm_p_adj":0.107,"ci95":[0.62,17.16],"註":"五次三十格裡唯一未調整下界 > 0 的一格;Holm 後不顯著,且 H-PI 是消融臂 ⇒ 不得替主張"},{"rep":5,"num":83,"conform_num":83,"den":117,"delta_pp":0,"b":14,"c":14,"holm_p_adj":1,"ci95":[-9.26,9.26],"four_state":"RULED_OUT","分母":"complete-case 117","作廢最壞界":[-2.5,2.5],"註":"最壞界會變號 ⇒ RULED_OUT 照規則保留,敏感度必須一起寫"}],"HOC":[{"rep":1,"num":92,"conform_num":86,"den":120,"delta_pp":5,"b":16,"c":10,"holm_p_adj":0.654},{"rep":2,"num":88,"conform_num":87,"den":120,"delta_pp":0.83,"b":13,"c":12,"holm_p_adj":1},{"rep":3,"num":90,"conform_num":90,"den":120,"delta_pp":0,"b":12,"c":12,"holm_p_adj":1},{"rep":4,"num":94,"conform_num":85,"den":120,"delta_pp":7.5,"b":17,"c":8,"holm_p_adj":0.216},{"rep":5,"num":89,"conform_num":83,"den":117,"delta_pp":5.13,"b":15,"c":9,"holm_p_adj":0.922,"分母":"complete-case 117"}]}
- 十次全部未過 Holm
- true
- rep3_HOC_與_rep5_HPI_是恰好打平
- 12/12 與 14/14,方向沒有翻負;不准讀成「證實無效」
- 對單發則五次全顯著
- {"HPI":[19.17,25,18.33,29.17,19.33],"HOC":[19.17,19.17,17.5,26.67,24.37]}
原始紀錄:runs/g_r460_harness_lcb2_*/rows.jsonl;runs/g_r460r{1,2,3,4,5}_harness_lcb2_*/rows.jsonl
重算方式:ops/gain/replay/r460/r460_analyze.json · decision.HPI / decision.HOC;ops/gain/replay/r460r/r460r_analyze_5reps.json;R460R 五次由 rows.jsonl 獨立重算(r5 用 complete-case 分母 117)
harness.gain_is_the_loop_not_the_prompt增益幾乎全來自迴圈不是 prompt 措辭成立增益軸・迴圈
H-MIX 的增益幾乎全來自「把失敗原文貼回去讓它改」的迴圈,不是第一輪 prompt 的措辭
依據數值
- HMIX
- {"loop_effect_pp_replays":[19.17,17.5],"prompt_effect_pp_replays":[6.67,8.33],"loop_gain_n":21,"turn1_visible_pass_pp":74.2}
原始紀錄:runs/g_r460_harness_lcb2_*/calls.jsonl(turn-1 全文回應)+ rows.jsonl
重算方式:ops/gain/analyze_r460.py --rescore-turn1;ops/gain/replay/r460/r460_analyze.json · attribution.*
zero.dabstep_paid_no_difference零設定對 DABstep:兩個模型都沒量到差別無可分辨差異repo 裁決增益軸
在 DABstep 付費正式批次上,裝了零設定 Vacant 的 agent 答對率沒有量到比沒裝的高:gemma-4-26b 50/77 對 44/77(p=0.21)、qwen3.8-27b 68/77 對 64/77(p=0.29)。
更正後
照預註冊的說法是「沒有量到差別」,不是「沒有效果」。原文:「不說『沒有效果』,也不說『變差』」。
依據數值
- gemma 沒裝
- 50 / 77 題對(64.9%)
- gemma 裝了
- 44 / 77 題對(57.1%)
- gemma p
- McNemar 精確雙尾 p=0.21
- qwen 沒裝
- 68 / 77 題對(88.3%)
- qwen 裝了
- 64 / 77 題對(83.1%)
- qwen p
- p=0.29
- 分母
- 77 題不重複 DABstep,每題每組一跑
原始紀錄:Vacant repo:docs/ZERO_CONFIG_EVAL_REPORT_2026-09-26.md:150-153
重算方式:讀該 repo 的 ops/eval/evidence_20260925/ 索引;原始請求與回應本文都在
先行研究
這一輪的結果和過去的資料不矛盾,因為過去沒有量過完全一樣的設定。
zero.dabstep_paid_rejects_all_false那一輪 8 次退回全部是誤報推翻repo 裁決增益軸・迴圈
零設定在 DABstep 付費批次觸發的 8 次退回,修正後全部都不會發生——158 跑一次都不會退回,也就是修好之後 C 等於 A,不幫忙也不傷害。
更正後
結論檔原本寫 7 次,獨立重算後更正為 8 次。
依據數值
- 退回次數
- 8 次(分母是 158 跑:gemma 79+qwen 79)
- 實際誤報率
- gemma 6/37(16%)、qwen 1/64(2%),分母是第一次走到交件前檢查且當時答案為對的跑數
- 傷害
- 0 次(沒有任何一次是把對的答案改錯)
原始紀錄:Vacant repo:docs/ZERO_CONFIG_EVAL_REPORT_2026-09-26.md:157、219-220
zero.local711_p021_thin本機 711 格批次 p=0.021,但差別集中在 6 題說太滿repo 裁決增益軸
零設定 v3 在本機 711 格批次對沒裝的預註冊主要檢定 p=0.0207,但作者自己寫明顯著性很薄:6 題全拿掉之後平均差 0.009、p=0.80;兩跑的結果翻過來 p 就超過 0.05。
更正後
任何引用這個 p 值的句子都必須同時說出「集中在 6 題」與「6 題全拿掉 p=0.80」。原文:「顯著性很薄:兩跑的結果翻過來、或拿掉那 6 題裡的任兩題,p 就會超過 0.05。不外推到別的模型、別的題庫、沒有上限的使用。」
依據數值
- 主要檢定
- Wilcoxon 精確 p=0.0207(報 0.021)
- 平均差
- +0.074(約 +7.4 pp),bootstrap 95% CI 0.017–0.139
- 方向
- 15 題較好、7 題較差、55 題一樣;符號檢定 p=0.13
- 敏感性
- 拿掉 6 個大差中任兩題 ⇒ p≥0.05;6 題全拿掉 ⇒ 平均差 0.009、p=0.80
- 分母
- 77 題 × 3 次(原設計 711 格=79 題 × 三組 × 3 次)
原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260926_ZERO_CONFIG_V3_LOCAL.md:10-15、38-39
重算方式:該 repo 的分析腳本;量具本身也修過(浮點同分誤判,0.0189 修成 0.0207)
先行研究
v3 是看過上一輪同一批 77 題的紀錄之後設計的,題目與規則不是獨立的;人類沒有逐條簽這份預註冊。
zero.v3_3_never_firedv3-3「只剩一回合只退回缺檔」一次都沒觸發推翻repo 裁決增益軸・迴圈
v3-3 這條機制在本機 150 次走到交件前檢查中一次都沒有觸發,沒有可觀察的貢獻。
依據數值
- 分母
- C2 全部 150 次走到交件前檢查
- 觸發次數
- 0 次
- 原因
- 沒有交件前檢查發生在第 14 回合以後
原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260926_ZERO_CONFIG_V3_LOCAL.md:55
zero.colab920_no_difference零設定對 Colab 920 題程式庫沒量到差別無可分辨差異repo 裁決增益軸
在 Colab 五組程式題庫 920 題上,裝了 v3.6.1 的 agent 答對率沒有量到比沒裝的高:748/920(81.3%)對 758/920(82.4%),p=0.387。
更正後
作者可用的說法是:「在這 920 題、Colab 上的 gemma-4-12b(關思考)、pi 0.87.1、不設回合上限下,只多打使用者的安裝指令,答對率沒有量到差別。」
依據數值
- 沒裝
- 748 / 920(81.3%)
- 裝了
- 758 / 920(82.4%)
- p
- McNemar 精確雙尾 p=0.387
- 分母
- 920 題 × 2 組=1,840 格,3 題具名排除
原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260928_COLAB_C5_PI_VACANT361.md:8、37-39
zero.colab920_rejects_96pct_false920 題批次上 96% 的退回是誤退推翻repo 裁決增益軸・迴圈
v3.6.1 在程式題上的退回 96% 是誤退:472 次退回裡 455 次是因為它只認 pytest 與 python -m unittest,不認 agent 實際跑過的 sh run_tests.sh。
依據數值
- 退回次數
- 472 次(分母是次數,不是跑數)
- 誤退
- test_claim/none 455 次
- 其他
- failed_step 21、unsourced 1、missing_output 0 次
- 分母(另一個)
- C 組 920 格中 858 格走到交件前檢查、309 格被退回
- 代價
- 誤退沒有看得出來的傷害,但多花約 12% 的模型呼叫
原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260928_COLAB_C5_PI_VACANT361.md:57、61-64
zero.u274_no_differenceu274 預註冊批次:9 對 10,沒有量到差別無可分辨差異repo 裁決增益軸
在 274 題依種子順序的前 100 題(全 hard、沒用過)上,沒裝 9/100 答對、裝了 v3.6.1 10/100 答對,McNemar 精確雙尾 p=1.0,沒有量到差別。
更正後
原文:「不說『沒有效果』……就算 7 對全是 C 單獨對,p 也只有 0.016;6 比 1 是 0.125。這一批只看得到非常大的差。」
依據數值
- 沒裝
- 9 / 100 題對
- 裝了
- 10 / 100 題對
- 配對
- A對∩C對=6、A對∩C錯=3、A錯∩C對=4、A錯∩C錯=87
- p
- McNemar 精確雙尾 p=1.0
- 時限
- 200 跑裡 116 跑碰到 1800 秒時限
原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260928_NOCAP_UNSEEN_U274.md:13-15、19-22
重算方式:該 repo 記錄三方獨立重算一致
zero.u274_missing_file_returns_all_wrongu274 的缺檔退回 31 跑,之後沒有任何一跑答對推翻repo 裁決增益軸・迴圈
u274 批次裡缺檔退回觸發 31 跑(共 37 次),這 31 跑最後沒有一跑答對——17 錯、14 還是沒交。C 多交的答案檔都錯,也多撞 18 次時限。
依據數值
- 被退回
- 31 跑(共 37 次;6 跑退了兩次)
- 之後結果
- 0 對、17 錯、14 還是沒檔
- 觸發原因
- 15 跑是 agent 說做完卻沒檔;16 跑是模型那一側出錯結束回合被叫回來(15 跑 failed to decode、1 跑 Stream ended without finish_reason)
- 時限
- 1800 秒時限 A 49 跑、C 67 跑(C 多 18)
- 傷害
- 0 次
原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260928_NOCAP_UNSEEN_U274.md:37-42
zero.v37_fixes_three_defectsv3.7 修掉三個缺陷,退回從 309 降到 29成立repo 裁決增益軸・迴圈
v3.7 修掉三個缺陷:認任意測試腳本(不只 pytest)、交付物也從人要 agent 照著做的說明檔認、模型錯誤結束的回合一律不退回。在 Colab 920 題批次上第一次就退回的跑數從 309 降到 29。
更正後
v3.7 對答對率的上限作者自己寫明很小:「Colab 新增的 10 跑缺檔退回就算全部救回也是 920 題裡 +10 題。」原文標題就是「預期(寫明,不是檢定)」。
依據數值
- Colab(858 跑有檢查)
- v3.6.1 第一次就退回 309 跑 → v3.7 29 跑
- u274(51 跑)
- 36 跑 → 20 跑
- S36-nocap(65 跑)
- 12 跑 → 12 跑(不變)
- R530 SOLO(59 格)
- 35 格 → 32 格(全對的 6 格 → 4 格);退回裡真的有問題的比例 0.83 → 0.875
- 對抗審查
- 20 條都重現,會在日常使用誤退的全部修掉;回歸測試 31 條
- 離線保真
- v3.6.1 重算 Colab 1327/1327、u274 81/81、S36-nocap 80/80 次檢查全部對齊
原始紀錄:Vacant repo:decisions/DECISION_20260926_ZERO_CONFIG_V3.md:151-178
zero.v37_colab_p0028v3.7 在 Colab 上量到 +11.3 pp(p=0.0028)成立repo 裁決增益軸
v3.7 在 Colab 的 DABstep 711 格批次上量到比沒裝的高:A 97/231(42.0%)、C37 123/231(53.2%)、C37R 139/231(60.2%);主要檢定 C37−A 平均差 +11.3 pp,p=0.0028。
更正後
作者明講不能講成「v3.7 比之前的版本好」,能說的是:「在這個環境裡,『說做完卻沒寫要求的檔』常見,而零設定的 missing_output 退回能把它救回來。」沒裝的 agent 說完卻沒寫有 42/231 格。
依據數值
- A 沒裝
- 97 / 231(42.0%)
- C37 裝了
- 123 / 231(53.2%)
- C37R
- 139 / 231(60.2%)
- C37−A
- +11.3 pp(C37 好 26 題、A 好 12 題),p=0.0028
- C37R−A
- +18.2 pp(34 對 7),p=3.1e-5,Holm 6.3e-5
- 傷害
- 0 次
- 分母
- 231 格/組;79 題 × 3 次
- 答案檔對的比例
- A 81.5%、C37 76.4%、C37R 65.9%(交出去變多,其中對的比例下降)
原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20261002_COLAB_DABSTEP_V37.md:9、15-20
zero.v37_gguf_not_replicated同一個 v3.7 換成 GGUF 後端就沒有複製出來推翻repo 裁決增益軸
在 vacant-dev 複製(LM Studio GGUF、gemma-4-12b、15 回合上限)上,同一個 v3.7 的主要檢定不顯著:C37−A −0.4 pp,p=0.84。Colab 那個 p=0.0028 沒有複製出來。
更正後
作者對照組的結論:「一個引擎有、一個沒有」——不能宣稱「零設定 v3.7 讓 agent 做得更好」。機制差異:GGUF 上退回要用回合,被 15 回合切斷的從 59 升到 74,淨效果約 0;Colab 補回的量大於被切掉的量。作者歸因:「Colab 那個 p=0.0028 主要是那個推論引擎讓沒裝的 agent 更常漏寫檔。」
依據數值
- A 沒裝
- 122 / 231(52.8%)
- C37
- 121 / 231(52.4%)
- C37R
- 146 / 231(63.2%)
- C37−A
- −0.4 pp(C37 好 11 題、A 好 13 題),精確 p=0.84
- C37R−A
- +10.4 pp(21 對 7),p=0.0051
- 分母
- 231 格/組;79 題 × 3 次
原始紀錄:Vacant repo(docs/gguf-replication-results 分支,2026-10-03 時尚未併入 main):decisions/conclusions/CONCLUSION_20261003_VACANTDEV_DABSTEP_V37.md:9-21、28-34
zero.task3_no_difference任務導向三題庫 94 題沒量到差別無可分辨差異repo 裁決增益軸
在任務導向三題庫 94 題、Colab、不設回合上限下,v3.7 沒有量到差別:A 136/188(72.3%)對 C37 141/188(75.0%),Wilcoxon p=0.36。
更正後
作者的跨批次總結:「DABstep 15 回合、A 有 18%『說完卻沒寫』就量得到差;任務導向三庫 A 只有 5/120(4%)就量不到。錯在決定、或被時限切斷的,零設定本來就看不到。」
依據數值
- A
- 136 / 188(72.3%)
- C37
- 141 / 188(75.0%)
- p
- Wilcoxon p=0.36
- 分題庫
- DABench 85.0%→88.3%、DataBench 80.0%→86.7%、Polyglot Python 54.4%→52.9%
- 傷害
- 0 次
- 分母
- 188 格=94 題 × 2 次
原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20261002_COLAB_TASK3_V37.md:20-24
zero.reminder_default_off回合預算提醒預設關,因為它多交的答案錯多於對成立repo 裁決增益軸
從 v3.6 起回合預算提醒預設關閉,要的人自己加 --budget-reminder。理由是提醒讓答對率從 51.9% 升到 59.3%,但多交出來的答案錯多於對。
更正後
作者的理由原文:「對一個不看評分的人,多一個沒有根據的答案不是改善。」
依據數值
- 答對率
- A 51.9% → C2 59.3%(本機 09-26 正式批次,每組 77 題 × 3 次)
- 答案檔對的比例
- 約 82% → 65%(同一批;裁決文件 §十 原文,未附分母)
- 同方向再出現一次
- Colab 10-02 v3.7 批:A 97/119=81.5%、C37 123/161=76.4%、C37R(開提醒)139/211=65.9%。分母是該批各組有答案檔的格數,不是上一行那一批的
原始紀錄:Vacant repo:decisions/DECISION_20260926_ZERO_CONFIG_V3.md:139-146;decisions/conclusions/CONCLUSION_20261002_COLAB_DABSTEP_V37.md:43
zero.not_contradicts_past零設定的否定結果與過去的資料不矛盾成立repo 裁決增益軸
零設定三個批次的否定結果與過去量到的增益不矛盾,因為過去沒有量過完全一樣的設定。過去有增益的都是 Vacant 自己握著生成的機制。
更正後
作者明令不可以說「和過去的資料完全一致」或「過去的資料預測了這個結果」——只能說不矛盾。
依據數值
- 零設定 C 組缺的零件
- 沒有測資可以跑(DABstep 的答案沒有可見測資)、不重抽、不拒交——三個零件一個都沒有
- 過去有增益的機制
- 可執行的驗收+重抽+拒交,全部是 Vacant 自己握著生成
原始紀錄:Vacant repo:docs/ZERO_CONFIG_EVAL_REPORT_2026-09-26.md:25、273-276、279-281、384
trace.two_layer_attribution追緝分兩層:只有事實層能接後果成立repo 裁決防守軸
每一個追緝結論分兩層:事實層(重跑翻轉、自稱成功但指令失敗、違反禁止項)才可以接信譽後果;推論層(「第 k 步造成」「讀到壞輸入」)只進報告。
更正後
誠實邊界原文:「『可證明』的意思是這個驗證器在重建狀態上翻轉;驗證器本身可能錯,所以人可以撤銷。」
依據數值
- 層數
- 2 層(事實層/推論層)
- 五個等級
- provable → record_review(0, weight=1.0) 且不 slash;lineage_exact → 來源記一筆計數;lineage_internal → 往上追到產生它的那一步;heuristic → 只報告;gap → 不動任何人
- provable 的三個必要條件
- 在重建狀態上重跑、恰好在這一步由過轉不過、錯的值不在任何釘住的輸入或觀察到的讀取裡
原始紀錄:Vacant repo:decisions/DECISION_20260924_ACCOUNTABLE_TRACE.md:141-145
trace.lfake_attribution_correct追緝端到端歸因正確 33/33、25/25、16/16成立repo 裁決防守軸
四個真 agent 端到端跑八個埋錯情境,歸因正確(狀態/類別/等級/指到的步驟/來源都對)33/33;同一批情境走 vacant do 是 25/25;真互動 TUI 是 16/16。
更正後
這是 L-fake:「模型是照劇本回答的假上游,沒有真模型、沒有 API 金鑰。」它證明歸因機制正確,不證明真模型下產出會更接近需求。
依據數值
- 原生掛鉤
- 33/33(四個 agent × 八情境,G 僅 Claude Code 1/1)
- vacant do
- 25/25(D、H 不跑)
- 真互動 TUI
- 16/16(含多回合 M 4/4 真的用完輪數)
- 每次掛鉤額外時間
- p95 6.3–13.3 ms(小工作區)/6.7–12.6 ms(TUI 批)
- 病歷簽章鏈驗得過
- 33/33、25/25、16/16
原始紀錄:Vacant repo:ops/accountability/evidence_20260924/README.md:3-87
trace.feedback_never_names_actor給 agent 的回饋裡從來沒有行動者識別成立repo 裁決防守軸
三張端到端表裡,給 agent 的回饋中都沒有出現行動者識別:原生 0/33、vacant do 0/25、TUI 0/16。咎責對象是步驟與行動者,但回饋只給人看。
更正後
這是設計上的界線不是缺陷:讀取覆蓋是下限,「沒找到來源」永遠不可以單獨推出「agent 的錯」,每份報告帶三態 read_coverage。
依據數值
- 回饋含行動者識別
- 原生 0/33、vacant do 0/25、TUI 0/16
- 有位置的回饋出現在模型請求裡
- vacant do 25/25(TUI 批 16/16,OpenCode 的互動 TUI 也有)
原始紀錄:Vacant repo:ops/accountability/evidence_20260924/README.md:8-87
trace.review47_and_boundaries追緝線的 47 條對抗審查與七條誠實邊界成立repo 裁決防守軸
追緝線做過五個鏡頭 47 條對抗審查,46 條成立、1 條判為既有誠實邊界但照樣收緊,並列七條誠實邊界,其中三句明令不准說。
更正後
誠實邊界 1:竄改可察覺,不是不可能——鏈是本機金鑰簽的,本機 root 可以重簽整條。誠實邊界 5:平行步驟只能歸其中之一。
依據數值
- 審查
- 47 條,46 條成立、1 條判為既有誠實邊界但收緊;其中 6 條改變了設計
- 不准說的三句
- 「Vacant 抓出所有錯」「追緝一定正確」「agent 繞不過」
- 可用的說法
- 在有紀錄的步驟裡,這個檢查在第 k 步由過轉不過,而第 k 步是 X 做的;證據可重跑
- 同層審查
- 尺度審查 8 條、抓網頁指令審查 12 條、回合數/TUI 審查 15 條中 12 條成立
原始紀錄:Vacant repo:decisions/DECISION_20260924_ACCOUNTABLE_TRACE.md:180-205
trace.scale_perf四萬檔的第一次掃描要 5.7 秒,之後每次掛鉤 557 毫秒成立repo 裁決增益軸・迴圈
追緝掃整個工作區(增量)在 4 核本機上可撐住掛鉤的 30 秒上限:4 萬檔第一次掃描 5.7 秒,之後每次掛鉤 p50 557 ms、p95 597 ms,Stop 端到端 1.9 秒。
更正後
作者自述的界線:「檔案都很小;本機磁碟、快取是熱的,網路檔案系統會更慢;4 萬檔的第一次掃描貼著 8 秒的時限,換一台慢一點的機器就會改到背景」。超過 5 萬檔就不再逐步掃描,追緝一律標為 UNOBSERVED。
依據數值
- 100 檔
- 第一次 0.17 s,之後 136/166 ms,Stop 0.17 s
- 1,000 檔
- 第一次 0.29 s,之後 144/194 ms,Stop 0.26 s
- 10,000 檔
- 第一次 3.1 s,之後 230/325 ms,Stop 0.56 s
- 40,000 檔
- 第一次 5.7 s,之後 557/597 ms,Stop 1.9 s
- 60,000 檔
- 第一次 8.3 s(改到背景;背景看不完 ⇒ 關掉),之後 135/227 ms,Stop 2.1 s
- 差異索引
- 每一步 0.9 KB(原本 4 萬檔要 4.9 MB)
原始紀錄:Vacant repo:decisions/DECISION_20260924_ACCOUNTABLE_TRACE.md:236-244
tui.seven_measurement_errors互動式 A/B harness 的七個量測錯誤,方向都讓數字長得比實際好看成立repo 裁決增益軸・迴圈
互動式 TUI 的 A/B harness 有七個量測錯誤,每一個都在真 pi 0.87.1 上抓到,而且每一個的方向都是讓數字長得比實際好看。
更正後
全部已修,並為五種真實 pane 形狀加了測試(多輪最後通過/單輪拒絕/多輪最後拒絕/infra_void/無閘門)。
依據數值
- 1 arm A 跑到別的模型
- 只複製 models.json 不會讓 pi 選那個 provider,實測落到 openrouter/moonshotai/kimi-k2.6,而且沒有一個 byte 經過這一跑的 proxy——arm A 把「模型失敗」記成「agent 失敗」
- 2 settle 認錯信號
- arm C 第一輪橫幅一出現就回報 settled 再殺 session,快照抓到第二輪還在想(token 凍結在 ↑5.9k ↓79)
- 3 只讀可見高度
- 約 50 行 vs 完整 scrollback 4000 行,而早先的裁決正好捲出畫面
- 4 把前言當成裁決
- 閘門先印的『驗收來源…快照 sha256』與裁決同一個開頭但沒有裁決,於是每一格回來都是 gate_accepted: null
- 5 infra_void 被記成拒交
- bool(None) 把『閘門沒有裁決』歸檔成『裁決拒絕』
- 6 同一筆記錄兩個欄位互相矛盾
- 最後一輪是 2/2 的格報 1/2
- 7 停滯被算成 agent 失敗
- 模型呼叫不存在的工具 ls_r、退回 shell 就不再產出,而 backend 本身健康
- 額外 2 條
- arm A 的 8 格全部整輪停在 0.0%,提示從未被送出卻被記成 settled+hidden_pass: false——8 個捏造的結果;Enter 掉了 6 格
原始紀錄:Vacant repo:ab_harness/tui_ab.py:104-427、ab_harness/tui.sh:37-60
pi.possess_three_defectspi extension 缺三樣東西,裝了等於沒裝推翻repo 裁決增益軸・迴圈
pi 互動模式的 extension 有三個缺陷,其中兩個讓它完全不能用:安裝報成功但每一通都 sink、模型 id 對不上實際送出的。
更正後
真機實測中 accept 腿未驗證:agent 沒寫出檔案是因為 OpenRouter 免費層每日 1000 請求用盡,不是機制的問題。
依據數值
- 缺陷 1
- install() 沒傳 upstreams/models/python,渲染出 KEY_FROM="" 與 UPSTREAM=""——proxy 起來了但每一通都 502 unspecified_upstream_sink,沒有任何錯誤訊息指出原因
- 缺陷 2
- wire_pi 沒把模型偏好烤進 default_model,DEFAULT_MODEL 恆為 gemma-4-12b-it-qat,上游是別的模型時每一通 404,畫面上的模型名與實際送出的對不上
- 缺陷 3
- install 時的啟動探測沿用當下的 os.environ,從非登入 shell 跑會讓 node 解析到 18 而判定 pi 起不來
原始紀錄:Vacant repo:commit ad1282fe(2026-09-29)
opencode.w2_silent_noopopencode 沒有 stop 事件:37 個 step 的完整病歷、零個裁決推翻repo 裁決增益軸・迴圈
opencode 的 plugin 沒有註冊 stop 事件,導致回合結束檢查不可達:一格實測記下 37 個 step 的完整簽章病歷、零個裁決、沒有 delivery.md。作者說這比不做更危險,因為鏈看起來是對的。
更正後
W1 與 W2 是同一個設計錯誤:都在把裁決點放進 agent 行程裡,平台不配合時整條路徑不是「效果較小」而是靜默無效。作者的裁決是把迴圈從掛鉤搬到父行程。
依據數值
- 事件統計
- trace_genesis 1、prompt 3、session_seen 2、step 37、session_closed 3、unrecorded_change 1
- stop/finding/feedback 事件
- 0
- delivery.md/delivery.json
- 不存在
- 分母
- 37 個 step、3 個 session
原始紀錄:Vacant repo:decisions/conclusions/FINDINGS_20260929_NATIVE_PLATFORM_WAVE1.md:54-74
wave1.unresolved原生平台 wave 1:同號未解析,不是負結果同號未解析repo 裁決增益軸・迴圈
原生平台 wave 1(20 題 × 三臂)配對 McNemar 的 discordant 只有 2 對,p=0.50,作者記為 unresolved——不是負結果也不是正結果。
更正後
作者寫明不能宣稱效果的五條理由,其中兩條是結構性的:免費模型每日 1000 請求在批次中途用盡,任何跨 arm 的差異都不可歸因給 Vacant;wave 1 是天花板效應(沒裝的 A 臂 95.0% 隱藏檢查全對,閘門能改善的空間是 0)。
依據數值
- A plain
- 隱藏檢查全對 19/20(95.0%),交付 20/20,拒交 0
- B zero-cfg
- 17/20(85.0%),交付 19/20,拒交 1
- C bridge
- 17/20(85.0%),交付 17/20,拒交 3
- A 對 B
- discordant 2 對,p=0.50 → unresolved
- 分母
- 20 題
原始紀錄:Vacant repo:decisions/conclusions/FINDINGS_20260929_NATIVE_PLATFORM_WAVE1.md:18-24
intake.five_silent_defects通用收件口端到端量出五件『會讓人以為成立、其實不成立』的缺陷推翻repo 裁決增益軸・迴圈
通用收件口的端到端量出五件缺陷,其中兩件是單元測試抓不到的:Codex 會拒絕啟動、OpenCode 的加法層讓使用者的全域規則安靜地從提示裡消失。
更正後
文字更正:AGENTS.md/README×3 的 "tamper_proof": true 改為 false+tamper_evident: true(簽章金鑰是同一帳號下的明文檔)。惡意候選碼與 driver 同直譯器、nonce 在 argv 這一類不宣稱修掉——「這層防意外,不防惡意」。
依據數值
- 1
- 掛鉤先寫帳本時建了 verifier 金鑰卻沒登記信任,收件端正確地拒絕放行
- 2
- vacant do 的隔離工作區放在 $VACANT_HOME 底下,pi 的全域 extension 正確地擋下寫入
- 3
- Codex 常駐安裝用 profile = "vacant",0.156.1 視為遺留鍵而拒絕啟動——一個會讓 agent 起不來的安裝比沒裝更糟
- 4
- OpenCode 用 OPENCODE_CONFIG_DIR 當每一跑的加法層,同時改掉全域 AGENTS.md 的讀取位置,使用者的全域規則安靜地從提示裡消失
- 5
- 常駐安裝還在時 vacant do 又注入一份,同一事件跑兩次
- 單元測試
- 177 條全部離線零模型
- 對抗審查
- 60 條裡會讓不合格版本進目的端或紀錄說錯話的全部修掉;另有 7 條明講不修
原始紀錄:Vacant repo:decisions/DECISION_20260924_UNIVERSAL_INTAKE.md:74-89
#裁決集中在哪些地方
這一節只整理專題正式索引的 34 條(下面括號裡的條數都以這 34 條為分母)。repo 裁決的 24 條在上面的完整帳本裡,用篩選列切「軸」或「裁決」就看得到。
#推翻(34 條中 6 條)——全在防守軸與「等預算」
| ID | 宣稱 | 為什麼被推翻 |
|---|---|---|
pulse.crossover | 盲區高過 0.5–0.75 後脈衝不如持續作惡 | 配對差 −0.57,95% CI 跨 0;實測 pulse 在盲區 1.0 得手 81/84/87,全部高過 patient 的 79 |
pulse.audit_cannot_close_blindspot | 加大稽核救不回有盲區的情況 | 盲區 0.5 時稽核 0.1→1.0 使總得手降 82%,Wilcoxon p=5.5e-6 |
pulse.crude_wins_under_blindspot | 等預算下 crude 勝過脈衝 | E19 從來不是等預算比較;實際作惡 11.97 vs 4.87。正確綁在 budget=2:1.67 vs 0.97,p=0.0015 |
gain.equal_budget_on_beats_off5 | 等預算下 Vacant 贏過五次取多數 | 完整配對 p=0.4531;難題子集 p=1.0 |
gain.ceiling_hypothesis | 換弱模型就會顯出增益 | OFF 失敗率 25.5%→31.8%,增益仍未出現;ON vs OFF5 p=1.0000 |
gain.hard_bench_hypothesis | 換難題庫就會顯出增益 | 題庫確實更難(48.4% vs 31.8%),ON vs OFF5 p=0.4244 |
#說太滿(34 條中 4 條)
| ID | 問題 |
|---|---|
pulse.timing_minor | 「只差 1.81 倍」是聚合量。拆開:曝光跨 6.06 倍、效率跨 8.45 倍,反向抵消。檢定力只有 25% |
pulse.blindspot_dominates | 幾乎全靠退化的端點 blind=1.0 撐著。交互作用 η² = 0.264,是主效應的 4 倍 |
pulse.starvation | 「永久除名」混雜了同一格裡 14 個未被抓種子的巧合。slash 0.9 在第 177 輪就回來了 |
gain.clean_dataset | 「第一個乾淨的完整資料集」要改成「無已知 bug 汙染、配對子集 n=101」。ON 臂 void 率 36.9% |
#同號未解析(34 條中 4 條)
這四條最容易被誤讀成「沒有差異」。它們的正確讀法是:預註冊的規則一個狀態都沒觸發,所以沒量出來。
| ID | 宣稱 | 為什麼沒量出來 |
|---|---|---|
harness.hmix_loop_beats_resample_same_budget | 修訂迴圈比換人重抽多交付且不多花 token | 0/5 通過 Holm;五個區間全部與 R460 相交 |
gain.conform_vs_off5_unresolved | 閘門在交付準確率上贏過多數決 | MDE@371 = 4.31 pp;80% 檢定力需約 491 對,但題庫只有 378 |
harness.majority_vote_loses_to_gate | 同樣五通,投票輸給閘門且貴一倍以上 | 探索量,不在任何預註冊家族;3/5 未校正顯著 |
harness.hpi_hoc_vs_resample_unresolved | 另外兩條迴圈臂也贏過換人重抽 | 10/10 格未過 Holm |
#無可分辨差異(34 條中 1 條)
gain.arms_differ:三臂的交付品質有可分辨差異。兩種口徑都不顯著,而且修掉一個無關的 typing bug 就讓點估計翻轉。
#已成立(34 條中 13 條)裡最硬的四條
| ID | 為什麼硬 |
|---|---|
harness.loop_beats_single_shot_replicated | 15/15 格全部通過自己的 Holm,跨五次複製、跨四個互斥題目集 |
gain.gate_rule_beats_majority_vote_same_candidates | 同一組候選、同樣五通呼叫——預算與候選都對齊了 |
gain.lossless_visible_filter | 六個資料集、2,389 個候選,零個「隱藏會過但可見不過」 |
peerexec.mutual_execution_below_threshold | 說謊者 273/273 被指名、誠實者 0/1,840 被誣告、5,519 條證言 0 次簽章失敗 |
#這張表不做的事
- 它不評價這個專題好不好。它只記錄「哪句話到今天為止站得住」。
- 它不把未複驗當通過。6 條未複驗就是未複驗。
- 它不合併、不平均、不挑一次來報。禁用清單見五次複製那一篇

