VacantAI 的可究責層GitHub

證據與重現 · 證據 / 58 條裁決 · 

證據帳本

58 條對外宣稱,每一條都有裁決值、依據數值與重算方式。被推翻的、說太滿的、量不出差異的,全部留在表上——一個宣稱可究責的系統,必須先能對自己可究責。

#這張表是怎麼來的

每條宣稱帶四樣東西:

  1. 原文 — 當時對外說的是什麼。
  2. 依據數值 — 支撐它的數字,帶分母。
  3. 裁決值 — 六種狀態之一。
  4. 更正後 — 如果裁決是「推翻」或「說太滿」,正確的說法是什麼。
  • 成立事前訂的判準通過(預註冊、跑完對答案)
  • 推翻宣稱是錯的,正確說法列在「更正後」
  • 說太滿核心站得住但說得太滿,或原始證據/機制解釋有問題
  • 無可分辨差異量到沒有可分辨的效應——這本身就是答案,不是沒測完
  • 同號未解析預註冊的規則沒有觸發任何一個狀態,沒量出來,不是沒有差異
  • 未複驗尚未送複驗——不等於通過

#統計

全部 58 條對外宣稱的裁決

成立23/58推翻14/58說太滿5/58無可分辨差異5/58同號未解析5/58未複驗6/58

#完整帳本

點任何一列展開看依據數值、原始紀錄路徑與重算方式。

軸
裁決

顯示 58/58 條

ID宣稱原文裁決
pulse.definition脈衝攻擊的定義脈衝攻擊=放電 B 筆連續作惡 → 蓄積 R 筆乾淨交付 → 重複;既有三種策略是其特例未複驗
pulse.timing_minor
筆記 →
時間結構幾乎不影響總得手攻擊的時間結構幾乎不影響總得手數:15 格 (burst,recover) 網格落在 2.83–5.13(1.81 倍)說太滿
pulse.blindspot_dominates盲區的影響大於攻擊者參數盲區的影響遠大於攻擊者的參數選擇:pulse 8.9 倍、patient 54 倍,對照參數網格的 1.81 倍說太滿
pulse.crossover
筆記 →
盲區高過 0.5–0.75 後脈衝不如持續作惡盲區超過約 0.5–0.75 之後,脈衝反而不如單純的持續作惡(盲區拉滿時差 3.8 倍)推翻
pulse.audit_cannot_close_blindspot
筆記 →
加大稽核救不回有盲區的情況加大稽核率救得回零盲區(100% 稽核=完全封鎖),救不回有盲區的情況(仍有 0.97 得手、僅 57% 全擋)推翻
pulse.starvation
筆記 →
一次被抓=永久除名一次被抓=永久除名。被抓過的 16 個 seed 裡,16 個在那之後再也沒被路由過說太滿
pulse.reaction_lag零盲區下仍漏 2.53 筆、28 輪才反應即使零盲區,一波仍漏掉 2.53 筆、平均 28 輪才反應未複驗
pulse.crude_wins_under_blindspot
筆記 →
等預算下 crude 策略勝過脈衝等預算(各 12 筆)+盲區 0.5 之下,whitewash 8.17 反而勝過脈衝 4.23推翻
entry.fee_backfires入場費設太低反而幫攻擊者熬過見習期入場費設得太低反而幫攻擊者熬過見習期:stake=0 全擋,stake=2 得手 5.00、ROI 2.35未複驗
entry.reviewer_accuracy_binds真正的約束是評審準確率真正的約束是評審準確率:acc=0 時得手 16.65、ROI 1.04(作惡開始有利可圖)未複驗
realmodel.e10_paired_null
筆記 →
E10 信任開關配對實驗無顯著差異E10 信任開關 N=60 配對:on 36/60 vs off 31/60,差 +8.3%,95% CI [-5.0%, 21.7%] 跨 0、McNemar p=0.332,不顯著未複驗
realmodel.measurement_error
筆記 →
第一次量測讀錯欄位的假結果第一次量測是錯的:讀了 audit.passed 當品質判準,而 off 臂依設計不稽核,做出 0/11 vs 5/10 的假結果未複驗
gain.signal_exists量具本身有訊號(OFF 失敗率落窗)量具有訊號:無信任層(OFF)時失敗率 26.44%,落在事前訂的 20–60% 窗內成立
gain.arms_differ
筆記 →
三臂交付品質有可分辨差異三臂(OFF/ON/OFF5)的交付品質有可分辨的差異無可分辨差異
gain.equal_budget_on_beats_off5
筆記 →
等預算下 Vacant 贏過五次取多數等預算下,Vacant(ON)打得贏同題跑五次取多數決(OFF5)推翻
gain.mechanism
筆記 →
打不贏的機制:評審票近乎常數、修訂無淨修正打不贏的機制:評審票幾乎是常數函數,修訂幾乎不產生淨修正成立
gain.ceiling_hypothesis
筆記 →
換弱模型就會顯出增益(天花板假說 H-A)35b worker 太強造成天花板效應,換成 12b 單模型後 Vacant 就會顯出增益推翻
gain.hard_bench_hypothesis
筆記 →
換難題庫就會顯出增益(難度假說 H-B)MBPP+ 對現代模型太簡單,換成有日期戳的比賽難題(LiveCodeBench)就會顯出增益推翻
gain.reviewer_tracks_difficulty
筆記 →
評審追蹤的是題目難度不是答案對錯評審追蹤的是題目難度這個全域性質,不是個別答案的對錯成立
gain.clean_dataset決定性 run 是第一個乾淨的完整資料集決定性 run 是第一個乾淨的完整資料集:無已知 bug 污染、void 率在窗口內說太滿
gain.conform_early_stop_beats_single
筆記 →
早停閘門比單抽一份多交付「跑客戶自己的驗收測資、交第一份通過的、全不通過就拒交」(CONFORM 早停閘門)比「單抽一份就收」(OFF)多交付成立
gain.gate_rule_beats_majority_vote_same_candidates
筆記 →
同一組候選,閘門規則勝過五份投票在同一組 5 份候選、同樣 5 通呼叫下,閘門規則(交第一份通過的、全不通過就不交)比五份投票取多數交付得多成立
gain.conform_vs_off5_unresolved
筆記 →
閘門在交付準確率上贏過多數決閘門(CONFORM)在交付準確率上贏得過同題跑五次取多數決(OFF5)同號未解析
gain.lossless_visible_filter
筆記 →
可見篩選是無損的可見篩選是無損的——沒有出現「隱藏測資會過、但可見驗收沒過」的候選成立
gain.off5_helps_on_hard_only
筆記 →
五倍預算只在難題上買得到東西五倍預算的 self-consistency(OFF5 對 OFF)只在難題上買得到東西成立
peerexec.mutual_execution_below_threshold多數門檻以下互跑可指名說謊者在多數門檻以下(腐化執行器數 ≤ ⌊(k−1)/2⌋),互跑不互審的交付與無腐化基線逐位相同,說謊者被指名、誠實者不被誣告成立
peerexec.suite_fixed_point
筆記 →
互跑對「驗收套件本身腐化」毫無防禦互跑不互審對「驗收套件本身腐化」毫無防禦——這是機制的固定點,R451→R452 把它縮小成一個殘餘,但沒有消滅成立
peerexec.majority_bound指名有數學上界 ⌊(k−1)/2⌋指名有數學上界:多數決最多容忍 ⌊(k−1)/2⌋ 個腐化執行器,過半即反轉成立
harness.hmix_loop_beats_resample_same_budget
筆記 →
修訂迴圈比換人重抽多交付且不多花 token把五通呼叫花在「跑客戶的驗收測資、把失敗原文貼回去、讓同一個 worker 改」(H-MIX),比花在換人重抽(CONFORM)多交付,且 token 不多花同號未解析
harness.loop_beats_single_shot_replicated
筆記 →
回饋迴圈比單抽一份多交付把五通呼叫花在回饋迴圈(H-MIX/H-PI/H-OC),比單抽一份就收(OFF)多交付——這一條跨題庫、跨複製都站得住成立
harness.gain_comes_from_executable_gate_and_resample
筆記 →
增益主體是閘門+重抽,迴圈是小增量增益的主體是「可執行的驗收閘門+重抽」,回饋迴圈只是疊在它上面的小增量成立
harness.majority_vote_loses_to_gate
筆記 →
同樣五通,投票輸給閘門且貴一倍以上同樣五通呼叫,五份投票取多數(OFF5)**輸給**「跑驗收測資、交第一份通過的」(CONFORM),而且貴一倍以上同號未解析
harness.hpi_hoc_vs_resample_unresolved另外兩條迴圈臂也贏過換人重抽pi 式原始回饋迴圈(H-PI)與計畫+診斷+自測(H-OC)也贏過換人重抽同號未解析
harness.gain_is_the_loop_not_the_prompt
筆記 →
增益幾乎全來自迴圈不是 prompt 措辭H-MIX 的增益幾乎全來自「把失敗原文貼回去讓它改」的迴圈,不是第一輪 prompt 的措辭成立
zero.dabstep_paid_no_difference
筆記 →
零設定對 DABstep:兩個模型都沒量到差別在 DABstep 付費正式批次上,裝了零設定 Vacant 的 agent 答對率沒有量到比沒裝的高:gemma-4-26b 50/77 對 44/77(p=0.21)、qwen3.8-27b 68/77 對 64/77(p=0.29)。無可分辨差異
zero.dabstep_paid_rejects_all_false
筆記 →
那一輪 8 次退回全部是誤報零設定在 DABstep 付費批次觸發的 8 次退回,修正後全部都不會發生——158 跑一次都不會退回,也就是修好之後 C 等於 A,不幫忙也不傷害。推翻
zero.local711_p021_thin
筆記 →
本機 711 格批次 p=0.021,但差別集中在 6 題零設定 v3 在本機 711 格批次對沒裝的預註冊主要檢定 p=0.0207,但作者自己寫明顯著性很薄:6 題全拿掉之後平均差 0.009、p=0.80;兩跑的結果翻過來 p 就超過 0.05。說太滿
zero.v3_3_never_fired
筆記 →
v3-3「只剩一回合只退回缺檔」一次都沒觸發v3-3 這條機制在本機 150 次走到交件前檢查中一次都沒有觸發,沒有可觀察的貢獻。推翻
zero.colab920_no_difference
筆記 →
零設定對 Colab 920 題程式庫沒量到差別在 Colab 五組程式題庫 920 題上,裝了 v3.6.1 的 agent 答對率沒有量到比沒裝的高:748/920(81.3%)對 758/920(82.4%),p=0.387。無可分辨差異
zero.colab920_rejects_96pct_false
筆記 →
920 題批次上 96% 的退回是誤退v3.6.1 在程式題上的退回 96% 是誤退:472 次退回裡 455 次是因為它只認 pytest 與 python -m unittest,不認 agent 實際跑過的 sh run_tests.sh。推翻
zero.u274_no_difference
筆記 →
u274 預註冊批次:9 對 10,沒有量到差別在 274 題依種子順序的前 100 題(全 hard、沒用過)上,沒裝 9/100 答對、裝了 v3.6.1 10/100 答對,McNemar 精確雙尾 p=1.0,沒有量到差別。無可分辨差異
zero.u274_missing_file_returns_all_wrong
筆記 →
u274 的缺檔退回 31 跑,之後沒有任何一跑答對u274 批次裡缺檔退回觸發 31 跑(共 37 次),這 31 跑最後沒有一跑答對——17 錯、14 還是沒交。C 多交的答案檔都錯,也多撞 18 次時限。推翻
zero.v37_fixes_three_defects
筆記 →
v3.7 修掉三個缺陷,退回從 309 降到 29v3.7 修掉三個缺陷:認任意測試腳本(不只 pytest)、交付物也從人要 agent 照著做的說明檔認、模型錯誤結束的回合一律不退回。在 Colab 920 題批次上第一次就退回的跑數從 309 降到 29。成立
zero.v37_colab_p0028
筆記 →
v3.7 在 Colab 上量到 +11.3 pp(p=0.0028)v3.7 在 Colab 的 DABstep 711 格批次上量到比沒裝的高:A 97/231(42.0%)、C37 123/231(53.2%)、C37R 139/231(60.2%);主要檢定 C37−A 平均差 +11.3 pp,p=0.0028。成立
zero.v37_gguf_not_replicated
筆記 →
同一個 v3.7 換成 GGUF 後端就沒有複製出來在 vacant-dev 複製(LM Studio GGUF、gemma-4-12b、15 回合上限)上,同一個 v3.7 的主要檢定不顯著:C37−A −0.4 pp,p=0.84。Colab 那個 p=0.0028 沒有複製出來。推翻
zero.task3_no_difference
筆記 →
任務導向三題庫 94 題沒量到差別在任務導向三題庫 94 題、Colab、不設回合上限下,v3.7 沒有量到差別:A 136/188(72.3%)對 C37 141/188(75.0%),Wilcoxon p=0.36。無可分辨差異
zero.reminder_default_off
筆記 →
回合預算提醒預設關,因為它多交的答案錯多於對從 v3.6 起回合預算提醒預設關閉,要的人自己加 --budget-reminder。理由是提醒讓答對率從 51.9% 升到 59.3%,但多交出來的答案錯多於對。成立
zero.not_contradicts_past
筆記 →
零設定的否定結果與過去的資料不矛盾零設定三個批次的否定結果與過去量到的增益不矛盾,因為過去沒有量過完全一樣的設定。過去有增益的都是 Vacant 自己握著生成的機制。成立
trace.two_layer_attribution追緝分兩層:只有事實層能接後果每一個追緝結論分兩層:事實層(重跑翻轉、自稱成功但指令失敗、違反禁止項)才可以接信譽後果;推論層(「第 k 步造成」「讀到壞輸入」)只進報告。成立
trace.lfake_attribution_correct追緝端到端歸因正確 33/33、25/25、16/16四個真 agent 端到端跑八個埋錯情境,歸因正確(狀態/類別/等級/指到的步驟/來源都對)33/33;同一批情境走 vacant do 是 25/25;真互動 TUI 是 16/16。成立
trace.feedback_never_names_actor給 agent 的回饋裡從來沒有行動者識別三張端到端表裡,給 agent 的回饋中都沒有出現行動者識別:原生 0/33、vacant do 0/25、TUI 0/16。咎責對象是步驟與行動者,但回饋只給人看。成立
trace.review47_and_boundaries追緝線的 47 條對抗審查與七條誠實邊界追緝線做過五個鏡頭 47 條對抗審查,46 條成立、1 條判為既有誠實邊界但照樣收緊,並列七條誠實邊界,其中三句明令不准說。成立
trace.scale_perf四萬檔的第一次掃描要 5.7 秒,之後每次掛鉤 557 毫秒追緝掃整個工作區(增量)在 4 核本機上可撐住掛鉤的 30 秒上限:4 萬檔第一次掃描 5.7 秒,之後每次掛鉤 p50 557 ms、p95 597 ms,Stop 端到端 1.9 秒。成立
tui.seven_measurement_errors互動式 A/B harness 的七個量測錯誤,方向都讓數字長得比實際好看互動式 TUI 的 A/B harness 有七個量測錯誤,每一個都在真 pi 0.87.1 上抓到,而且每一個的方向都是讓數字長得比實際好看。成立
pi.possess_three_defectspi extension 缺三樣東西,裝了等於沒裝pi 互動模式的 extension 有三個缺陷,其中兩個讓它完全不能用:安裝報成功但每一通都 sink、模型 id 對不上實際送出的。推翻
opencode.w2_silent_noopopencode 沒有 stop 事件:37 個 step 的完整病歷、零個裁決opencode 的 plugin 沒有註冊 stop 事件,導致回合結束檢查不可達:一格實測記下 37 個 step 的完整簽章病歷、零個裁決、沒有 delivery.md。作者說這比不做更危險,因為鏈看起來是對的。推翻
wave1.unresolved原生平台 wave 1:同號未解析,不是負結果原生平台 wave 1(20 題 × 三臂)配對 McNemar 的 discordant 只有 2 對,p=0.50,作者記為 unresolved——不是負結果也不是正結果。同號未解析
intake.five_silent_defects通用收件口端到端量出五件『會讓人以為成立、其實不成立』的缺陷通用收件口的端到端量出五件缺陷,其中兩件是單元測試抓不到的:Codex 會拒絕啟動、OpenCode 的加法層讓使用者的全域規則安靜地從提示裡消失。推翻

逐條明細

pulse.definition脈衝攻擊的定義未複驗防守軸

脈衝攻擊=放電 B 筆連續作惡 → 蓄積 R 筆乾淨交付 → 重複;既有三種策略是其特例

原始紀錄:vacant/entrycost.py::_should_defect 的 pulse 分支

先行研究

不是新的。2005 年即為 strategic oscillation,2009 年進 ACM Computing Surveys 的攻擊分類表,命名為 oscillation attack。

輪次 pulse-2026-08-03 · 定義 · 型別裁決:未複驗

pulse.timing_minor時間結構幾乎不影響總得手說太滿防守軸

攻擊的時間結構幾乎不影響總得手數:15 格 (burst,recover) 網格落在 2.83–5.13(1.81 倍)

更正後

在盲區 0.5 這一點上量不到時間結構的效應,但那是 absence of evidence。把得手拆成「路由次數 × 每次得手率」後,前者跨度 6.06 倍、後者 8.45 倍——總數之所以平,是曝光與效率反向抵消。攻擊能力差 8.45 倍。

依據數值

最小
2.8333
最小格
(1,20)
最大
5.1333
最大格
(8,20)

欄位:cells[].accepted_bad.mean

原始紀錄:脈衝攻擊_2026-08-03/E24.json

輪次 pulse-2026-08-03 · 量測 · 型別裁決:overstated

pulse.blindspot_dominates盲區的影響大於攻擊者參數說太滿防守軸

盲區的影響遠大於攻擊者的參數選擇:pulse 8.9 倍、patient 54 倍,對照參數網格的 1.81 倍

更正後

盲區與時間結構有強交互作用(雙因子分解 η²=0.264,是時間結構主效應的 4 倍),所以「真正的變數是 X」這個句型本身不成立。在盲區 1.0 且曝光固定為 90 次時,光是時間結構就跨 29 倍——比歸給盲區的 8.9 倍還大。

依據數值

pulse blind=0
2.3667
pulse blind=1
21
patient blind=0
1.4667
patient blind=1
79

欄位:cells[].accepted_bad.mean

原始紀錄:脈衝攻擊_2026-08-03/E20.json

輪次 pulse-2026-08-03 · 量測 · 型別裁決:overstated

pulse.crossover盲區高過 0.5–0.75 後脈衝不如持續作惡推翻防守軸

盲區超過約 0.5–0.75 之後,脈衝反而不如單純的持續作惡(盲區拉滿時差 3.8 倍)

更正後

盲區升高時改變的是**最佳蓄積長度往 0 移動**,不是脈衝這個家族變弱。實測 pulse(20,2)/(20,1)/(50,1) 在盲區 1.0 得手 81/84/87,全部高過 patient 的 79。

依據數值

blind=0.75
{"patient":8.3333,"pulse":7.7667}
blind=1.0
{"patient":79,"pulse":21}

原始紀錄:脈衝攻擊_2026-08-03/E20.json

輪次 pulse-2026-08-03 · 量測 · 型別裁決:refuted

pulse.audit_cannot_close_blindspot加大稽核救不回有盲區的情況推翻防守軸

加大稽核率救得回零盲區(100% 稽核=完全封鎖),救不回有盲區的情況(仍有 0.97 得手、僅 57% 全擋)

更正後

偵測機率是單一乘積 (1−盲區)×抽樣率×準確率,三者同軸。抽樣率與盲區可互相替換(稽核 0.5→1.0 剛好抵銷 50% 盲區,配對差 0.03、p=0.78)。盲區改變的是防禦的**天花板**(殘量 β/(1−β)),不是抽樣率有沒有用。

依據數值

blind=0 audit=1.0
{"accepted_bad":0,"shutout":1}
blind=0.5 audit=1.0
{"accepted_bad":0.9667,"shutout":0.5667}

原始紀錄:脈衝攻擊_2026-08-03/E21.json

輪次 pulse-2026-08-03 · 量測 · 型別裁決:refuted

pulse.starvation一次被抓=永久除名說太滿防守軸

一次被抓=永久除名。被抓過的 16 個 seed 裡,16 個在那之後再也沒被路由過

更正後

被 slash(0.5) 一次就在任何可達視野內退出路由。乾淨隔離後更強:defect_budget=1、4000 輪下,未被抓的 27/30 跑到第 3993 輪,被抓的 3/3 其後 3961 輪零路由。真正的機制不是「per-stream 時鐘讓等待無效」——等待其實有效(UCB 探索項);致命的是 slash 的 β += (α+β) 同時砍半均值並加倍 n,而 n 是回歸時間的指數係數:懲罰把自己的赦免管道一起關小了。

依據數值

被抓的 seed 數
16
其後再被路由的 seed 數
0
最後被路由輪次中位數
171
總輪數
600

原始紀錄:脈衝攻擊_2026-08-03/E17/logs/burst3__p*.jsonl

輪次 pulse-2026-08-03 · 量測(來自逐輪紀錄,非聚合值) · 型別裁決:overstated

pulse.reaction_lag零盲區下仍漏 2.53 筆、28 輪才反應未複驗防守軸

即使零盲區,一波仍漏掉 2.53 筆、平均 28 輪才反應

依據數值

hits_per_burst
2.5333
react_lag_rounds
27.95

欄位:cells[label=blind=0.0].hits_per_burst.mean / react_lag_mean.mean

原始紀錄:脈衝攻擊_2026-08-03/E22.json

輪次 pulse-2026-08-03 · 量測 · 型別裁決:未複驗

pulse.crude_wins_under_blindspot等預算下 crude 策略勝過脈衝推翻防守軸

等預算(各 12 筆)+盲區 0.5 之下,whitewash 8.17 反而勝過脈衝 4.23

更正後

真正綁住預算後排名反轉(budget=2:patient/pulse 1.67 vs whitewash 0.97,配對 p=0.0015)。whitewash 的優勢來自免費換身份重新取得路由權——它用掉 4.7 個身份、到第 542 輪還在接單,而 pulse 第 160 輪就被餓死。那是入場成本問題,與脈衝的時機結構無關。

依據數值

whitewash
8.1667
sybil
6.1333
pulse(5,20)
4.3
pulse(3,10)
4.2333
patient
3.7333

原始紀錄:脈衝攻擊_2026-08-03/E19.json

輪次 pulse-2026-08-03 · 量測 · 型別裁決:refuted

entry.fee_backfires入場費設太低反而幫攻擊者熬過見習期未複驗防守軸

入場費設得太低反而幫攻擊者熬過見習期:stake=0 全擋,stake=2 得手 5.00、ROI 2.35

欄位:cells[].accepted_bad.mean / roi.mean

原始紀錄:入場成本_2026-07-26/E4.json

輪次 entrycost-2026-07-26 · 量測 · 型別裁決:未複驗

entry.reviewer_accuracy_binds真正的約束是評審準確率未複驗防守軸

真正的約束是評審準確率:acc=0 時得手 16.65、ROI 1.04(作惡開始有利可圖)

原始紀錄:入場成本_2026-07-26/E12.json

輪次 entrycost-2026-07-26 · 量測 · 型別裁決:未複驗

realmodel.e10_paired_nullE10 信任開關配對實驗無顯著差異未複驗防守軸

E10 信任開關 N=60 配對:on 36/60 vs off 31/60,差 +8.3%,95% CI [-5.0%, 21.7%] 跨 0、McNemar p=0.332,不顯著

原始紀錄:真模型_2026-07-26/E10/{on,off}/rows.jsonl

輪次 realmodel-2026-07-26 · 量測 · 型別裁決:未複驗

realmodel.measurement_error第一次量測讀錯欄位的假結果未複驗防守軸

第一次量測是錯的:讀了 audit.passed 當品質判準,而 off 臂依設計不稽核,做出 0/11 vs 5/10 的假結果

原始紀錄:examples/realmodel_suite.py 的註解(該處保留了錯誤的完整說明)

輪次 realmodel-2026-07-26 · 自我更正 · 型別裁決:未複驗

gain.signal_exists量具本身有訊號(OFF 失敗率落窗)成立增益軸

量具有訊號:無信任層(OFF)時失敗率 26.44%,落在事前訂的 20–60% 窗內

依據數值

OFF processed
179
OFF infra_void
5
measured
174
失敗率
0.2644
Wilson CI95
[0.204,0.334]

原始紀錄:增益實驗_2026-08-30/DECISION_20260901_R437_DECISIVE_RUN_COMPLETE_FINAL.md

輪次 gain-2026-08-30 · 量測(事前判準 1) · 型別裁決:held

gain.arms_differ三臂交付品質有可分辨差異無可分辨差異增益軸

三臂(OFF/ON/OFF5)的交付品質有可分辨的差異

更正後

「三臂有差異」不成立。在這個 worker 池(qwen3.6-35b+gemma-4-12b)與 MBPP+ 上,ON 與 OFF5 的交付品質量不出可分辨差異。

依據數值

raw ON vs OFF5
{"n":101,"ON":0.7525,"OFF5":0.7723,"b":6,"c":8,"p":0.7905}
typing 修正版
{"n":101,"ON":0.8416,"OFF5":0.8119,"b":5,"c":2,"p":0.4531}

原始紀錄:增益實驗_2026-08-30/DECISION_20260901_R437_DECISIVE_RUN_COMPLETE_FINAL.md

輪次 gain-2026-08-30 · 量測(事前判準 2,配對 McNemar) · 型別裁決:no_effect

gain.equal_budget_on_beats_off5等預算下 Vacant 贏過五次取多數推翻增益軸

等預算下,Vacant(ON)打得贏同題跑五次取多數決(OFF5)

更正後

ON 比 self-consistency 多做的事(評審+單輪修訂)在這批 worker 與題目上沒有交付可量測的價值;邊界:換更強評審、換「有反例才修」觸發、換題庫都可能翻盤,那是新實驗(R440/R440B 階梯)。

依據數值

完整配對
{"n":101,"p":0.4531}
難題子集(OFF 失敗集合)
{"n":21,"ON":0.2857,"OFF5":0.2857,"b":1,"c":1,"p":1}

原始紀錄:增益實驗_2026-08-30/DECISION_20260901_R438_HARD_SUBSET_AND_REVISE_MECHANISM.md

輪次 gain-2026-08-30 · 量測(事前判準 3) · 型別裁決:refuted

gain.mechanism打不贏的機制:評審票近乎常數、修訂無淨修正成立增益軸

打不贏的機制:評審票幾乎是常數函數,修訂幾乎不產生淨修正

依據數值

生效評審票準確率
0.7552
almost-PASS 基線
0.7522
差
0.0029
revise 反事實 no_opportunity
93/113
盲目採用 revised 的 hidden 通過率
82.3%→78.8%
discarded_win
0/113
revision_transition=improved
1/113

原始紀錄:增益實驗_2026-08-30/DECISION_20260901_R438_HARD_SUBSET_AND_REVISE_MECHANISM.md

輪次 gain-2026-08-30 · 機制分析(在完整 179 題資料上重算) · 型別裁決:held

gain.ceiling_hypothesis換弱模型就會顯出增益(天花板假說 H-A)推翻增益軸

35b worker 太強造成天花板效應,換成 12b 單模型後 Vacant 就會顯出增益

更正後

在這個機制設計下,worker 強弱不是綁定約束。

依據數值

OFF 失敗率
0.318
ON vs OFF5
{"n":167,"b":11,"c":12,"p":1}
評審 grounded −基線
+4.19pp(95% [0, 8.58])
ON void
12/179

原始紀錄:增益實驗_2026-08-30/DECISION_20260903_R440N_E1_INDEPENDENT_AUDIT_CONCUR.md

輪次 gain-2026-08-30 · 量測(人類 2026-09-01 提出的假說 H-A;E1 gemma-4-12b 單模型池 179 題) · 型別裁決:refuted

gain.hard_bench_hypothesis換難題庫就會顯出增益(難度假說 H-B)推翻增益軸

MBPP+ 對現代模型太簡單,換成有日期戳的比賽難題(LiveCodeBench)就會顯出增益

更正後

三個乾淨 run、兩個模型家族、兩個題庫、兩種難度,答案一致:等預算下這個機制打不贏 self-consistency。

依據數值

OFF 失敗率
0.484
Wilson CI95
[0.384,0.585]
ON vs OFF5
{"n":87,"b":15,"c":10,"p":0.4244}
題庫確實更難
比 MBPP+ 的 31.8% 高 16.6pp

原始紀錄:增益實驗_2026-08-30/DECISION_20260904_R440T_E3_WRAPUP.md

輪次 gain-2026-08-30 · 量測(人類 2026-09-01 提出的假說 H-B;E3 LCB 91 題 medium+hard × gemma-only) · 型別裁決:refuted

gain.reviewer_tracks_difficulty評審追蹤的是題目難度不是答案對錯成立增益軸

評審追蹤的是題目難度這個全域性質,不是個別答案的對錯

依據數值

MBPP+
{"原始 FAIL 主張":"少數(近乎一律 PASS)","初稿錯誤率":0.305,"原始層−常數基線":"-2.99pp"}
LCB 難題
{"原始 FAIL 主張":"234/261 = 89.7%(近乎一律 FAIL)","初稿錯誤率":0.46,"原始層−常數基線":"+0.77pp"}
解釋
換題庫只是換了它偏向哪一個常數

原始紀錄:增益實驗_2026-08-30/DECISION_20260904_R440T_E3_WRAPUP.md

輪次 gain-2026-08-30 · 機制分析(跨兩題庫對照) · 型別裁決:held

gain.clean_dataset決定性 run 是第一個乾淨的完整資料集說太滿增益軸

決定性 run 是第一個乾淨的完整資料集:無已知 bug 污染、void 率在窗口內

更正後

配對分析用的是三臂皆非 void 的 n=101 題,統計結論不受 void 直接影響;但「乾淨」應改成「無已知 bug 污染、配對子集 n=101」,void 率要照實列出。round459/R440D 之後的 qwen-only run void 79% 已另案判為不可用。

依據數值

ON infra_void
66/179
OFF5 infra_void
30/179
OFF infra_void
5/179
R437 自記
void率 ON=36.2% OFF5=16.9% ⚠VOID-GATE-WARNING
equal_budget_comparison_valid(summary 欄位)
false

原始紀錄:增益實驗_2026-08-30/g_r356_3arm_summary.json

輪次 gain-2026-08-30 · 資料品質宣稱 · 型別裁決:overstated

gain.conform_early_stop_beats_single早停閘門比單抽一份多交付成立增益軸

「跑客戶自己的驗收測資、交第一份通過的、全不通過就拒交」(CONFORM 早停閘門)比「單抽一份就收」(OFF)多交付

依據數值

MBPP+ 併庫 371 題
+4.58pp(CI [+0.57, +8.04])
LCB v2 120 題
{"delta_pp":19.17,"b":31,"c":8,"p":0.0003}
LCB v3 189 題
{"delta_pp":7.94,"b":25,"c":10,"p":0.0167}
呼叫/題
1.51/1.71/1.55 對 1.00

欄位:rows.jsonl 的 arm/task_id/delivered/hidden_pass/calls_used

原始紀錄:runs/g_r444_conform_mbpp/rows.jsonl、runs/g_r445_conform_mbpp_ext/rows.jsonl(MBPP+ 併庫 371 題);runs/g_r447_conform_lcb2/rows.jsonl(LCB v2 120 題);runs/g_r461_lcb3_three_arm/rows.jsonl(LCB v3 189 題)

重算方式:ops/gain/replay/conform_settle.py、ops/gain/replay/paired_ci.py、ops/gain/replay/pooled_paired_ci.py(零 API,只讀 rows.jsonl)

輪次 gain-2026-08-30 · 量測(三個題庫、配對) · 型別裁決:held

gain.gate_rule_beats_majority_vote_same_candidates同一組候選,閘門規則勝過五份投票成立增益軸

在同一組 5 份候選、同樣 5 通呼叫下,閘門規則(交第一份通過的、全不通過就不交)比五份投票取多數交付得多

依據數值

r446
{"gate":75.47,"vote":71.43,"b":24,"c":9,"delta_pp":4.04,"ci95":[0.796,6.529],"p":0.0135}
r448
{"gate":77.09,"vote":73.58,"b":21,"c":8,"delta_pp":3.5,"ci95":[0.81,6.47],"p":0.0241}
r449b
{"gate":70.83,"vote":62.5,"b":15,"c":5,"delta_pp":8.33,"ci95":[0.3,13.78],"p":0.0414}
r449c(UNRESOLVED)
{"gate":83.07,"vote":78.84,"b":13,"c":5,"delta_pp":4.23,"ci95":[-0.66,7.68],"p":0.0963}

原始紀錄:runs/g_r446_eq5_mbpp/rows.jsonl(MBPP+ 371 題)、runs/g_r448_eq5_mbpp_seed2/rows.jsonl(MBPP+ 371 題、換種子)、runs/g_r449_eq5_lcb2/rows.jsonl(LCB v2 難題 120 題)、runs/g_r449c_eq5_lcb3/rows.jsonl(LCB v3 189 題,判 UNRESOLVED)

重算方式:ops/gain/analyze_eq5.py(零 API,只讀 rows.jsonl;它自己印的 prereg 區塊**不是**仲裁者,見 R449B §三 末)

輪次 gain-2026-08-30 · 量測(EQ5 等預算臂,四個 run) · 型別裁決:held

gain.conform_vs_off5_unresolved閘門在交付準確率上贏過多數決同號未解析增益軸

閘門(CONFORM)在交付準確率上贏得過同題跑五次取多數決(OFF5)

依據數值

LCB v2
{"delta_pp":6.67,"p":0.15}
LCB v3
{"delta_pp":1.59,"ci95":[-3.17,6.35],"p":0.6636}
MBPP+ 乾淨複製(新 192 題)
{"delta_pp":4.69,"ci95":[-1.11,9.42]}
MDE@371
4.31
80%_power_需配對數
491
題庫上限
378

原始紀錄:runs/g_r447_conform_lcb2/rows.jsonl(LCB v2 120 題)、runs/g_r461_off_gate_lcb3/rows.jsonl 與 runs/g_r461_lcb3_three_arm/rows.jsonl(LCB v3 189 題);MBPP+ 側 runs/g_r445_conform_mbpp_ext/rows.jsonl

重算方式:ops/gain/replay/paired_ci.py、ops/gain/replay/off5_k_curve.py

輪次 gain-2026-08-30 · 量測(獨立抽樣,兩個 LCB run) · 型別裁決:unresolved

gain.lossless_visible_filter可見篩選是無損的成立增益軸

可見篩選是無損的——沒有出現「隱藏測資會過、但可見驗收沒過」的候選

依據數值

MBPP+ 合計
0/1630
LCB v1 重放
0/455
LCB v2 真跑
0/120
LCB v3 真跑
0/189
重疊(非獨立樣本)
LCB v1 重放與 LCB v2 真跑共用 91 題

欄位:rows.jsonl 的 visible_pass 與 hidden_pass;違反=hidden_pass ∧ ¬visible_pass

原始紀錄:runs/g_r441_gemma_only_mbpp_b/rows.jsonl(0/895)、runs/g_r356_3arm_20260830/rows.jsonl(0/735)、runs/g_r443_gemma_lcb/rows.jsonl(LCB v1 重放 0/455)、runs/g_r447_conform_lcb2/rows.jsonl(LCB v2 真跑 0/120)、runs/g_r461_off_gate_lcb3/rows.jsonl(LCB v3 真跑 0/189)

重算方式:ops/gain/replay/rows_visible_audit.py、ops/gain/replay/verify_hidden.py、ops/gain/replay/check_lcb_visible_subset.py

輪次 gain-2026-08-30 · 量測(六個資料集) · 型別裁決:held

gain.off5_helps_on_hard_only五倍預算只在難題上買得到東西成立增益軸

五倍預算的 self-consistency(OFF5 對 OFF)只在難題上買得到東西

依據數值

MBPP+
{"delta_pp":0.81,"ci95":[-2.78,4.28],"格":"RULED_OUT"}
LCB v2
{"delta_pp":12.5,"b":22,"c":7,"p":0.0081}
LCB v3
{"delta_pp":6.35,"b":22,"c":10,"p":0.0501}
對照(改花法比加預算更有用)
+19.2pp @1.71 通 vs +12.5pp @5 通
r461 不算難題複製
lcb3 的 OFF 失敗率 27.5%,已回到 MBPP+ 量級 31.8%

原始紀錄:runs/g_r441_gemma_only_mbpp_b/rows.jsonl 與 runs/g_r356_3arm_20260830/rows.jsonl(MBPP+)、runs/g_r447_conform_lcb2/rows.jsonl(LCB v2 120 題)、runs/g_r461_lcb3_three_arm/rows.jsonl(LCB v3 189 題)

重算方式:ops/gain/replay/off5_k_curve.py、ops/gain/replay/paired_ci.py

輪次 gain-2026-08-30 · 量測(OFF5 vs OFF,跨題庫對照) · 型別裁決:held

peerexec.mutual_execution_below_threshold多數門檻以下互跑可指名說謊者成立紀錄與多方

在多數門檻以下(腐化執行器數 ≤ ⌊(k−1)/2⌋),互跑不互審的交付與無腐化基線逐位相同,說謊者被指名、誠實者不被誣告

依據數值

模擬 門檻以下
{"與無腐化基線逐位相同":"100 格","說謊者被指名":1,"誠實者被誣告":0,"1 個腐化 k=1":"−7.8pp、偵測 0","1 個腐化 k=3":"偵測 1.000"}
真跑 R453(k=2)
{"跨機可見標籤一致":"1840/1840","出貨 sha":"340/340","拒交":"26/26","誠實執行器被指名":0,"每台鏈驗真":"2/2","spec/render sha 跨機相同":"368/368"}
真跑 R454(k=3、1 把說謊)
{"說謊格 dissenters 恰為 {K3}":"273/273","誠實金鑰出現在指名欄":"0(分母 1840)","自相矛盾格裁決仍正確":"58/58","三條鏈驗真":"3/3(鏈長 1840/1840/1899)","證言逐筆驗簽失敗":"0(共 5519 筆)"}

原始紀錄:【模擬】ops/gain/replay/peer_exec_sweep.json(200 格:r446 371 題×5 候選、r443 91 題×5、k∈{1,3,5,7}、腐化比例 0–70%、五種攻擊)、ops/gain/replay/peer_exec_flake.json(抖動×腐化);【真跑】ops/gain/replay/r453/r453_result.json 與 r453_independent_audit.json(k=2、Mac+vacant-dev)、ops/gain/replay/r454/r454_result.json 與 r454_naming_table.tsv(k=3、1 把說謊)

重算方式:ops/gain/replay/peer_exec_sim.py(模擬)、ops/gain/replay/peer_exec_real.py(真跑)、ops/gain/replay/receipt_chain_audit.py(鏈驗證);程式在 vacant/peerexec.py

輪次 peerexec-2026-09-05 · 模擬掃描+真跑(哪一半是哪一半見「邊界」) · 型別裁決:held

peerexec.suite_fixed_point互跑對「驗收套件本身腐化」毫無防禦成立紀錄與多方

互跑不互審對「驗收套件本身腐化」毫無防禦——這是機制的固定點,R451→R452 把它縮小成一個殘餘,但沒有消滅

依據數值

trivial 套件
{"交付率":"−6.47pp/−18.68pp","假交付":"31%/49%","四個 k 的爭議率":"全部 0.0%"}
R451 量具綁進 commit
trivial 套件 371/371 在 commit 就被拒(沒花一次沙箱)
R451 stateful 變體
{"交付率":"−75.20pp","交付":"0.00%","gauge_status":"ok(量具作為部分解作廢)"}
R452 套件改成資料
{"exec 走私上鏈":"368/371 → 0/371","超大十六進位整數穿門":"11/11 → 0/11","無損":"1840(MBPP+)+455(LCB)個候選逐格相同、0 不一致"}
殘餘(一律講兩個數字,分母 366/371 上鏈題)
{"可實現 generic_gauged":"17.93% → 20.65%=+2.72pp","事後諸葛上限 weak_oracle":"+4.35pp"}

原始紀錄:ops/gain/replay/peer_exec_trivial_suite.json(「載得進就算過」的套件)、ops/gain/replay/r451_stateful_gate.json(量具兩方向滿分的 stateful 變體)、ops/gain/replay/peer_exec_suitespec_gate.json 與 r452b_smuggle_gate.json(exec 走私)、ops/gain/replay/r452c_generic_gate.json 與 r452c_channel_hunt.json(殘餘:generic_gauged/weak_oracle)、ops/gain/replay/r453/r453_gauge.json

重算方式:ops/gain/replay/r452_suitespec.py、ops/gain/replay/r452c_generic_gate.py、ops/gain/replay/r452b_smuggle_gate.py;程式在 vacant/suitegauge.py

輪次 peerexec-2026-09-05 · 極限宣稱(held=這個「買不到」本身被量到了) · 型別裁決:held

peerexec.majority_bound指名有數學上界 ⌊(k−1)/2⌋成立紀錄與多方

指名有數學上界:多數決最多容忍 ⌊(k−1)/2⌋ 個腐化執行器,過半即反轉

依據數值

容忍上界
⌊(k−1)/2⌋
過半後誣告率
0.175/0.374(兩批掃描:r446 371 題×5、r443 91 題×5)
固定腐化比例下 k=1..7 交付率
一字不變(串謀 67.39%、破壞 0%)
k=3/quorum=2 缺一票
1-1 平手 ⇒ 未決、不指名

原始紀錄:ops/gain/replay/peer_exec_sweep.json(配套量測:固定腐化比例下 k 從 1 到 7交付率一字不變)、ops/gain/replay/r454/r454_naming_table.tsv(真跑的指名欄)

輪次 peerexec-2026-09-05 · 極限宣稱(機制的數學上界,不是量測結果) · 型別裁決:held

harness.hmix_loop_beats_resample_same_budget修訂迴圈比換人重抽多交付且不多花 token同號未解析增益軸・迴圈

把五通呼叫花在「跑客戶的驗收測資、把失敗原文貼回去、讓同一個 worker 改」(H-MIX),比花在換人重抽(CONFORM)多交付,且 token 不多花

依據數值

R460
{"OFF":{"deliv":58.33,"false_delivery_n":50,"tokens_per_task":2913},"CONFORM":{"deliv":70.83,"false_delivery_n":29,"tokens_per_task":5805},"OFF5":{"deliv":65,"false_delivery_n":42,"tokens_per_task":15004},"HPI":{"deliv":75.83,"false_delivery_n":17,"tokens_per_task":9448},"HOC":{"deliv":80,"false_delivery_n":18,"tokens_per_task":7432},"HMIX":{"deliv":84.17,"false_delivery_n":14,"tokens_per_task":5677},"HMIX_vs_CONFORM":{"b":22,"c":6,"delta_pp":13.33,"ci95":[4.22,19.46],"p":0.0037,"holm_p_adj":0.0112,"verdict":"EFFECTIVE"},"HMIX_vs_OFF":{"b":34,"c":3,"delta_pp":25.83,"ci95":[17.32,29.78]}}
R460R_HMIX_vs_CONFORM_by_rep
[{"rep":1,"num":93,"den":120,"conform_num":86,"delta_pp":5.83,"b":15,"c":8,"ci95":[-2.79,12.89],"holm_p_adj":0.63,"four_state":"INCONCLUSIVE"},{"rep":2,"num":92,"den":120,"conform_num":87,"delta_pp":4.17,"b":17,"c":12,"ci95":[-5.35,12.8],"holm_p_adj":0.917,"four_state":"INCONCLUSIVE"},{"rep":3,"num":91,"den":120,"conform_num":90,"delta_pp":0.83,"b":12,"c":11,"ci95":[-7.44,8.89],"holm_p_adj":1,"four_state":"RULED_OUT","ci95_upper":8.89,"四狀態語意":"RULED_OUT =排除 ≥+10pp,不是排除任何效果"},{"rep":4,"num":88,"den":120,"conform_num":85,"delta_pp":2.5,"b":13,"c":10,"ci95":[-5.94,10.28],"holm_p_adj":0.678,"four_state":"INCONCLUSIVE","註":"上界 10.28 離 RULED_OUT 只差 0.28pp ⇒ 四狀態計數對區間方法極敏感"},{"rep":5,"num":87,"den":116,"conform_num":82,"delta_pp":4.31,"b":14,"c":9,"ci95":[-4.54,12.01],"holm_p_adj":0.922,"four_state":"INCONCLUSIVE","分母":"complete-case 116(7 列 infra_void 作廢)","作廢最壞界":[0.83,7.5]}]
R460R_rep5_per_arm_den
{"OFF":119,"CONFORM":117,"OFF5":118,"HPI":120,"HOC":120,"HMIX":119}
R460R_rep5_infra_void
{"n":7,"by_arm":{"OFF":1,"CONFORM":3,"OFF5":2,"HMIX":1},"來源":"2026-09-13 01:44Z 後端模型崩潰後 JIT 重載(TTL 1h、每小時 :07 卸載);notes.jsonl 逐筆寫 HTTP 400 Failed to load model gemma-4-12b-it-qat(5)/HTTP 500(2)"}
R460R_reps_run
5
R460R_reps_prereg
5
R460R_statement_rule
5/5 同號成立、≥4/5 Holm 顯著不成立(0/5)⇒ 逐次照實列;不准寫「複製穩定」「多數支持」,也不准寫「複製失敗」「效果消失」「等價」
R460R_holm_significant_n
0
R460R_ci_all_intersect_R460
五個未調整區間全部與 R460 的 [4.22, 19.46] 相交
R460R_ci_uppers
[12.89,12.8,8.89,10.28,12.01]
R460R_ci_uppers_all_below_13.33
true
R460R_power_expectation
n=120 對 +10pp 檢定力 0.43–0.63 ⇒ 五次預期 2–3 次過;真值若為 +10pp,0/5 的機率約 0.007–0.06(下尾)
R460R_co_tenancy_pct
[8.5,71.3,2.1,0,0]
R529_HMIX_vs_CONFORM_by_set
[{"set":"lcb3_medium","num":126,"den":135,"conform_num":125,"delta_pp":0.74,"b":6,"c":5},{"set":"lcb3_hard","num":43,"den":54,"conform_num":41,"delta_pp":3.7,"b":5,"c":3},{"set":"humanevalplus","num":148,"den":156,"conform_num":147,"delta_pp":0.64,"b":5,"c":4},{"set":"mbppplus","num":299,"den":371,"conform_num":295,"delta_pp":1.08,"b":15,"c":11}]
R529_HMIX_vs_CONFORM_pooled
{"num":616,"den":716,"conform_num":608,"delta_pp":1.12,"b":31,"c":23,"holm_p_adj":0.341}
R529_four_state
INCONCLUSIVE
方向
9/9 同號(五次複製+四集),幅度未確立

原始紀錄:runs/g_r460_harness_lcb2_{a1,a2,a3,b1,b2,b3}/rows.jsonl 與 calls.jsonl(六塊各 20 題,合併 120 題);runs/g_r460r{1,2,3,4,5}_harness_lcb2_{a1,a2,a3,b1,b2,b3}/rows.jsonl(五次複製,各 120 題;r5 713 列,7 列 infra_void 在 notes.jsonl);runs/g_r529_{lcb3m_a1..a7,lcb3h_a1..a3,hep_a1..a8,mbpp_a1..a19}/rows.jsonl(四集,716 題)

重算方式:ops/gain/analyze_r460.py --run <六塊> --bank lcb2 --rescore-turn1(零 API,只跑沙箱);ops/gain/analyze_r460r.py --reps 1 2 3 4 5 --bank lcb2;落盤 ops/gain/replay/r460/r460_analyze.json、**ops/gain/replay/r460r/r460r_analyze_5reps.json**(與 `_norescore.json` 仲裁區塊逐位元相同)、ops/gain/replay/r529/r529_analyze.json。本條的 R460R 數字由 rows.jsonl 獨立重算(accepted∧meets_demand),與 analyzer 逐格一致。

輪次 harness-2026-09-08 · 量測(R460 六臂 LCB v2 120 題 + R460R **五次**同題複製 + R529 跨題庫四集) · 型別裁決:unresolved

harness.loop_beats_single_shot_replicated回饋迴圈比單抽一份多交付成立增益軸・迴圈

把五通呼叫花在回饋迴圈(H-MIX/H-PI/H-OC),比單抽一份就收(OFF)多交付——這一條跨題庫、跨複製都站得住

依據數值

R460R_vs_OFF_by_rep
{"HMIX":[{"rep":1,"num":93,"off_num":69,"den":120,"delta_pp":20,"b":29,"c":5},{"rep":2,"num":92,"off_num":65,"den":120,"delta_pp":22.5,"b":34,"c":7},{"rep":3,"num":91,"off_num":69,"den":120,"delta_pp":18.33,"b":28,"c":6},{"rep":4,"num":88,"off_num":62,"den":120,"delta_pp":21.67,"b":33,"c":7},{"rep":5,"num":88,"off_num":61,"den":118,"delta_pp":22.88,"b":34,"c":7,"分母":"complete-case 118"}],"HPI":[{"rep":1,"delta_pp":19.17,"b":26,"c":3,"den":120},{"rep":2,"delta_pp":25,"b":35,"c":5,"den":120},{"rep":3,"delta_pp":18.33,"b":29,"c":7,"den":120},{"rep":4,"delta_pp":29.17,"b":39,"c":4,"den":120},{"rep":5,"delta_pp":19.33,"b":31,"c":8,"den":119}],"HOC":[{"rep":1,"delta_pp":19.17,"b":28,"c":5,"den":120},{"rep":2,"delta_pp":19.17,"b":30,"c":7,"den":120},{"rep":3,"delta_pp":17.5,"b":28,"c":7,"den":120},{"rep":4,"delta_pp":26.67,"b":38,"c":6,"den":120},{"rep":5,"delta_pp":24.37,"b":31,"c":2,"den":119}],"holm":"十五格全部顯著(每次複製之內 6 個檢定的家族)"}
R529_HMIX_vs_OFF_by_set
[{"set":"lcb3_medium","num":126,"off_num":115,"den":135,"delta_pp":8.15,"b":17,"c":6},{"set":"lcb3_hard","num":43,"off_num":38,"den":54,"delta_pp":9.26,"b":7,"c":2},{"set":"humanevalplus","num":148,"off_num":129,"den":156,"delta_pp":12.18,"b":24,"c":5},{"set":"mbppplus","num":299,"off_num":277,"den":371,"delta_pp":5.93,"b":31,"c":9}]
R529_HMIX_vs_OFF_pooled
{"num":616,"off_num":559,"den":716,"delta_pp":7.96,"b":79,"c":22,"holm_p_adj":2.02e-8}
真來源數
3
分母警語
HumanEval+ 是 156/164(8 題因沙箱信封排除);R460R r5 的三個對照分母各自不同(118/119/119,7 列 infra_void),不准統一回填 120
後端負載不同質
五次與 R529 的共租率 8.5/71.3/2.1/0/0%;這一條的效果量大到共租解釋不了(量級上限 ≤1.7pp/臂),但仍要寫明

原始紀錄:runs/g_r460r{1,2,3,4,5}_harness_lcb2_*/rows.jsonl(五次 × 120 題;r5 713 列);runs/g_r529_*/rows.jsonl(四集 716 題)

重算方式:ops/gain/replay/r529/r529_analyze.json;ops/gain/replay/r460r/r460r_analyze_5reps.json;R460R 五次由 rows.jsonl 獨立重算(r5 用 complete-case 分母)

輪次 harness-2026-09-08 · 量測(**五次**同題複製 × 三條 harness 臂 + 四個互斥題目集) · 型別裁決:held

harness.gain_comes_from_executable_gate_and_resample增益主體是閘門+重抽,迴圈是小增量成立增益軸・迴圈

增益的主體是「可執行的驗收閘門+重抽」,回饋迴圈只是疊在它上面的小增量

依據數值

R460R_CONFORM_vs_OFF_by_rep
[{"rep":1,"conform_num":86,"off_num":69,"den":120,"delta_pp":14.17,"b":22,"c":5,"p_uncorrected":0.0015},{"rep":2,"conform_num":87,"off_num":65,"den":120,"delta_pp":18.33,"b":28,"c":6,"p_uncorrected":0.0002},{"rep":3,"conform_num":90,"off_num":69,"den":120,"delta_pp":17.5,"b":26,"c":5,"p_uncorrected":0.00019},{"rep":4,"conform_num":85,"off_num":62,"den":120,"delta_pp":19.17,"b":30,"c":7,"p_uncorrected":0.00019},{"rep":5,"conform_num":82,"off_num":60,"den":116,"delta_pp":18.97,"b":28,"c":6,"p_uncorrected":0.0002,"分母":"complete-case 116(7 列 infra_void 作廢)"}]
R529_CONFORM_vs_OFF_by_set
[{"set":"lcb3_medium","conform_num":125,"off_num":115,"den":135,"delta_pp":7.41,"b":14,"c":4,"p_uncorrected":0.031},{"set":"lcb3_hard","conform_num":41,"off_num":38,"den":54,"delta_pp":5.56,"b":3,"c":0,"p_uncorrected":0.25},{"set":"humanevalplus","conform_num":147,"off_num":129,"den":156,"delta_pp":11.54,"b":21,"c":3,"p_uncorrected":0.00028},{"set":"mbppplus","conform_num":295,"off_num":277,"den":371,"delta_pp":4.85,"b":26,"c":8,"p_uncorrected":0.0029}]
R529_CONFORM_vs_OFF_pooled
{"conform_num":608,"off_num":559,"den":716,"delta_pp":6.84,"b":64,"c":15,"p_uncorrected":2.3e-8}
迴圈再加多少
{"R460R":[5.83,4.17,0.83,2.5,4.31],"R529":[0.74,3.7,0.64,1.08]}
p 全部未校正
五次 CONFORM−OFF 的 p_raw 全部 < 0.002,但 CONFORM−OFF 不在任何預註冊的 Holm 家族裡 ⇒ 不可讀成「閘門的效果是顯著的」
事後補的四集 Holm(只當描述)
{"humanevalplus":0.0011,"mbppplus":0.0088,"lcb3_medium":0.062,"lcb3_hard":0.25}
不是因果
CONFORM 與 H-MIX 是兩條各自跑的臂,不是兩階段;「閘門 +14pp、迴圈 +6pp」是相減得到的敘述,不是被分離出來的成分

原始紀錄:runs/g_r460r{1,2,3,4,5}_harness_lcb2_*/rows.jsonl;runs/g_r529_*/rows.jsonl

重算方式:分子分母由 rows.jsonl 獨立重算(交付判準=accepted ∧ meets_demand);ops/gain/replay/r460r/r460r_analyze_5reps.json

輪次 harness-2026-09-08 · 歸因(**稽核判斷**,非預註冊主指標;CONFORM−OFF 是家族外探索量) · 型別裁決:held

harness.majority_vote_loses_to_gate同樣五通,投票輸給閘門且貴一倍以上同號未解析增益軸・迴圈

同樣五通呼叫,五份投票取多數(OFF5)**輸給**「跑驗收測資、交第一份通過的」(CONFORM),而且貴一倍以上

依據數值

OFF5_vs_CONFORM_by_rep
[{"rep":1,"off5_num":73,"conform_num":86,"den":120,"delta_pp":-10.83,"b":7,"c":20,"p_uncorrected":0.019},{"rep":2,"off5_num":74,"conform_num":87,"den":120,"delta_pp":-10.83,"b":9,"c":22,"p_uncorrected":0.029},{"rep":3,"off5_num":71,"conform_num":90,"den":120,"delta_pp":-15.83,"b":4,"c":23,"p_uncorrected":0.00031},{"rep":4,"off5_num":80,"conform_num":85,"den":120,"delta_pp":-4.17,"b":12,"c":17,"p_uncorrected":0.458,"共租":"零(1004 獨占三串)"},{"rep":5,"off5_num":80,"conform_num":82,"den":115,"delta_pp":-1.74,"b":11,"c":13,"p_uncorrected":0.839,"分母":"complete-case 115","共租":"零(1004 獨占三串)"}]
同號 5/5
true
未校正 p < 0.05 的次數
3
乾淨的兩次不顯著
後端零共租的 r4/r5 恰好是 −4.17/−1.74 那兩次;同期 OFF 掉到 51.67/51.26%、OFF5 升到 66.67/68.64%、CONFORM 幾乎沒動(70.83/70.94%)⇒ 跨次差異裡有一塊不是取樣
但共租解釋不了這個形狀
OFF5 =五份 OFF 取多數;OFF 變差的同時 OFF5 好了 7–9pp,方向相反 ⇒「乾淨的兩次不顯著」目前只能當描述,講成「共租讓前三次看起來更誇張」是還沒有證據的因果話
tokens_per_task
{"OFF5":[15565,14877,14954,15226,14163],"CONFORM":[6497,6880,5246,5770,6416],"ratio":[2.4,2.16,2.85,2.64,2.21]}
calls_per_task
{"OFF5":[5.04,5.03,5.03,5.03,5.12],"CONFORM":[1.78,1.71,1.53,1.69,1.79]}
OFF5_vs_OFF_by_rep
[{"rep":1,"delta_pp":3.33,"p_uncorrected":0.58},{"rep":2,"delta_pp":7.5,"p_uncorrected":0.16},{"rep":3,"delta_pp":1.67,"p_uncorrected":0.85},{"rep":4,"delta_pp":15,"p_uncorrected":0.0021},{"rep":5,"delta_pp":16.24,"p_uncorrected":0.00088}]
口徑差異
Fable 摘要寫 token 2.4–2.9 倍;本輪自 calls.jsonl 重算 rep2 是 2.16 倍(analyzer 含 wire_probe、rows 的 harness_tokens_total 不含)。r5 的 2.21 排除了作廢題的呼叫;把作廢題的 47,102 token 算進去(tpc_incl_void)是 2.25——兩個數字不可混用

原始紀錄:runs/g_r460r{1,2,3,4,5}_harness_lcb2_*/rows.jsonl 與 calls.jsonl

重算方式:交付由 rows.jsonl 重算;token/呼叫由 calls.jsonl 的 usage 逐通加總(preflight 另計、未計入;r5 排除作廢題的呼叫)

輪次 harness-2026-09-08 · 量測(**探索量**:OFF5 − CONFORM 不在任何預註冊 Holm 家族裡) · 型別裁決:unresolved

harness.hpi_hoc_vs_resample_unresolved另外兩條迴圈臂也贏過換人重抽同號未解析增益軸・迴圈

pi 式原始回饋迴圈(H-PI)與計畫+診斷+自測(H-OC)也贏過換人重抽

依據數值

R460
{"HPI_vs_CONFORM":{"delta_pp":5,"ci95":[-4.4,13.3],"holm_p_adj":0.345},"HOC_vs_CONFORM":{"delta_pp":9.17,"ci95":[-1,17.62],"holm_p_adj":0.16}}
R460R_vs_CONFORM_by_rep
{"HPI":[{"rep":1,"num":92,"conform_num":86,"den":120,"delta_pp":5,"b":16,"c":10,"holm_p_adj":0.654},{"rep":2,"num":95,"conform_num":87,"den":120,"delta_pp":6.67,"b":19,"c":11,"holm_p_adj":0.602},{"rep":3,"num":91,"conform_num":90,"den":120,"delta_pp":0.83,"b":16,"c":15,"holm_p_adj":1},{"rep":4,"num":97,"conform_num":85,"den":120,"delta_pp":10,"b":20,"c":8,"holm_p_adj":0.107,"ci95":[0.62,17.16],"註":"五次三十格裡唯一未調整下界 > 0 的一格;Holm 後不顯著,且 H-PI 是消融臂 ⇒ 不得替主張"},{"rep":5,"num":83,"conform_num":83,"den":117,"delta_pp":0,"b":14,"c":14,"holm_p_adj":1,"ci95":[-9.26,9.26],"four_state":"RULED_OUT","分母":"complete-case 117","作廢最壞界":[-2.5,2.5],"註":"最壞界會變號 ⇒ RULED_OUT 照規則保留,敏感度必須一起寫"}],"HOC":[{"rep":1,"num":92,"conform_num":86,"den":120,"delta_pp":5,"b":16,"c":10,"holm_p_adj":0.654},{"rep":2,"num":88,"conform_num":87,"den":120,"delta_pp":0.83,"b":13,"c":12,"holm_p_adj":1},{"rep":3,"num":90,"conform_num":90,"den":120,"delta_pp":0,"b":12,"c":12,"holm_p_adj":1},{"rep":4,"num":94,"conform_num":85,"den":120,"delta_pp":7.5,"b":17,"c":8,"holm_p_adj":0.216},{"rep":5,"num":89,"conform_num":83,"den":117,"delta_pp":5.13,"b":15,"c":9,"holm_p_adj":0.922,"分母":"complete-case 117"}]}
十次全部未過 Holm
true
rep3_HOC_與_rep5_HPI_是恰好打平
12/12 與 14/14,方向沒有翻負;不准讀成「證實無效」
對單發則五次全顯著
{"HPI":[19.17,25,18.33,29.17,19.33],"HOC":[19.17,19.17,17.5,26.67,24.37]}

原始紀錄:runs/g_r460_harness_lcb2_*/rows.jsonl;runs/g_r460r{1,2,3,4,5}_harness_lcb2_*/rows.jsonl

重算方式:ops/gain/replay/r460/r460_analyze.json · decision.HPI / decision.HOC;ops/gain/replay/r460r/r460r_analyze_5reps.json;R460R 五次由 rows.jsonl 獨立重算(r5 用 complete-case 分母 117)

輪次 harness-2026-09-08 · 量測(R460 的另外兩條 harness 臂 + R460R **五次**同題複製) · 型別裁決:unresolved

harness.gain_is_the_loop_not_the_prompt增益幾乎全來自迴圈不是 prompt 措辭成立增益軸・迴圈

H-MIX 的增益幾乎全來自「把失敗原文貼回去讓它改」的迴圈,不是第一輪 prompt 的措辭

依據數值

HMIX
{"loop_effect_pp_replays":[19.17,17.5],"prompt_effect_pp_replays":[6.67,8.33],"loop_gain_n":21,"turn1_visible_pass_pp":74.2}

原始紀錄:runs/g_r460_harness_lcb2_*/calls.jsonl(turn-1 全文回應)+ rows.jsonl

重算方式:ops/gain/analyze_r460.py --rescore-turn1;ops/gain/replay/r460/r460_analyze.json · attribution.*

輪次 harness-2026-09-08 · 歸因(D5:turn-1 離線重取碼再計分,零模型呼叫) · 型別裁決:held

zero.dabstep_paid_no_difference零設定對 DABstep:兩個模型都沒量到差別無可分辨差異repo 裁決增益軸

在 DABstep 付費正式批次上,裝了零設定 Vacant 的 agent 答對率沒有量到比沒裝的高:gemma-4-26b 50/77 對 44/77(p=0.21)、qwen3.8-27b 68/77 對 64/77(p=0.29)。

更正後

照預註冊的說法是「沒有量到差別」,不是「沒有效果」。原文:「不說『沒有效果』,也不說『變差』」。

依據數值

gemma 沒裝
50 / 77 題對(64.9%)
gemma 裝了
44 / 77 題對(57.1%)
gemma p
McNemar 精確雙尾 p=0.21
qwen 沒裝
68 / 77 題對(88.3%)
qwen 裝了
64 / 77 題對(83.1%)
qwen p
p=0.29
分母
77 題不重複 DABstep,每題每組一跑

原始紀錄:Vacant repo:docs/ZERO_CONFIG_EVAL_REPORT_2026-09-26.md:150-153

重算方式:讀該 repo 的 ops/eval/evidence_20260925/ 索引;原始請求與回應本文都在

先行研究

這一輪的結果和過去的資料不矛盾,因為過去沒有量過完全一樣的設定。

輪次 zero-2026-09-25 · 實驗結果 · 型別裁決:no_effect

zero.dabstep_paid_rejects_all_false那一輪 8 次退回全部是誤報推翻repo 裁決增益軸・迴圈

零設定在 DABstep 付費批次觸發的 8 次退回,修正後全部都不會發生——158 跑一次都不會退回,也就是修好之後 C 等於 A,不幫忙也不傷害。

更正後

結論檔原本寫 7 次,獨立重算後更正為 8 次。

依據數值

退回次數
8 次(分母是 158 跑:gemma 79+qwen 79)
實際誤報率
gemma 6/37(16%)、qwen 1/64(2%),分母是第一次走到交件前檢查且當時答案為對的跑數
傷害
0 次(沒有任何一次是把對的答案改錯)

原始紀錄:Vacant repo:docs/ZERO_CONFIG_EVAL_REPORT_2026-09-26.md:157、219-220

輪次 zero-2026-09-25 · 機制缺陷 · 型別裁決:refuted

zero.local711_p021_thin本機 711 格批次 p=0.021,但差別集中在 6 題說太滿repo 裁決增益軸

零設定 v3 在本機 711 格批次對沒裝的預註冊主要檢定 p=0.0207,但作者自己寫明顯著性很薄:6 題全拿掉之後平均差 0.009、p=0.80;兩跑的結果翻過來 p 就超過 0.05。

更正後

任何引用這個 p 值的句子都必須同時說出「集中在 6 題」與「6 題全拿掉 p=0.80」。原文:「顯著性很薄:兩跑的結果翻過來、或拿掉那 6 題裡的任兩題,p 就會超過 0.05。不外推到別的模型、別的題庫、沒有上限的使用。」

依據數值

主要檢定
Wilcoxon 精確 p=0.0207(報 0.021)
平均差
+0.074(約 +7.4 pp),bootstrap 95% CI 0.017–0.139
方向
15 題較好、7 題較差、55 題一樣;符號檢定 p=0.13
敏感性
拿掉 6 個大差中任兩題 ⇒ p≥0.05;6 題全拿掉 ⇒ 平均差 0.009、p=0.80
分母
77 題 × 3 次(原設計 711 格=79 題 × 三組 × 3 次)

原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260926_ZERO_CONFIG_V3_LOCAL.md:10-15、38-39

重算方式:該 repo 的分析腳本;量具本身也修過(浮點同分誤判,0.0189 修成 0.0207)

先行研究

v3 是看過上一輪同一批 77 題的紀錄之後設計的,題目與規則不是獨立的;人類沒有逐條簽這份預註冊。

輪次 zero-2026-09-26 · 實驗結果 · 型別裁決:overstated

zero.v3_3_never_firedv3-3「只剩一回合只退回缺檔」一次都沒觸發推翻repo 裁決增益軸・迴圈

v3-3 這條機制在本機 150 次走到交件前檢查中一次都沒有觸發,沒有可觀察的貢獻。

依據數值

分母
C2 全部 150 次走到交件前檢查
觸發次數
0 次
原因
沒有交件前檢查發生在第 14 回合以後

原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260926_ZERO_CONFIG_V3_LOCAL.md:55

輪次 zero-2026-09-26 · 機制缺陷 · 型別裁決:refuted

zero.colab920_no_difference零設定對 Colab 920 題程式庫沒量到差別無可分辨差異repo 裁決增益軸

在 Colab 五組程式題庫 920 題上,裝了 v3.6.1 的 agent 答對率沒有量到比沒裝的高:748/920(81.3%)對 758/920(82.4%),p=0.387。

更正後

作者可用的說法是:「在這 920 題、Colab 上的 gemma-4-12b(關思考)、pi 0.87.1、不設回合上限下,只多打使用者的安裝指令,答對率沒有量到差別。」

依據數值

沒裝
748 / 920(81.3%)
裝了
758 / 920(82.4%)
p
McNemar 精確雙尾 p=0.387
分母
920 題 × 2 組=1,840 格,3 題具名排除

原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260928_COLAB_C5_PI_VACANT361.md:8、37-39

輪次 zero-2026-09-27 · 實驗結果 · 型別裁決:no_effect

zero.colab920_rejects_96pct_false920 題批次上 96% 的退回是誤退推翻repo 裁決增益軸・迴圈

v3.6.1 在程式題上的退回 96% 是誤退:472 次退回裡 455 次是因為它只認 pytest 與 python -m unittest,不認 agent 實際跑過的 sh run_tests.sh。

依據數值

退回次數
472 次(分母是次數,不是跑數)
誤退
test_claim/none 455 次
其他
failed_step 21、unsourced 1、missing_output 0 次
分母(另一個)
C 組 920 格中 858 格走到交件前檢查、309 格被退回
代價
誤退沒有看得出來的傷害,但多花約 12% 的模型呼叫

原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260928_COLAB_C5_PI_VACANT361.md:57、61-64

輪次 zero-2026-09-27 · 機制缺陷 · 型別裁決:refuted

zero.u274_no_differenceu274 預註冊批次:9 對 10,沒有量到差別無可分辨差異repo 裁決增益軸

在 274 題依種子順序的前 100 題(全 hard、沒用過)上,沒裝 9/100 答對、裝了 v3.6.1 10/100 答對,McNemar 精確雙尾 p=1.0,沒有量到差別。

更正後

原文:「不說『沒有效果』……就算 7 對全是 C 單獨對,p 也只有 0.016;6 比 1 是 0.125。這一批只看得到非常大的差。」

依據數值

沒裝
9 / 100 題對
裝了
10 / 100 題對
配對
A對∩C對=6、A對∩C錯=3、A錯∩C對=4、A錯∩C錯=87
p
McNemar 精確雙尾 p=1.0
時限
200 跑裡 116 跑碰到 1800 秒時限

原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260928_NOCAP_UNSEEN_U274.md:13-15、19-22

重算方式:該 repo 記錄三方獨立重算一致

輪次 zero-2026-09-28 · 實驗結果 · 型別裁決:no_effect

zero.u274_missing_file_returns_all_wrongu274 的缺檔退回 31 跑,之後沒有任何一跑答對推翻repo 裁決增益軸・迴圈

u274 批次裡缺檔退回觸發 31 跑(共 37 次),這 31 跑最後沒有一跑答對——17 錯、14 還是沒交。C 多交的答案檔都錯,也多撞 18 次時限。

依據數值

被退回
31 跑(共 37 次;6 跑退了兩次)
之後結果
0 對、17 錯、14 還是沒檔
觸發原因
15 跑是 agent 說做完卻沒檔;16 跑是模型那一側出錯結束回合被叫回來(15 跑 failed to decode、1 跑 Stream ended without finish_reason)
時限
1800 秒時限 A 49 跑、C 67 跑(C 多 18)
傷害
0 次

原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20260928_NOCAP_UNSEEN_U274.md:37-42

輪次 zero-2026-09-28 · 機制缺陷 · 型別裁決:refuted

zero.v37_fixes_three_defectsv3.7 修掉三個缺陷,退回從 309 降到 29成立repo 裁決增益軸・迴圈

v3.7 修掉三個缺陷:認任意測試腳本(不只 pytest)、交付物也從人要 agent 照著做的說明檔認、模型錯誤結束的回合一律不退回。在 Colab 920 題批次上第一次就退回的跑數從 309 降到 29。

更正後

v3.7 對答對率的上限作者自己寫明很小:「Colab 新增的 10 跑缺檔退回就算全部救回也是 920 題裡 +10 題。」原文標題就是「預期(寫明,不是檢定)」。

依據數值

Colab(858 跑有檢查)
v3.6.1 第一次就退回 309 跑 → v3.7 29 跑
u274(51 跑)
36 跑 → 20 跑
S36-nocap(65 跑)
12 跑 → 12 跑(不變)
R530 SOLO(59 格)
35 格 → 32 格(全對的 6 格 → 4 格);退回裡真的有問題的比例 0.83 → 0.875
對抗審查
20 條都重現,會在日常使用誤退的全部修掉;回歸測試 31 條
離線保真
v3.6.1 重算 Colab 1327/1327、u274 81/81、S36-nocap 80/80 次檢查全部對齊

原始紀錄:Vacant repo:decisions/DECISION_20260926_ZERO_CONFIG_V3.md:151-178

輪次 zero-2026-09-28 · 機制修正 · 型別裁決:held

zero.v37_colab_p0028v3.7 在 Colab 上量到 +11.3 pp(p=0.0028)成立repo 裁決增益軸

v3.7 在 Colab 的 DABstep 711 格批次上量到比沒裝的高:A 97/231(42.0%)、C37 123/231(53.2%)、C37R 139/231(60.2%);主要檢定 C37−A 平均差 +11.3 pp,p=0.0028。

更正後

作者明講不能講成「v3.7 比之前的版本好」,能說的是:「在這個環境裡,『說做完卻沒寫要求的檔』常見,而零設定的 missing_output 退回能把它救回來。」沒裝的 agent 說完卻沒寫有 42/231 格。

依據數值

A 沒裝
97 / 231(42.0%)
C37 裝了
123 / 231(53.2%)
C37R
139 / 231(60.2%)
C37−A
+11.3 pp(C37 好 26 題、A 好 12 題),p=0.0028
C37R−A
+18.2 pp(34 對 7),p=3.1e-5,Holm 6.3e-5
傷害
0 次
分母
231 格/組;79 題 × 3 次
答案檔對的比例
A 81.5%、C37 76.4%、C37R 65.9%(交出去變多,其中對的比例下降)

原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20261002_COLAB_DABSTEP_V37.md:9、15-20

輪次 zero-2026-10-02 · 實驗結果 · 型別裁決:held

zero.v37_gguf_not_replicated同一個 v3.7 換成 GGUF 後端就沒有複製出來推翻repo 裁決增益軸

在 vacant-dev 複製(LM Studio GGUF、gemma-4-12b、15 回合上限)上,同一個 v3.7 的主要檢定不顯著:C37−A −0.4 pp,p=0.84。Colab 那個 p=0.0028 沒有複製出來。

更正後

作者對照組的結論:「一個引擎有、一個沒有」——不能宣稱「零設定 v3.7 讓 agent 做得更好」。機制差異:GGUF 上退回要用回合,被 15 回合切斷的從 59 升到 74,淨效果約 0;Colab 補回的量大於被切掉的量。作者歸因:「Colab 那個 p=0.0028 主要是那個推論引擎讓沒裝的 agent 更常漏寫檔。」

依據數值

A 沒裝
122 / 231(52.8%)
C37
121 / 231(52.4%)
C37R
146 / 231(63.2%)
C37−A
−0.4 pp(C37 好 11 題、A 好 13 題),精確 p=0.84
C37R−A
+10.4 pp(21 對 7),p=0.0051
分母
231 格/組;79 題 × 3 次

原始紀錄:Vacant repo(docs/gguf-replication-results 分支,2026-10-03 時尚未併入 main):decisions/conclusions/CONCLUSION_20261003_VACANTDEV_DABSTEP_V37.md:9-21、28-34

輪次 zero-2026-10-03 · 實驗結果 · 型別裁決:refuted

zero.task3_no_difference任務導向三題庫 94 題沒量到差別無可分辨差異repo 裁決增益軸

在任務導向三題庫 94 題、Colab、不設回合上限下,v3.7 沒有量到差別:A 136/188(72.3%)對 C37 141/188(75.0%),Wilcoxon p=0.36。

更正後

作者的跨批次總結:「DABstep 15 回合、A 有 18%『說完卻沒寫』就量得到差;任務導向三庫 A 只有 5/120(4%)就量不到。錯在決定、或被時限切斷的,零設定本來就看不到。」

依據數值

A
136 / 188(72.3%)
C37
141 / 188(75.0%)
p
Wilcoxon p=0.36
分題庫
DABench 85.0%→88.3%、DataBench 80.0%→86.7%、Polyglot Python 54.4%→52.9%
傷害
0 次
分母
188 格=94 題 × 2 次

原始紀錄:Vacant repo:decisions/conclusions/CONCLUSION_20261002_COLAB_TASK3_V37.md:20-24

輪次 zero-2026-10-02 · 實驗結果 · 型別裁決:no_effect

zero.reminder_default_off回合預算提醒預設關,因為它多交的答案錯多於對成立repo 裁決增益軸

從 v3.6 起回合預算提醒預設關閉,要的人自己加 --budget-reminder。理由是提醒讓答對率從 51.9% 升到 59.3%,但多交出來的答案錯多於對。

更正後

作者的理由原文:「對一個不看評分的人,多一個沒有根據的答案不是改善。」

依據數值

答對率
A 51.9% → C2 59.3%(本機 09-26 正式批次,每組 77 題 × 3 次)
答案檔對的比例
約 82% → 65%(同一批;裁決文件 §十 原文,未附分母)
同方向再出現一次
Colab 10-02 v3.7 批:A 97/119=81.5%、C37 123/161=76.4%、C37R(開提醒)139/211=65.9%。分母是該批各組有答案檔的格數,不是上一行那一批的

原始紀錄:Vacant repo:decisions/DECISION_20260926_ZERO_CONFIG_V3.md:139-146;decisions/conclusions/CONCLUSION_20261002_COLAB_DABSTEP_V37.md:43

輪次 zero-2026-09-27 · 設計決策 · 型別裁決:held

zero.not_contradicts_past零設定的否定結果與過去的資料不矛盾成立repo 裁決增益軸

零設定三個批次的否定結果與過去量到的增益不矛盾,因為過去沒有量過完全一樣的設定。過去有增益的都是 Vacant 自己握著生成的機制。

更正後

作者明令不可以說「和過去的資料完全一致」或「過去的資料預測了這個結果」——只能說不矛盾。

依據數值

零設定 C 組缺的零件
沒有測資可以跑(DABstep 的答案沒有可見測資)、不重抽、不拒交——三個零件一個都沒有
過去有增益的機制
可執行的驗收+重抽+拒交,全部是 Vacant 自己握著生成

原始紀錄:Vacant repo:docs/ZERO_CONFIG_EVAL_REPORT_2026-09-26.md:25、273-276、279-281、384

輪次 zero-2026-09-26 · 口徑 · 型別裁決:held

trace.two_layer_attribution追緝分兩層:只有事實層能接後果成立repo 裁決防守軸

每一個追緝結論分兩層:事實層(重跑翻轉、自稱成功但指令失敗、違反禁止項)才可以接信譽後果;推論層(「第 k 步造成」「讀到壞輸入」)只進報告。

更正後

誠實邊界原文:「『可證明』的意思是這個驗證器在重建狀態上翻轉;驗證器本身可能錯,所以人可以撤銷。」

依據數值

層數
2 層(事實層/推論層)
五個等級
provable → record_review(0, weight=1.0) 且不 slash;lineage_exact → 來源記一筆計數;lineage_internal → 往上追到產生它的那一步;heuristic → 只報告;gap → 不動任何人
provable 的三個必要條件
在重建狀態上重跑、恰好在這一步由過轉不過、錯的值不在任何釘住的輸入或觀察到的讀取裡

原始紀錄:Vacant repo:decisions/DECISION_20260924_ACCOUNTABLE_TRACE.md:141-145

輪次 trace-2026-09-24 · 設計 · 型別裁決:held

trace.lfake_attribution_correct追緝端到端歸因正確 33/33、25/25、16/16成立repo 裁決防守軸

四個真 agent 端到端跑八個埋錯情境,歸因正確(狀態/類別/等級/指到的步驟/來源都對)33/33;同一批情境走 vacant do 是 25/25;真互動 TUI 是 16/16。

更正後

這是 L-fake:「模型是照劇本回答的假上游,沒有真模型、沒有 API 金鑰。」它證明歸因機制正確,不證明真模型下產出會更接近需求。

依據數值

原生掛鉤
33/33(四個 agent × 八情境,G 僅 Claude Code 1/1)
vacant do
25/25(D、H 不跑)
真互動 TUI
16/16(含多回合 M 4/4 真的用完輪數)
每次掛鉤額外時間
p95 6.3–13.3 ms(小工作區)/6.7–12.6 ms(TUI 批)
病歷簽章鏈驗得過
33/33、25/25、16/16

原始紀錄:Vacant repo:ops/accountability/evidence_20260924/README.md:3-87

輪次 trace-2026-09-24 · 機制證據 · 型別裁決:held

trace.feedback_never_names_actor給 agent 的回饋裡從來沒有行動者識別成立repo 裁決防守軸

三張端到端表裡,給 agent 的回饋中都沒有出現行動者識別:原生 0/33、vacant do 0/25、TUI 0/16。咎責對象是步驟與行動者,但回饋只給人看。

更正後

這是設計上的界線不是缺陷:讀取覆蓋是下限,「沒找到來源」永遠不可以單獨推出「agent 的錯」,每份報告帶三態 read_coverage。

依據數值

回饋含行動者識別
原生 0/33、vacant do 0/25、TUI 0/16
有位置的回饋出現在模型請求裡
vacant do 25/25(TUI 批 16/16,OpenCode 的互動 TUI 也有)

原始紀錄:Vacant repo:ops/accountability/evidence_20260924/README.md:8-87

輪次 trace-2026-09-24 · 誠實邊界 · 型別裁決:held

trace.review47_and_boundaries追緝線的 47 條對抗審查與七條誠實邊界成立repo 裁決防守軸

追緝線做過五個鏡頭 47 條對抗審查,46 條成立、1 條判為既有誠實邊界但照樣收緊,並列七條誠實邊界,其中三句明令不准說。

更正後

誠實邊界 1:竄改可察覺,不是不可能——鏈是本機金鑰簽的,本機 root 可以重簽整條。誠實邊界 5:平行步驟只能歸其中之一。

依據數值

審查
47 條,46 條成立、1 條判為既有誠實邊界但收緊;其中 6 條改變了設計
不准說的三句
「Vacant 抓出所有錯」「追緝一定正確」「agent 繞不過」
可用的說法
在有紀錄的步驟裡,這個檢查在第 k 步由過轉不過,而第 k 步是 X 做的;證據可重跑
同層審查
尺度審查 8 條、抓網頁指令審查 12 條、回合數/TUI 審查 15 條中 12 條成立

原始紀錄:Vacant repo:decisions/DECISION_20260924_ACCOUNTABLE_TRACE.md:180-205

輪次 trace-2026-09-24 · 審查 · 型別裁決:held

trace.scale_perf四萬檔的第一次掃描要 5.7 秒,之後每次掛鉤 557 毫秒成立repo 裁決增益軸・迴圈

追緝掃整個工作區(增量)在 4 核本機上可撐住掛鉤的 30 秒上限:4 萬檔第一次掃描 5.7 秒,之後每次掛鉤 p50 557 ms、p95 597 ms,Stop 端到端 1.9 秒。

更正後

作者自述的界線:「檔案都很小;本機磁碟、快取是熱的,網路檔案系統會更慢;4 萬檔的第一次掃描貼著 8 秒的時限,換一台慢一點的機器就會改到背景」。超過 5 萬檔就不再逐步掃描,追緝一律標為 UNOBSERVED。

依據數值

100 檔
第一次 0.17 s,之後 136/166 ms,Stop 0.17 s
1,000 檔
第一次 0.29 s,之後 144/194 ms,Stop 0.26 s
10,000 檔
第一次 3.1 s,之後 230/325 ms,Stop 0.56 s
40,000 檔
第一次 5.7 s,之後 557/597 ms,Stop 1.9 s
60,000 檔
第一次 8.3 s(改到背景;背景看不完 ⇒ 關掉),之後 135/227 ms,Stop 2.1 s
差異索引
每一步 0.9 KB(原本 4 萬檔要 4.9 MB)

原始紀錄:Vacant repo:decisions/DECISION_20260924_ACCOUNTABLE_TRACE.md:236-244

輪次 trace-2026-09-24 · 效能量測 · 型別裁決:held

tui.seven_measurement_errors互動式 A/B harness 的七個量測錯誤,方向都讓數字長得比實際好看成立repo 裁決增益軸・迴圈

互動式 TUI 的 A/B harness 有七個量測錯誤,每一個都在真 pi 0.87.1 上抓到,而且每一個的方向都是讓數字長得比實際好看。

更正後

全部已修,並為五種真實 pane 形狀加了測試(多輪最後通過/單輪拒絕/多輪最後拒絕/infra_void/無閘門)。

依據數值

1 arm A 跑到別的模型
只複製 models.json 不會讓 pi 選那個 provider,實測落到 openrouter/moonshotai/kimi-k2.6,而且沒有一個 byte 經過這一跑的 proxy——arm A 把「模型失敗」記成「agent 失敗」
2 settle 認錯信號
arm C 第一輪橫幅一出現就回報 settled 再殺 session,快照抓到第二輪還在想(token 凍結在 ↑5.9k ↓79)
3 只讀可見高度
約 50 行 vs 完整 scrollback 4000 行,而早先的裁決正好捲出畫面
4 把前言當成裁決
閘門先印的『驗收來源…快照 sha256』與裁決同一個開頭但沒有裁決,於是每一格回來都是 gate_accepted: null
5 infra_void 被記成拒交
bool(None) 把『閘門沒有裁決』歸檔成『裁決拒絕』
6 同一筆記錄兩個欄位互相矛盾
最後一輪是 2/2 的格報 1/2
7 停滯被算成 agent 失敗
模型呼叫不存在的工具 ls_r、退回 shell 就不再產出,而 backend 本身健康
額外 2 條
arm A 的 8 格全部整輪停在 0.0%,提示從未被送出卻被記成 settled+hidden_pass: false——8 個捏造的結果;Enter 掉了 6 格

原始紀錄:Vacant repo:ab_harness/tui_ab.py:104-427、ab_harness/tui.sh:37-60

輪次 tui-2026-09-30 · 量測工具缺陷 · 型別裁決:held

pi.possess_three_defectspi extension 缺三樣東西,裝了等於沒裝推翻repo 裁決增益軸・迴圈

pi 互動模式的 extension 有三個缺陷,其中兩個讓它完全不能用:安裝報成功但每一通都 sink、模型 id 對不上實際送出的。

更正後

真機實測中 accept 腿未驗證:agent 沒寫出檔案是因為 OpenRouter 免費層每日 1000 請求用盡,不是機制的問題。

依據數值

缺陷 1
install() 沒傳 upstreams/models/python,渲染出 KEY_FROM="" 與 UPSTREAM=""——proxy 起來了但每一通都 502 unspecified_upstream_sink,沒有任何錯誤訊息指出原因
缺陷 2
wire_pi 沒把模型偏好烤進 default_model,DEFAULT_MODEL 恆為 gemma-4-12b-it-qat,上游是別的模型時每一通 404,畫面上的模型名與實際送出的對不上
缺陷 3
install 時的啟動探測沿用當下的 os.environ,從非登入 shell 跑會讓 node 解析到 18 而判定 pi 起不來

原始紀錄:Vacant repo:commit ad1282fe(2026-09-29)

輪次 possess-2026-09-29 · 產品缺陷 · 型別裁決:refuted

opencode.w2_silent_noopopencode 沒有 stop 事件:37 個 step 的完整病歷、零個裁決推翻repo 裁決增益軸・迴圈

opencode 的 plugin 沒有註冊 stop 事件,導致回合結束檢查不可達:一格實測記下 37 個 step 的完整簽章病歷、零個裁決、沒有 delivery.md。作者說這比不做更危險,因為鏈看起來是對的。

更正後

W1 與 W2 是同一個設計錯誤:都在把裁決點放進 agent 行程裡,平台不配合時整條路徑不是「效果較小」而是靜默無效。作者的裁決是把迴圈從掛鉤搬到父行程。

依據數值

事件統計
trace_genesis 1、prompt 3、session_seen 2、step 37、session_closed 3、unrecorded_change 1
stop/finding/feedback 事件
0
delivery.md/delivery.json
不存在
分母
37 個 step、3 個 session

原始紀錄:Vacant repo:decisions/conclusions/FINDINGS_20260929_NATIVE_PLATFORM_WAVE1.md:54-74

輪次 loop-2026-09-29 · 產品缺陷 · 型別裁決:refuted

wave1.unresolved原生平台 wave 1:同號未解析,不是負結果同號未解析repo 裁決增益軸・迴圈

原生平台 wave 1(20 題 × 三臂)配對 McNemar 的 discordant 只有 2 對,p=0.50,作者記為 unresolved——不是負結果也不是正結果。

更正後

作者寫明不能宣稱效果的五條理由,其中兩條是結構性的:免費模型每日 1000 請求在批次中途用盡,任何跨 arm 的差異都不可歸因給 Vacant;wave 1 是天花板效應(沒裝的 A 臂 95.0% 隱藏檢查全對,閘門能改善的空間是 0)。

依據數值

A plain
隱藏檢查全對 19/20(95.0%),交付 20/20,拒交 0
B zero-cfg
17/20(85.0%),交付 19/20,拒交 1
C bridge
17/20(85.0%),交付 17/20,拒交 3
A 對 B
discordant 2 對,p=0.50 → unresolved
分母
20 題

原始紀錄:Vacant repo:decisions/conclusions/FINDINGS_20260929_NATIVE_PLATFORM_WAVE1.md:18-24

輪次 loop-2026-09-29 · 實驗結果 · 型別裁決:unresolved

intake.five_silent_defects通用收件口端到端量出五件『會讓人以為成立、其實不成立』的缺陷推翻repo 裁決增益軸・迴圈

通用收件口的端到端量出五件缺陷,其中兩件是單元測試抓不到的:Codex 會拒絕啟動、OpenCode 的加法層讓使用者的全域規則安靜地從提示裡消失。

更正後

文字更正:AGENTS.md/README×3 的 "tamper_proof": true 改為 false+tamper_evident: true(簽章金鑰是同一帳號下的明文檔)。惡意候選碼與 driver 同直譯器、nonce 在 argv 這一類不宣稱修掉——「這層防意外,不防惡意」。

依據數值

1
掛鉤先寫帳本時建了 verifier 金鑰卻沒登記信任,收件端正確地拒絕放行
2
vacant do 的隔離工作區放在 $VACANT_HOME 底下,pi 的全域 extension 正確地擋下寫入
3
Codex 常駐安裝用 profile = "vacant",0.156.1 視為遺留鍵而拒絕啟動——一個會讓 agent 起不來的安裝比沒裝更糟
4
OpenCode 用 OPENCODE_CONFIG_DIR 當每一跑的加法層,同時改掉全域 AGENTS.md 的讀取位置,使用者的全域規則安靜地從提示裡消失
5
常駐安裝還在時 vacant do 又注入一份,同一事件跑兩次
單元測試
177 條全部離線零模型
對抗審查
60 條裡會讓不合格版本進目的端或紀錄說錯話的全部修掉;另有 7 條明講不修

原始紀錄:Vacant repo:decisions/DECISION_20260924_UNIVERSAL_INTAKE.md:74-89

輪次 intake-2026-09-24 · 產品缺陷 · 型別裁決:refuted

#裁決集中在哪些地方

這一節只整理專題正式索引的 34 條(下面括號裡的條數都以這 34 條為分母)。repo 裁決的 24 條在上面的完整帳本裡,用篩選列切「軸」或「裁決」就看得到。

#推翻(34 條中 6 條)——全在防守軸與「等預算」

ID宣稱為什麼被推翻
pulse.crossover盲區高過 0.5–0.75 後脈衝不如持續作惡配對差 −0.57,95% CI 跨 0;實測 pulse 在盲區 1.0 得手 81/84/87,全部高過 patient 的 79
pulse.audit_cannot_close_blindspot加大稽核救不回有盲區的情況盲區 0.5 時稽核 0.1→1.0 使總得手降 82%,Wilcoxon p=5.5e-6
pulse.crude_wins_under_blindspot等預算下 crude 勝過脈衝E19 從來不是等預算比較;實際作惡 11.97 vs 4.87。正確綁在 budget=2:1.67 vs 0.97,p=0.0015
gain.equal_budget_on_beats_off5等預算下 Vacant 贏過五次取多數完整配對 p=0.4531;難題子集 p=1.0
gain.ceiling_hypothesis換弱模型就會顯出增益OFF 失敗率 25.5%→31.8%,增益仍未出現;ON vs OFF5 p=1.0000
gain.hard_bench_hypothesis換難題庫就會顯出增益題庫確實更難(48.4% vs 31.8%),ON vs OFF5 p=0.4244

#說太滿(34 條中 4 條)

ID問題
pulse.timing_minor「只差 1.81 倍」是聚合量。拆開:曝光跨 6.06 倍、效率跨 8.45 倍,反向抵消。檢定力只有 25%
pulse.blindspot_dominates幾乎全靠退化的端點 blind=1.0 撐著。交互作用 η² = 0.264,是主效應的 4 倍
pulse.starvation「永久除名」混雜了同一格裡 14 個未被抓種子的巧合。slash 0.9 在第 177 輪就回來了
gain.clean_dataset「第一個乾淨的完整資料集」要改成「無已知 bug 汙染、配對子集 n=101」。ON 臂 void 率 36.9%

#同號未解析(34 條中 4 條)

這四條最容易被誤讀成「沒有差異」。它們的正確讀法是:預註冊的規則一個狀態都沒觸發,所以沒量出來。

ID宣稱為什麼沒量出來
harness.hmix_loop_beats_resample_same_budget修訂迴圈比換人重抽多交付且不多花 token0/5 通過 Holm;五個區間全部與 R460 相交
gain.conform_vs_off5_unresolved閘門在交付準確率上贏過多數決MDE@371 = 4.31 pp;80% 檢定力需約 491 對,但題庫只有 378
harness.majority_vote_loses_to_gate同樣五通,投票輸給閘門且貴一倍以上探索量,不在任何預註冊家族;3/5 未校正顯著
harness.hpi_hoc_vs_resample_unresolved另外兩條迴圈臂也贏過換人重抽10/10 格未過 Holm

#無可分辨差異(34 條中 1 條)

gain.arms_differ:三臂的交付品質有可分辨差異。兩種口徑都不顯著,而且修掉一個無關的 typing bug 就讓點估計翻轉。

#已成立(34 條中 13 條)裡最硬的四條

ID為什麼硬
harness.loop_beats_single_shot_replicated15/15 格全部通過自己的 Holm,跨五次複製、跨四個互斥題目集
gain.gate_rule_beats_majority_vote_same_candidates同一組候選、同樣五通呼叫——預算與候選都對齊了
gain.lossless_visible_filter六個資料集、2,389 個候選,零個「隱藏會過但可見不過」
peerexec.mutual_execution_below_threshold說謊者 273/273 被指名、誠實者 0/1,840 被誣告、5,519 條證言 0 次簽章失敗

#這張表不做的事

  • 它不評價這個專題好不好。它只記錄「哪句話到今天為止站得住」。
  • 它不把未複驗當通過。6 條未複驗就是未複驗。
  • 它不合併、不平均、不挑一次來報。禁用清單見五次複製那一篇

#接下來

最後更新: · 閱讀約 7 分鐘

世新大學世新大學資訊傳播學系Vacant

世新大學資訊傳播學系 2026 畢業專題・實體展覽