VacantAI 的可究責層GitHub

核心概念 · 概念 / 產品主線 / 0.9.0 · 無可分辨差異 · 

零設定 Vacant

裝了就有作用,不需要任何設定。它只做一件事:在同一個工作階段裡把話送回去一次。代價是它缺了三個零件——可執行的訊號、重來的權力、拒交的權力。四個批次裡三個沒量到差別。

本頁引用 14 條裁決:成立 4・推翻 5・說太滿 1・無可分辨差異 4點一條跳到那張宣稱卡

零設定是 v0.9.0 的產品主線。它的設計目標不是做得多,而是裝完之後照常用——不打契約、不加設定、不換工作流程。

#它做什麼

核心是交件前檢查:agent 說「做完了」的那一刻,檢查要求寫出的檔在不在、有沒有跑過測試、失敗的步驟是不是被略過、有沒有出處不明的數字。

設計原則是 「只有幾乎一定是真的問題才退回;其他一律只寫進交件說明」:

退回類型回合上限理由
沒有出處的具體值2七個條件要全部成立
任務單獨點名的檔沒打開1
說測過但紀錄對不上2
失敗的步驟被略過2
要求寫出的檔不存在2DABstep 的答案沒有可見測資,這一類才是主要觸發點

其餘的寫進「交件說明」給人看,不退回。

回合預算提醒從 v3.6 起預設關閉。 理由是一個可以量出來的取捨:

提醒讓答對率從 51.9% 升到 59.3%,但交出去的答案裡對的比例從約 82% 掉到 65%。作者的理由是:「對一個不看評分的人,多一個沒有根據的答案不是改善。」

#四個批次的結果

#① DABstep 付費批次:兩個模型都沒量到差別

77 題,每題每組一跑:

模型沒裝裝了p
gemma-4-26b(主要)50/77(64.9%)44/77(57.1%)0.21
qwen3.8-27b(次要)68/77(88.3%)64/77(83.1%)0.29

照預註冊的說法,這叫沒量到差別,不叫「沒有效果」。

那一輪 8 次退回全部是誤報:

為什麼會這樣?82 個失敗跑裡有 54 個是「15 回合用完、答案檔還不存在」——閘門的檢查根本輪不到。剩下的錯答案,每一步都有根據,錯在「這個決定對不對」,這是只看有沒有根據的檢查從設計上看不到的東西。

#② 本機 711 格批次:p=0.021,但集中在 6 題

79 題 × 三組 × 3 次,主要分析用 77 題:

組平均答對率
A(沒裝)51.9%
C1(現版零設定)53.2%
C2(v3)59.3%

預註冊主要檢定 p=0.0207,平均差 +7.4 pp。但這個 p 值不能單獨拿出去講:

作者的敏感度分析:拿掉 6 題中任兩題,p 就超過 0.05;6 題全拿掉,平均差 0.009、p=0.80。差異全部來自「走到第 14 回合還沒有答案檔」那一層,而 v3-3 這條機制一次都沒觸發:

而且 v3 是看過上一輪同一批 77 題的紀錄之後設計的,題目與規則不是獨立的。人類沒有逐條簽那份預註冊。

#③ Colab 五組程式題庫 920 題:沒量到差別

答對率
沒裝748/92081.3%
裝了 v3.6.1758/92082.4%

p = 0.387。

這一輪最重要的發現不在答對率,在退回機制本身:

472 次退回裡 455 次是因為它只認 pytest 與 python -m unittest,不認 agent 實際跑過的 sh run_tests.sh。那 293 格的 agent 明明跑過測試。

#④ u274 預註冊批次:9 對 10

274 題依種子順序的前 100 題,全 hard、沒用過:

沒裝 9/100,裝了 10/100,McNemar 精確雙尾 p = 1.0。

原文:「就算 7 對全是 C 單獨對,p 也只有 0.016;6 比 1 是 0.125。這一批只看得到非常大的差。」

而且缺檔退回在這一批完全沒有幫上忙:

#v3.7 修掉三個缺陷

三個批次都沒量到差別之後,作者回頭修了三件事:

  1. test_claim 認任意的測試腳本 — 不只認 pytest,只要在指令的位置被執行、檔名以 test 開頭或結尾就算。另有細則:「測試腳本紅了、之後又有一次跑測試是綠的=修好了,不算失敗的步驟被略過;一直沒綠的照舊退回。」
  2. 交付物也從人要 agent 照著做的說明檔認 — 只收對 agent 的命令;否定、可有可無、舉例的不算。
  3. 模型錯誤結束的回合一律不退回 — 只寫給人看。

效果:

但作者自己寫明 v3.7 對答對率的上限很小:「Colab 新增的 10 跑缺檔退回就算全部救回,也是 920 題裡 +10 題。」

#v3.7 的後續實測:量到了,換引擎就沒了

2026-10-02,v3.7 在 Colab 上第一次量到差:

組答對率
A97/23142.0%
C37123/23153.2%
C37R139/23160.2%

C37 − A 平均差 +11.3 pp,p = 0.0028。

2026-10-03,同一個 v3.7 換成 LM Studio GGUF 後端複製:

組答對率
A122/23152.8%
C37121/23152.4%

C37 − A −0.4 pp,p = 0.84。

作者對照組的結論是「一個引擎有、一個沒有」,並給了機制解釋:GGUF 上退回要用回合,被 15 回合切斷的從 59 升到 74,補回的和被切掉的剛好抵銷。

任務導向三題庫 94 題(不設回合上限)同樣沒量到差別:

跨批次的機制總結:DABstep 15 回合、沒裝的 agent 有 18%「說完卻沒寫」就量得到差;任務導向三庫只有 4% 就量不到。

#為什麼這不推翻 CONFORM

這是這一頁最重要的一段。

零設定的 C 組缺三個零件,而這三個正是過去量到增益的機制所提供的:

零件CONFORM零設定
可執行的訊號 — 真的知道對錯客戶的驗收測資,會跑DABstep 的答案沒有可見測資
重來的權力最多五份候選只在同一個工作階段裡退回,最多 2 次
拒交的權力全不通過就不交失敗一律放行,交出去的就是 agent 最後那一份

所以正確的說法是:「在同一個工作階段裡講一次」這條路,四個批次裡三個沒量到差別。過去有增益的都是 Vacant 握著生成的機制。 這不是矛盾,是兩個不同的機制被分別量過。

原文也明令不可以說「和過去的資料完全一致」或「過去的資料預測了這個結果」——只能說不矛盾。

#誠實邊界

  1. v3-2/v3-3 只在 agent 被告知回合上限時作用。 一般互動使用(pi 預設沒有上限)幾乎不會觸發。
  2. 提醒只看檔在不在,不說答案對不對。
  3. 付費批次的模擬數字假設模型照做,而且是 gemma-26b 開思考;本機的 gemma-4-12b 不思考是不同的模型。
  4. 模擬使用者那組證據是 L-fake:劇本決定了模型看到退回之後怎麼做。它證明「退回送得到、改了會被看見、沒問題時完全不動」,不證明真模型會照做。
  5. R530 在 2026-09-28 收官(退回 32 格、全對的被退 4 格),不再是未收官項。

零設定四個批次的完整記錄,含每個批次不能說什麼

#接下來

最後更新: · 閱讀約 8 分鐘 · 本頁引用 14 條已裁決宣稱

世新大學世新大學資訊傳播學系Vacant

世新大學資訊傳播學系 2026 畢業專題・實體展覽