VacantAI 的可究責層GitHub

 · 防守軸 · 未複驗

真模型上的信任開關實驗:+8.3%,但統計上什麼都沒發生

60 個配對任務,信任層開關讓通過率從 51.67% 升到 60.00%——但 95% 區間跨 0、McNemar p=0.332、檢定力只有 0.163。同一批資料上另有一條比較有意義的結果。

真模型實驗McNemar檢定力

這是整個專題第一個用真模型做的配對防禦實驗,也是我們第一次拿到「真模型上的 null 結果」。

#設計

模型qwen3.6-35b-a3b @ 100.119.113.56:8765
題庫EvalPlus MBPP+ v0.2.0(378 題,sha256 釘死)
任務60 個配對任務
名冊示範名冊,人工植入 2 個破壞者
配對鍵task_id = sha256(prompt + tests),跨臂穩定
品質判定臂外的 compile_check(t.check)(answer)

#結果

臂通過有效通過率耗時ledger 事件每通過呼叫
off31600.51676,837.5 sROUTE 60、ATTEMPT 60、DELIVERED 601.94
on36600.60006,168.0 s+REVIEW 180、AUDIT 601.67

#第一個量錯:讀錯欄位

#第二個結果變數:比較有意思

我們另外量了派給破壞者的工作量。這是「做壞了照拿工作」的直接指標。

派給破壞者的比例
off20 / 60(33.3%)
on11 / 60(18.3%)
檢定方式p
全部 60 題0.0931(未達 .05)
拿掉 10 個暖身任務0.021 – 0.041
拿掉 20 個0.021 – 0.041
拿掉 30 個0.021 – 0.041
拿掉 35 個0.0703
拿掉 40 個0.2188

#誠實邊界

破壞者是人工植入的不是自己學會做壞事的。攻擊者能力被低估。
兩個破壞者 / 8 個居民規模很小,生態互動幾乎不存在。
單一模型qwen3.6-35b-a3b,沒有跨模型。
稽核率 0.2、評審準確率 0.7兩個常數都是設定值,沒有量過。
n = 60檢定力 0.163。要 n = 337。

#記憶三臂(E11,同日)

臂通過耗時
M0(不注入記憶)8 / 12(66.67%)846.2 s
M1(注入最近 k 則原文)8 / 12(66.67%)1,012.9 s
M2(蒸餾成教訓,2,000 token 預算)8 / 12(66.67%)2,144.6 s

#這條 null 結果的價值

#接下來

相關

  • 我們量錯過的六件事

    讀錯一個欄位、網路斷線被算成評審結果、退化成極限的 rng 種子、把 `defected <= BUDGET` 當成等預算、端點上的漂亮數字、以及預設關掉的規則——六個真實的量測陷阱與它們的教訓。

  • 整個防禦系統唯一真正緊的約束:評審準確率

    掃了押金、見習期、生態規模、攻擊者占比、審查者誤差相關性——全部是鬆的。唯一讓攻擊開始有利可圖的格,是評審準確率掉到 0 的時候。

  • MDE 是 4.31 個百分點,但題庫只有 378 題

    閘門對多數決這個比較,我們算得出需要 491 對才能有 80% 檢定力,但題庫實際上只有 378 題。這條「同號未解析」不是還沒做完,是物理上量不出來。

  • 題目越難,驗收閘門越值錢

    早停閘門在 MBPP+ 上多交付 7.8 個百分點,在 LiveCodeBench 難題上多交付 20.9 個百分點。而且「洩漏率」從 44 降到 11——拒交在難題上最值錢。

閱讀約 4 分鐘 · 本頁引用 1 條已裁決宣稱

世新大學世新大學資訊傳播學系Vacant

世新大學資訊傳播學系 2026 畢業專題・實體展覽