這是整個專題第一個用真模型做的配對防禦實驗,也是我們第一次拿到「真模型上的 null 結果」。
| |
|---|
| 模型 | qwen3.6-35b-a3b @ 100.119.113.56:8765 |
| 題庫 | EvalPlus MBPP+ v0.2.0(378 題,sha256 釘死) |
| 任務 | 60 個配對任務 |
| 名冊 | 示範名冊,人工植入 2 個破壞者 |
| 配對鍵 | task_id = sha256(prompt + tests),跨臂穩定 |
| 品質判定 | 臂外的 compile_check(t.check)(answer) |
| 臂 | 通過 | 有效 | 通過率 | 耗時 | ledger 事件 | 每通過呼叫 |
|---|
| off | 31 | 60 | 0.5167 | 6,837.5 s | ROUTE 60、ATTEMPT 60、DELIVERED 60 | 1.94 |
| on | 36 | 60 | 0.6000 | 6,168.0 s | +REVIEW 180、AUDIT 60 | 1.67 |
#第一個量錯:讀錯欄位
#第二個結果變數:比較有意思
我們另外量了派給破壞者的工作量。這是「做壞了照拿工作」的直接指標。
| 派給破壞者的比例 |
|---|
| off | 20 / 60(33.3%) |
| on | 11 / 60(18.3%) |
| 檢定方式 | p |
|---|
| 全部 60 題 | 0.0931(未達 .05) |
| 拿掉 10 個暖身任務 | 0.021 – 0.041 |
| 拿掉 20 個 | 0.021 – 0.041 |
| 拿掉 30 個 | 0.021 – 0.041 |
| 拿掉 35 個 | 0.0703 |
| 拿掉 40 個 | 0.2188 |
#誠實邊界
| |
|---|
| 破壞者是人工植入的 | 不是自己學會做壞事的。攻擊者能力被低估。 |
| 兩個破壞者 / 8 個居民 | 規模很小,生態互動幾乎不存在。 |
| 單一模型 | qwen3.6-35b-a3b,沒有跨模型。 |
| 稽核率 0.2、評審準確率 0.7 | 兩個常數都是設定值,沒有量過。 |
| n = 60 | 檢定力 0.163。要 n = 337。 |
#記憶三臂(E11,同日)
| 臂 | 通過 | 耗時 |
|---|
| M0(不注入記憶) | 8 / 12(66.67%) | 846.2 s |
| M1(注入最近 k 則原文) | 8 / 12(66.67%) | 1,012.9 s |
| M2(蒸餾成教訓,2,000 token 預算) | 8 / 12(66.67%) | 2,144.6 s |
#這條 null 結果的價值
#接下來