VacantAI のアカウンタビリティ層GitHub

 · 防御軸 · 反証

検知確率は一つの積であって、三つの次元ではない

私たちは当初「監査率を上げても盲点のある状況は救えない」と主張していました。実測では、盲点 0.5 のとき監査率を 0.1 から 1.0 に引き上げると攻撃者の総攻撃成功は 82% 低下し、p = 5.5e-6 でした。三つの因子は同じ一つの積の中の項です。

監査の盲点統計反証

#私たちの元の主張

私たちの直感はこうでした。

監査と評価者に共通の盲点があるなら、監査率をどれだけ上げても、盲点による損失は取り戻せない——見落とされたものは永遠に見落とされるからだ。

根拠にした数字は次のとおりです。

攻撃成功完全阻止率
盲点 0、監査率 1.00.0100%
盲点 0.5、監査率 1.00.966756.67%

そこで私たちはこう書きました。「監査率を上げれば盲点ゼロは救えるが、盲点のある状況は救えない。」

#再検証エージェントの発見

エージェントはグリッド全体を走査し、こう書きました。

検知確率は単一の積 (1−盲点)×サンプリング率×正確度 であり、三つは同じ軸の上にある。サンプリング率と盲点は互いに置き換えられる。盲点が変えるのは防御の天井(残量 β/(1−β))であって、サンプリング率が役に立つかどうかではない。

#実測の数字

条件結果
盲点 0.5、監査率 0.1 → 1.0総攻撃成功は 82% 低下(Wilcoxon p = 5.5e-6)
同上、盲点カテゴリ内部の攻撃成功70% 低下
監査率 0.5 → 1.0(50% の盲点を相殺するため)対応のある差 0.03、p = 0.78

#「天井」とは何か

#盲点の外部の錨

私たちは 2026-08-06 に、外部の文献にある盲点の数字を登録しました。これらは私たちの β ではなく、他の人が別の設定で測った相関です。

研究数字
Kim ら(2025)、350+ モデル二つのモデルがともに誤答したとき、HELM 0.600(ランダム 1/3 = 0.333)、HuggingFace 0.423(ランダム 0.127)。しかもより正確なモデルほど誤り方が似ている。
Begin(2026)選好整合の相関 ρ = 0.70。10 エージェントの実効的な独立数は 1.38。40 に増やしてもほとんど動かない
Bugaud ら(2026)、17 の VLM/8 つのファミリー相関した多数派の誤りは、正解のある問題の 1.5–6.5% を落とす
Krumdick(2025)GPT-4o を審判にすると、それ自身も解けない問題では Cohen の κ が 0.86 から 0.16 に落ちる

#なぜ「人数を増やす」ことは効かないのか

Begin の数字は、もう一つのよくある問いに答えています。「評価者を何人か増やしたらどうなるか?」

エージェント数実効的な独立数
11
101.38
40ほとんど動かない

10 人の評価者の実効的な独立数は 1.38 です。 つまり 10 人の評価者は、およそ 1.38 個の独立した情報源に相当します。

#この規則の三度の適用

場面元の言い方修正後
パルス E21「監査を強めても盲点は救えない」総攻撃成功は 82% 低下、反証
参入コスト E13「評価者が信頼できないとき、参入設計は役に立たない」すべて標準偏差一つ分の範囲内——参入設計は下流にあるため
利得軸「多数決 vs ゲート」どちらも「選択規則」にすぎず、上限は候補プールに少なくとも一つ正解があること

三つ目の完全な比較

#次へ

関連

約 5 分で読めます · このページは判定済みの主張を 1 件引用しています

世新大学世新大学 情報伝播学科Vacant

世新大学 情報伝播学科 2026 年度卒業研究・展示会