APBSC公開邊界與安全閉包 English

APBSC 01 · 概念論文

綠燈謬誤:代理驗證成功與真實安全後置條件的落差

一堆局部 PASS,只支持那些檢查本身編碼的述詞;它們加起來,並不等於你真正關心的後置條件。

2026-09-21 · v0.1 · 內部研究草稿 v0.1 · 全文尚未公開

V₁(x) ∧ … ∧ Vₙ(x) = PASS ⇏ G(x) = PASS

論證

代理式工作流程不斷加入自動檢查:測試、lint、型別檢查、build、CI、secret scanner、code review、agent review、hash、manifest、任務後驗證。每一個都有用。謬誤出在「全部通過,所以系統安全」這一步:除非全域後置條件 G 被映射進它們的覆蓋範圍,否則它們的合取對 G 什麼也沒說;綠燈越多,增加的可能只是信心,而不是安全。

論文區分「驗證次數」與「驗證資訊增益」。讀同一個來源、共用同一個抽象、重用同一個生成測試 oracle 的檢查,彼此並不獨立:n 個 reviewer 可能等於一個共同盲點。它也區分 detector 的偽陰性,與「範圍偽 PASS」:detector 運作正確,卻被指向錯誤的表面。而 NOT MEASURED 是一個獨立的結果,永遠不是通過。

它的工程原則一行就寫得完:宣稱的保證,不應超過已展示的覆蓋。

關鍵概念

  • 收據不是結果;代理完成不等於任務完成。
  • 不完整規格的正確實作,會通過它收到的每一個測試。
  • 生成出來的測試,與生成它的程式碼共用盲點。
  • 驗證儀式與必要證據的差別,在於這個檢查原本可能找到什麼。

它承載的命題

  • H假說

    多個 AI reviewer 經常共用同一個證據根,所以審查次數高估了驗證的獨立性。

    01

它不主張的

  • TDD、CI、code review 或安全掃描沒有用。
  • 每一個意見相同的 reviewer 都是多餘的。