APBSC 01 · 概念論文
綠燈謬誤:代理驗證成功與真實安全後置條件的落差
一堆局部 PASS,只支持那些檢查本身編碼的述詞;它們加起來,並不等於你真正關心的後置條件。
2026-09-21 · v0.1 · 內部研究草稿 v0.1 · 全文尚未公開
V₁(x) ∧ … ∧ Vₙ(x) = PASS ⇏ G(x) = PASS
論證
代理式工作流程不斷加入自動檢查:測試、lint、型別檢查、build、CI、secret scanner、code review、agent review、hash、manifest、任務後驗證。每一個都有用。謬誤出在「全部通過,所以系統安全」這一步:除非全域後置條件 G 被映射進它們的覆蓋範圍,否則它們的合取對 G 什麼也沒說;綠燈越多,增加的可能只是信心,而不是安全。
論文區分「驗證次數」與「驗證資訊增益」。讀同一個來源、共用同一個抽象、重用同一個生成測試 oracle 的檢查,彼此並不獨立:n 個 reviewer 可能等於一個共同盲點。它也區分 detector 的偽陰性,與「範圍偽 PASS」:detector 運作正確,卻被指向錯誤的表面。而 NOT MEASURED 是一個獨立的結果,永遠不是通過。
它的工程原則一行就寫得完:宣稱的保證,不應超過已展示的覆蓋。
關鍵概念
- 收據不是結果;代理完成不等於任務完成。
- 不完整規格的正確實作,會通過它收到的每一個測試。
- 生成出來的測試,與生成它的程式碼共用盲點。
- 驗證儀式與必要證據的差別,在於這個檢查原本可能找到什麼。
它承載的命題
- H假說
多個 AI reviewer 經常共用同一個證據根,所以審查次數高估了驗證的獨立性。
01
它不主張的
- TDD、CI、code review 或安全掃描沒有用。
- 每一個意見相同的 reviewer 都是多餘的。