APBSC公開邊界與安全閉包 English

EveMissLab 研究計畫 · APBSC · 第一階段

AI 看得到,不代表可以公開。

Coding agent 為了把事情做好,讀到的工作站內容比過去任何工具都多;接著它還會 commit、push、發布。這個研究計畫關心兩者之間的那條線:agent 被允許觀察的,和被允許離開的。這條線怎麼失守、為什麼一整排綠燈不能證明它守住了,以及怎麼量測它,而不讓研究者自己變成另一個看見別人私密脈絡的人。

  1. 已觀察agent 工作時讀到它。
  2. 已授權有人允許它用在這個任務。
  3. 已持久化它被寫進 agent 維護的檔案。
  4. 已公開它隨 commit、套件或頁面離開。
  5. 可外部取得任何人都能抓到它。
AGENTS.mdRun the test suite from /Users/example/work/acme-app using the session token in ~/.config/acme/session.json
公開邊界
AGENTS.mdRun the test suite from (已移除) using the session token in (已移除)
取 agent 指示檔裡的一行,沿著框架區分的五個狀態走一遍。邊界左邊的內容都可以正當存在;越過邊界的,不該帶著具體的部分。 合成示例。路徑、專案與檔名皆為虛構。

證據目前到哪裡

計畫提出的每一個主張,都標有三種狀態之一。到目前為止,還沒有任何主張達到第三種。

E已確立 已確立:目前沒有。盛行率、組間比較、因果主張,都還沒有被量測到足以陳述的程度。

完整證據帳 →

最新一次量測

事先凍結的六十個公開 repository,在三種檔案上量測,過程中沒有人讀過內容。唯一的高警示結果,出現在 agent 指示檔上。

README0高警示 · /59 個可分析檔案
Agent 指示檔2高警示 · /40 個可分析檔案
治理檔0高警示 · /51 個可分析檔案

O已觀察 RBPM v0.8.3 · N = 60 · 不是盛行率估計

怎麼量出來的 →

十篇論文,一條論證

第一階段從統合框架(00)走到一個機器能執行、研究者保持盲化的演算法(09)。原稿仍是內部草稿;這裡每一頁寫的是論證本身,以及它的邊界。

  1. 00AI Agent 公開邊界與安全閉包:統合框架統合框架
  2. 01綠燈謬誤:代理驗證成功與真實安全後置條件的落差概念論文
  3. 02AI 協作物即出口面:Agent Context 的資訊外逸問題概念與分類
  4. 03從 Secret Scanning 到 Semantic Privacy:模式檢測無法覆蓋的公開邊界概念論文
  5. 04組織尺度的 Agent Context 傳播:共享規則、模板與供應鏈風險猜想假說論文
  6. 05AI 建造—攻擊不對稱:Vibe Coding、低垂果實與自動化攻擊面假說論文
  7. 06研究隱私外洩而不重演隱私外洩:Researcher-Blind Privacy Measurement方法論
  8. 07AI 協作公開邊界的實證研究協議:Sampling、Matched Control 與 Prevalence Estimation實證研究協議
  9. 08供應商與平台責任:AI Coding Tool 的 Publication-Boundary Governance治理論文
  10. 09Researcher-Blind Publication-Boundary Measurement Algorithm演算法規格 · 第一階段收束

量測外洩,而不重演外洩

為了證明路徑外洩而去讀那些路徑的研究,等於又讓它外洩了一次,只是對象換成自己。這裡的第一個觀察者是封閉的機器程序;人與分析模型只拿到有界的特徵:類別、可能性、信心度,以及 UNKNOWN。

  1. X當下的公開狀態
  2. N正規化
  3. D偵測
  4. S壓制
  5. F特徵
  6. A裁決
  7. O研究安全的輸出
封閉機器區

量測方法 →