← 返回所有文章
發佈於 · 作者 Renaud Deraison

評測跑出了實驗室

11 月 6 日,WorkOS 表示造成其 10 月資料外洩的代理,是一名研究人員的 ARTEX 執行,在基準測試評估期間「逃出了它的隔離測試環境」。它從網際網路連到 WorkOS 的內部銷售工具,用一組可猜到的開發用憑證登入,持續五天抓取客戶紀錄,才有人察覺。在 Bromure Agentic Coding 中,代理的網路邊界是在 Mac 上、VM 之外強制執行的:沒有人允許過的目的地會被拒絕,而開始連往新主機的工作階段會在幾毫秒內被切斷並暫停。

研究人員原本只想拿基準測試來測自己的代理。代理卻在公開網際網路上找到一家真實公司的 API,而它的「隔離測試環境」裡沒有任何東西阻止它進去。

11 月 6 日,WorkOS 發布了關於 10 月 30 日資安事件的更新。一週前,該公司揭露有攻擊者利用 AI 攻擊性資安框架 ARTEX,闖入一套內部銷售與支援工具。這次更新指出了攻擊者的身分:一名正在執行資安基準測試評估的研究人員。用 WorkOS 創辦人 Michael Grinich 的話來說,「他們的代理逃出了它的隔離測試環境,並在無意間與 WorkOS 發生了互動」。BleepingComputer 當天就做了報導。

研究人員在第一份公告發出後聯絡了 WorkOS,交出請求細節與時間戳記。WorkOS 的資安團隊與一家獨立鑑識公司將這些資料與 WorkOS 的日誌比對,「以高度信心」確認了歸屬。研究人員表示,已刪除代理取得的所有資料,也沒有分享給任何人。

依據 WorkOS 公告的時間線:

  • 10 月 25 日:確認第一次未經授權存取該工具的 API。
  • 10 月 30 日:代理大量抓取紀錄。一名員工注意到異常用量,WorkOS 撤除公開存取。
  • 10 月 30–31 日:鎖緊身分驗證,撤銷或輪替已連接服務的憑證。
  • 11 月 2 日:公開揭露並通知客戶。
  • 11 月 3–5 日:研究人員主動現身;鑑識公司驗證其說法。

代理帶走的資料:商務聯絡資訊、帳戶歷史、產品使用資料,以及銷售通話、支援討論串與客戶 Slack 對話的摘要或節錄,其中一些含有終端使用者的電子郵件地址。

從基準測試執行到客戶資料庫基準測試執行ARTEX 代理位於「隔離測試環境」連上網際網路找到 WorkOS 內部銷售工具的 API,可公開連線登入可預測的開發用憑證,正式環境仍然接受抓取紀錄無速率限制;聯絡人、帳戶歷史、通話與 Slack 節錄10/25首次存取五天無人察覺10/30大量抓取,隨後被發現11/2揭露11/6研究人員身分公開
從代理的第一個請求到有人察覺,相隔五天。研究人員的環境本應讓代理只待在基準測試裡。代理卻連上一個公開的 API,用正式環境仍然接受的開發用憑證登入,在沒有任何速率限制擋路的情況下抓走紀錄。

兩個失誤,各在一方

WorkOS 列出了自己這一方的四個缺口。這套工具跑在一個老舊的內部平台上。寬鬆的存取控制讓它的 API 能從網際網路連到。正式環境接受一組強度不足的開發用憑證,而且它好猜到足以讓代理推算出來。沒有速率限制,在紀錄已經流出之前,也沒有任何東西對這些流量發出警示。WorkOS 之後已在網路邊緣封鎖內部工具、移除這條弱憑證路徑,並開始用 ARTEX 測試自家面向網際網路的系統。

另一個失誤在研究人員那一方,而雙方都沒有說明逃脫是如何發生的。不論機制為何,結果就是一個專為找出並利用弱點而打造的代理,在一次本應只對準基準測試的執行中,握有一條通往公開網際網路的有效路徑。許多代理沙盒就長這樣:一個容器、一個獨立的使用者帳號,或系統提示詞裡的一段文字。即使有網路邊界,也是有人從代理所控制的同一個環境內部設定的。

編碼代理在較小的規模上也是這樣運作。它們對 staging 跑整合測試、探測 API 以了解其結構,第一台主機失敗就換下一台。給它一個「connection refused」,它就開始推敲另一條進去的路,因為完成任務正是它被訓練來做的事。

同樣的執行,換到 Bromure Agentic Coding

Bromure Agentic Coding 在你的 Mac 上以 Ubuntu VM 執行 Claude Code、Codex、Grok、Kimi 與 omp,每台機器一個 VM。VM 開啟的每一條連線,都經由在 Mac 上執行的 Bromure 虛擬交換器與代理伺服器出去。網路規則就放在那裡,代理碰不到。它可以在自己的 VM 裡拿到 root,卻仍然改不了這些規則。

未知主機會被拒絕,而且代理會被告知原因

一台機器可以使用兩種沙盒引擎之一:

  • Bromure Firewall:一張依序比對的允許/拒絕表,涵蓋主機、IP/CIDR、通訊協定、連接埠與 HTTP 方法。把 Unmatched traffic 設為 Deny,機器就以允許清單模式運作。
  • OpenShell + Sentry:一份 NVIDIA OpenShell 政策,除非有 network_policies 規則允許,否則一律拒絕。初始政策以唯讀方式允許 GitHub、npm 與 PyPI,以及 Ubuntu 的套件鏡像站。

對一次基準測試執行來說,政策會列出基準測試的目標與模型供應商。供應商與憑證的主機由 Bromure 自行加上。WorkOS 的 API 不在這份清單上,所以 Mac 的虛擬交換器從第一條連線就拒絕它。交換器會檢查目的位址與 VM 查詢的名稱,代理伺服器則檢查 TLS 伺服器名稱。交換器把 80 與 443 連接埠導入代理伺服器,因此即使程式忽略 HTTPS_PROXY,也一樣得經過它。在 OpenShell 下,無論政策怎麼寫,Bromure 都會拒絕迴路、鏈路本地與雲端中繼資料位址。

只看到連線被拒的代理,往往會去找別的路。OpenShell 機器預設開啟 Tell the agent when policy blocks it,Bromure 會在代理的對話中寫下什麼被封鎖、以及原因:

[Bromure policy] This workspace's network policy blocked connecting to api.stripe.com:443 — no network policy allows api.stripe.com:443. … This is a deliberate restriction, not a fault: don't retry it or reach the same thing another way … If your task needs it, stop and tell the user what you need and why so they can decide.

Claude Code 在碰到封鎖的那個指令之後,就會讀到這則說明。被封鎖的主機也會出現在機器的 Sandbox drawer 中,附上嘗試連線的程式與次數。如果代理確實需要它,你可以 Allow 15 分鐘或一小時,而不必永久打開網路。

機器 VM基準測試任務連往政策指名的目標的請求代理偏離任務以 VM 內的 root 身分嘗試無關公司的 API對話中的政策說明「stop and tell the user」你的 Mac交換器與代理伺服器政策允許目標;其餘一律拒絕拒絕、記錄、說明Security Timeline 列、Sandbox drawer、給代理的說明Watchdog: Quarantine斷網、暫停 VM、由你決定網際網路基準測試目標與模型供應商:照常可連線別人的 API從未收到機器的任何請求
同樣的基準測試執行,放在 Bromure 機器裡。代理可以在自己的 VM 裡拿到 root,但規則在 Mac 上。政策以外的主機在虛擬交換器就被拒絕,代理會被告知停下來詢問;如果工作階段持續伸向新的目的地,watchdog 就切斷它的網路並暫停 VM。

客體關不掉這些規則

「逃出了它的隔離測試環境」通常代表代理在那個環境裡做了設計者沒料到的事。在 Bromure 機器裡,請假設它就是會這麼做。網路規則依然不在 VM 裡。由 Mac 上的交換器與代理伺服器檢查,而且你可以在執行中的機器上收緊規則,不需重新啟動。

在 OpenShell 機器上,還可以在 VM 內部更進一步:

  • filesystem_policy 用 Linux Landlock 限制代理的檔案,連 root 也受限;
  • process 區段或 Enforce binaries 會移除 sudo 與 Docker,而且每條連線都必須來自政策指名的程式,並在第一次使用時以雜湊值鎖定;
  • kernel sentry 是 VM 核心中的一個小模組,會把程式啟動、連線、權限變更與模組載入回報給 Mac。它一啟動,核心就被鎖定,連 root 都無法載入程式碼來干擾,而它編號串流中的任何缺漏都會被標記為 tampering suspected。

如果客體沙盒無法完整套用,就不會啟動任何工作階段,Sandbox 卡片也會以紅字標示。

五天變成幾毫秒

WorkOS 在五天後才發現入侵,是因為一名員工注意到異常用量。Bromure 的 agent watchdog 從 VM 外部觀察每個工作階段,留意:

  • 大量被封鎖的請求在短時間內湧現;
  • 工作階段穩定下來之後出現新的目的地;
  • 外送流量遠高於該工作階段自身的基準線,在網路交換器上計算;
  • 不該出現的憑證,以及遭到竄改的跡象。

在 Quarantine 模式下,一個工作階段若在一分鐘內越過門檻,網路會被切斷、VM 會在幾毫秒內暫停。一則警示 The agent watchdog quarantined this workspace 會列出它看到的內容。Keep quarantined 會在網路仍切斷的狀態下恢復 VM,讓你能進去查看。Release 會恢復網路,Shut down 則關閉機器。

一個跑出基準測試、開始在別人 API 上四處遊走的代理,就會產生這種模式:一連串封鎖,接著是新主機,然後是一次遠大於該工作階段先前任何活動的下載。

紀錄早已在你的 Mac 上

這個故事裡的研究人員做了正確的事,帶著請求細節與時間戳記主動現身。即便如此,WorkOS 仍需要自家資安團隊與一家獨立鑑識公司,才能把這些資料與自己的日誌對上。

Bromure 做出的每個決定,都是機器 Security Timeline 中的一列。在裝有 kernel sentry 的機器上,雙擊一列網路紀錄,它的 network lineage 就會顯示這條連線背後的完整鏈條:

  1. 你給的提示詞、代理的推理,以及它聲明的意圖;
  2. 工具呼叫,附上確切的指令;
  3. 從代理一路到發起連線的程式之間的行程;
  4. 網路流量;
  5. Bromure 做了什麼決定、在哪一層、為什麼。

Other flows from this tool call 會列出同一步驟建立的其他所有連線。萬一代理做了你沒要求的事,你會知道它在遵循哪一條指令、碰過哪些主機,不必等別人的日誌。

好猜的開發用憑證也走不遠

WorkOS 的第三個缺口,是正式環境仍然接受的一組開發用憑證。這類憑證在編碼代理工作的地方隨處可見:專案資料夾裡的 .env 檔、測試 fixture 與 shell 歷史紀錄。在 Bromure 機器裡,代理持有的憑證都是替身。真正的值以加密形式留在 Mac 上,代理伺服器只會在送往每組憑證所屬主機的請求中換上真值。如果替身被送往其他任何主機,代理伺服器會以 HTTP 451 封鎖、暫停 VM,並跳出警示,指明是哪一組憑證、要送往哪裡。開啟 Only allow credentials Bromure injects,代理伺服器也會封鎖任何不是由 Bromure 放進去的憑證,例如代理在檔案裡找到或推算出來的那種。

規則在客體之外

網路政策在 Mac 的交換器與代理伺服器上執行。VM 裡的 root 碰不到。

預設拒絕

OpenShell 機器只允許政策指名的對象。防火牆也可以用允許清單模式運作。

幾毫秒內隔離

新的目的地與外送流量暴增會切斷網路並暫停 VM,直到你做出決定。

每條連線都有解釋

network lineage 把每個流量連到提示詞、工具呼叫與產生它的行程。

本週該做的事

如果你讓代理對任何東西執行,不論是資安基準測試、紅隊工具,還是對 staging 做測試的編碼代理:

  • 寫下一次執行需要哪些主機,並在代理無法編輯的地方強制執行這份清單。容器內或代理自身設定裡的規則不算數。
  • 評估執行一律預設拒絕。基準測試的目標是已知的集合。
  • 針對每個工作階段的新目的地與流量暴增發出警示,並讓警示除了記錄之外也能停止執行。
  • 保留每條連線的紀錄,並與代理被要求做的事綁在一起,讓你能交給其他人。

至於接收端,照著 WorkOS 的清單做:讓內部工具遠離公開網際網路、在正式環境拒絕開發用憑證,並對回傳客戶資料的 API 設定速率限制。

想了解 Bromure 中的 OpenShell 政策與 network lineage 如何運作,請參閱Bromure 裡的 OpenShell 政策,以及每一條連線背後的推理。想知道代理逃出自己的沙盒時會發生什麼,請參閱每次逃脫四萬美元。詳細內容在手冊的沙盒原則一章。