← 返回所有文章
發佈於 · 作者 Renaud Deraison

模型從沒要求過那個

HiddenLayer 證明,只要掌控編碼代理與其模型之間的 LLM 閘道,就能加入模型從未發出的工具呼叫,再趕在模型看到歷史紀錄之前把它們刪掉。代理會像執行其他呼叫一樣執行它們,而核准提示無從分辨一個呼叫來自何處。前一天,PyPI 上的一個 LiteLLM 版本夾帶了憑證竊取程式和每小時執行一次的後門。在 Bromure Agentic Coding 中,被注入的呼叫在只放著替身的 VM 裡執行,代理伺服器會擋下它的上傳並暫停 VM,而你的 Mac 會在閘道碰不到的地方留下這次呼叫的紀錄。

你的代理問模型下一步該做什麼,答案經由閘道傳回來。閘道若多加一個步驟,代理就會執行它。模型從沒要求過這一步,事後也永遠不會知道它發生過。

HiddenLayer 於 10 月 22 日發表了 Man-in-the-Model: Hijacking Coding Agents in Transit。Adversa 將它收錄在 11 月份的編碼代理安全研究精選中。它提出的問題很簡單:一個遭入侵的閘道,能對它背後的代理做什麼?

許多團隊並不會把代理的流量直接送到 Anthropic 或 OpenAI。流量會經過 LiteLLM 代理伺服器來追蹤成本、管理金鑰,經過 OpenRouter 來選擇模型,或送往共用 GPU 主機上的 vLLM、llama.cpp 或 Ollama。每一個請求與每一個回應都會穿過這一層,而一個回應,就是代理接下來要執行的工具呼叫清單。

閘道能做什麼

HiddenLayer 的研究人員 (Esteban Tonglet、Divyanshu Divyanshu 與 Kasimir Schulz) 一步步拆解了這個攻擊。

查出是誰在呼叫。 Codex 送出的標頭以 codex-tui 開頭,Claude Code 則送出 claude-cli。只送出通用 SDK 標頭的代理,也會從工具名稱和請求欄位露出身分。

查出哪些操作不經詢問就會執行。 閘道看得到自己何時送出工具呼叫、結果何時傳回。一次花了好幾秒的檔案讀取,多半是在等人核准。在超過 4,000 個擷取到的工作階段中,只有 4.7% 的快速工具呼叫還有疑問。時間判斷不出來時,閘道可以在代理正在編輯的腳本裡偷塞計時程式碼,或用計時器包住一個指令,再把輸出藏起來。

讀取模型從沒要求過的檔案。 Claude Code 會載入 CLAUDE.md,Codex 會載入 AGENTS.md,Cursor 會讀取 .cursorrules。閘道可以在回應中加入讀取其中任何一個的呼叫,留下讀到的內容,再於把對話轉給模型之前,把呼叫和結果一起刪掉。用 HiddenLayer 的話說:「這些檔案讀取是由攔截層發起的,而不是模型。」

執行程式碼。 第一個示範中的代理是 Hermes,所用的模式會在它認為危險的指令前詢問,但不會在編輯檔案或執行一般 Python 前詢問。使用者請它讀一個 Python 檔案。代理伺服器在回應中加入了工具呼叫:第一次編輯在檔案裡放進 heartbeat_ok() 函式,第二次加入一段程式碼,蒐集 /etc/passwd、存放憑證的環境變數和 ~/.ssh/id_rsa,並 POST 到一個 webhook,第三次用 python3 執行該檔案,最後一次編輯把檔案還原。使用者從沒看到任何網路指令,因為上傳發生在腳本內部。

搭上已核准前綴的便車。 在第二個示範中,Codex 把 git 設為已核准前綴,而 .git 目錄可寫入。閘道送出:

git -c diff.external='sh -c "cat .env"' diff --no-index /dev/null .env

指令以 git 開頭,所以 Codex 沒有詢問就執行了,印出一個代理平常會拒絕開啟的 .env 檔案。在使用者看來,代理「似乎仍在執行一般的 Git 操作」。

埋下日後才發作的相依套件。 當模型要求加入 requests,閘道把它改成 reqiests。代理把拼錯的名稱寫進相依檔,酬載就在下一次安裝時執行,不論是在筆電上還是在 CI 裡。

編碼代理收到的呼叫一律執行read main.pyedit main.py + heartbeat_ok()python3 main.pygit -c diff.external=… .envedit main.py (還原)紅色:模型從沒要求過遭入侵的閘道下行時在回應中加入工具呼叫,專挑不經詢問就執行的上行時把這些呼叫和結果從歷史紀錄刪除,讀到的內容留下模型供應商只要求了一件事read main.py收到乾淨的歷史紀錄沒有額外呼叫,日誌裡沒有痕跡,無從察覺被注入的腳本把 .env、~/.ssh/id_rsa 和憑證環境變數 POST 到攻擊者的 webhook。從頭到尾不出現任何網路指令。
HiddenLayer 的攻擊。閘道在模型的回應中加入工具呼叫。代理執行它們,閘道再從往上游轉送的歷史紀錄中把它們刪除,因此模型和供應商都看不到。

核准提示分辨不出呼叫是誰寫的

HiddenLayer 的結論是:「安全邊界不再只是模型。它涵蓋每一個能左右代理最終執行內容的系統。」

核准提示和允許清單判斷的是指令本身,而不是指令的來源。來自模型的工具呼叫與閘道加入的呼叫出現在同一個回應中,代理無法分辨。閘道還能從時間得知你哪些呼叫看都不看就核准,並專挑那些下手。提示注入防禦檢查的是送往模型的文字,而這裡根本不需要任何文字到達模型。

10 月 21 日,也就是 HiddenLayer 發表前一天,litellm 1.107.0 出現在 PyPI 上,夾帶了憑證竊取程式,以及每小時抓取攻擊者程式碼的載入器。The Hacker News 追查到源頭是 5 月被提交到公開儲存庫、卻從未撤銷的一把主金鑰。PyPI 在 1 小時 43 分鐘後下架了它,同時發布的 Docker Hub 和 GHCR 映像檔也在之後被還原。拉取了這個版本的 LiteLLM 代理伺服器,就在轉送它所處理的每一段代理對話的行程裡,跑著攻擊者每小時執行的載入器。我們在那個版本才發布兩小時中談過這個版本。

同一個閘道,擋在 Bromure 機器前面

Bromure Agentic Coding 在你 Mac 上的 Ubuntu VM 裡執行 Claude Code、Codex、Grok、Kimi 和 omp。閘道仍然可以替代理說話。這些話會變成指令,而這些指令執行的 VM,是在「代理可能懷有敵意」的前提下打造的,每個指令都必須通過閘道碰不到的檢查。

腳本找到的是替身

HiddenLayer 的腳本蒐集了存放憑證的環境變數、~/.ssh/id_rsa 和 .env。在 Bromure 機器中:

  • 環境變數存放的是替身。GH_TOKEN、NPM_TOKEN、ANTHROPIC_API_KEY 等格式正確,但除了透過你 Mac 上的代理伺服器之外,在任何地方都沒有值;代理伺服器只會在送往各憑證所屬主機的請求中換上真正的值。
  • ~/.ssh 裡沒有任何私鑰檔案。VM 的 SSH_AUTH_SOCK 是通往 Mac 的橋接:VM 可以請求簽章,但金鑰的位元組留在主機上。
  • 只要在機器的 Credentials 面板執行過 Import env file…,.env 裡就是替身。它會讀取你現有的 .env,以遮蔽後的值列出變數,並把它們轉成 Mac 上的憑證。VM 在同樣的變數中拿到替身。
  • AWS 金鑰是真正的存取金鑰 ID 搭配一個假的密鑰。Mac 會用真正的密鑰重新簽署每個請求,所以密鑰從不存在於 VM 中。

第二個示範的 git diff.external 手法在 Bromure 機器中照樣能跑。它印出的是一個滿是替身的檔案。

把它們送到任何地方都會觸發警報

腳本的下一步,是把找到的東西 POST 到一個 webhook。這個請求中的第一個替身,正要送往一個並非它簽發對象的主機。代理伺服器會在任何一個位元組離開之前以 HTTP 451 擋下請求、暫停 VM,並在 Mac 上跳出標題為 This environment may have been compromised 的警示。警示會列出該憑證、它所屬的主機,以及它正要被送往的主機。閘道做什麼都碰不到這個對話框:它在 Mac 上執行,而閘道只看得到模型流量。

不碰憑證、改拿原始碼或 /etc/passwd 的酬載,則會撞上對外防火牆。在 Guardrails 中,把 Unmatched traffic 設為 Deny,並允許機器需要的主機:你的模型路由、你的程式碼託管平台、你的套件登錄庫。webhook 不在清單上。防火牆在虛擬交換器和代理伺服器中運作,而 VM 的網頁流量會被導入代理伺服器,因此腳本繞不過去。

機器 VM被注入的呼叫執行python3 main.py它蒐集到的環境變數和 .env:替身~/.ssh:沒有私鑰檔案AWS:假的密鑰POST 到 webhook帶著替身你的 Mac追蹤保留回應含被注入的工具呼叫,與代理收到時一致對外防火牆清單外的主機在交換器和代理伺服器被拒絕替身送往錯誤主機HTTP 451、VM 暫停、Mac 警示外部遭入侵的閘道能加入呼叫,但改不了 Mac的紀錄,也按不了對話框攻擊者的 webhook什麼也收不到
同一支被注入的腳本在 Bromure 機器中。它找到的是替身,上傳被擋下、VM 被暫停,而 Mac 自行保留了送來這個呼叫的回應的紀錄。

Mac 留住了閘道抹掉的呼叫

閘道最厲害的一招是善後。它把呼叫從轉送的歷史紀錄中刪掉,讓供應商的日誌和模型的上下文看起來乾乾淨淨。但它碰不到你 Mac 上的那份副本。

Bromure 機器發出的每個請求都會經過 Mac 上的代理伺服器,追蹤會記錄通過它的內容。在預設等級 AI request details 下,它會為已知的模型供應商保留完整的請求與回應內容。對於 Bromure 無法依名稱辨識的閘道,請把機器的 Session trace 設為 Everything。Trace Inspector 的 Conversation 檢視會把每個回應拆解成工具呼叫、shell 指令以及檔案讀寫。帶著 python3 main.py 的那個回應,就以代理收到時的原貌留在那裡,閘道事後無法修改。這些內容以你鑰匙圈中的金鑰密封,在未受管理的安裝上不會上傳任何東西。

在使用 OpenShell + Sentry 沙箱引擎的機器上,對被擋下的連線使用 Show the Whole Chain,可以一路追到底:從封包到 python3 行程,到代理啟動的 shell,到啟動它的工具呼叫,再到同一個回應中排在它前面的文字。當供應商的日誌顯示某個回合只要求讀一個檔案,而你的 Mac 顯示同一個回合執行了腳本並 POST 到 webhook,兩者之間的差異就是閘道的傑作。

重要的對話框在 Mac 上

HiddenLayer 的閘道靠計算代理自身的核准耗時,得知哪些呼叫不經詢問就會執行。Bromure 的重要核准並不發生在代理裡。

在新機器上,Guardrails 面板中每個受保護的服務都從 Prompt before write 開始。一次 git push、一次對 AWS API 的寫入、一次 kubectl apply,或一次對資料庫端點的 INSERT,都會暫停並在 Mac 上跳出顯示確切操作的對話框。刪除也會詢問。政策在代理伺服器中強制執行,因此被注入的呼叫無法靠著以已核准前綴開頭而通過:對話框取決於請求在網路上實際做了什麼,不管是哪個指令產生的。

拼字錯誤撞上供應鏈檢查

換成 reqiests 的目標是下一次 pip install。在 Bromure 機器中,每一次套件下載都要先通過代理伺服器的供應鏈檢查,VM 才會收到任何位元組。在 Supply Chain 面板啟用 socket.dev 或 Depi 後,Bromure 會在下載時標記仿冒套件名稱和已知惡意軟體。預設開啟的發布時間門檻,會隱藏最近兩天內發布的任何版本,這能攔下攻擊者在啟用閘道前一刻才發布的套件。被擋下的安裝會以 451 失敗並寫明套件和原因,pip 會把它印在終端機上,讓你和代理都看得到。

模型路由在 Mac 上設定

路徑上放哪個閘道,是你在 Mac 的 Models 看板上做的選擇,而不是 VM 裡的設定檔。如果某台機器的工作敏感到不適合交給任何第三方閘道,就把它的代理指向 On-device 模型:Bromure 在你 Mac 的 GPU 上執行 MLX 模型,請求從不離開主機。看板如何防止別人更改路由,請見 CLI 是真的。

能偷的只有替身

環境變數、.env 和 AWS 設定存放的都是替身,SSH 金鑰從不進入 VM。被注入的腳本蒐集到的值,只有透過你的 Mac 才能使用。

外洩會讓 VM 暫停

送往錯誤主機的替身會被以 451 擋下,VM 隨即暫停,警示會寫明什麼東西正要被送到哪裡。

閘道改不了的紀錄

你 Mac 上的追蹤會以代理收到時的原貌保留每個回應,包括被注入的呼叫,並以你鑰匙圈中的金鑰密封。

寫入會等你

push、雲端寫入和資料庫寫入都會暫停,等待 Mac 上的對話框,判斷依據是請求做了什麼,而不是送出它的指令。

這週該做的事

  • 列出你的代理與其模型之間的每一個系統:LiteLLM 代理伺服器、OpenRouter 帳號、執行 vLLM 或 Ollama 的 GPU 主機。像對待正式環境伺服器一樣修補並加固它們,因為它們就是。
  • 如果你在任何地方執行過 litellm 1.107.0,請把那台主機和它能存取的每一個密鑰都視為已遭入侵。
  • 檢查已核准的指令前綴。把 git 當成全面前綴,就等於核准了 git -c diff.external=…。
  • 把真正的密鑰移出代理的環境,讓蒐集它們的腳本只拿到替身。在 Bromure 機器中,Import env file… 一步就能做到。

手冊的 Credentials 一章詳細說明了替換機制,Tracing & Audit 則介紹追蹤保留哪些內容以及如何解讀。