提示詞還有別的讀者
Dragos 在兩百萬則 AI 提示詞裡埋入誘餌憑證,觀察誰會拿去用。至少三家推論供應商已被入侵數月,轉售商記錄流量,而隱私旗標一樣也沒擋住。OpenRouter 在 11 月 22 日移除了三家供應商。編碼代理會把讀到的一切送給模型。在 Bromure Agentic Coding 中,它讀到的是替身,所以被偷走的提示詞裡沒有任何能用的東西。
在代理與模型之間,一則提示詞會經過路由器、入口、推論伺服器與日誌儲存區。Dragos 在每一站都找到了竊賊。代理讀過的一切,都隨著提示詞一起送了出去。
想像一個週二下午的除錯工作。一個測試因 AWS 錯誤而失敗,代理執行 cat .env 來確認區域。檔案裡有存取金鑰、機密、資料庫密碼和一個 Hugging Face 權杖。這些全都進了下一個送給模型的請求,因為代理本來就是這樣運作的。請求會送到路由器在那一分鐘挑中的供應商,也許是一家以半價提供開放權重模型的供應商。開發者拿到答案,繼續工作。
根據 Dragos 本週發表的研究,這樣的請求可能在供應商的入口被複製、在遭入侵的推論伺服器上被讀取、在幾天後被某個模型實驗室抓取,或被某個用家用網路跑廉價端點的轉售商記錄下來。在每一種情況下,攻擊者只需要讀它就夠了。
兩百萬則埋了絆線的提示詞
11 月 19 日,Dragos 研究長 HD Moore 發表了一項為期五個月的實驗結果。從 7 月到 11 月,團隊向熱門 AI 服務送出約兩百萬則提示詞。每則提示詞都帶有獨一無二的金絲雀,也就是絆線:沒有人有正當理由使用的假資料,因此只要被使用,就證明有人讀過那則提示詞。他們埋入了網頁連結、DNS 名稱、git 儲存庫 URL、SSH 密碼,以及綁定在空白且完整記錄的帳戶上的真實 AWS 金鑰。每一隻金絲雀都能追溯到載運它的確切提示詞、模型、路由器與隱私設定。
結果如下:
- 三家託管供應商遭到入侵,而且沒有一家知道。 最早的入侵始於 7 月中旬。在規模最大的一起中,攻擊者拿走了約兩百把 AWS 金鑰,每一把都是在 10 月下旬的短暫時段內,於單一請求中送出的。其中有些來自供應商在任何模型執行之前就拒絕的請求,所以複製發生在入口,在任何檢查之前。
- 金鑰很快就被使用。 有些在幾小時內就被測試。一把 10 月 21 日埋下的金鑰在隔天被使用,三週後仍在使用中。攻擊者列出 S3 bucket、搜尋 Secrets Manager 與 Parameter Store、建立 Bedrock API 金鑰,並新增 IAM 使用者以保住存取權,總計發出數萬次 AWS 呼叫。11 月 1 日,他們動用了 AI 驅動的滲透測試框架 ARTEX,來檢查哪些金鑰還能用。
- 轉售商記錄了經過的一切。 在一個推論市集上,賣家以最低價刊登模型、開啟請求記錄,然後等待。有一個人手動用從提示詞取得的密碼嘗試 SSH root 登入,接著從同一台機器測試 AWS 金鑰。有一個路由器在沒有告知客戶的情況下,把部分流量轉送到那個市集。
- 隱私旗標沒有守住。 一家中國 AI 實驗室的系統,從送往其模型的提示詞中,抓取了超過一半的祕密連結,其中包括約三分之二標示為「不收集資料」或零資料保留(ZDR)的請求。一個 git 用戶端嘗試複製這些提示詞中提到的私有儲存庫。一家美國大型供應商在單一請求的兩個月後,仍在爬取某個連結。
Moore 對代理問題的總結只要一行:「AI 代理會很樂意送出任何讀得到的東西,包括憑證。」
供應商的報告
供應商已經開始證實這件事。Phala 的初步報告指出,攻擊者控制了一台提供 DeepSeek V4 Flash 0731 的推論 VM,能在請求處理期間看到請求資料。它的建議是:把 10 月 21 日到 11 月 8 日之間送往該模型的每個請求都視為已外洩,並「輪替這些請求中包含的任何 API 金鑰、權杖、密碼或其他機密」。金絲雀測試證實,10 月 21 日與 22 日送出的憑證遭到濫用。
Together AI 在 11 月 21 日發布的公告,描述了另一條入侵途徑。6 月與 7 月送往 MiniMax M3、GLM-5.2 和 Kimi K2.6 的請求中,有提示詞樣本存放在一個用於測試的私有 Hugging Face 儲存庫。接著,「一個 AI 編碼代理提交了一個可存取該私有 Hugging Face 儲存庫的憑證」,提交到一個公開的 GitHub 儲存庫。Together 的掃描器發現了這次提交並將其還原,但有人在暴露期間使用了該憑證,下載樣本,在其中搜尋其他服務的憑證並加以測試。他們試用的憑證中有五個是 Dragos 的金絲雀。
11 月 22 日,OpenRouter 移除了三家供應商,並將 125 個端點撤出其 ZDR 清單,等待驗證。它表示調查結果並未顯示 OpenRouter 本身遭到入侵。The Hacker News 有完整的整理。
這些報告中有兩種失誤一再出現。機密進入提示詞,是因為代理讀得到它。而在 Together 的案例中,機密進入公開儲存庫,是因為代理讀得到它,還能推送它。
為什麼隱私旗標解決不了
Dragos 的建議很合理:能自行託管就自行託管、直接使用一線供應商、自己挑選路由器的上游、埋設金絲雀、開啟機密過濾。每一項都能縮短讀者名單。但提示詞裡仍然裝著代理讀過的東西。Moore 對 ZDR 說得很直白:「當攻擊者已經在裡面時,隱私旗標毫無幫助。」
機密過濾是在出口做模式比對。它能抓到 AKIA… 和 ghp_…,卻會漏掉沒有前綴的密碼,正是市集那位讀者拿去試 SSH 的那種。編碼代理生來就是要讀取檔案、環境變數與命令輸出,並把讀到的內容放進下一個請求。要改變提示詞裡裝了什麼,就得改變代理能讀到什麼。
在 Bromure Agentic Coding 中的同一場工作
Bromure Agentic Coding 在你 Mac 上的 Ubuntu VM 中執行 Claude Code、Codex、Grok、Kimi 和 omp,每台機器一個 VM。VM 發出的每個 HTTPS 請求都會經過 Mac 上的代理伺服器,而這個代理伺服器是你的真實憑證唯一存在的地方。
代理讀到的 .env 裡是替身
機器 Credentials 面板中的 Import env file… 會讀取專案的 .env。它會把認得的名稱,例如 AWS_ACCESS_KEY_ID、GH_TOKEN 或 ANTHROPIC_API_KEY,對應到正確的憑證類型,其餘的,例如那個 HF_TOKEN,則轉成限定於你指定主機(這裡是 huggingface.co)的 Other API keys。每一項都以原本的變數名稱匯出到 VM 中,內容是與真品格式相同的假值:GitHub 是 ghp_ 加 36 個字元,通用權杖是 brm_…,資料庫機密是 brm-db-…。代理伺服器只會在送往該憑證自身主機的請求中換入真實值。
所以當代理執行 cat .env 或 printenv 時,它送給模型的對話裡裝的是假值。Dragos 地圖上的每個讀者都拿到一份提示詞副本,卻沒有任何能用的東西。從攻擊者伺服器重送的假值永遠不會經過你 Mac 的代理伺服器,因此它以假值的身分抵達真正的 API,並在驗證時失敗。
提示詞裡的 AWS 金鑰什麼也簽不了
入口的竊賊拿走的是 AWS 金鑰,而 AWS 正好清楚說明了這道邊界如何運作。在 Bromure VM 中,~/.aws/config 指向一個輔助程式,它交出你真實的存取金鑰 ID,搭配一個假的機密。所有 SDK 和 aws CLI 都用這個假機密簽署請求。在 Mac 上,代理伺服器會在請求送出前移除簽章,再用真實機密重新簽署。從提示詞裡偷走這一組,拿到的唯一機密就是假的。凡是用它簽署的呼叫,AWS 一律回應 InvalidSignatureException。Dragos 日誌中的 S3 列舉、Secrets Manager 搜尋、新的 Bedrock 金鑰與 IAM 使用者,全都需要那個機密。
SSH 也是一樣。私鑰的位元組從不進入 VM。客體可以請 Mac 代為簽章,但讀不到金鑰本身,所以任何對話紀錄裡都不會有它。
個人資料也有替身
Dragos 的金絲雀是憑證和連結,但載運它們的提示詞,也裝著代理從客戶資料表或客服匯出檔讀到的任何東西。這部分由 PII Protection 處理。在請求送往模型供應商之前,代理伺服器會用裝置端模型找出姓名、電子郵件地址、電話號碼、卡號、政府核發的身分證號與地址,並把每一項換成逼真的替身。回應在代理看到之前會換回真實值。供應商,以及任何讀取其流量的人,看到的是 @example.com 地址和測試用卡號。每次替換都會連同目的主機記入 Security Timeline 的計數,值本身則從不記錄。
提交裡是假值,推送要等待
Together 的外洩分兩步:一個編碼代理持有真實的 Hugging Face 憑證,然後把它推送到公開儲存庫。在 Bromure 機器中,這兩步都不會得逞。
代理看得到的權杖是替身 brm_…,所以提交裡裝的也是替身。任何人從 GitHub 撈走它,拿到的只是一個字串,只有在你 Mac 的代理伺服器裡、針對從你的 VM 送往 huggingface.co 的請求,它才會變成真正的權杖。從他們自己的機器使用,Hugging Face 會拒絕。
在提交送往任何地方之前,推送本身就會停在 Guardrails 的寫入原則。新機器對 GitHub、GitLab 和 Bitbucket 預設為 Prompt before write:讀取直接通過,而每個寫入,包括 git push,都會在 Mac 上跳出一個寫明操作內容的對話框並等待。這項原則在代理伺服器中、VM 之外執行,所以代理無法關掉它。一次意料之外、推向公開儲存庫的推送,會變成在提交公開之前由你回答的問題。
如果有人還是把真實權杖貼進 VM 裡的檔案,代理伺服器會標記外送標頭中未經替換、看起來像真的憑證:帶有 sk-ant-、ghp_ 或 AKIA 等已知前綴的值,以及很長的不透明權杖。它們會出現在 Trace Inspector 的 Leaks only 與 bromure-cli trace leaks 中。同樣位於 Guardrails 的 Strict credential mode,會封鎖任何不是由 Bromure 自己核發的憑證。
由你決定誰來讀提示詞
Dragos 的第一項建議是自行託管。它的價目表從一台配備 512 GB 記憶體的 Mac Studio 開始。Bromure 的 Models 面板有一個 On-device 供應商,用 Apple 的 MLX 在 Mac 的 GPU 上執行開放權重的編碼模型,不需要安裝任何東西,每個代理都能選用。在裝置端處理的回合永遠不會離開 Mac。Custom server 項目可以讓代理指向你網路上任何相容 OpenAI 的伺服器,例如 vLLM、Ollama 或 LM Studio,讓團隊共用一台自己掌控的 GPU 主機。
當你確實要用雲端模型時,Models 面板也是你選擇路徑的地方。你可以讓每個代理直接指向一線供應商,使用該供應商自己的登入或 API 金鑰,這正是 Dragos 的第二項建議。那把金鑰同樣不會進入 VM。像 OpenRouter 這樣的路由器,在你需要時也能使用,作為你為每個代理各自做的選擇。
當供應商說「輪替你送出過的東西」
Phala 要求客戶輪替 10 月 21 日到 11 月 8 日之間,送往某個模型的請求中所含的每一個機密。大多數團隊說不出那是哪些機密,因為沒有人記錄他們的代理送出了什麼。
Bromure 會在你的 Mac 上保留這份紀錄。在預設的 AI request details 層級,代理伺服器會儲存與已知模型主機的每一次往來,並以你登入鑰匙圈中的金鑰加密。Trace Inspector 可以依主機和 Conversations only 篩選,bromure-cli trace hostnames 則列出每台機器連線過的每個主機。你可以打開暴露期間的請求,逐一閱讀送出了什麼。在 Bromure 機器中,送出的是替身。
代理讀到的是假值
匯入的 .env 值、設定檔與環境變數裝的都是替身。真實機密在 Mac 上加入,而且只送往其自身主機。
被偷的提示詞打不開任何東西
從提示詞取得的假值會在上游失敗。被偷走的 AWS 存取金鑰 ID 搭配的是假機密,所以每個簽章都會被拒絕。
推送會等你
Prompt before write 讓每個 git push 都暫停等待核准,並在代理伺服器中強制執行。反正提交出去的權杖也只是替身。
讀者由你挑選
裝置端模型讓提示詞留在 Mac 上。雲端路徑由每個代理各自選擇,而 Mac 會為每個請求留下追蹤紀錄。
本週該做的事
- 如果你在 10 月 21 日到 11 月 8 日之間透過 Phala 向 DeepSeek V4 Flash 0731 送出過請求,請依照 Phala 的指引,輪替那些請求可能帶有的任何機密。
- 如果你在 6 月或 7 月使用過 Together AI 無伺服器版的 MiniMax M3、GLM-5.2 或 Kimi K2.6,請閱讀 Together 的公告,並在帳戶設定中開啟 ZDR。
- 如果你透過 OpenRouter 路由並仰賴 ZDR,請確認你的端點是否在被移除的 125 個之中。
- 假設代理讀過的任何機密,都已送到它與模型之間的每一站。輪替曾放在代理打得開的
.env裡的長期金鑰。 - 依照 Dragos 的建議,把
artex-agent和artex-judge-r121加入你的 CloudTrail 偵測規則。
接著,讓機密永遠離開代理的觸及範圍。把 .env 匯入 Bromure 機器,讓 GitHub 維持 Prompt before write,並讓代理指向你選定的供應商。線路邊界、AWS 重新簽署與 .env 匯入,請見 Credentials & the Wire Boundary;個人資料請見 PII Protection;裝置端模型與自訂伺服器請見 Models & Providers;本機紀錄請見 Tracing & Audit。