← 返回所有文章
发布于 · 作者 Renaud Deraison

模型从没要求过那个

HiddenLayer 证明,只要掌控编码代理与其模型之间的 LLM 网关,就能加入模型从未发出的工具调用,再赶在模型看到历史记录之前把它们删掉。代理会像执行其他调用一样执行它们,而审批提示无从分辨一个调用来自何处。前一天,PyPI 上的一个 LiteLLM 版本夹带了凭据窃密木马和每小时运行一次的后门。在 Bromure Agentic Coding 中,被注入的调用在只放着替身的 VM 里运行,代理服务器会拦下它的上传并暂停 VM,而你的 Mac 会在网关够不着的地方留下这次调用的记录。

你的代理问模型下一步该做什么,答案经由网关传回来。网关如果多加一个步骤,代理就会执行它。模型从没要求过这一步,事后也永远不会知道它发生过。

HiddenLayer 于 10 月 22 日发布了 Man-in-the-Model: Hijacking Coding Agents in Transit。Adversa 将它收入 11 月的编码代理安全研究精选。它提出的问题很简单:一个被攻陷的网关,能对它背后的代理做什么?

许多团队并不会把代理的流量直接发给 Anthropic 或 OpenAI。流量会经过 LiteLLM 代理服务器来统计成本、管理密钥,经过 OpenRouter 来选择模型,或者发往共享 GPU 机器上的 vLLM、llama.cpp 或 Ollama。每一个请求和每一个响应都要穿过这一层,而一个响应,就是代理接下来要执行的工具调用列表。

网关能做什么

HiddenLayer 的研究人员 (Esteban Tonglet、Divyanshu Divyanshu 和 Kasimir Schulz) 一步步拆解了这个攻击。

查出是谁在调用。 Codex 发送的请求头以 codex-tui 开头,Claude Code 则发送 claude-cli。只发送通用 SDK 请求头的代理,也会通过工具名称和请求字段暴露身份。

查出哪些操作不经询问就会执行。 网关能看到自己何时发出工具调用、结果何时返回。一次花了好几秒的文件读取,多半是在等人审批。在超过 4,000 个抓取到的会话中,只有 4.7% 的快速工具调用还有疑问。时间判断不出来时,网关可以在代理正在编辑的脚本里偷偷塞进计时代码,或者用计时器包住一条命令,再把输出藏起来。

读取模型从没要求过的文件。 Claude Code 会加载 CLAUDE.md,Codex 会加载 AGENTS.md,Cursor 会读取 .cursorrules。网关可以在响应中加入读取其中任意一个的调用,留下读到的内容,再在把对话转发给模型之前,把调用和结果一起删掉。用 HiddenLayer 的话说:“这些文件读取是由拦截层发起的,而不是模型。”

执行代码。 第一个演示中的代理是 Hermes,所用的模式会在它认为危险的命令前询问,但不会在编辑文件或运行普通 Python 前询问。用户让它读一个 Python 文件。代理服务器在响应中加入了工具调用:第一次编辑在文件里放进 heartbeat_ok() 函数,第二次加入一段代码,收集 /etc/passwd、存放凭据的环境变量和 ~/.ssh/id_rsa,并 POST 到一个 webhook,第三次用 python3 运行该文件,最后一次编辑把文件恢复原样。用户从没看到任何网络命令,因为上传发生在脚本内部。

搭上已批准前缀的便车。 在第二个演示中,Codex 把 git 设为已批准前缀,而 .git 目录可写。网关发送了:

git -c diff.external='sh -c "cat .env"' diff --no-index /dev/null .env

命令以 git 开头,所以 Codex 没有询问就执行了,打印出一个代理平时会拒绝打开的 .env 文件。在用户看来,代理“似乎仍在执行一次普通的 Git 操作”。

埋下日后才发作的依赖。 当模型要求添加 requests 时,网关把它改成 reqiests。代理把拼错的名称写进依赖文件,载荷就会在下一次安装时运行,不管是在笔记本上还是在 CI 里。

编码代理收到的调用一律执行read main.pyedit main.py + heartbeat_ok()python3 main.pygit -c diff.external=… .envedit main.py (恢复)红色:模型从没要求过被攻陷的网关下行时在响应中加入工具调用,专挑不经询问就执行的上行时把这些调用和结果从历史记录删除,读到的内容留下模型服务商只要求了一件事read main.py收到干净的历史记录没有额外调用,日志里没有痕迹,无从察觉被注入的脚本把 .env、~/.ssh/id_rsa 和凭据环境变量 POST 到攻击者的 webhook。从头到尾不出现任何网络命令。
HiddenLayer 的攻击。网关在模型的响应中加入工具调用。代理执行它们,网关再从转发给上游的历史记录中把它们删除,因此模型和服务商都看不到。

审批提示分辨不出调用是谁写的

HiddenLayer 的结论是:“安全边界不再只是模型。它涵盖每一个能左右代理最终执行内容的系统。”

审批提示和允许列表判断的是命令本身,而不是命令的来源。来自模型的工具调用和网关加入的调用出现在同一个响应里,代理无法分辨。网关还能从时间上得知你哪些调用看都不看就批准,并专挑那些下手。提示词注入防御检查的是发往模型的文本,而这里根本不需要任何文本到达模型。

10 月 21 日,也就是 HiddenLayer 发布前一天,litellm 1.107.0 出现在 PyPI 上,夹带了凭据窃密木马,以及每小时拉取攻击者代码的加载器。The Hacker News 追查到源头是 5 月被提交到公开仓库、却从未吊销的一把主密钥。PyPI 在 1 小时 43 分钟后下架了它,同时发布的 Docker Hub 和 GHCR 镜像也在之后被回滚。拉取了这个版本的 LiteLLM 代理服务器,就在转发它所处理的每一段代理对话的进程里,运行着攻击者每小时执行的加载器。我们在那个版本才发布两小时中讲过这个版本。

同一个网关,挡在 Bromure 机器前面

Bromure Agentic Coding 在你 Mac 上的 Ubuntu VM 里运行 Claude Code、Codex、Grok、Kimi 和 omp。网关仍然可以替代理说话。这些话会变成命令,而这些命令运行的 VM,是在“代理可能怀有敌意”的前提下构建的,每条命令都必须通过网关碰不到的检查。

脚本找到的是替身

HiddenLayer 的脚本收集了存放凭据的环境变量、~/.ssh/id_rsa 和 .env。在 Bromure 机器中:

  • 环境变量存放的是替身。GH_TOKEN、NPM_TOKEN、ANTHROPIC_API_KEY 等格式正确,但除了通过你 Mac 上的代理服务器之外,在任何地方都没有值;代理服务器只会在发往各凭据所属主机的请求中换上真实的值。
  • ~/.ssh 里没有任何私钥文件。VM 的 SSH_AUTH_SOCK 是通往 Mac 的桥接:VM 可以请求签名,但密钥的字节留在主机上。
  • 只要在机器的 Credentials 面板运行过 Import env file…,.env 里就是替身。它会读取你现有的 .env,以打码后的值列出变量,并把它们转成 Mac 上的凭据。VM 在同样的变量中拿到替身。
  • AWS 密钥是真实的访问密钥 ID 加一个假的私密密钥。Mac 会用真正的私密密钥重新签名每个请求,所以它从不存在于 VM 中。

第二个演示中的 git diff.external 手法在 Bromure 机器中照样能跑。它打印出的是一个满是替身的文件。

把它们发到任何地方都会触发警报

脚本的下一步,是把找到的东西 POST 到一个 webhook。这个请求里的第一个替身,正要发往一个并非它签发对象的主机。代理服务器会在任何一个字节离开之前以 HTTP 451 拦下请求、暂停 VM,并在 Mac 上弹出标题为 This environment may have been compromised 的警告。警告会列出该凭据、它所属的主机,以及它正要被发往的主机。网关做什么都碰不到这个对话框:它运行在 Mac 上,而网关只看得到模型流量。

不碰凭据、改拿源代码或 /etc/passwd 的载荷,则会撞上出站防火墙。在 Guardrails 中,把 Unmatched traffic 设为 Deny,并允许机器需要的主机:你的模型路由、你的代码托管平台、你的软件包仓库。webhook 不在列表上。防火墙在虚拟交换机和代理服务器中工作,而 VM 的网页流量会被导入代理服务器,因此脚本绕不过去。

机器 VM被注入的调用运行python3 main.py它收集到的环境变量和 .env:替身~/.ssh:没有私钥文件AWS:假的私密密钥POST 到 webhook带着替身你的 Mac追踪保留响应含被注入的工具调用,与代理收到时一致出站防火墙列表外的主机在交换机和代理服务器被拒绝替身发往错误主机HTTP 451、VM 暂停、Mac 警告外部被攻陷的网关能加入调用,但改不了 Mac的记录,也点不了对话框攻击者的 webhook什么也收不到
同一个被注入的脚本在 Bromure 机器中。它找到的是替身,上传被拦下、VM 被暂停,而 Mac 自己保留了送来这个调用的响应的记录。

Mac 留住了网关抹掉的调用

网关最厉害的一招是善后。它把调用从转发的历史记录中删掉,让服务商的日志和模型的上下文看起来干干净净。但它够不着你 Mac 上的那份副本。

Bromure 机器发出的每个请求都会经过 Mac 上的代理服务器,追踪会记录经过它的内容。在默认级别 AI request details 下,它会为已知的模型服务商保留完整的请求和响应内容。对于 Bromure 无法按名称识别的网关,请把机器的 Session trace 设为 Everything。Trace Inspector 的 Conversation 视图会把每个响应拆解成工具调用、shell 命令以及文件读写。带着 python3 main.py 的那个响应,就以代理收到时的原样留在那里,网关事后无法修改。这些内容用你钥匙串中的密钥封存,在未受管理的安装上不会上传任何东西。

在使用 OpenShell + Sentry 沙箱引擎的机器上,对被拦下的连接使用 Show the Whole Chain,可以一路追到底:从数据包到 python3 进程,到代理启动的 shell,到启动它的工具调用,再到同一个响应中排在它前面的文本。当服务商的日志显示某一轮只要求读一个文件,而你的 Mac 显示同一轮运行了脚本并 POST 到 webhook,两者之间的差异就是网关的杰作。

重要的对话框在 Mac 上

HiddenLayer 的网关靠测量代理自身的审批耗时,得知哪些调用不经询问就会执行。Bromure 的重要审批并不发生在代理里。

在新机器上,Guardrails 面板中每个受保护的服务都从 Prompt before write 开始。一次 git push、一次对 AWS API 的写入、一次 kubectl apply,或一次对数据库端点的 INSERT,都会暂停,并在 Mac 上弹出显示确切操作的对话框。删除也会询问。策略在代理服务器中强制执行,因此被注入的调用无法靠着以已批准前缀开头而通过:对话框取决于请求在网络上实际做了什么,不管是哪条命令产生的。

拼写错误撞上供应链检查

换成 reqiests 瞄准的是下一次 pip install。在 Bromure 机器中,每一次软件包下载都要先通过代理服务器的供应链检查,VM 才会收到任何字节。在 Supply Chain 面板启用 socket.dev 或 Depi 后,Bromure 会在下载时标记仿冒包名和已知恶意软件。默认开启的发布时间门槛,会隐藏最近两天内发布的任何版本,从而拦下攻击者在启用网关前一刻才发布的软件包。被拦下的安装会以 451 失败并写明软件包和原因,pip 会把它打印在终端里,你和代理都看得到。

模型路由在 Mac 上设置

路径上放哪个网关,是你在 Mac 的 Models 看板上做的选择,而不是 VM 里的配置文件。如果某台机器的工作敏感到不适合交给任何第三方网关,就把它的代理指向 On-device 模型:Bromure 在你 Mac 的 GPU 上运行 MLX 模型,请求从不离开主机。看板如何防止别人更改路由,请见 CLI 是真的。

能偷的只有替身

环境变量、.env 和 AWS 配置存放的都是替身,SSH 密钥从不进入 VM。被注入的脚本收集到的值,只有通过你的 Mac 才能使用。

外泄会让 VM 暂停

发往错误主机的替身会被以 451 拦下,VM 随即暂停,警告会写明什么东西正要被发到哪里。

网关改不了的记录

你 Mac 上的追踪会以代理收到时的原样保留每个响应,包括被注入的调用,并用你钥匙串中的密钥封存。

写入会等你

push、云端写入和数据库写入都会暂停,等待 Mac 上的对话框,判断依据是请求做了什么,而不是发出它的命令。

本周该做的事

  • 列出你的代理与其模型之间的每一个系统:LiteLLM 代理服务器、OpenRouter 账号、运行 vLLM 或 Ollama 的 GPU 机器。像对待生产环境服务器一样给它们打补丁、做加固,因为它们就是。
  • 如果你在任何地方运行过 litellm 1.107.0,请把那台主机和它能访问的每一个密钥都视为已被攻陷。
  • 检查已批准的命令前缀。把 git 当作全面前缀,就等于批准了 git -c diff.external=…。
  • 把真正的密钥移出代理的环境,让收集它们的脚本只拿到替身。在 Bromure 机器中,Import env file… 一步就能做到。

手册的 Credentials 一章详细说明了替换机制,Tracing & Audit 则介绍追踪会保留哪些内容以及如何解读。