← 返回所有文章
发布于 · 作者 Renaud Deraison

提示词还有别的读者

Dragos 在两百万条 AI 提示词里埋入诱饵凭据,观察谁会拿去用。至少三家推理服务商已被入侵数月,转售商记录流量,而隐私标志一样也没拦住。OpenRouter 在 11 月 22 日移除了三家服务商。编码代理会把读到的一切发给模型。在 Bromure Agentic Coding 中,它读到的是替身,所以被偷走的提示词里没有任何能用的东西。

在代理与模型之间,一条提示词会经过路由器、入口、推理服务器和日志存储。Dragos 在每一站都找到了窃贼。代理读过的一切,都随着提示词一起发了出去。

设想一个周二下午的调试工作。一个测试因 AWS 错误而失败,代理执行 cat .env 来确认区域。文件里有访问密钥、机密、数据库密码和一个 Hugging Face 令牌。这些全都进了下一个发给模型的请求,因为代理本来就是这样工作的。请求会发到路由器在那一分钟选中的服务商,也许是一家以半价提供开放权重模型的服务商。开发者拿到答案,继续工作。

根据 Dragos 本周发布的研究,这样的请求可能在服务商的入口被复制、在被入侵的推理服务器上被读取、在几天后被某个模型实验室抓取,或被某个用家庭宽带运行廉价端点的转售商记录下来。在每一种情况下,攻击者只需要读它就够了。

两百万条埋了绊线的提示词

11 月 19 日,Dragos 首席研究官 HD Moore 发布了一项为期五个月的实验结果。从 7 月到 11 月,团队向热门 AI 服务发送了约两百万条提示词。每条提示词都带有独一无二的金丝雀,也就是绊线:没有人有正当理由使用的假数据,因此只要被使用,就证明有人读过那条提示词。他们埋入了网页链接、DNS 名称、git 仓库 URL、SSH 密码,以及绑定在空白且完整记录的账户上的真实 AWS 密钥。每一只金丝雀都能追溯到携带它的确切提示词、模型、路由器和隐私设置。

结果如下:

  • 三家托管服务商遭到入侵,而且没有一家知道。 最早的入侵始于 7 月中旬。在规模最大的一起中,攻击者拿走了约两百个 AWS 密钥,每一个都是在 10 月下旬的短暂时段内,于单个请求中发送的。其中有些来自服务商在任何模型运行之前就拒绝的请求,所以复制发生在入口,在任何检查之前。
  • 密钥很快就被使用。 有些在几小时内就被测试。一个 10 月 21 日埋下的密钥在第二天被使用,三周后仍在使用中。攻击者列出 S3 存储桶、搜索 Secrets Manager 和 Parameter Store、创建 Bedrock API 密钥,并添加 IAM 用户以保住访问权,总计发出数万次 AWS 调用。11 月 1 日,他们动用了 AI 驱动的渗透测试框架 ARTEX,来检查哪些密钥还能用。
  • 转售商记录了经过的一切。 在一个推理市场上,卖家以最低价上架模型、开启请求日志,然后等待。有一个人手动用从提示词中拿到的密码尝试 SSH root 登录,接着从同一台机器测试 AWS 密钥。有一个路由器在没有告知客户的情况下,把部分流量转发到那个市场。
  • 隐私标志没有守住。 一家中国 AI 实验室的系统,从发往其模型的提示词中,抓取了超过一半的秘密链接,其中包括约三分之二标记为“不收集数据”或零数据保留(ZDR)的请求。一个 git 客户端尝试克隆这些提示词中提到的私有仓库。一家美国大型服务商在单个请求的两个月后,仍在爬取某个链接。

Moore 对代理问题的总结只要一行:“AI 代理会很乐意发送任何读得到的东西,包括凭据。”

一条提示词,许多读者(Dragos,2026 年 7 月至 11 月)编码代理执行了 cat .env,下一个请求里有:AKIA… + secretDB_PASSWORD=…HF_TOKEN=hf_…路由器为每个请求挑选服务商入口服务商的API 端点推理服务器运行模型存储的样本日志、测试集转售市场某路由器转发流量到此;卖家记录每一个请求抵达即被复制约两百个 AWS 密钥,连被拒绝的请求也不例外处理中被读取Phala:攻击者掌控推理 VM,10/21 至 11/8被下载Together:被AI 代理提交的令牌打开接着,密钥被拿去用。AWS 密钥数小时内被测试,Bedrock 密钥和 IAM 用户被创建。用提示词里的密码尝试 SSH root 登录。某模型实验室抓取了三分之二的 ZDR 提示词。
Dragos 的金丝雀在哪里被读取。一条提示词在抵达模型之前,可能经过路由器、服务商的入口、推理服务器和日志存储,而每一站都有读者。ZDR 之类的隐私标志只约束第一站,已经在里面的攻击者根本不理会。

服务商的报告

服务商已经开始证实这件事。Phala 的初步报告指出,攻击者控制了一台提供 DeepSeek V4 Flash 0731 的推理 VM,能在请求处理期间看到请求数据。它的建议是:把 10 月 21 日到 11 月 8 日之间发往该模型的每个请求都视为已泄露,并“轮换这些请求中包含的任何 API 密钥、令牌、密码或其他机密”。金丝雀测试证实,10 月 21 日和 22 日发送的凭据遭到滥用。

Together AI 在 11 月 21 日发布的公告,描述了另一条入侵途径。6 月和 7 月发往 MiniMax M3、GLM-5.2 和 Kimi K2.6 的请求中,有提示词样本存放在一个用于测试的私有 Hugging Face 仓库。随后,“一个 AI 编码代理提交了一个可访问该私有 Hugging Face 仓库的凭据”,提交到一个公开的 GitHub 仓库。Together 的扫描器发现了这次提交并将其还原,但有人在暴露期间使用了该凭据,下载样本,在其中搜索其他服务的凭据并加以测试。他们试用的凭据中有五个是 Dragos 的金丝雀。

11 月 22 日,OpenRouter 移除了三家服务商,并将 125 个端点撤出其 ZDR 列表,等待验证。它表示调查结果并未显示 OpenRouter 本身遭到入侵。The Hacker News 有完整的汇总。

这些报告中有两种失误反复出现。机密进入提示词,是因为代理读得到它。而在 Together 的案例中,机密进入公开仓库,是因为代理读得到它,还能推送它。

为什么隐私标志解决不了

Dragos 的建议很合理:能自行托管就自行托管、直接使用一线服务商、自己挑选路由器的上游、埋设金丝雀、开启机密过滤。每一项都能缩短读者名单。但提示词里仍然装着代理读过的东西。Moore 对 ZDR 说得很直白:“当攻击者已经在里面时,隐私标志毫无帮助。”

机密过滤是在出口做模式匹配。它能抓到 AKIA… 和 ghp_…,却会漏掉没有前缀的密码,正是市场上那位读者拿去试 SSH 的那种。编码代理生来就是要读取文件、环境变量和命令输出,并把读到的内容放进下一个请求。要改变提示词里装了什么,就得改变代理能读到什么。

在 Bromure Agentic Coding 中的同一场工作

Bromure Agentic Coding 在你 Mac 上的 Ubuntu VM 中运行 Claude Code、Codex、Grok、Kimi 和 omp,每台机器一个 VM。VM 发出的每个 HTTPS 请求都会经过 Mac 上的代理服务器,而这个代理服务器是你的真实凭据唯一存在的地方。

代理读到的 .env 里是替身

机器 Credentials 面板中的 Import env file… 会读取项目的 .env。它会把认得的名称,例如 AWS_ACCESS_KEY_ID、GH_TOKEN 或 ANTHROPIC_API_KEY,对应到正确的凭据类型,其余的,例如那个 HF_TOKEN,则转成限定于你指定主机(这里是 huggingface.co)的 Other API keys。每一项都以原本的变量名导出到 VM 中,内容是与真实值格式相同的假值:GitHub 是 ghp_ 加 36 个字符,通用令牌是 brm_…,数据库机密是 brm-db-…。代理服务器只会在发往该凭据自身主机的请求中换入真实值。

所以当代理执行 cat .env 或 printenv 时,它发给模型的对话里装的是假值。Dragos 地图上的每个读者都拿到一份提示词副本,却没有任何能用的东西。从攻击者服务器重放的假值永远不会经过你 Mac 的代理服务器,因此它以假值的身份抵达真正的 API,并在认证时失败。

提示词里的 AWS 密钥什么也签不了

入口的窃贼拿走的是 AWS 密钥,而 AWS 正好清楚地说明了这道边界如何运作。在 Bromure VM 中,~/.aws/config 指向一个辅助程序,它交出你真实的访问密钥 ID,搭配一个假的机密。所有 SDK 和 aws CLI 都用这个假机密签名请求。在 Mac 上,代理服务器会在请求发出前移除签名,再用真实机密重新签名。从提示词里偷走这一组,拿到的唯一机密就是假的。凡是用它签名的调用,AWS 一律返回 InvalidSignatureException。Dragos 日志中的 S3 列举、Secrets Manager 搜索、新的 Bedrock 密钥和 IAM 用户,全都需要那个机密。

SSH 也是一样。私钥的字节从不进入 VM。客户机可以请 Mac 代为签名,但读不到密钥本身,所以任何对话记录里都不会有它。

个人数据也有替身

Dragos 的金丝雀是凭据和链接,但携带它们的提示词,也装着代理从客户数据表或客服导出文件中读到的任何东西。这部分由 PII Protection 处理。在请求发往模型服务商之前,代理服务器会用设备端模型找出姓名、电子邮件地址、电话号码、卡号、政府签发的证件号和地址,并把每一项换成逼真的替身。响应在代理看到之前会换回真实值。服务商,以及任何读取其流量的人,看到的是 @example.com 地址和测试用卡号。每次替换都会连同目标主机计入 Security Timeline,值本身则从不记录。

在 Bromure Agentic Coding 中的同一场工作Bromure VM$ cat .envAWS:真实密钥 ID + 假机密DB_PASSWORD= brm-db-…HF_TOKEN= brm_…SSH 私钥:不在 VM 里。代理的提示词只装着它读到的东西:替身。你 Mac 上的代理服务器PII Protection姓名、邮箱、卡号、证件号在模型看到前换成替身凭据替换只在发往该凭据自身主机的请求中加入真实值;AWS 在此用真实机密重新签名真实机密存放于此,已加密。每个 AI 请求都在 Mac 上留下追踪。云端模型路径路由器、入口、推理服务器、日志存储读者拿到的是替身AWS: InvalidSignatureException其他 API 拒绝假值;没有密码可拿去试 SSH设备端或你自己的服务器Mac GPU 上的 MLX 模型,或你网络上的 vLLM:没有第三方读者Together 的路径,换成 Bromure 机器代理提交了 HF_TOKEN。提交的是 brm_…,只有经过你 Mac 的代理服务器、发往 huggingface.co 时才有效。git push 本身在 GitHub 默认的 Prompt before write 策略下,会在 Mac 上暂停等待批准。克隆公开仓库的人拿到的是假值。提示词存储依然紧闭。
同一场调试工作,在 Bromure 机器中。代理从 .env 读到的是替身,所以提示词装的是替身,而 PII Protection 会在请求离开 Mac 之前替换个人数据。任何一站的读者拿到的都是会在上游失败的假值。真实机密只在 Mac 上加入,且只发往其自身主机;使用设备端模型时,提示词完全不会离开 Mac。

提交里是假值,推送要等待

Together 的泄露分两步:一个编码代理持有真实的 Hugging Face 凭据,然后把它推送到公开仓库。在 Bromure 机器中,这两步都不会得逞。

代理看得到的令牌是替身 brm_…,所以提交里装的也是替身。任何人从 GitHub 抓走它,拿到的只是一个字符串,只有在你 Mac 的代理服务器里、针对从你的 VM 发往 huggingface.co 的请求,它才会变成真正的令牌。从他们自己的机器使用,Hugging Face 会拒绝。

在提交发往任何地方之前,推送本身就会停在 Guardrails 的写入策略。新机器对 GitHub、GitLab 和 Bitbucket 默认为 Prompt before write:读取直接通过,而每个写入,包括 git push,都会在 Mac 上弹出一个写明操作内容的对话框并等待。这项策略在代理服务器中、VM 之外运行,所以代理无法关掉它。一次意料之外、推向公开仓库的推送,会变成在提交公开之前由你回答的问题。

如果有人还是把真实令牌粘贴进 VM 里的文件,代理服务器会标记外发请求头中未经替换、看起来像真的凭据:带有 sk-ant-、ghp_ 或 AKIA 等已知前缀的值,以及很长的不透明令牌。它们会出现在 Trace Inspector 的 Leaks only 和 bromure-cli trace leaks 中。同样位于 Guardrails 的 Strict credential mode,会拦截任何不是由 Bromure 自己签发的凭据。

由你决定谁来读提示词

Dragos 的第一项建议是自行托管。它的价目表从一台配备 512 GB 内存的 Mac Studio 开始。Bromure 的 Models 面板有一个 On-device 服务商,用 Apple 的 MLX 在 Mac 的 GPU 上运行开放权重的编码模型,无需安装任何东西,每个代理都能选用。在设备端处理的回合永远不会离开 Mac。Custom server 条目可以让代理指向你网络上任何兼容 OpenAI 的服务器,例如 vLLM、Ollama 或 LM Studio,让团队共用一台自己掌控的 GPU 主机。

当你确实要用云端模型时,Models 面板也是你选择路径的地方。你可以让每个代理直接指向一线服务商,使用该服务商自己的登录或 API 密钥,这正是 Dragos 的第二项建议。那个密钥同样不会进入 VM。像 OpenRouter 这样的路由器,在你需要时也能使用,作为你为每个代理各自做的选择。

当服务商说“轮换你发出过的东西”

Phala 要求客户轮换 10 月 21 日到 11 月 8 日之间,发往某个模型的请求中所含的每一个机密。大多数团队说不出那是哪些机密,因为没有人记录他们的代理发出了什么。

Bromure 会在你的 Mac 上保留这份记录。在默认的 AI request details 级别,代理服务器会存储与已知模型主机的每一次往来,并用你登录钥匙串中的密钥加密。Trace Inspector 可以按主机和 Conversations only 筛选,bromure-cli trace hostnames 则列出每台机器连接过的每个主机。你可以打开暴露期间的请求,逐一阅读发出了什么。在 Bromure 机器中,发出的是替身。

代理读到的是假值

导入的 .env 值、配置文件和环境变量装的都是替身。真实机密在 Mac 上加入,而且只发往其自身主机。

被偷的提示词打不开任何东西

从提示词拿到的假值会在上游失败。被偷走的 AWS 访问密钥 ID 搭配的是假机密,所以每个签名都会被拒绝。

推送会等你

Prompt before write 让每个 git push 都暂停等待批准,并在代理服务器中强制执行。反正提交出去的令牌也只是替身。

读者由你挑选

设备端模型让提示词留在 Mac 上。云端路径由每个代理各自选择,而 Mac 会为每个请求留下追踪记录。

本周该做的事

  • 如果你在 10 月 21 日到 11 月 8 日之间通过 Phala 向 DeepSeek V4 Flash 0731 发送过请求,请按照 Phala 的指引,轮换那些请求可能带有的任何机密。
  • 如果你在 6 月或 7 月使用过 Together AI 无服务器版的 MiniMax M3、GLM-5.2 或 Kimi K2.6,请阅读 Together 的公告,并在账户设置中开启 ZDR。
  • 如果你通过 OpenRouter 路由并依赖 ZDR,请确认你的端点是否在被移除的 125 个之中。
  • 假设代理读过的任何机密,都已发到它与模型之间的每一站。轮换曾放在代理打得开的 .env 里的长期密钥。
  • 按照 Dragos 的建议,把 artex-agent 和 artex-judge-r121 加入你的 CloudTrail 检测规则。

接着,让机密永远离开代理的触及范围。把 .env 导入 Bromure 机器,让 GitHub 保持 Prompt before write,并让代理指向你选定的服务商。线路边界、AWS 重新签名和 .env 导入,请见 Credentials & the Wire Boundary;个人数据请见 PII Protection;设备端模型和自定义服务器请见 Models & Providers;本地记录请见 Tracing & Audit。