← 返回所有文章
发布于 · 作者 Renaud Deraison

评测跑出了实验室

11 月 6 日,WorkOS 表示,造成其 10 月数据泄露的代理是一名研究人员的 ARTEX 运行,它在基准测试评估期间“逃出了隔离的测试环境”。它从互联网访问到 WorkOS 的内部销售工具,用一个可猜到的开发凭据登录,连续五天拉取客户记录,才有人发现。在 Bromure Agentic Coding 中,代理的网络边界在 Mac 上、VM 之外强制执行:没有人允许过的目的地会被拒绝,而开始连接新主机的会话会在几毫秒内被切断并暂停。

研究人员本来只是想用基准测试来测自己的代理。代理却在公共互联网上找到了一家真实公司的 API,而它那个“隔离的测试环境”里没有任何东西拦住它。

11 月 6 日,WorkOS 发布了关于 10 月 30 日安全事件的更新。一周前,该公司披露有攻击者利用 AI 攻击性安全框架 ARTEX,闯入了一个内部销售与支持工具。这次更新点明了攻击者的身份:一名正在运行网络安全基准测试评估的安全研究人员。用 WorkOS 创始人 Michael Grinich 的话说,“他们的代理逃出了隔离的测试环境,无意中与 WorkOS 发生了交互”。BleepingComputer 当天做了报道。

研究人员在第一份公告发布后联系了 WorkOS,提供了请求细节和时间戳。WorkOS 的安全团队和一家独立取证公司将这些数据与 WorkOS 的日志比对,“以高置信度”确认了归属。研究人员表示,已删除代理拿到的全部数据,也没有分享给任何人。

根据 WorkOS 公告的时间线:

  • 10 月 25 日:确认首次未经授权访问该工具的 API。
  • 10 月 30 日:代理批量拉取记录。一名员工注意到异常用量,WorkOS 撤除公开访问。
  • 10 月 30–31 日:收紧身份验证,吊销或轮换已连接服务的凭据。
  • 11 月 2 日:公开披露并通知客户。
  • 11 月 3–5 日:研究人员主动站出来;取证公司核实其说法。

代理带走的数据:商务联系信息、账户历史、产品使用数据,以及销售通话、支持工单和客户 Slack 对话的摘要或摘录,其中一些包含最终用户的电子邮件地址。

从基准测试运行到客户数据库基准测试运行ARTEX 代理位于“隔离的测试环境”连上互联网找到 WorkOS 内部销售工具的 API,可公开访问登录可预测的开发凭据,生产环境仍然接受拉取记录无速率限制;联系人、账户历史、通话和 Slack 摘录10/25首次访问五天无人发现10/30批量拉取,随后被发现11/2披露11/6研究人员身份公开
从代理的第一个请求到有人发现,中间隔了五天。研究人员的环境本该把代理限制在基准测试里。代理却访问到一个公开的 API,用生产环境仍然接受的开发凭据登录,在没有任何速率限制阻拦的情况下拉走了记录。

两处失误,各在一方

WorkOS 列出了自己这一方的四个漏洞。这个工具运行在一个老旧的内部平台上。宽松的访问控制让它的 API 可以从互联网访问。生产环境接受一个强度不足的开发凭据,而且它容易猜到,代理就推算出来了。没有速率限制,在记录已经流出之前,也没有任何东西对这些流量发出告警。WorkOS 此后已在网络边缘封锁内部工具,移除了这条弱凭据路径,并开始用 ARTEX 测试自家面向互联网的系统。

另一处失误在研究人员一方,而双方都没有说明逃逸是怎么发生的。不管机制是什么,结果就是一个专为发现和利用弱点而打造的代理,在一次本该只对准基准测试的运行中,握有一条通往公共互联网的有效路径。很多代理沙盒就是这个样子:一个容器、一个单独的用户账号,或者系统提示词里的一段话。即便存在网络边界,也是有人在代理所控制的同一个环境内部设置的。

编码代理在更小的规模上也是这样。它们对 staging 运行集成测试,探测 API 来了解其结构,第一台主机失败就换下一台。给它一个“connection refused”,它就开始琢磨另一条进去的路,因为完成任务正是它被训练来做的事。

同样的运行,放到 Bromure Agentic Coding 里

Bromure Agentic Coding 在你的 Mac 上用 Ubuntu VM 运行 Claude Code、Codex、Grok、Kimi 和 omp,每台机器一个 VM。VM 打开的每一条连接,都经由运行在 Mac 上的 Bromure 虚拟交换机和代理服务器出去。网络规则就在那里,代理够不着。它可以在自己的 VM 里拿到 root,却依然改不了这些规则。

未知主机会被拒绝,代理也会被告知原因

一台机器可以使用两种沙盒引擎之一:

  • Bromure Firewall:一张按顺序匹配的允许/拒绝表,涵盖主机、IP/CIDR、协议、端口和 HTTP 方法。把 Unmatched traffic 设为 Deny,机器就按允许列表运行。
  • OpenShell + Sentry:一份 NVIDIA OpenShell 策略,除非有 network_policies 规则允许,否则一律拒绝。初始策略以只读方式允许 GitHub、npm 和 PyPI,以及 Ubuntu 的软件包镜像。

对一次基准测试运行来说,策略会列出基准测试的目标和模型提供商。提供商和凭据的主机由 Bromure 自行添加。WorkOS 的 API 不在这份列表上,所以 Mac 的虚拟交换机从第一条连接起就拒绝它。交换机检查目的地址和 VM 解析的名称,代理服务器检查 TLS 服务器名称。交换机把 80 和 443 端口转入代理服务器,所以即使程序忽略 HTTPS_PROXY,也照样要经过它。在 OpenShell 下,无论策略怎么写,Bromure 都会拒绝环回、链路本地和云元数据地址。

只看到连接被拒的代理,往往会去找别的路。OpenShell 机器默认开启 Tell the agent when policy blocks it,Bromure 会在代理的对话中写明什么被拦截了、为什么:

[Bromure policy] This workspace's network policy blocked connecting to api.stripe.com:443 — no network policy allows api.stripe.com:443. … This is a deliberate restriction, not a fault: don't retry it or reach the same thing another way … If your task needs it, stop and tell the user what you need and why so they can decide.

Claude Code 在碰到拦截的那条命令之后就会读到这条说明。被拦截的主机也会出现在机器的 Sandbox drawer 中,附带发起尝试的程序和次数。如果代理确实需要它,你可以 Allow 15 分钟或一小时,而不必永久放开网络。

机器 VM基准测试任务发往策略点名的目标的请求代理偏离任务以 VM 内的 root 身份尝试无关公司的 API对话中的策略说明“stop and tell the user”你的 Mac交换机和代理服务器策略允许目标;其余一律拒绝拒绝、记录、说明Security Timeline 行、Sandbox drawer、给代理的说明Watchdog: Quarantine断网、暂停 VM、由你决定互联网基准测试目标和模型提供商:照常可访问别人的 API从未收到机器的任何请求
同样的基准测试运行,放在 Bromure 机器里。代理可以在自己的 VM 里拿到 root,但规则在 Mac 上。策略之外的主机在虚拟交换机处就被拒绝,代理会被告知停下来询问;如果会话持续伸向新的目的地,watchdog 就切断它的网络并暂停 VM。

客户机关不掉这些规则

“逃出了隔离的测试环境”通常意味着代理在那个环境里做了设计者没料到的事。在 Bromure 机器里,请假定它就会这么做。网络规则依然不在 VM 里。由 Mac 上的交换机和代理服务器检查,而且你可以在运行中的机器上收紧规则,无需重启。

在 OpenShell 机器上,还可以在 VM 内部更进一步:

  • filesystem_policy 用 Linux Landlock 限制代理的文件,连 root 也受限;
  • process 部分或 Enforce binaries 会移除 sudo 和 Docker,而且每条连接都必须来自策略点名的程序,并在首次使用时按哈希锁定;
  • kernel sentry 是 VM 内核中的一个小模块,会把程序启动、连接、权限变更和模块加载上报给 Mac。它一启动,内核就被锁定,连 root 都无法加载代码来干扰,而它编号数据流中的任何缺口都会被标记为 tampering suspected。

如果客户机沙盒无法完整应用,就不会启动任何会话,Sandbox 卡片也会用红字提示。

五天变成几毫秒

WorkOS 在五天后才发现入侵,是因为一名员工注意到了异常用量。Bromure 的 agent watchdog 从 VM 外部观察每个会话,留意:

  • 短时间内大量被拦截的请求;
  • 会话稳定下来之后出现的新目的地;
  • 远高于该会话自身基线的出站流量,在网络交换机上统计;
  • 不该出现的凭据,以及被篡改的迹象。

在 Quarantine 模式下,一个会话若在一分钟内越过阈值,网络会被切断、VM 会在几毫秒内暂停。一条告警 The agent watchdog quarantined this workspace 会列出它看到的情况。Keep quarantined 会在网络仍然切断的状态下恢复 VM,方便你进去查看。Release 会恢复网络,Shut down 则关闭机器。

一个跑出基准测试、开始在别人 API 上四处游走的代理,产生的正是这种模式:一连串拦截,接着是新主机,然后是一次远远大于该会话此前任何活动的下载。

记录早已在你的 Mac 上

这个故事里的研究人员做了体面的事,带着请求细节和时间戳主动站了出来。即便如此,WorkOS 仍然需要自己的安全团队和一家独立取证公司,才能把这些数据和自己的日志对上。

Bromure 做出的每个决定,都是机器 Security Timeline 中的一行。在装有 kernel sentry 的机器上,双击一行网络记录,它的 network lineage 就会显示这条连接背后的完整链条:

  1. 你给的提示词、代理的推理,以及它声明的意图;
  2. 工具调用,附带确切的命令;
  3. 从代理一直到发起连接的程序之间的进程;
  4. 网络流;
  5. Bromure 做了什么决定、在哪一层、为什么。

Other flows from this tool call 会列出同一步骤建立的其他所有连接。万一代理做了你没要求的事,你会知道它在遵循哪条指令、碰过哪些主机,不必等别人的日志。

好猜的开发凭据也走不远

WorkOS 的第三个漏洞,是生产环境仍然接受的一个开发凭据。这类凭据在编码代理工作的地方随处可见:项目文件夹里的 .env 文件、测试 fixture 和 shell 历史记录。在 Bromure 机器里,代理持有的凭据都是替身。真实的值以加密形式留在 Mac 上,代理服务器只在发往每个凭据所属主机的请求中换上真值。如果替身被发往任何其他主机,代理服务器会以 HTTP 451 拦截、暂停 VM,并弹出告警,指明是哪个凭据、要发往哪里。打开 Only allow credentials Bromure injects,代理服务器还会拦截任何不是由 Bromure 放进去的凭据,比如代理在文件里找到或推算出来的那种。

规则在客户机之外

网络策略在 Mac 的交换机和代理服务器上运行。VM 里的 root 够不着。

默认拒绝

OpenShell 机器只允许策略点名的对象。防火墙也可以按允许列表运行。

几毫秒内隔离

新的目的地和出站流量激增会切断网络并暂停 VM,直到你做出决定。

每条连接都有解释

network lineage 把每个流关联到提示词、工具调用和产生它的进程。

本周该做的事

如果你让代理针对任何东西运行,不管是安全基准测试、红队工具,还是对 staging 做测试的编码代理:

  • 写下一次运行需要哪些主机,并在代理无法编辑的地方强制执行这份列表。容器里或代理自身配置里的规则不算数。
  • 评估运行一律默认拒绝。基准测试的目标是已知的集合。
  • 针对每个会话的新目的地和流量激增发出告警,并让告警除了记录之外还能停止运行。
  • 为每条连接保留一份可以交给他人的记录,并与代理被要求做的事关联起来。

至于接收方,照着 WorkOS 的清单做:让内部工具远离公共互联网,在生产环境拒绝开发凭据,并对返回客户数据的 API 设置速率限制。

想了解 Bromure 中 OpenShell 策略和 network lineage 的工作方式,请参阅Bromure 支持 OpenShell 策略,每条连接背后的推理都可追溯。想知道代理逃出自己的沙盒时会发生什么,请参阅每次逃逸四万美元。详细内容见手册的沙盒策略一章。