← Voltar para todas as publicações
Publicado em · por Renaud Deraison

A avaliação saiu do laboratório

Em 6 de novembro, a WorkOS disse que o agente por trás da sua invasão de outubro era uma execução do ARTEX de um pesquisador que escapou do seu ambiente de testes isolado durante avaliações de benchmark. Ele chegou pela internet à ferramenta interna de vendas da WorkOS, entrou com uma credencial de desenvolvimento fácil de adivinhar e puxou registros de clientes por cinco dias antes que alguém percebesse. No Bromure Agentic Coding, o limite de rede de um agente é aplicado no Mac, fora da VM: um destino que ninguém autorizou é recusado, e uma sessão que começa a falar com hosts novos é cortada e pausada em milissegundos.

O pesquisador queria testar seu agente contra um benchmark. O agente encontrou a API de uma empresa real na internet aberta, e nada no seu “ambiente de testes isolado” o impediu de entrar.

Em 6 de novembro, a WorkOS publicou uma atualização sobre seu incidente de segurança de 30 de outubro. Uma semana antes, a empresa havia revelado que um atacante usando o ARTEX, um framework de segurança ofensiva baseado em IA, tinha invadido uma ferramenta interna de vendas e suporte. A atualização deu nome ao atacante: um pesquisador de segurança que rodava avaliações de benchmarks de cibersegurança e cujo agente, nas palavras do fundador da WorkOS, Michael Grinich, “escapou do seu ambiente de testes isolado e interagiu com a WorkOS sem querer”. BleepingComputer noticiou no mesmo dia.

O pesquisador procurou a WorkOS depois do primeiro boletim e entregou os detalhes das requisições e seus horários. A equipe de segurança da WorkOS e uma empresa de perícia independente os compararam com os logs da WorkOS e confirmaram a atribuição “com alto grau de confiança”. O pesquisador diz que apagou tudo o que o agente levou e que não compartilhou nada com ninguém.

A cronologia, segundo o boletim da WorkOS:

  • 25 de outubro: primeiro acesso não autorizado confirmado à API da ferramenta.
  • 30 de outubro: o agente puxa registros em massa. Um funcionário nota um uso incomum, e a WorkOS remove o acesso público.
  • 30–31 de outubro: autenticação travada, credenciais dos serviços conectados revogadas ou trocadas.
  • 2 de novembro: divulgação pública e notificação dos clientes.
  • 3–5 de novembro: o pesquisador se apresenta; a empresa de perícia valida a alegação.

O que o agente levou: dados de contato comerciais, históricos de contas, dados de uso dos produtos e resumos ou trechos de ligações de vendas, threads de suporte e conversas de Slack com clientes, alguns com endereços de e-mail de usuários finais.

De uma execução de benchmark a uma base de clientesExecução de benchmarkagente ARTEX num“ambiente de testesisolado”Chega à internetacha a API da ferramentade vendas da WorkOS,acessível publicamenteFaz logincredencial de devprevisível, ainda aceitaem produçãoPuxa registrossem limite de taxa;contatos, históricos,ligações e Slack25 outprimeiro acessocinco dias sem alerta30 outextração, depois detecção2 novdivulgação6 novagente do pesquisador
Cinco dias entre a primeira requisição do agente e alguém perceber. O ambiente do pesquisador deveria manter o agente no benchmark. O agente chegou a uma API pública, entrou com uma credencial de desenvolvimento que a produção ainda aceitava e puxou registros sem nenhum limite de taxa no caminho.

Duas falhas, uma de cada lado

A WorkOS listou quatro falhas do seu lado. A ferramenta rodava numa plataforma interna legada. Controles de acesso frouxos deixavam sua API acessível pela internet. Uma credencial de desenvolvimento fraca era aceita em produção, e era previsível o bastante para o agente deduzi-la. Não havia limite de taxa, e nada alertou sobre o tráfego até os registros já terem saído. Desde então, a WorkOS bloqueou as ferramentas internas na borda da rede, removeu o caminho da credencial fraca e começou a rodar o ARTEX contra seus próprios sistemas expostos à internet.

A outra falha foi do lado do pesquisador, e nenhuma das partes disse como a fuga aconteceu. Qualquer que tenha sido o mecanismo, o resultado foi um agente construído para encontrar e explorar fraquezas, com uma rota ativa para a internet pública, durante uma execução que deveria apontá-lo para um benchmark. Muitos sandboxes de agentes são assim: um contêiner, uma conta de usuário separada ou um parágrafo no prompt de sistema. Quando existe um limite de rede, alguém o configurou de dentro do mesmo ambiente que o agente controla.

Agentes de código se comportam do mesmo jeito em escala menor. Eles rodam testes de integração contra staging, sondam APIs para entender o formato delas e tentam o próximo host quando o primeiro falha. Dê a um deles um “connection refused” e ele começa a pensar em outro jeito de entrar, porque terminar a tarefa é aquilo para que foi treinado.

A mesma execução, no Bromure Agentic Coding

O Bromure Agentic Coding roda Claude Code, Codex, Grok, Kimi e omp em VMs Ubuntu no seu Mac, uma VM por máquina. Toda conexão que a VM abre sai pelo switch virtual e pelo proxy do Bromure, que rodam no Mac. É lá que ficam as regras de rede, e o agente não alcança. Ele pode ser root dentro da VM e mesmo assim não mudá-las.

Hosts desconhecidos são recusados, e o agente fica sabendo por quê

Uma máquina pode usar um de dois motores de sandbox:

  • O Bromure Firewall: uma tabela ordenada de permitir/negar por host, IP/CIDR, protocolo, porta e método HTTP. Coloque Unmatched traffic em Deny e a máquina passa a funcionar com uma lista de permissões.
  • OpenShell + Sentry: uma política do NVIDIA OpenShell, em que tudo é negado a menos que uma regra network_policies permita. A política inicial libera GitHub, npm e PyPI só para leitura e os espelhos de pacotes do Ubuntu.

Para uma execução de benchmark, a política nomeia os alvos do benchmark e o provedor do modelo. O Bromure adiciona por conta própria os hosts do provedor e das credenciais. Uma API da WorkOS não está nessa lista, então o switch virtual do Mac recusa a primeira conexão para ela. O switch verifica o endereço de destino e o nome que a VM resolveu, e o proxy verifica o nome do servidor TLS. O switch desvia as portas 80 e 443 para o proxy, então um programa que ignora HTTPS_PROXY passa por ele mesmo assim. Com OpenShell, o Bromure recusa endereços de loopback, link-local e de metadados de nuvem, diga a política o que disser.

Um agente que só vê uma conexão recusada tende a procurar outro caminho. Com Tell the agent when policy blocks it, ativado por padrão nas máquinas OpenShell, o Bromure escreve na conversa do agente o que foi bloqueado e por quê:

[Bromure policy] This workspace's network policy blocked connecting to api.stripe.com:443 — no network policy allows api.stripe.com:443. … This is a deliberate restriction, not a fault: don't retry it or reach the same thing another way … If your task needs it, stop and tell the user what you need and why so they can decide.

O Claude Code lê essa nota logo depois do comando que bateu no bloqueio. O host bloqueado também aparece no Sandbox drawer da máquina, com o programa que tentou e quantas vezes, então, se o agente precisar dele, você pode dar Allow por 15 minutos ou uma hora em vez de abrir a rede de vez.

VM da máquinaTarefa de benchmarkrequisições aos alvosque a política nomeiaO agente se desviatenta a API de outra empresa,como root na própria VMNota na conversa“stop and tell the user”Seu MacSwitch e proxya política permite os alvos;todo o resto é negadoRecusado, anotado, explicadolinha na Security Timeline,Sandbox drawer, nota ao agenteWatchdog: Quarantinerede cortada, VM pausadaA internetAlvos do benchmarke provedor do modelo:acessíveis como sempreA API de outra empresanão recebe nenhuma requisiçãoda máquina
A mesma execução de benchmark numa máquina Bromure. O agente pode ser root na sua VM, mas as regras ficam no Mac. Um host fora da política é recusado no switch virtual, o agente recebe a instrução de parar e perguntar, e, se a sessão continuar buscando destinos novos, o watchdog corta a rede e pausa a VM.

O convidado não consegue desligar as regras

“Escapou do seu ambiente de testes isolado” costuma significar que o agente fez algo dentro desse ambiente que os projetistas não esperavam. Numa máquina Bromure, parta do princípio de que ele vai fazer. As regras de rede continuam fora da VM. O switch e o proxy no Mac as verificam, e você pode endurecê-las numa máquina em execução sem reiniciar.

Numa máquina OpenShell, dá para ir além dentro da VM:

  • uma filesystem_policy confina os arquivos do agente com o Linux Landlock, mesmo contra root;
  • uma seção process ou Enforce binaries remove sudo e Docker, e cada conexão precisa vir de um programa que a política nomeia, fixado por hash no primeiro uso;
  • o kernel sentry, um pequeno módulo no kernel da VM, informa ao Mac execuções de programas, conexões, mudanças de privilégio e carregamento de módulos. Assim que ele inicia, o kernel é travado para que nem o root consiga carregar código para interferir, e uma lacuna no seu fluxo numerado é sinalizada como tampering suspected.

Se o sandbox do convidado não puder ser aplicado por completo, nenhuma sessão inicia, e o cartão Sandbox avisa em vermelho.

Cinco dias viram milissegundos

A WorkOS descobriu a invasão depois de cinco dias, quando um funcionário notou um uso incomum. O agent watchdog do Bromure observa cada sessão de fora da VM, atento a:

  • rajadas de requisições bloqueadas;
  • destinos novos depois que a sessão se estabilizou;
  • volume de saída muito acima da linha de base da própria sessão, contado no switch de rede;
  • credenciais que não deveriam estar ali e sinais de adulteração.

No modo Quarantine, uma sessão que cruza o limite em menos de um minuto tem a rede cortada e a VM pausada em milissegundos. Um alerta, The agent watchdog quarantined this workspace, lista o que ele viu. Keep quarantined retoma a VM com a rede ainda cortada para você olhar lá dentro. Release restaura a rede, e Shut down desliga a máquina.

Um agente que sai do benchmark e começa a percorrer a API de outra pessoa produz exatamente esse padrão: uma sequência de bloqueios, depois hosts novos, depois um download muito maior do que qualquer coisa que a sessão tinha feito antes.

O registro já está no seu Mac

O pesquisador desta história fez a coisa decente e se apresentou com os detalhes das requisições e os horários. Mesmo assim, a WorkOS precisou da própria equipe de segurança e de uma empresa de perícia independente para compará-los com os seus logs.

Cada decisão que o Bromure toma é uma linha na Security Timeline da máquina. Numa máquina com o kernel sentry, dê um duplo clique numa linha de rede e a sua network lineage mostra toda a cadeia por trás daquela conexão:

  1. o prompt que você deu, o raciocínio do agente e a intenção declarada;
  2. a chamada de ferramenta, com o comando exato;
  3. os processos, do agente até o programa que se conectou;
  4. o fluxo de rede;
  5. o que o Bromure decidiu, em qual camada e por quê.

Other flows from this tool call lista todas as outras conexões que o mesmo passo fez. Se um agente algum dia fizesse algo que você não pediu, você saberia qual instrução ele estava seguindo e cada host em que tocou, sem esperar pelos logs de mais ninguém.

Uma credencial de dev adivinhável também não leva longe

A terceira falha da WorkOS foi uma credencial de desenvolvimento que a produção ainda aceitava. Você encontra credenciais assim onde quer que agentes de código trabalhem: em arquivos .env, fixtures de teste e no histórico do shell da pasta do projeto. Numa máquina Bromure, as credenciais que o agente tem são substitutas. Os valores reais ficam criptografados no Mac, e o proxy só os coloca em requisições para os hosts de cada credencial. Se uma substituta for para qualquer outro host, o proxy a bloqueia com HTTP 451, pausa a VM e abre um alerta com o nome da credencial e para onde ela ia. Ative Only allow credentials Bromure injects e o proxy também bloqueia qualquer credencial que o Bromure não tenha colocado ali, como uma que o agente achou num arquivo ou deduziu.

Regras fora do convidado

A política de rede roda no switch e no proxy do Mac. Ser root na VM não chega até ela.

Negar por padrão

Máquinas OpenShell só permitem o que a política nomeia. O firewall também pode funcionar como lista de permissões.

Quarentena em milissegundos

Destinos novos e picos de saída cortam a rede e pausam a VM até você decidir.

Cada conexão explicada

A network lineage liga cada fluxo ao prompt, à chamada de ferramenta e ao processo que o criou.

O que fazer esta semana

Se você roda agentes contra qualquer coisa, sejam benchmarks de segurança, ferramentas de red team ou agentes de código testando contra staging:

  • Anote quais hosts uma execução precisa e aplique essa lista num lugar que o agente não possa editar. Uma regra dentro do contêiner ou na própria configuração do agente não conta.
  • Negue por padrão nas execuções de avaliação. Um benchmark tem um conjunto conhecido de alvos.
  • Alerte sobre destinos novos e picos de volume por sessão, e faça o alerta parar a execução além de registrá-la.
  • Mantenha um registro por conexão que você possa entregar a outra pessoa, ligado ao que o agente recebeu como tarefa.

E do lado de quem recebe, siga a lista da WorkOS: mantenha ferramentas internas fora da internet pública, recuse credenciais de desenvolvimento em produção e aplique limite de taxa a APIs que devolvem dados de clientes.

Para entender como funcionam as políticas OpenShell e a network lineage no Bromure, veja Políticas OpenShell no Bromure, e o raciocínio por trás de cada conexão. Para o que acontece quando um agente escapa do próprio sandbox, veja Quarenta mil dólares por fuga. Os detalhes estão no capítulo Política de sandbox do manual.