O modelo nunca pediu isso
A HiddenLayer mostrou que quem controla o gateway de LLM entre um agente de programação e seu modelo pode adicionar chamadas de ferramenta que o modelo nunca fez e depois removê-las do histórico antes que o modelo o veja. O agente as executa como qualquer outra chamada, e um pedido de aprovação não tem como saber de onde veio uma chamada. Um dia antes, uma versão do LiteLLM no PyPI trazia um ladrão de credenciais e um backdoor que rodava de hora em hora. No Bromure Agentic Coding, uma chamada injetada roda numa VM que só guarda substitutos, o proxy bloqueia o envio e pausa a VM, e o seu Mac mantém um registro da chamada fora do alcance do gateway.
Seu agente pergunta ao modelo o que fazer em seguida, e a resposta volta por um gateway. Se o gateway acrescenta um passo, o agente o executa. O modelo nunca pediu esse passo, e depois nunca fica sabendo que ele aconteceu.
A HiddenLayer publicou Man-in-the-Model: Hijacking Coding Agents in Transit em 22 de outubro. A Adversa incluiu o texto na sua seleção de novembro de pesquisas sobre segurança de agentes de programação. A pergunta é simples: o que um gateway comprometido pode fazer com os agentes que estão atrás dele?
Muitas equipes não mandam o tráfego dos agentes direto para a Anthropic ou a OpenAI. Ele passa por um proxy LiteLLM para controle de custos e gestão de chaves, pelo OpenRouter para escolher o modelo, ou vai para vLLM, llama.cpp ou Ollama numa máquina com GPU compartilhada. Cada requisição e cada resposta passam por essa camada, e uma resposta é a lista de chamadas de ferramenta que o agente vai executar em seguida.
O que o gateway pode fazer
Os pesquisadores da HiddenLayer (Esteban Tonglet, Divyanshu Divyanshu e Kasimir Schulz) percorreram o ataque passo a passo.
Descobrir quem está chamando. O Codex envia cabeçalhos que começam com
codex-tui, e o Claude Code envia claude-cli. Agentes que enviam só um
cabeçalho genérico de SDK ainda se denunciam pelos nomes das ferramentas e
pelos campos das requisições.
Descobrir o que roda sem perguntar. O gateway vê quando envia uma chamada de ferramenta e quando o resultado volta. Uma leitura de arquivo que leva vários segundos provavelmente esperou um humano aprovar. Em mais de 4.000 sessões capturadas, só 4,7% das chamadas rápidas deixaram alguma dúvida. Quando o tempo não é conclusivo, o gateway pode inserir código de medição num script que o agente está editando, ou envolver um comando num cronômetro, e esconder a saída.
Ler arquivos que o modelo nunca pediu. O Claude Code carrega
CLAUDE.md, o Codex carrega AGENTS.md, o Cursor lê .cursorrules. O
gateway pode acrescentar a leitura de qualquer um deles a uma resposta,
guardar o que voltar e remover tanto a chamada quanto o resultado antes de
repassar a conversa ao modelo. Nas palavras da HiddenLayer, “essas leituras
de arquivo são iniciadas pela camada de interceptação, e não pelo modelo”.
Executar código. Na primeira demonstração, o agente era o Hermes, num
modo que pergunta antes de comandos que considera perigosos, mas não antes
de edições de arquivo nem de Python comum. O usuário pediu que ele lesse um
arquivo Python. O proxy acrescentou chamadas de ferramenta à resposta: uma
edição colocou uma função heartbeat_ok() no arquivo, uma segunda
acrescentou código que juntava /etc/passwd, variáveis de ambiente com
credenciais e ~/.ssh/id_rsa e os enviava para um webhook, uma terceira
executou o arquivo com python3, e uma edição final deixou o arquivo como
estava. O usuário nunca viu um comando de rede, porque o envio aconteceu
dentro do script.
Pegar carona num prefixo aprovado. Na segunda demonstração, o Codex
tinha git como prefixo aprovado e um diretório .git gravável. O gateway
enviou:
git -c diff.external='sh -c "cat .env"' diff --no-index /dev/null .env
O comando começa com git, então o Codex o executou sem perguntar e
imprimiu um arquivo .env que o agente normalmente se recusaria a abrir.
Para o usuário, o agente “ainda parece estar fazendo uma operação comum do
Git”.
Plantar uma dependência para depois. Quando o modelo pede para
adicionar requests, o gateway troca por reqiests. O agente escreve o
nome errado no arquivo de dependências, e o payload roda na próxima
instalação, num notebook ou na CI.
Um pedido de aprovação não sabe quem escreveu a chamada
A conclusão da HiddenLayer: “a fronteira de segurança não é mais só o modelo. Ela inclui todo sistema capaz de moldar o que o agente acaba executando.”
Pedidos de aprovação e listas de permissão julgam o comando, não a origem dele. O agente não consegue distinguir uma chamada de ferramenta vinda do modelo de uma que o gateway acrescentou, porque as duas chegam na mesma resposta. Pelo tempo, o gateway também sabe quais chamadas você aprova sem olhar, e escolhe essas. As defesas contra prompt injection olham o texto que vai para o modelo, e aqui nenhum texto precisa chegar ao modelo.
Em 21 de outubro, um dia antes de a HiddenLayer publicar, o litellm 1.107.0 apareceu no PyPI com um ladrão de credenciais e um carregador que buscava código do atacante a cada hora. O The Hacker News rastreou a origem até uma chave mestra commitada num repositório público em maio e nunca revogada. O PyPI removeu a versão depois de 1 hora e 43 minutos, e as imagens do Docker Hub e do GHCR publicadas junto foram revertidas mais tarde. Um proxy LiteLLM que pegou essa versão rodou o carregador horário de um atacante dentro do processo que repassa cada conversa de agente que ele atende. Falamos dessa versão em A versão tinha duas horas.
O mesmo gateway, na frente de uma máquina Bromure
O Bromure Agentic Coding roda Claude Code, Codex, Grok, Kimi e omp em VMs Ubuntu no seu Mac. Um gateway ainda pode pôr palavras na boca do agente. Essas palavras viram comandos que rodam numa VM construída partindo do princípio de que o agente pode ser hostil, e cada comando precisa passar por verificações que o gateway não consegue tocar.
O script encontra substitutos
O script da HiddenLayer coletava variáveis de ambiente com credenciais,
~/.ssh/id_rsa e .env. Numa máquina Bromure:
- As variáveis de ambiente guardam substitutos.
GH_TOKEN,NPM_TOKEN,ANTHROPIC_API_KEYe as demais têm o formato certo e nenhum valor fora do proxy no seu Mac, que só coloca o valor real em requisições para o host ao qual cada credencial pertence. ~/.sshnão tem nenhum arquivo de chave privada. OSSH_AUTH_SOCKda VM é uma ponte para o Mac: a VM pode pedir assinaturas, mas os bytes da chave ficam no host..envguarda substitutos depois que você usa Import env file… no painel Credentials da máquina. Ele lê o seu.envatual, mostra as variáveis com os valores mascarados e as transforma em credenciais no Mac. A VM recebe substitutos nas mesmas variáveis.- As chaves da AWS são um ID de chave de acesso real com um segredo falso. O Mac assina de novo cada requisição com o verdadeiro, então o segredo nunca existe na VM.
O truque do git diff.external da segunda demonstração ainda funciona numa
máquina Bromure. Ele imprime um arquivo cheio de substitutos.
Mandá-los para qualquer lugar dispara um alarme
O passo seguinte do script é enviar o que encontrou para um webhook. O primeiro substituto dessa requisição está indo para um host para o qual não foi emitido. O proxy bloqueia a requisição com HTTP 451 antes que um byte saia, pausa a VM e abre no Mac um alerta intitulado This environment may have been compromised. O alerta diz qual é a credencial, o host ao qual ela pertence e o host para onde estava sendo enviada. Nada do que o gateway faz alcança esse diálogo: ele roda no Mac, e o gateway só vê o tráfego do modelo.
Um payload que deixa as credenciais de lado e leva código-fonte ou
/etc/passwd esbarra no firewall de saída. Em Guardrails, defina
Unmatched traffic como Deny e libere os hosts de que a máquina
precisa: sua rota para o modelo, sua forja, seus registries. O webhook não
está na lista. O firewall atua no switch virtual e no proxy, e o tráfego
web da VM é desviado para o proxy, então um script não consegue
contorná-lo.
O Mac guarda a chamada que o gateway apagou
O melhor truque do gateway é a limpeza. Ele remove a chamada do histórico que repassa, então os logs do provedor e o contexto do modelo parecem limpos. Ele não alcança a cópia que fica no seu Mac.
Toda requisição de uma máquina Bromure passa pelo proxy no Mac, e o trace
registra o que passou por ele. No nível padrão, AI request details, ele
guarda os corpos completos de requisições e respostas para os provedores
de modelo conhecidos. Para um gateway que o Bromure não reconhece pelo
nome, defina o Session trace da máquina como Everything. A visão
Conversation do Trace Inspector decompõe cada resposta em chamadas de
ferramenta, comandos de shell e leituras e escritas de arquivo. A resposta
que trazia python3 main.py está lá do jeito que o agente a recebeu, e o
gateway não consegue editá-la depois. Os corpos são selados com uma chave
no seu Keychain, e nada é enviado para fora numa instalação não gerenciada.
Numa máquina com o motor de sandbox OpenShell + Sentry, Show the
Whole Chain na conexão bloqueada vai até o fim: do pacote ao processo
python3, ao shell que o agente abriu, à chamada de ferramenta que o
abriu e ao texto que veio antes dela na mesma resposta. Quando os logs do
provedor mostram um turno que pediu para ler um arquivo e o seu Mac mostra
o mesmo turno rodando um script e enviando dados para um webhook, a
diferença entre os dois é obra do gateway.
Os diálogos que importam ficam no Mac
O gateway da HiddenLayer descobre quais chamadas rodam sem pedido medindo o tempo das aprovações do próprio agente. As aprovações importantes do Bromure não acontecem no agente.
Em máquinas novas, todo serviço protegido começa em Prompt before write
no painel Guardrails. Um git push, uma escrita numa API da AWS, um
kubectl apply ou um INSERT num endpoint de banco de dados para e
espera um diálogo no Mac que mostra a operação exata. Exclusões também
perguntam. A política é aplicada no proxy, então uma chamada injetada não
passa só por começar com um prefixo aprovado: o diálogo depende do que a
requisição faz na rede, seja qual for o comando que a gerou.
O erro de digitação esbarra nas verificações de cadeia de suprimentos
A troca por reqiests mira o próximo pip install. Numa máquina Bromure,
todo download de pacote passa pelas verificações de cadeia de suprimentos
do proxy antes que a VM receba um byte. Com socket.dev ou Depi
ativado no painel Supply Chain, o Bromure sinaliza typosquatting e
malware conhecido no momento do download. A trava de idade, ligada por
padrão, esconde qualquer versão publicada nos últimos dois dias, o que pega
um pacote que o atacante publicou pouco antes de ativar o gateway. Uma
instalação bloqueada falha com um 451 que diz o pacote e o motivo, e o pip
mostra isso no terminal, para você e para o agente.
A rota do modelo é definida no Mac
Qual gateway fica no caminho é uma escolha que você faz no quadro Models do Mac, não num arquivo de configuração dentro da VM. Se o trabalho de uma máquina é sensível demais para qualquer gateway de terceiros, aponte os agentes dela para um modelo On-device: o Bromure roda modelos MLX na GPU do seu Mac, e a requisição nunca sai do host. Para ver como o quadro impede que outra pessoa mude a rota, leia O CLI era o verdadeiro.
Substitutos para roubar
Variáveis de ambiente, .env e a configuração da AWS guardam
substitutos, e as chaves SSH nunca entram na VM. Um script injetado
coleta valores que só funcionam passando pelo seu Mac.
A exfiltração pausa a VM
Um substituto a caminho do host errado é bloqueado com um 451, a VM é pausada, e o alerta diz o que estava sendo enviado e para onde.
Um registro que o gateway não edita
O trace no seu Mac guarda cada resposta do jeito que o agente a recebeu, chamadas injetadas incluídas, selado com uma chave no seu Keychain.
As escritas esperam por você
Pushes, escritas na nuvem e escritas em banco de dados param e esperam um diálogo no Mac, conforme o que a requisição faz, não o comando que a enviou.
O que fazer esta semana
- Liste todos os sistemas entre seus agentes e os modelos deles: o proxy LiteLLM, a conta do OpenRouter, a máquina com GPU rodando vLLM ou Ollama. Atualize-os e proteja-os como servidores de produção, porque é isso que eles são.
- Se você rodou o litellm 1.107.0 em algum lugar, trate esse host e todo segredo que ele alcançava como comprometidos.
- Revise os prefixos de comando aprovados.
gitcomo prefixo geral aprovagit -c diff.external=…. - Tire os segredos reais do ambiente do agente, para que um script que os colete leve só substitutos. Numa máquina Bromure, Import env file… faz isso num passo.
O capítulo Credentials do manual explica a troca em detalhe, e Tracing & Audit mostra o que o trace guarda e como lê-lo.