← Voltar para todas as publicações
Publicado em · por Renaud Deraison

O modelo nunca pediu isso

A HiddenLayer mostrou que quem controla o gateway de LLM entre um agente de programação e seu modelo pode adicionar chamadas de ferramenta que o modelo nunca fez e depois removê-las do histórico antes que o modelo o veja. O agente as executa como qualquer outra chamada, e um pedido de aprovação não tem como saber de onde veio uma chamada. Um dia antes, uma versão do LiteLLM no PyPI trazia um ladrão de credenciais e um backdoor que rodava de hora em hora. No Bromure Agentic Coding, uma chamada injetada roda numa VM que só guarda substitutos, o proxy bloqueia o envio e pausa a VM, e o seu Mac mantém um registro da chamada fora do alcance do gateway.

Seu agente pergunta ao modelo o que fazer em seguida, e a resposta volta por um gateway. Se o gateway acrescenta um passo, o agente o executa. O modelo nunca pediu esse passo, e depois nunca fica sabendo que ele aconteceu.

A HiddenLayer publicou Man-in-the-Model: Hijacking Coding Agents in Transit em 22 de outubro. A Adversa incluiu o texto na sua seleção de novembro de pesquisas sobre segurança de agentes de programação. A pergunta é simples: o que um gateway comprometido pode fazer com os agentes que estão atrás dele?

Muitas equipes não mandam o tráfego dos agentes direto para a Anthropic ou a OpenAI. Ele passa por um proxy LiteLLM para controle de custos e gestão de chaves, pelo OpenRouter para escolher o modelo, ou vai para vLLM, llama.cpp ou Ollama numa máquina com GPU compartilhada. Cada requisição e cada resposta passam por essa camada, e uma resposta é a lista de chamadas de ferramenta que o agente vai executar em seguida.

O que o gateway pode fazer

Os pesquisadores da HiddenLayer (Esteban Tonglet, Divyanshu Divyanshu e Kasimir Schulz) percorreram o ataque passo a passo.

Descobrir quem está chamando. O Codex envia cabeçalhos que começam com codex-tui, e o Claude Code envia claude-cli. Agentes que enviam só um cabeçalho genérico de SDK ainda se denunciam pelos nomes das ferramentas e pelos campos das requisições.

Descobrir o que roda sem perguntar. O gateway vê quando envia uma chamada de ferramenta e quando o resultado volta. Uma leitura de arquivo que leva vários segundos provavelmente esperou um humano aprovar. Em mais de 4.000 sessões capturadas, só 4,7% das chamadas rápidas deixaram alguma dúvida. Quando o tempo não é conclusivo, o gateway pode inserir código de medição num script que o agente está editando, ou envolver um comando num cronômetro, e esconder a saída.

Ler arquivos que o modelo nunca pediu. O Claude Code carrega CLAUDE.md, o Codex carrega AGENTS.md, o Cursor lê .cursorrules. O gateway pode acrescentar a leitura de qualquer um deles a uma resposta, guardar o que voltar e remover tanto a chamada quanto o resultado antes de repassar a conversa ao modelo. Nas palavras da HiddenLayer, “essas leituras de arquivo são iniciadas pela camada de interceptação, e não pelo modelo”.

Executar código. Na primeira demonstração, o agente era o Hermes, num modo que pergunta antes de comandos que considera perigosos, mas não antes de edições de arquivo nem de Python comum. O usuário pediu que ele lesse um arquivo Python. O proxy acrescentou chamadas de ferramenta à resposta: uma edição colocou uma função heartbeat_ok() no arquivo, uma segunda acrescentou código que juntava /etc/passwd, variáveis de ambiente com credenciais e ~/.ssh/id_rsa e os enviava para um webhook, uma terceira executou o arquivo com python3, e uma edição final deixou o arquivo como estava. O usuário nunca viu um comando de rede, porque o envio aconteceu dentro do script.

Pegar carona num prefixo aprovado. Na segunda demonstração, o Codex tinha git como prefixo aprovado e um diretório .git gravável. O gateway enviou:

git -c diff.external='sh -c "cat .env"' diff --no-index /dev/null .env

O comando começa com git, então o Codex o executou sem perguntar e imprimiu um arquivo .env que o agente normalmente se recusaria a abrir. Para o usuário, o agente “ainda parece estar fazendo uma operação comum do Git”.

Plantar uma dependência para depois. Quando o modelo pede para adicionar requests, o gateway troca por reqiests. O agente escreve o nome errado no arquivo de dependências, e o payload roda na próxima instalação, num notebook ou na CI.

Agente de programaçãoExecuta toda chamada recebidaread main.pyedit main.py + heartbeat_ok()python3 main.pygit -c diff.external=… .envedit main.py (restaura)em vermelho: o modelo nunca pediuGateway comprometidoNa idaacrescenta chamadas à resposta,onde nada pede aprovaçãoNa voltaremove essas chamadas e resultadosdo histórico, guarda o que leuProvedor do modeloPediu uma coisa sóread main.pyRecebe um histórico limposem chamadas extras, nada noslogs, nada para analisarO script injetado envia .env, ~/.ssh/id_rsa e variáveis com credenciais para o webhook do atacante. Nenhum comando de rede aparece.
O ataque da HiddenLayer. O gateway acrescenta chamadas de ferramenta à resposta do modelo. O agente as executa, e o gateway as remove do histórico que repassa adiante, então nem o modelo nem o provedor chegam a vê-las.

Um pedido de aprovação não sabe quem escreveu a chamada

A conclusão da HiddenLayer: “a fronteira de segurança não é mais só o modelo. Ela inclui todo sistema capaz de moldar o que o agente acaba executando.”

Pedidos de aprovação e listas de permissão julgam o comando, não a origem dele. O agente não consegue distinguir uma chamada de ferramenta vinda do modelo de uma que o gateway acrescentou, porque as duas chegam na mesma resposta. Pelo tempo, o gateway também sabe quais chamadas você aprova sem olhar, e escolhe essas. As defesas contra prompt injection olham o texto que vai para o modelo, e aqui nenhum texto precisa chegar ao modelo.

Em 21 de outubro, um dia antes de a HiddenLayer publicar, o litellm 1.107.0 apareceu no PyPI com um ladrão de credenciais e um carregador que buscava código do atacante a cada hora. O The Hacker News rastreou a origem até uma chave mestra commitada num repositório público em maio e nunca revogada. O PyPI removeu a versão depois de 1 hora e 43 minutos, e as imagens do Docker Hub e do GHCR publicadas junto foram revertidas mais tarde. Um proxy LiteLLM que pegou essa versão rodou o carregador horário de um atacante dentro do processo que repassa cada conversa de agente que ele atende. Falamos dessa versão em A versão tinha duas horas.

O mesmo gateway, na frente de uma máquina Bromure

O Bromure Agentic Coding roda Claude Code, Codex, Grok, Kimi e omp em VMs Ubuntu no seu Mac. Um gateway ainda pode pôr palavras na boca do agente. Essas palavras viram comandos que rodam numa VM construída partindo do princípio de que o agente pode ser hostil, e cada comando precisa passar por verificações que o gateway não consegue tocar.

O script encontra substitutos

O script da HiddenLayer coletava variáveis de ambiente com credenciais, ~/.ssh/id_rsa e .env. Numa máquina Bromure:

  • As variáveis de ambiente guardam substitutos. GH_TOKEN, NPM_TOKEN, ANTHROPIC_API_KEY e as demais têm o formato certo e nenhum valor fora do proxy no seu Mac, que só coloca o valor real em requisições para o host ao qual cada credencial pertence.
  • ~/.ssh não tem nenhum arquivo de chave privada. O SSH_AUTH_SOCK da VM é uma ponte para o Mac: a VM pode pedir assinaturas, mas os bytes da chave ficam no host.
  • .env guarda substitutos depois que você usa Import env file… no painel Credentials da máquina. Ele lê o seu .env atual, mostra as variáveis com os valores mascarados e as transforma em credenciais no Mac. A VM recebe substitutos nas mesmas variáveis.
  • As chaves da AWS são um ID de chave de acesso real com um segredo falso. O Mac assina de novo cada requisição com o verdadeiro, então o segredo nunca existe na VM.

O truque do git diff.external da segunda demonstração ainda funciona numa máquina Bromure. Ele imprime um arquivo cheio de substitutos.

Mandá-los para qualquer lugar dispara um alarme

O passo seguinte do script é enviar o que encontrou para um webhook. O primeiro substituto dessa requisição está indo para um host para o qual não foi emitido. O proxy bloqueia a requisição com HTTP 451 antes que um byte saia, pausa a VM e abre no Mac um alerta intitulado This environment may have been compromised. O alerta diz qual é a credencial, o host ao qual ela pertence e o host para onde estava sendo enviada. Nada do que o gateway faz alcança esse diálogo: ele roda no Mac, e o gateway só vê o tráfego do modelo.

Um payload que deixa as credenciais de lado e leva código-fonte ou /etc/passwd esbarra no firewall de saída. Em Guardrails, defina Unmatched traffic como Deny e libere os hosts de que a máquina precisa: sua rota para o modelo, sua forja, seus registries. O webhook não está na lista. O firewall atua no switch virtual e no proxy, e o tráfego web da VM é desviado para o proxy, então um script não consegue contorná-lo.

VM da máquinaA chamada injetada rodapython3 main.pyO que ela coletavariáveis e .env: substitutos~/.ssh: sem chave privadaAWS: uma chave secreta falsaPOST para o webhooklevando os substitutosSeu MacO trace guarda a respostacom a chamada injetada, como oagente a recebeuFirewall de saídahosts fora da lista negados noswitch e no proxySubstituto para host erradoHTTP 451, VM pausada, alertaForaGateway comprometidoacrescenta chamadas, mas nãoedita o registro nem os diálogosWebhook do atacantenão recebe nada
O mesmo script injetado numa máquina Bromure. Ele encontra substitutos, o envio é bloqueado e a VM pausada, e o Mac guarda o próprio registro da resposta que entregou a chamada.

O Mac guarda a chamada que o gateway apagou

O melhor truque do gateway é a limpeza. Ele remove a chamada do histórico que repassa, então os logs do provedor e o contexto do modelo parecem limpos. Ele não alcança a cópia que fica no seu Mac.

Toda requisição de uma máquina Bromure passa pelo proxy no Mac, e o trace registra o que passou por ele. No nível padrão, AI request details, ele guarda os corpos completos de requisições e respostas para os provedores de modelo conhecidos. Para um gateway que o Bromure não reconhece pelo nome, defina o Session trace da máquina como Everything. A visão Conversation do Trace Inspector decompõe cada resposta em chamadas de ferramenta, comandos de shell e leituras e escritas de arquivo. A resposta que trazia python3 main.py está lá do jeito que o agente a recebeu, e o gateway não consegue editá-la depois. Os corpos são selados com uma chave no seu Keychain, e nada é enviado para fora numa instalação não gerenciada.

Numa máquina com o motor de sandbox OpenShell + Sentry, Show the Whole Chain na conexão bloqueada vai até o fim: do pacote ao processo python3, ao shell que o agente abriu, à chamada de ferramenta que o abriu e ao texto que veio antes dela na mesma resposta. Quando os logs do provedor mostram um turno que pediu para ler um arquivo e o seu Mac mostra o mesmo turno rodando um script e enviando dados para um webhook, a diferença entre os dois é obra do gateway.

Os diálogos que importam ficam no Mac

O gateway da HiddenLayer descobre quais chamadas rodam sem pedido medindo o tempo das aprovações do próprio agente. As aprovações importantes do Bromure não acontecem no agente.

Em máquinas novas, todo serviço protegido começa em Prompt before write no painel Guardrails. Um git push, uma escrita numa API da AWS, um kubectl apply ou um INSERT num endpoint de banco de dados para e espera um diálogo no Mac que mostra a operação exata. Exclusões também perguntam. A política é aplicada no proxy, então uma chamada injetada não passa só por começar com um prefixo aprovado: o diálogo depende do que a requisição faz na rede, seja qual for o comando que a gerou.

O erro de digitação esbarra nas verificações de cadeia de suprimentos

A troca por reqiests mira o próximo pip install. Numa máquina Bromure, todo download de pacote passa pelas verificações de cadeia de suprimentos do proxy antes que a VM receba um byte. Com socket.dev ou Depi ativado no painel Supply Chain, o Bromure sinaliza typosquatting e malware conhecido no momento do download. A trava de idade, ligada por padrão, esconde qualquer versão publicada nos últimos dois dias, o que pega um pacote que o atacante publicou pouco antes de ativar o gateway. Uma instalação bloqueada falha com um 451 que diz o pacote e o motivo, e o pip mostra isso no terminal, para você e para o agente.

A rota do modelo é definida no Mac

Qual gateway fica no caminho é uma escolha que você faz no quadro Models do Mac, não num arquivo de configuração dentro da VM. Se o trabalho de uma máquina é sensível demais para qualquer gateway de terceiros, aponte os agentes dela para um modelo On-device: o Bromure roda modelos MLX na GPU do seu Mac, e a requisição nunca sai do host. Para ver como o quadro impede que outra pessoa mude a rota, leia O CLI era o verdadeiro.

Substitutos para roubar

Variáveis de ambiente, .env e a configuração da AWS guardam substitutos, e as chaves SSH nunca entram na VM. Um script injetado coleta valores que só funcionam passando pelo seu Mac.

A exfiltração pausa a VM

Um substituto a caminho do host errado é bloqueado com um 451, a VM é pausada, e o alerta diz o que estava sendo enviado e para onde.

Um registro que o gateway não edita

O trace no seu Mac guarda cada resposta do jeito que o agente a recebeu, chamadas injetadas incluídas, selado com uma chave no seu Keychain.

As escritas esperam por você

Pushes, escritas na nuvem e escritas em banco de dados param e esperam um diálogo no Mac, conforme o que a requisição faz, não o comando que a enviou.

O que fazer esta semana

  • Liste todos os sistemas entre seus agentes e os modelos deles: o proxy LiteLLM, a conta do OpenRouter, a máquina com GPU rodando vLLM ou Ollama. Atualize-os e proteja-os como servidores de produção, porque é isso que eles são.
  • Se você rodou o litellm 1.107.0 em algum lugar, trate esse host e todo segredo que ele alcançava como comprometidos.
  • Revise os prefixos de comando aprovados. git como prefixo geral aprova git -c diff.external=….
  • Tire os segredos reais do ambiente do agente, para que um script que os colete leve só substitutos. Numa máquina Bromure, Import env file… faz isso num passo.

O capítulo Credentials do manual explica a troca em detalhe, e Tracing & Audit mostra o que o trace guarda e como lê-lo.