O prompt tinha outros leitores
A Dragos semeou dois milhões de prompts de IA com credenciais-isca e observou quem as usava. Pelo menos três provedores de inferência estavam comprometidos havia meses, revendedores registravam o tráfego, e as opções de privacidade não impediram nada disso. A OpenRouter removeu três provedores em 22 de novembro. Um agente de programação envia ao modelo tudo o que lê. No Bromure Agentic Coding, o que ele lê são substitutos, então um prompt roubado não tem nada que sirva.
Entre o agente e o modelo, um prompt passa por roteadores, portas de entrada, servidores de inferência e armazenamentos de logs. A Dragos encontrou ladrões em cada um deles. Tudo o que o agente tinha lido ia junto com o prompt.
Imagine uma sessão de depuração numa terça-feira à tarde. Um teste
falha com um erro da AWS, e o agente executa cat .env para conferir a
região. O arquivo contém a chave de acesso, o segredo, uma senha de
banco de dados e um token do Hugging Face. Tudo isso vai na próxima
requisição ao modelo, porque é assim que um agente funciona. A
requisição vai para o provedor que o roteador escolheu naquele minuto,
talvez um que serve um modelo de pesos abertos pela metade do preço. O
desenvolvedor recebe a resposta e volta ao trabalho.
Segundo a pesquisa que a Dragos publicou esta semana, uma requisição assim pode ter sido copiada na porta de entrada do provedor, lida em um servidor de inferência comprometido, coletada dias depois por um laboratório de modelos ou registrada por um revendedor que operava um endpoint barato a partir de uma conexão doméstica. Em todos os casos, bastou ao atacante lê-la.
Dois milhões de prompts com armadilhas
Em 19 de novembro, HD Moore, diretor de pesquisa da Dragos, publicou os resultados de um experimento de cinco meses. De julho a novembro, a equipe enviou cerca de dois milhões de prompts a serviços de IA populares. Cada prompt levava canários exclusivos, também chamados de armadilhas: dados falsos que ninguém tem motivo legítimo para usar, de modo que qualquer uso prova que alguém leu o prompt. Eles plantaram links da web, nomes DNS, URLs de repositórios git, senhas SSH e chaves reais da AWS vinculadas a contas vazias e totalmente registradas. Cada canário levava de volta ao prompt, ao modelo, ao roteador e à configuração de privacidade exatos que o transportaram.
O que voltou:
- Três provedores de hospedagem estavam comprometidos, e nenhum sabia. O comprometimento mais antigo começou em meados de julho. No maior deles, o atacante levou algumas centenas de chaves da AWS, cada uma enviada em uma única requisição durante janelas curtas no fim de outubro. Algumas vieram de requisições que o provedor rejeitou antes de qualquer modelo rodar, então a cópia acontecia na porta de entrada, antes de qualquer verificação.
- As chaves foram usadas rápido. Algumas foram testadas em poucas horas. Uma chave plantada em 21 de outubro foi usada no dia seguinte e continuava em uso três semanas depois. O atacante listou buckets do S3, vasculhou o Secrets Manager e o Parameter Store, criou chaves de API do Bedrock e adicionou usuários IAM para manter o acesso, em dezenas de milhares de chamadas à AWS no total. Em 1º de novembro, recorreu ao ARTEX, um framework de testes de invasão movido a IA, para ver quais chaves ainda funcionavam.
- Revendedores registravam o que passava. Em um marketplace de inferência, vendedores anunciavam modelos pelo menor preço, ativavam o registro de requisições e esperavam. Uma pessoa tentou manualmente logins SSH como root com senhas tiradas dos prompts e depois testou chaves da AWS a partir da mesma máquina. Um roteador encaminhava parte do seu tráfego para esse marketplace sem avisar os clientes.
- As opções de privacidade não seguraram. Os sistemas de um laboratório de IA chinês acessaram os links secretos de mais da metade dos prompts enviados aos seus modelos, incluindo cerca de dois terços das requisições marcadas como “sem coleta de dados” ou retenção zero de dados (ZDR). Um cliente git tentou clonar repositórios privados mencionados nesses prompts. Um grande provedor americano ainda rastreava um link dois meses depois de uma única requisição.
O resumo de Moore sobre o problema dos agentes cabe em uma linha: “Os agentes de IA enviam de bom grado tudo o que conseguem ler, inclusive credenciais.”
O que dizem os provedores
Os provedores começaram a confirmar. O relatório preliminar da Phala diz que um atacante assumiu o controle de uma VM de inferência que servia o DeepSeek V4 Flash 0731 e conseguia ver os dados das requisições enquanto eram processados. A orientação: tratar como exposta toda requisição enviada a esse modelo entre 21 de outubro e 8 de novembro e “rotacionar quaisquer chaves de API, tokens, senhas ou outros segredos incluídos nessas requisições”. Testes com canários confirmaram o uso indevido de credenciais enviadas em 21 e 22 de outubro.
O aviso da Together AI, publicado em 21 de novembro, descreve outro caminho de entrada. Amostras de prompts de requisições de junho e julho ao MiniMax M3, ao GLM-5.2 e ao Kimi K2.6 ficavam em um repositório privado do Hugging Face usado para testes. Então “um agente de programação com IA fez commit de uma credencial que dava acesso ao repositório privado do Hugging Face” em um repositório público do GitHub. O scanner da Together detectou o commit e o reverteu, mas alguém usou a credencial durante a janela de exposição, baixou as amostras, procurou nelas credenciais de outros serviços e as testou. Cinco das credenciais testadas eram canários da Dragos.
Em 22 de novembro, a OpenRouter removeu três provedores e tirou 125 endpoints da sua lista ZDR, até que sejam validados. Ela afirma que as descobertas não mostram nenhuma violação da própria OpenRouter. The Hacker News traz o resumo completo.
Duas falhas se repetem nesses relatórios. Um segredo chegou ao prompt porque o agente podia lê-lo. E, no caso da Together, um segredo chegou a um repositório público porque o agente podia lê-lo e fazer push dele.
Por que uma opção de privacidade não resolve
As recomendações da Dragos são sensatas: hospede você mesmo se puder, vá direto a um provedor de primeira linha, escolha você mesmo os provedores de origem do seu roteador, plante canários, ative a filtragem de segredos. Cada uma encurta a lista de leitores. O prompt continua contendo o que o agente leu. Moore é direto sobre o ZDR: “Uma opção de privacidade não ajuda quando o atacante já está lá dentro.”
A filtragem de segredos é uma busca por padrões na saída. Ela pega
AKIA… e ghp_… e deixa passar uma senha sem prefixo, exatamente o
tipo que o leitor do marketplace testou contra o SSH. Um agente de
programação é feito para ler arquivos, variáveis de ambiente e saídas
de comandos, e para colocar o que leu na próxima requisição. Para mudar
o que o prompt contém, é preciso mudar o que o agente consegue ler.
A mesma sessão no Bromure Agentic Coding
O Bromure Agentic Coding executa Claude Code, Codex, Grok, Kimi e omp em VMs Ubuntu no seu Mac, uma VM por máquina. Toda requisição HTTPS que a VM faz passa por um proxy no Mac, e esse proxy é o único lugar onde suas credenciais reais existem.
O .env que o agente lê contém substitutos
Import env file…, no painel Credentials da máquina, lê o .env
do seu projeto. Ele associa os nomes que reconhece, como
AWS_ACCESS_KEY_ID, GH_TOKEN ou ANTHROPIC_API_KEY, ao tipo de
credencial certo e transforma o resto, como aquele HF_TOKEN, em
Other API keys restritas ao host que você indicar, aqui
huggingface.co. Cada uma é exportada na VM com o nome de variável de
sempre, contendo um valor falso no formato do real: ghp_ e 36
caracteres para o GitHub, brm_… para um token genérico, brm-db-…
para um segredo de banco de dados. O proxy só coloca o valor real em
requisições destinadas ao host da própria credencial.
Então, quando o agente executa cat .env ou printenv, a conversa que
ele envia ao modelo leva valores falsos. Cada leitor no mapa da Dragos
recebe uma cópia do prompt e nada que possa usar. Um valor falso
reenviado a partir do servidor de um atacante nunca passa pelo proxy do
seu Mac, então chega à API real como falso e falha na autenticação.
A chave da AWS no prompt não assina nada
O ladrão da porta de entrada levou chaves da AWS, e a AWS mostra com
clareza como a fronteira funciona. Em uma VM do Bromure,
~/.aws/config aponta para um auxiliar que entrega o seu ID de chave
de acesso real junto com um segredo falso. Todos os SDKs e a CLI
aws assinam as requisições com esse segredo falso. No Mac, o proxy
remove a assinatura e assina de novo com o segredo real antes que a
requisição saia. Quem tirar o par de um prompt só leva o segredo falso.
A AWS responde a toda chamada assinada com ele com
InvalidSignatureException. A listagem do S3, a busca no Secrets
Manager, as novas chaves do Bedrock e os usuários IAM dos logs da
Dragos precisavam todos desse segredo.
O SSH funciona do mesmo jeito. Os bytes da chave privada nunca entram na VM. O convidado pode pedir uma assinatura ao Mac, mas não consegue ler a chave, então nenhuma transcrição jamais a contém.
Dados pessoais também ganham substitutos
Os canários da Dragos eram credenciais e links, mas os prompts que os
levavam também carregam tudo o que o agente leu de uma tabela de
clientes ou de uma exportação do suporte. O PII Protection cuida
dessa parte. Antes que uma requisição saia para o provedor do modelo, o
proxy encontra nomes, endereços de e-mail, números de telefone, números
de cartão, documentos de identidade e endereços, usando um modelo no
próprio dispositivo, e troca cada um por um substituto realista. A
resposta recebe os valores reais de volta antes que o agente a veja. O
provedor, e qualquer um que leia o tráfego dele, vê endereços
@example.com e números de cartão de teste. Cada troca é contada na
Security Timeline com o host de destino, e os valores em si nunca são
registrados.
O commit leva um falso, e o push espera
O vazamento da Together teve duas etapas: um agente de programação tinha uma credencial real do Hugging Face e a enviou para um repositório público. Em uma máquina Bromure, nenhuma das duas etapas se concretiza.
O token que o agente consegue ver é o substituto brm_…, então um
commit leva o substituto. Quem o extrair do GitHub tem uma string que
só vira um token real dentro do proxy do seu Mac, em uma requisição a
huggingface.co vinda da sua VM. Da máquina dessa pessoa, o Hugging
Face a rejeita.
Antes que o commit vá a qualquer lugar, o próprio push para na
política de escrita dos Guardrails. Máquinas novas vêm com Prompt
before write para GitHub, GitLab e Bitbucket: leituras passam, e
cada escrita, git push incluído, aguarda um diálogo no Mac que nomeia
a operação. A política roda no proxy, fora da VM, então um agente não
consegue desativá-la. Um push inesperado para um repositório público
vira uma pergunta que você responde antes de o commit ser publicado.
Se alguém mesmo assim colasse um token real em um arquivo da VM, o
proxy sinaliza credenciais reais não substituídas nos cabeçalhos de
saída: valores com prefixos conhecidos como sk-ant-, ghp_ ou
AKIA, e tokens opacos longos. Eles aparecem em Leaks only no
Trace Inspector e em bromure-cli trace leaks. O Strict credential
mode, também nos Guardrails, bloqueia qualquer credencial que o
Bromure não tenha emitido.
Você escolhe quem lê o prompt
A primeira recomendação da Dragos é hospedar você mesmo. A lista de preços começa com um Mac Studio com 512 GB de memória. O painel Models do Bromure tem um provedor On-device que roda modelos de programação de pesos abertos na GPU do Mac com o MLX da Apple, sem nada para instalar, e qualquer agente pode escolher um deles. Um turno atendido no dispositivo nunca sai do Mac. Uma entrada Custom server aponta os agentes para qualquer servidor compatível com OpenAI na sua rede, como vLLM, Ollama ou LM Studio, para que uma equipe compartilhe uma máquina com GPU que ela controla.
Quando você usa um modelo na nuvem, é também no painel Models que você escolhe a rota. Você pode apontar cada agente para um provedor de primeira linha, com login ou chave de API próprios, que é a segunda recomendação da Dragos. Essa chave também nunca entra na VM. Um roteador como a OpenRouter está lá quando você quiser, como uma escolha feita por agente.
Quando um provedor diz “rotacione o que você enviou”
A Phala pede aos clientes que rotacionem todo segredo incluído em requisições a um modelo entre 21 de outubro e 8 de novembro. A maioria das equipes não sabe dizer que segredos eram esses, porque ninguém guardou registro do que os agentes enviaram.
O Bromure guarda esse registro no seu Mac. No nível padrão, AI
request details, o proxy armazena cada troca com um host de modelo
conhecido, criptografada com uma chave no seu Keychain de login. O
Trace Inspector filtra por host e por Conversations only, e
bromure-cli trace hostnames lista cada host que cada máquina
contatou. Você pode abrir as requisições da janela de exposição e ler o
que saiu, requisição por requisição. Em uma máquina Bromure, o que saiu
foram substitutos.
O agente lê falsos
Valores .env importados, arquivos de configuração e variáveis de ambiente contêm substitutos. Os segredos reais são adicionados no Mac, só para o próprio host.
Prompts roubados não abrem nada
Um falso tirado de um prompt falha na origem. Um ID de chave da AWS roubado vem com um segredo falso, então toda assinatura é rejeitada.
Os pushes esperam por você
Prompt before write segura cada git push para aprovação, com a regra aplicada no proxy. Um token commitado é um substituto de qualquer forma.
Você escolhe o leitor
Modelos no dispositivo mantêm o prompt no Mac. Rotas na nuvem são uma escolha por agente, e o Mac guarda um registro de cada requisição.
O que fazer esta semana
- Se você enviou requisições ao DeepSeek V4 Flash 0731 pela Phala entre 21 de outubro e 8 de novembro, siga as orientações da Phala e rotacione qualquer segredo que essas requisições possam ter levado.
- Se você usou o MiniMax M3, o GLM-5.2 ou o Kimi K2.6 serverless da Together AI em junho ou julho, leia o aviso da Together e ative o ZDR nas configurações da sua conta.
- Se você roteia pela OpenRouter e conta com o ZDR, verifique se seus endpoints estão entre os 125 removidos.
- Parta do princípio de que todo segredo que um agente leu passou por
cada etapa entre ele e o modelo. Rotacione chaves de longa duração que
ficaram em um
.envque um agente podia abrir. - Adicione
artex-agenteartex-judge-r121às suas detecções do CloudTrail, como sugere a Dragos.
Depois, tire os segredos do alcance do agente de vez. Importe o .env
em uma máquina Bromure, deixe o GitHub em Prompt before write e
aponte os agentes para o provedor que você escolheu. A fronteira da
rede, a reassinatura da AWS e a importação do .env estão em
Credentials & the Wire Boundary,
os dados pessoais em PII Protection,
os modelos no dispositivo e servidores próprios em
Models & Providers, e o registro local
em Tracing & Audit.