← Voltar para todas as publicações
Publicado em · por Renaud Deraison

O prompt tinha outros leitores

A Dragos semeou dois milhões de prompts de IA com credenciais-isca e observou quem as usava. Pelo menos três provedores de inferência estavam comprometidos havia meses, revendedores registravam o tráfego, e as opções de privacidade não impediram nada disso. A OpenRouter removeu três provedores em 22 de novembro. Um agente de programação envia ao modelo tudo o que lê. No Bromure Agentic Coding, o que ele lê são substitutos, então um prompt roubado não tem nada que sirva.

Entre o agente e o modelo, um prompt passa por roteadores, portas de entrada, servidores de inferência e armazenamentos de logs. A Dragos encontrou ladrões em cada um deles. Tudo o que o agente tinha lido ia junto com o prompt.

Imagine uma sessão de depuração numa terça-feira à tarde. Um teste falha com um erro da AWS, e o agente executa cat .env para conferir a região. O arquivo contém a chave de acesso, o segredo, uma senha de banco de dados e um token do Hugging Face. Tudo isso vai na próxima requisição ao modelo, porque é assim que um agente funciona. A requisição vai para o provedor que o roteador escolheu naquele minuto, talvez um que serve um modelo de pesos abertos pela metade do preço. O desenvolvedor recebe a resposta e volta ao trabalho.

Segundo a pesquisa que a Dragos publicou esta semana, uma requisição assim pode ter sido copiada na porta de entrada do provedor, lida em um servidor de inferência comprometido, coletada dias depois por um laboratório de modelos ou registrada por um revendedor que operava um endpoint barato a partir de uma conexão doméstica. Em todos os casos, bastou ao atacante lê-la.

Dois milhões de prompts com armadilhas

Em 19 de novembro, HD Moore, diretor de pesquisa da Dragos, publicou os resultados de um experimento de cinco meses. De julho a novembro, a equipe enviou cerca de dois milhões de prompts a serviços de IA populares. Cada prompt levava canários exclusivos, também chamados de armadilhas: dados falsos que ninguém tem motivo legítimo para usar, de modo que qualquer uso prova que alguém leu o prompt. Eles plantaram links da web, nomes DNS, URLs de repositórios git, senhas SSH e chaves reais da AWS vinculadas a contas vazias e totalmente registradas. Cada canário levava de volta ao prompt, ao modelo, ao roteador e à configuração de privacidade exatos que o transportaram.

O que voltou:

  • Três provedores de hospedagem estavam comprometidos, e nenhum sabia. O comprometimento mais antigo começou em meados de julho. No maior deles, o atacante levou algumas centenas de chaves da AWS, cada uma enviada em uma única requisição durante janelas curtas no fim de outubro. Algumas vieram de requisições que o provedor rejeitou antes de qualquer modelo rodar, então a cópia acontecia na porta de entrada, antes de qualquer verificação.
  • As chaves foram usadas rápido. Algumas foram testadas em poucas horas. Uma chave plantada em 21 de outubro foi usada no dia seguinte e continuava em uso três semanas depois. O atacante listou buckets do S3, vasculhou o Secrets Manager e o Parameter Store, criou chaves de API do Bedrock e adicionou usuários IAM para manter o acesso, em dezenas de milhares de chamadas à AWS no total. Em 1º de novembro, recorreu ao ARTEX, um framework de testes de invasão movido a IA, para ver quais chaves ainda funcionavam.
  • Revendedores registravam o que passava. Em um marketplace de inferência, vendedores anunciavam modelos pelo menor preço, ativavam o registro de requisições e esperavam. Uma pessoa tentou manualmente logins SSH como root com senhas tiradas dos prompts e depois testou chaves da AWS a partir da mesma máquina. Um roteador encaminhava parte do seu tráfego para esse marketplace sem avisar os clientes.
  • As opções de privacidade não seguraram. Os sistemas de um laboratório de IA chinês acessaram os links secretos de mais da metade dos prompts enviados aos seus modelos, incluindo cerca de dois terços das requisições marcadas como “sem coleta de dados” ou retenção zero de dados (ZDR). Um cliente git tentou clonar repositórios privados mencionados nesses prompts. Um grande provedor americano ainda rastreava um link dois meses depois de uma única requisição.

O resumo de Moore sobre o problema dos agentes cabe em uma linha: “Os agentes de IA enviam de bom grado tudo o que conseguem ler, inclusive credenciais.”

Um prompt, muitos leitores (Dragos, de julho a novembro de 2026)Agente de códigorodou cat .env, entãoa requisição contém:AKIA… + secretDB_PASSWORD=…HF_TOKEN=hf_…Roteadorescolhe um provedorpara cada requisiçãoPorta de entradaendpoint de APIdo provedorServidor deinferênciaroda o modeloAmostrasguardadaslogs, testesMarketplaceum roteador mandavatráfego para lá; osvendedores registravamCopiadas na chegadacentenas de chavesda AWS, até derequisições rejeitadasLido em trânsitoPhala: o atacantecontrolava a VM,de 21/10 a 8/11BaixadasTogether: abertopor um token queuma IA commitouDepois, as chaves são usadas.Chaves da AWS testadas em horas, chaves do Bedrock e usuários IAM criados. Logins SSH root com senhas dos prompts. Um laboratório coletou 2/3 dos prompts ZDR.
Onde os canários da Dragos foram lidos. Antes de chegar a um modelo, um prompt pode passar por um roteador, pela porta de entrada de um provedor, por um servidor de inferência e por um armazenamento de logs, e cada etapa tinha um leitor. Opções de privacidade como ZDR só valem para a primeira etapa, e um atacante que já está lá dentro as ignora.

O que dizem os provedores

Os provedores começaram a confirmar. O relatório preliminar da Phala diz que um atacante assumiu o controle de uma VM de inferência que servia o DeepSeek V4 Flash 0731 e conseguia ver os dados das requisições enquanto eram processados. A orientação: tratar como exposta toda requisição enviada a esse modelo entre 21 de outubro e 8 de novembro e “rotacionar quaisquer chaves de API, tokens, senhas ou outros segredos incluídos nessas requisições”. Testes com canários confirmaram o uso indevido de credenciais enviadas em 21 e 22 de outubro.

O aviso da Together AI, publicado em 21 de novembro, descreve outro caminho de entrada. Amostras de prompts de requisições de junho e julho ao MiniMax M3, ao GLM-5.2 e ao Kimi K2.6 ficavam em um repositório privado do Hugging Face usado para testes. Então “um agente de programação com IA fez commit de uma credencial que dava acesso ao repositório privado do Hugging Face” em um repositório público do GitHub. O scanner da Together detectou o commit e o reverteu, mas alguém usou a credencial durante a janela de exposição, baixou as amostras, procurou nelas credenciais de outros serviços e as testou. Cinco das credenciais testadas eram canários da Dragos.

Em 22 de novembro, a OpenRouter removeu três provedores e tirou 125 endpoints da sua lista ZDR, até que sejam validados. Ela afirma que as descobertas não mostram nenhuma violação da própria OpenRouter. The Hacker News traz o resumo completo.

Duas falhas se repetem nesses relatórios. Um segredo chegou ao prompt porque o agente podia lê-lo. E, no caso da Together, um segredo chegou a um repositório público porque o agente podia lê-lo e fazer push dele.

Por que uma opção de privacidade não resolve

As recomendações da Dragos são sensatas: hospede você mesmo se puder, vá direto a um provedor de primeira linha, escolha você mesmo os provedores de origem do seu roteador, plante canários, ative a filtragem de segredos. Cada uma encurta a lista de leitores. O prompt continua contendo o que o agente leu. Moore é direto sobre o ZDR: “Uma opção de privacidade não ajuda quando o atacante já está lá dentro.”

A filtragem de segredos é uma busca por padrões na saída. Ela pega AKIA… e ghp_… e deixa passar uma senha sem prefixo, exatamente o tipo que o leitor do marketplace testou contra o SSH. Um agente de programação é feito para ler arquivos, variáveis de ambiente e saídas de comandos, e para colocar o que leu na próxima requisição. Para mudar o que o prompt contém, é preciso mudar o que o agente consegue ler.

A mesma sessão no Bromure Agentic Coding

O Bromure Agentic Coding executa Claude Code, Codex, Grok, Kimi e omp em VMs Ubuntu no seu Mac, uma VM por máquina. Toda requisição HTTPS que a VM faz passa por um proxy no Mac, e esse proxy é o único lugar onde suas credenciais reais existem.

O .env que o agente lê contém substitutos

Import env file…, no painel Credentials da máquina, lê o .env do seu projeto. Ele associa os nomes que reconhece, como AWS_ACCESS_KEY_ID, GH_TOKEN ou ANTHROPIC_API_KEY, ao tipo de credencial certo e transforma o resto, como aquele HF_TOKEN, em Other API keys restritas ao host que você indicar, aqui huggingface.co. Cada uma é exportada na VM com o nome de variável de sempre, contendo um valor falso no formato do real: ghp_ e 36 caracteres para o GitHub, brm_… para um token genérico, brm-db-… para um segredo de banco de dados. O proxy só coloca o valor real em requisições destinadas ao host da própria credencial.

Então, quando o agente executa cat .env ou printenv, a conversa que ele envia ao modelo leva valores falsos. Cada leitor no mapa da Dragos recebe uma cópia do prompt e nada que possa usar. Um valor falso reenviado a partir do servidor de um atacante nunca passa pelo proxy do seu Mac, então chega à API real como falso e falha na autenticação.

A chave da AWS no prompt não assina nada

O ladrão da porta de entrada levou chaves da AWS, e a AWS mostra com clareza como a fronteira funciona. Em uma VM do Bromure, ~/.aws/config aponta para um auxiliar que entrega o seu ID de chave de acesso real junto com um segredo falso. Todos os SDKs e a CLI aws assinam as requisições com esse segredo falso. No Mac, o proxy remove a assinatura e assina de novo com o segredo real antes que a requisição saia. Quem tirar o par de um prompt só leva o segredo falso. A AWS responde a toda chamada assinada com ele com InvalidSignatureException. A listagem do S3, a busca no Secrets Manager, as novas chaves do Bedrock e os usuários IAM dos logs da Dragos precisavam todos desse segredo.

O SSH funciona do mesmo jeito. Os bytes da chave privada nunca entram na VM. O convidado pode pedir uma assinatura ao Mac, mas não consegue ler a chave, então nenhuma transcrição jamais a contém.

Dados pessoais também ganham substitutos

Os canários da Dragos eram credenciais e links, mas os prompts que os levavam também carregam tudo o que o agente leu de uma tabela de clientes ou de uma exportação do suporte. O PII Protection cuida dessa parte. Antes que uma requisição saia para o provedor do modelo, o proxy encontra nomes, endereços de e-mail, números de telefone, números de cartão, documentos de identidade e endereços, usando um modelo no próprio dispositivo, e troca cada um por um substituto realista. A resposta recebe os valores reais de volta antes que o agente a veja. O provedor, e qualquer um que leia o tráfego dele, vê endereços @example.com e números de cartão de teste. Cada troca é contada na Security Timeline com o host de destino, e os valores em si nunca são registrados.

A mesma sessão no Bromure Agentic CodingVM do Bromure$ cat .envAWS: ID de chave real + segredo falsoDB_PASSWORD= brm-db-…HF_TOKEN= brm_…Chaves SSH privadas: fora da VM.O prompt do agente leva sóo que ele leu: substitutos.Proxy no seu MacPII Protectionnomes, e-mails, cartões, IDs viramsubstitutos antes do modeloTroca de credenciaisvalor real só em requisições parao host da própria credencial; AWSreassinada aqui com o segredo realOs segredos reais ficam aqui, cifrados.Toda chamada de IA é rastreada no Mac.Rota para modelo na nuvemroteador, porta de entrada, servidorde inferência, armazenamento de logsUm leitor recebe substitutosAWS: InvalidSignatureExceptionoutras APIs rejeitam o falso;nenhuma senha para tentar no SSHNo dispositivo ou no seu servidormodelo MLX na GPU do Mac, ou vLLMna sua rede: nenhum leitor externoA rota da Together, em uma máquina BromureO agente commita HF_TOKEN. O que ele commita é brm_…, que só funciona pelo proxy do seu Mac, rumo a huggingface.co.O próprio git push aguarda aprovação no Mac, pela política padrão Prompt before write para o GitHub.Quem clonar o repositório público recebe um falso. O armazenamento de prompts segue fechado.
A mesma sessão de depuração em uma máquina Bromure. O agente lê substitutos no .env, então o prompt leva substitutos, e o PII Protection troca os dados pessoais antes que a requisição saia do Mac. Um leitor em qualquer etapa recebe valores falsos que falham na origem. Os segredos reais só são adicionados no Mac e só para o próprio host, e um modelo no dispositivo mantém o prompt inteiramente no Mac.

O commit leva um falso, e o push espera

O vazamento da Together teve duas etapas: um agente de programação tinha uma credencial real do Hugging Face e a enviou para um repositório público. Em uma máquina Bromure, nenhuma das duas etapas se concretiza.

O token que o agente consegue ver é o substituto brm_…, então um commit leva o substituto. Quem o extrair do GitHub tem uma string que só vira um token real dentro do proxy do seu Mac, em uma requisição a huggingface.co vinda da sua VM. Da máquina dessa pessoa, o Hugging Face a rejeita.

Antes que o commit vá a qualquer lugar, o próprio push para na política de escrita dos Guardrails. Máquinas novas vêm com Prompt before write para GitHub, GitLab e Bitbucket: leituras passam, e cada escrita, git push incluído, aguarda um diálogo no Mac que nomeia a operação. A política roda no proxy, fora da VM, então um agente não consegue desativá-la. Um push inesperado para um repositório público vira uma pergunta que você responde antes de o commit ser publicado.

Se alguém mesmo assim colasse um token real em um arquivo da VM, o proxy sinaliza credenciais reais não substituídas nos cabeçalhos de saída: valores com prefixos conhecidos como sk-ant-, ghp_ ou AKIA, e tokens opacos longos. Eles aparecem em Leaks only no Trace Inspector e em bromure-cli trace leaks. O Strict credential mode, também nos Guardrails, bloqueia qualquer credencial que o Bromure não tenha emitido.

Você escolhe quem lê o prompt

A primeira recomendação da Dragos é hospedar você mesmo. A lista de preços começa com um Mac Studio com 512 GB de memória. O painel Models do Bromure tem um provedor On-device que roda modelos de programação de pesos abertos na GPU do Mac com o MLX da Apple, sem nada para instalar, e qualquer agente pode escolher um deles. Um turno atendido no dispositivo nunca sai do Mac. Uma entrada Custom server aponta os agentes para qualquer servidor compatível com OpenAI na sua rede, como vLLM, Ollama ou LM Studio, para que uma equipe compartilhe uma máquina com GPU que ela controla.

Quando você usa um modelo na nuvem, é também no painel Models que você escolhe a rota. Você pode apontar cada agente para um provedor de primeira linha, com login ou chave de API próprios, que é a segunda recomendação da Dragos. Essa chave também nunca entra na VM. Um roteador como a OpenRouter está lá quando você quiser, como uma escolha feita por agente.

Quando um provedor diz “rotacione o que você enviou”

A Phala pede aos clientes que rotacionem todo segredo incluído em requisições a um modelo entre 21 de outubro e 8 de novembro. A maioria das equipes não sabe dizer que segredos eram esses, porque ninguém guardou registro do que os agentes enviaram.

O Bromure guarda esse registro no seu Mac. No nível padrão, AI request details, o proxy armazena cada troca com um host de modelo conhecido, criptografada com uma chave no seu Keychain de login. O Trace Inspector filtra por host e por Conversations only, e bromure-cli trace hostnames lista cada host que cada máquina contatou. Você pode abrir as requisições da janela de exposição e ler o que saiu, requisição por requisição. Em uma máquina Bromure, o que saiu foram substitutos.

O agente lê falsos

Valores .env importados, arquivos de configuração e variáveis de ambiente contêm substitutos. Os segredos reais são adicionados no Mac, só para o próprio host.

Prompts roubados não abrem nada

Um falso tirado de um prompt falha na origem. Um ID de chave da AWS roubado vem com um segredo falso, então toda assinatura é rejeitada.

Os pushes esperam por você

Prompt before write segura cada git push para aprovação, com a regra aplicada no proxy. Um token commitado é um substituto de qualquer forma.

Você escolhe o leitor

Modelos no dispositivo mantêm o prompt no Mac. Rotas na nuvem são uma escolha por agente, e o Mac guarda um registro de cada requisição.

O que fazer esta semana

  • Se você enviou requisições ao DeepSeek V4 Flash 0731 pela Phala entre 21 de outubro e 8 de novembro, siga as orientações da Phala e rotacione qualquer segredo que essas requisições possam ter levado.
  • Se você usou o MiniMax M3, o GLM-5.2 ou o Kimi K2.6 serverless da Together AI em junho ou julho, leia o aviso da Together e ative o ZDR nas configurações da sua conta.
  • Se você roteia pela OpenRouter e conta com o ZDR, verifique se seus endpoints estão entre os 125 removidos.
  • Parta do princípio de que todo segredo que um agente leu passou por cada etapa entre ele e o modelo. Rotacione chaves de longa duração que ficaram em um .env que um agente podia abrir.
  • Adicione artex-agent e artex-judge-r121 às suas detecções do CloudTrail, como sugere a Dragos.

Depois, tire os segredos do alcance do agente de vez. Importe o .env em uma máquina Bromure, deixe o GitHub em Prompt before write e aponte os agentes para o provedor que você escolheu. A fronteira da rede, a reassinatura da AWS e a importação do .env estão em Credentials & the Wire Boundary, os dados pessoais em PII Protection, os modelos no dispositivo e servidores próprios em Models & Providers, e o registro local em Tracing & Audit.