Le prompt avait d'autres lecteurs
Dragos a truffé deux millions de prompts d'IA d'identifiants pièges et a observé qui s'en servait. Au moins trois fournisseurs d'inférence étaient compromis depuis des mois, des revendeurs journalisaient le trafic, et les options de confidentialité n'ont rien empêché. OpenRouter a écarté trois fournisseurs le 22 novembre. Un agent de code envoie à son modèle tout ce qu'il lit. Dans Bromure Agentic Coding, ce qu'il lit, ce sont des substituts : un prompt volé ne contient rien d'exploitable.
Entre l'agent et le modèle, un prompt traverse des routeurs, des portes d'entrée, des serveurs d'inférence et des stockages de logs. Dragos a trouvé des voleurs à chacune de ces étapes. Tout ce que l'agent avait lu partait avec le prompt.
Imaginez une séance de débogage un mardi après-midi. Un test échoue sur
une erreur AWS, et l'agent lance cat .env pour vérifier la région. Le
fichier contient la clé d'accès, le secret, un mot de passe de base de
données et un jeton Hugging Face. Tout cela part dans la requête
suivante au modèle, parce que c'est ainsi que fonctionne un agent. La
requête va chez le fournisseur que le routeur a choisi à cette minute,
peut-être un fournisseur qui sert un modèle à poids ouverts à moitié
prix. Le développeur obtient sa réponse et se remet au travail.
D'après les recherches publiées cette semaine par Dragos, une telle requête a pu être copiée à la porte d'entrée du fournisseur, lue sur un serveur d'inférence compromis, aspirée quelques jours plus tard par un laboratoire de modèles ou journalisée par un revendeur qui faisait tourner un endpoint bon marché depuis une connexion domestique. Dans chaque cas, l'attaquant n'a rien eu d'autre à faire que la lire.
Deux millions de prompts piégés
Le 19 novembre, HD Moore, directeur de la recherche de Dragos, a publié les résultats d'une expérience de cinq mois. De juillet à novembre, l'équipe a envoyé environ deux millions de prompts à des services d'IA populaires. Chaque prompt portait des canaris uniques, aussi appelés pièges : de fausses données que personne n'a de raison légitime d'utiliser, si bien que toute utilisation prouve que quelqu'un a lu le prompt. Ils ont semé des liens web, des noms DNS, des URL de dépôts git, des mots de passe SSH et de vraies clés AWS rattachées à des comptes vides et entièrement journalisés. Chaque canari permettait de remonter au prompt, au modèle, au routeur et au réglage de confidentialité exacts qui l'avaient transporté.
Ce qui est revenu :
- Trois hébergeurs étaient compromis, et aucun ne le savait. La compromission la plus ancienne remontait à la mi-juillet. Dans la plus importante, l'attaquant a pris quelques centaines de clés AWS, chacune envoyée dans une seule requête pendant de courtes fenêtres fin octobre. Certaines venaient de requêtes que le fournisseur avait rejetées avant l'exécution de tout modèle : la copie se faisait donc à la porte d'entrée, avant toute vérification.
- Les clés ont servi vite. Certaines ont été testées en quelques heures. Une clé semée le 21 octobre a été utilisée dès le lendemain et l'était encore trois semaines plus tard. L'attaquant a listé des buckets S3, fouillé Secrets Manager et Parameter Store, créé des clés d'API Bedrock et ajouté des utilisateurs IAM pour garder l'accès, soit des dizaines de milliers d'appels AWS au total. Le 1er novembre, il a fait appel à ARTEX, un framework de test d'intrusion piloté par IA, pour vérifier quelles clés fonctionnaient encore.
- Des revendeurs journalisaient ce qui passait. Sur une place de marché d'inférence, des vendeurs proposaient des modèles au prix le plus bas, activaient la journalisation des requêtes et attendaient. Une personne a tenté à la main des connexions SSH en root avec des mots de passe tirés des prompts, puis a testé des clés AWS depuis la même machine. Un routeur transférait une partie de son trafic vers cette place de marché sans le dire à ses clients.
- Les options de confidentialité n'ont pas tenu. Les systèmes d'un laboratoire d'IA chinois ont récupéré les liens secrets de plus de la moitié des prompts envoyés à ses modèles, dont environ les deux tiers des requêtes marquées « pas de collecte de données » ou zéro rétention de données (ZDR). Un client git a tenté de cloner des dépôts privés mentionnés dans ces prompts. Un grand fournisseur américain explorait encore un lien deux mois après une seule requête.
Le résumé que fait Moore du problème des agents tient en une ligne : « Les agents d'IA enverront volontiers tout ce qu'ils peuvent lire, y compris les identifiants. »
Ce que disent les fournisseurs
Les fournisseurs ont commencé à le confirmer. Le rapport préliminaire de Phala indique qu'un attaquant a pris le contrôle d'une VM d'inférence servant DeepSeek V4 Flash 0731 et pouvait voir les données des requêtes pendant leur traitement. Sa recommandation : considérer comme exposée toute requête envoyée à ce modèle entre le 21 octobre et le 8 novembre, et « faire tourner toutes les clés d'API, jetons, mots de passe ou autres secrets inclus dans ces requêtes ». Des tests de canaris ont confirmé l'utilisation abusive d'identifiants envoyés les 21 et 22 octobre.
L'avis de Together AI, publié le 21 novembre, décrit une autre porte d'entrée. Des échantillons de prompts issus de requêtes de juin et juillet à MiniMax M3, GLM-5.2 et Kimi K2.6 se trouvaient dans un dépôt Hugging Face privé utilisé pour des tests. Puis « un agent de code IA a commité un identifiant donnant accès au dépôt Hugging Face privé » dans un dépôt GitHub public. Le scanner de Together a repéré le commit et l'a annulé, mais quelqu'un a utilisé l'identifiant pendant la fenêtre d'exposition, téléchargé les échantillons, cherché dedans des identifiants d'autres services et testé ceux-ci. Cinq des identifiants essayés étaient des canaris de Dragos.
Le 22 novembre, OpenRouter a retiré trois fournisseurs et sorti 125 endpoints de sa liste ZDR, dans l'attente d'une validation. La plateforme précise que les conclusions ne montrent aucune compromission d'OpenRouter lui-même. The Hacker News propose un récapitulatif complet.
Deux défaillances reviennent dans ces rapports. Un secret s'est retrouvé dans le prompt parce que l'agent pouvait le lire. Et dans le cas de Together, un secret s'est retrouvé dans un dépôt public parce que l'agent pouvait le lire et le pousser.
Pourquoi une option de confidentialité n'y peut rien
Les recommandations de Dragos sont sensées : héberger soi-même si possible, passer directement par un fournisseur de premier rang, choisir soi-même les fournisseurs en amont de son routeur, semer des canaris, activer le filtrage des secrets. Chacune réduit la liste des lecteurs. Le prompt contient toujours ce que l'agent a lu. Moore est sans détour sur ZDR : « Une option de confidentialité ne sert à rien quand l'attaquant est déjà dans la place. »
Le filtrage des secrets est une recherche de motifs en sortie. Il
attrape AKIA… et ghp_… et laisse passer un mot de passe sans
préfixe, celui-là même que le lecteur de la place de marché a essayé
sur SSH. Un agent de code est conçu pour lire des fichiers, des
variables d'environnement et des sorties de commandes, et pour mettre
ce qu'il a lu dans la requête suivante. Pour changer ce que contient le
prompt, il faut changer ce que l'agent peut lire.
La même séance dans Bromure Agentic Coding
Bromure Agentic Coding exécute Claude Code, Codex, Grok, Kimi et omp dans des VM Ubuntu sur votre Mac, une VM par machine. Chaque requête HTTPS émise par la VM passe par un proxy sur le Mac, et ce proxy est le seul endroit où vos vrais identifiants existent.
Le .env que lit l'agent contient des substituts
Import env file…, dans le panneau Credentials de la machine,
lit le .env de votre projet. Il associe les noms qu'il reconnaît,
comme AWS_ACCESS_KEY_ID, GH_TOKEN ou ANTHROPIC_API_KEY, au bon
type d'identifiant, et transforme le reste, comme ce HF_TOKEN, en
Other API keys limitées à l'hôte que vous indiquez, ici
huggingface.co. Chacun est exporté dans la VM sous son nom de
variable habituel, avec une fausse valeur qui a la forme de la vraie :
ghp_ suivi de 36 caractères pour GitHub, brm_… pour un jeton
générique, brm-db-… pour un secret de base de données. Le proxy ne
substitue la vraie valeur que sur les requêtes destinées à l'hôte
propre à l'identifiant.
Ainsi, quand l'agent lance cat .env ou printenv, la conversation
qu'il envoie au modèle transporte des faux. Chaque lecteur de la carte
de Dragos obtient une copie du prompt et rien d'exploitable. Un faux
rejoué depuis le serveur d'un attaquant ne passe jamais par le proxy de
votre Mac : il arrive à la vraie API tel quel et échoue à
l'authentification.
La clé AWS du prompt ne peut rien signer
Le voleur de la porte d'entrée a pris des clés AWS, et AWS montre
clairement comment fonctionne la frontière. Dans une VM Bromure,
~/.aws/config pointe vers un utilitaire qui fournit votre vrai
identifiant de clé d'accès associé à un secret factice. Tous les
SDK et la CLI aws signent leurs requêtes avec ce secret factice. Sur
le Mac, le proxy retire la signature et re-signe avec le vrai secret
avant que la requête ne parte. Récupérez la paire dans un prompt, et le
seul secret obtenu est le faux. AWS répond à chaque appel signé avec
lui par InvalidSignatureException. Le listing S3, la fouille de
Secrets Manager, les nouvelles clés Bedrock et les utilisateurs IAM des
logs de Dragos avaient tous besoin de ce secret.
SSH fonctionne de la même manière. Les octets de la clé privée n'entrent jamais dans la VM. L'invité peut demander une signature au Mac, mais il ne peut pas lire la clé, donc aucune transcription n'en contient jamais.
Les données personnelles ont aussi leurs substituts
Les canaris de Dragos étaient des identifiants et des liens, mais les
prompts qui les transportaient contiennent aussi tout ce que l'agent a
lu dans une table clients ou un export du support. PII Protection
s'occupe de cette partie. Avant qu'une requête ne parte vers le
fournisseur du modèle, le proxy repère les noms, adresses e-mail,
numéros de téléphone, numéros de carte, identifiants officiels et
adresses postales à l'aide d'un modèle exécuté sur l'appareil, et
remplace chacun par un substitut réaliste. La réponse récupère les
vraies valeurs avant que l'agent ne la voie. Le fournisseur, et
quiconque lit son trafic, voit des adresses @example.com et des
numéros de carte de test. Chaque substitution est comptée dans la
Security Timeline avec l'hôte de destination, et les valeurs elles-mêmes
ne sont jamais journalisées.
Le commit contient un faux, et le push attend
La fuite de Together s'est faite en deux temps : un agent de code disposait d'un vrai identifiant Hugging Face, et il l'a poussé dans un dépôt public. Dans une machine Bromure, aucune des deux étapes n'aboutit.
Le jeton que l'agent peut voir est le substitut brm_…, donc un commit
transporte le substitut. Quiconque le récupère sur GitHub obtient une
chaîne qui ne devient un vrai jeton qu'à l'intérieur du proxy de votre
Mac, sur une requête vers huggingface.co venant de votre VM. Depuis sa
propre machine, Hugging Face la rejette.
Avant même que le commit n'aille où que ce soit, le push s'arrête à la
politique d'écriture des Guardrails. Les nouvelles machines sont
réglées par défaut sur Prompt before write pour GitHub, GitLab et
Bitbucket : les lectures passent, et chaque écriture, git push
compris, attend une boîte de dialogue sur le Mac qui nomme l'opération.
La politique s'exécute dans le proxy, hors de la VM, donc un agent ne
peut pas la désactiver. Un push inattendu vers un dépôt public devient
une question à laquelle vous répondez avant que le commit ne soit
publié.
Si quelqu'un collait malgré tout un vrai jeton dans un fichier de la
VM, le proxy signale les identifiants réels non substitués dans les
en-têtes sortants : valeurs aux préfixes connus comme sk-ant-, ghp_
ou AKIA, et longs jetons opaques. Ils apparaissent sous Leaks only
dans le Trace Inspector et dans bromure-cli trace leaks. Le
Strict credential mode, également dans les Guardrails, bloque
tout identifiant que Bromure n'a pas émis lui-même.
C'est vous qui choisissez qui lit le prompt
La première recommandation de Dragos est d'héberger soi-même. Sa liste de prix commence par un Mac Studio doté de 512 Go de mémoire. Le tableau Models de Bromure propose un fournisseur On-device qui exécute des modèles de code à poids ouverts sur le GPU du Mac avec MLX d'Apple, sans rien à installer, et chaque agent peut en choisir un. Un tour servi sur l'appareil ne quitte jamais le Mac. Une entrée Custom server dirige les agents vers n'importe quel serveur compatible OpenAI de votre réseau, comme vLLM, Ollama ou LM Studio, pour qu'une équipe puisse partager une machine GPU qu'elle contrôle.
Quand vous utilisez un modèle dans le cloud, c'est aussi dans le tableau Models que vous choisissez la route. Vous pouvez diriger chaque agent vers un fournisseur de premier rang, avec sa propre connexion ou clé d'API, ce qui est la deuxième recommandation de Dragos. Cette clé n'entre pas non plus dans la VM. Un routeur comme OpenRouter reste disponible quand vous le voulez, comme un choix que vous faites agent par agent.
Quand un fournisseur dit « faites tourner ce que vous avez envoyé »
Phala demande à ses clients de faire tourner tous les secrets inclus dans les requêtes envoyées à un modèle entre le 21 octobre et le 8 novembre. La plupart des équipes ne savent pas dire de quels secrets il s'agit, parce que personne n'a gardé trace de ce que leurs agents ont envoyé.
Bromure garde cette trace sur votre Mac. Au niveau par défaut, AI
request details, le proxy enregistre chaque échange avec un hôte de
modèle connu, chiffré avec une clé de votre trousseau de session. Le
Trace Inspector filtre par hôte et par Conversations only, et
bromure-cli trace hostnames liste chaque hôte contacté par chaque
machine. Vous pouvez ouvrir les requêtes de la fenêtre d'exposition et
lire ce qui est parti, requête par requête. Dans une machine Bromure,
ce qui est parti, ce sont des substituts.
L'agent lit des faux
Les valeurs .env importées, les fichiers de configuration et les variables d'environnement contiennent des substituts. Les vrais secrets sont ajoutés sur le Mac, seulement vers leur propre hôte.
Un prompt volé n'ouvre rien
Un faux tiré d'un prompt échoue en amont. Un identifiant de clé AWS récupéré vient avec un secret factice, donc chaque signature est rejetée.
Les push vous attendent
Prompt before write met chaque git push en attente d'approbation, appliqué dans le proxy. Un jeton commité est de toute façon un substitut.
Vous choisissez le lecteur
Les modèles sur l'appareil gardent le prompt sur le Mac. Les routes cloud se choisissent agent par agent, et le Mac garde une trace de chaque requête.
Que faire cette semaine
- Si vous avez envoyé des requêtes à DeepSeek V4 Flash 0731 via Phala entre le 21 octobre et le 8 novembre, suivez les consignes de Phala et faites tourner tout secret que ces requêtes ont pu transporter.
- Si vous avez utilisé MiniMax M3, GLM-5.2 ou Kimi K2.6 en serverless chez Together AI en juin ou juillet, lisez l'avis de Together et activez ZDR dans les paramètres de votre compte.
- Si vous passez par OpenRouter et comptez sur ZDR, vérifiez si vos endpoints font partie des 125 qui ont été retirés.
- Partez du principe que tout secret lu par un agent est passé par
chaque étape entre lui et le modèle. Faites tourner les clés à longue
durée de vie restées dans un
.envqu'un agent pouvait ouvrir. - Ajoutez
artex-agentetartex-judge-r121à vos détections CloudTrail, comme le suggère Dragos.
Ensuite, mettez les secrets hors de portée de l'agent pour de bon.
Importez le .env dans une machine Bromure, laissez GitHub sur
Prompt before write et dirigez les agents vers le fournisseur que
vous avez choisi. La frontière du fil, la re-signature AWS et l'import
de .env sont décrits dans
Credentials & the Wire Boundary,
les données personnelles dans PII Protection,
les modèles sur l'appareil et les serveurs personnalisés dans
Models & Providers, et la trace locale
dans Tracing & Audit.