← Retour à tous les articles
Publié le · par Renaud Deraison

Le prompt avait d'autres lecteurs

Dragos a truffé deux millions de prompts d'IA d'identifiants pièges et a observé qui s'en servait. Au moins trois fournisseurs d'inférence étaient compromis depuis des mois, des revendeurs journalisaient le trafic, et les options de confidentialité n'ont rien empêché. OpenRouter a écarté trois fournisseurs le 22 novembre. Un agent de code envoie à son modèle tout ce qu'il lit. Dans Bromure Agentic Coding, ce qu'il lit, ce sont des substituts : un prompt volé ne contient rien d'exploitable.

Entre l'agent et le modèle, un prompt traverse des routeurs, des portes d'entrée, des serveurs d'inférence et des stockages de logs. Dragos a trouvé des voleurs à chacune de ces étapes. Tout ce que l'agent avait lu partait avec le prompt.

Imaginez une séance de débogage un mardi après-midi. Un test échoue sur une erreur AWS, et l'agent lance cat .env pour vérifier la région. Le fichier contient la clé d'accès, le secret, un mot de passe de base de données et un jeton Hugging Face. Tout cela part dans la requête suivante au modèle, parce que c'est ainsi que fonctionne un agent. La requête va chez le fournisseur que le routeur a choisi à cette minute, peut-être un fournisseur qui sert un modèle à poids ouverts à moitié prix. Le développeur obtient sa réponse et se remet au travail.

D'après les recherches publiées cette semaine par Dragos, une telle requête a pu être copiée à la porte d'entrée du fournisseur, lue sur un serveur d'inférence compromis, aspirée quelques jours plus tard par un laboratoire de modèles ou journalisée par un revendeur qui faisait tourner un endpoint bon marché depuis une connexion domestique. Dans chaque cas, l'attaquant n'a rien eu d'autre à faire que la lire.

Deux millions de prompts piégés

Le 19 novembre, HD Moore, directeur de la recherche de Dragos, a publié les résultats d'une expérience de cinq mois. De juillet à novembre, l'équipe a envoyé environ deux millions de prompts à des services d'IA populaires. Chaque prompt portait des canaris uniques, aussi appelés pièges : de fausses données que personne n'a de raison légitime d'utiliser, si bien que toute utilisation prouve que quelqu'un a lu le prompt. Ils ont semé des liens web, des noms DNS, des URL de dépôts git, des mots de passe SSH et de vraies clés AWS rattachées à des comptes vides et entièrement journalisés. Chaque canari permettait de remonter au prompt, au modèle, au routeur et au réglage de confidentialité exacts qui l'avaient transporté.

Ce qui est revenu :

  • Trois hébergeurs étaient compromis, et aucun ne le savait. La compromission la plus ancienne remontait à la mi-juillet. Dans la plus importante, l'attaquant a pris quelques centaines de clés AWS, chacune envoyée dans une seule requête pendant de courtes fenêtres fin octobre. Certaines venaient de requêtes que le fournisseur avait rejetées avant l'exécution de tout modèle : la copie se faisait donc à la porte d'entrée, avant toute vérification.
  • Les clés ont servi vite. Certaines ont été testées en quelques heures. Une clé semée le 21 octobre a été utilisée dès le lendemain et l'était encore trois semaines plus tard. L'attaquant a listé des buckets S3, fouillé Secrets Manager et Parameter Store, créé des clés d'API Bedrock et ajouté des utilisateurs IAM pour garder l'accès, soit des dizaines de milliers d'appels AWS au total. Le 1er novembre, il a fait appel à ARTEX, un framework de test d'intrusion piloté par IA, pour vérifier quelles clés fonctionnaient encore.
  • Des revendeurs journalisaient ce qui passait. Sur une place de marché d'inférence, des vendeurs proposaient des modèles au prix le plus bas, activaient la journalisation des requêtes et attendaient. Une personne a tenté à la main des connexions SSH en root avec des mots de passe tirés des prompts, puis a testé des clés AWS depuis la même machine. Un routeur transférait une partie de son trafic vers cette place de marché sans le dire à ses clients.
  • Les options de confidentialité n'ont pas tenu. Les systèmes d'un laboratoire d'IA chinois ont récupéré les liens secrets de plus de la moitié des prompts envoyés à ses modèles, dont environ les deux tiers des requêtes marquées « pas de collecte de données » ou zéro rétention de données (ZDR). Un client git a tenté de cloner des dépôts privés mentionnés dans ces prompts. Un grand fournisseur américain explorait encore un lien deux mois après une seule requête.

Le résumé que fait Moore du problème des agents tient en une ligne : « Les agents d'IA enverront volontiers tout ce qu'ils peuvent lire, y compris les identifiants. »

Un prompt, de nombreux lecteurs (Dragos, juillet à novembre 2026)Agent de codea lancé cat .env, doncla requête contient :AKIA… + secretDB_PASSWORD=…HF_TOKEN=hf_…Routeurchoisit un fournisseurpour chaque requêtePorte d'entréeendpoint d'APIdu fournisseurServeurd'inférenceexécute le modèleÉchantillonsstockéslogs, testsPlace de revendeursun routeur y renvoyaitdu trafic, où l'onjournalisait toutCopiées à l'arrivéedes centaines de clésAWS, même issues derequêtes rejetéesLues en transitPhala : l'attaquanttenait la VM,21 oct. au 8 nov.TéléchargésTogether, ouvertspar un jetoncommité par l'IAPuis les clés servent.Clés AWS testées en quelques heures, clés Bedrock et comptes IAM créés. SSH root tenté avec des mots de passe volés. Un labo a aspiré 2/3 des prompts ZDR.
Là où les canaris de Dragos ont été lus. Avant d'atteindre un modèle, un prompt peut traverser un routeur, la porte d'entrée d'un fournisseur, un serveur d'inférence et un stockage de logs, et chaque étape avait son lecteur. Les options de confidentialité comme ZDR n'engagent que la première étape, et un attaquant déjà dans la place les ignore.

Ce que disent les fournisseurs

Les fournisseurs ont commencé à le confirmer. Le rapport préliminaire de Phala indique qu'un attaquant a pris le contrôle d'une VM d'inférence servant DeepSeek V4 Flash 0731 et pouvait voir les données des requêtes pendant leur traitement. Sa recommandation : considérer comme exposée toute requête envoyée à ce modèle entre le 21 octobre et le 8 novembre, et « faire tourner toutes les clés d'API, jetons, mots de passe ou autres secrets inclus dans ces requêtes ». Des tests de canaris ont confirmé l'utilisation abusive d'identifiants envoyés les 21 et 22 octobre.

L'avis de Together AI, publié le 21 novembre, décrit une autre porte d'entrée. Des échantillons de prompts issus de requêtes de juin et juillet à MiniMax M3, GLM-5.2 et Kimi K2.6 se trouvaient dans un dépôt Hugging Face privé utilisé pour des tests. Puis « un agent de code IA a commité un identifiant donnant accès au dépôt Hugging Face privé » dans un dépôt GitHub public. Le scanner de Together a repéré le commit et l'a annulé, mais quelqu'un a utilisé l'identifiant pendant la fenêtre d'exposition, téléchargé les échantillons, cherché dedans des identifiants d'autres services et testé ceux-ci. Cinq des identifiants essayés étaient des canaris de Dragos.

Le 22 novembre, OpenRouter a retiré trois fournisseurs et sorti 125 endpoints de sa liste ZDR, dans l'attente d'une validation. La plateforme précise que les conclusions ne montrent aucune compromission d'OpenRouter lui-même. The Hacker News propose un récapitulatif complet.

Deux défaillances reviennent dans ces rapports. Un secret s'est retrouvé dans le prompt parce que l'agent pouvait le lire. Et dans le cas de Together, un secret s'est retrouvé dans un dépôt public parce que l'agent pouvait le lire et le pousser.

Pourquoi une option de confidentialité n'y peut rien

Les recommandations de Dragos sont sensées : héberger soi-même si possible, passer directement par un fournisseur de premier rang, choisir soi-même les fournisseurs en amont de son routeur, semer des canaris, activer le filtrage des secrets. Chacune réduit la liste des lecteurs. Le prompt contient toujours ce que l'agent a lu. Moore est sans détour sur ZDR : « Une option de confidentialité ne sert à rien quand l'attaquant est déjà dans la place. »

Le filtrage des secrets est une recherche de motifs en sortie. Il attrape AKIA… et ghp_… et laisse passer un mot de passe sans préfixe, celui-là même que le lecteur de la place de marché a essayé sur SSH. Un agent de code est conçu pour lire des fichiers, des variables d'environnement et des sorties de commandes, et pour mettre ce qu'il a lu dans la requête suivante. Pour changer ce que contient le prompt, il faut changer ce que l'agent peut lire.

La même séance dans Bromure Agentic Coding

Bromure Agentic Coding exécute Claude Code, Codex, Grok, Kimi et omp dans des VM Ubuntu sur votre Mac, une VM par machine. Chaque requête HTTPS émise par la VM passe par un proxy sur le Mac, et ce proxy est le seul endroit où vos vrais identifiants existent.

Le .env que lit l'agent contient des substituts

Import env file…, dans le panneau Credentials de la machine, lit le .env de votre projet. Il associe les noms qu'il reconnaît, comme AWS_ACCESS_KEY_ID, GH_TOKEN ou ANTHROPIC_API_KEY, au bon type d'identifiant, et transforme le reste, comme ce HF_TOKEN, en Other API keys limitées à l'hôte que vous indiquez, ici huggingface.co. Chacun est exporté dans la VM sous son nom de variable habituel, avec une fausse valeur qui a la forme de la vraie : ghp_ suivi de 36 caractères pour GitHub, brm_… pour un jeton générique, brm-db-… pour un secret de base de données. Le proxy ne substitue la vraie valeur que sur les requêtes destinées à l'hôte propre à l'identifiant.

Ainsi, quand l'agent lance cat .env ou printenv, la conversation qu'il envoie au modèle transporte des faux. Chaque lecteur de la carte de Dragos obtient une copie du prompt et rien d'exploitable. Un faux rejoué depuis le serveur d'un attaquant ne passe jamais par le proxy de votre Mac : il arrive à la vraie API tel quel et échoue à l'authentification.

La clé AWS du prompt ne peut rien signer

Le voleur de la porte d'entrée a pris des clés AWS, et AWS montre clairement comment fonctionne la frontière. Dans une VM Bromure, ~/.aws/config pointe vers un utilitaire qui fournit votre vrai identifiant de clé d'accès associé à un secret factice. Tous les SDK et la CLI aws signent leurs requêtes avec ce secret factice. Sur le Mac, le proxy retire la signature et re-signe avec le vrai secret avant que la requête ne parte. Récupérez la paire dans un prompt, et le seul secret obtenu est le faux. AWS répond à chaque appel signé avec lui par InvalidSignatureException. Le listing S3, la fouille de Secrets Manager, les nouvelles clés Bedrock et les utilisateurs IAM des logs de Dragos avaient tous besoin de ce secret.

SSH fonctionne de la même manière. Les octets de la clé privée n'entrent jamais dans la VM. L'invité peut demander une signature au Mac, mais il ne peut pas lire la clé, donc aucune transcription n'en contient jamais.

Les données personnelles ont aussi leurs substituts

Les canaris de Dragos étaient des identifiants et des liens, mais les prompts qui les transportaient contiennent aussi tout ce que l'agent a lu dans une table clients ou un export du support. PII Protection s'occupe de cette partie. Avant qu'une requête ne parte vers le fournisseur du modèle, le proxy repère les noms, adresses e-mail, numéros de téléphone, numéros de carte, identifiants officiels et adresses postales à l'aide d'un modèle exécuté sur l'appareil, et remplace chacun par un substitut réaliste. La réponse récupère les vraies valeurs avant que l'agent ne la voie. Le fournisseur, et quiconque lit son trafic, voit des adresses @example.com et des numéros de carte de test. Chaque substitution est comptée dans la Security Timeline avec l'hôte de destination, et les valeurs elles-mêmes ne sont jamais journalisées.

La même séance dans Bromure Agentic CodingVM Bromure$ cat .envAWS : vrai ID de clé + secret facticeDB_PASSWORD= brm-db-…HF_TOKEN= brm_…Clés SSH privées : pas dans la VM.Le prompt de l'agent ne contientque ce qu'il a lu : des substituts.Proxy sur votre MacPII Protectionnoms, e-mails, cartes, ID sontremplacés avant le modèleSubstitution d'identifiantsvraie valeur ajoutée seulement pourl'hôte propre à l'identifiant ; AWSre-signé ici avec le vrai secretLes vrais secrets sont ici, chiffrés.Chaque requête IA est tracée sur le Mac.Route vers un modèle cloudrouteur, porte d'entrée, serveurd'inférence, stockage de logsUn lecteur obtient des fauxAWS: InvalidSignatureExceptionles autres API rejettent le faux ;aucun mot de passe à tenter en SSHSur l'appareil ou votre serveurmodèle MLX sur le GPU du Mac, ou vLLMsur votre réseau : aucun lecteur tiersLa route de Together, dans une machine BromureL'agent commite HF_TOKEN. Ce qu'il commite, c'est brm_…, qui ne marche que via le proxy du Mac, vers huggingface.co.Le git push lui-même attend une approbation sur le Mac, avec la politique par défaut Prompt before write pour GitHub.Qui clone le dépôt public obtient un faux. Le stockage de prompts reste fermé.
La même séance de débogage dans une machine Bromure. L'agent lit des substituts dans .env, donc le prompt transporte des substituts, et PII Protection remplace les données personnelles avant que la requête ne quitte le Mac. Un lecteur, à n'importe quelle étape, obtient des faux qui échouent en amont. Les vrais secrets ne sont ajoutés que sur le Mac, et seulement vers leur propre hôte ; un modèle sur l'appareil garde le prompt entièrement sur le Mac.

Le commit contient un faux, et le push attend

La fuite de Together s'est faite en deux temps : un agent de code disposait d'un vrai identifiant Hugging Face, et il l'a poussé dans un dépôt public. Dans une machine Bromure, aucune des deux étapes n'aboutit.

Le jeton que l'agent peut voir est le substitut brm_…, donc un commit transporte le substitut. Quiconque le récupère sur GitHub obtient une chaîne qui ne devient un vrai jeton qu'à l'intérieur du proxy de votre Mac, sur une requête vers huggingface.co venant de votre VM. Depuis sa propre machine, Hugging Face la rejette.

Avant même que le commit n'aille où que ce soit, le push s'arrête à la politique d'écriture des Guardrails. Les nouvelles machines sont réglées par défaut sur Prompt before write pour GitHub, GitLab et Bitbucket : les lectures passent, et chaque écriture, git push compris, attend une boîte de dialogue sur le Mac qui nomme l'opération. La politique s'exécute dans le proxy, hors de la VM, donc un agent ne peut pas la désactiver. Un push inattendu vers un dépôt public devient une question à laquelle vous répondez avant que le commit ne soit publié.

Si quelqu'un collait malgré tout un vrai jeton dans un fichier de la VM, le proxy signale les identifiants réels non substitués dans les en-têtes sortants : valeurs aux préfixes connus comme sk-ant-, ghp_ ou AKIA, et longs jetons opaques. Ils apparaissent sous Leaks only dans le Trace Inspector et dans bromure-cli trace leaks. Le Strict credential mode, également dans les Guardrails, bloque tout identifiant que Bromure n'a pas émis lui-même.

C'est vous qui choisissez qui lit le prompt

La première recommandation de Dragos est d'héberger soi-même. Sa liste de prix commence par un Mac Studio doté de 512 Go de mémoire. Le tableau Models de Bromure propose un fournisseur On-device qui exécute des modèles de code à poids ouverts sur le GPU du Mac avec MLX d'Apple, sans rien à installer, et chaque agent peut en choisir un. Un tour servi sur l'appareil ne quitte jamais le Mac. Une entrée Custom server dirige les agents vers n'importe quel serveur compatible OpenAI de votre réseau, comme vLLM, Ollama ou LM Studio, pour qu'une équipe puisse partager une machine GPU qu'elle contrôle.

Quand vous utilisez un modèle dans le cloud, c'est aussi dans le tableau Models que vous choisissez la route. Vous pouvez diriger chaque agent vers un fournisseur de premier rang, avec sa propre connexion ou clé d'API, ce qui est la deuxième recommandation de Dragos. Cette clé n'entre pas non plus dans la VM. Un routeur comme OpenRouter reste disponible quand vous le voulez, comme un choix que vous faites agent par agent.

Quand un fournisseur dit « faites tourner ce que vous avez envoyé »

Phala demande à ses clients de faire tourner tous les secrets inclus dans les requêtes envoyées à un modèle entre le 21 octobre et le 8 novembre. La plupart des équipes ne savent pas dire de quels secrets il s'agit, parce que personne n'a gardé trace de ce que leurs agents ont envoyé.

Bromure garde cette trace sur votre Mac. Au niveau par défaut, AI request details, le proxy enregistre chaque échange avec un hôte de modèle connu, chiffré avec une clé de votre trousseau de session. Le Trace Inspector filtre par hôte et par Conversations only, et bromure-cli trace hostnames liste chaque hôte contacté par chaque machine. Vous pouvez ouvrir les requêtes de la fenêtre d'exposition et lire ce qui est parti, requête par requête. Dans une machine Bromure, ce qui est parti, ce sont des substituts.

L'agent lit des faux

Les valeurs .env importées, les fichiers de configuration et les variables d'environnement contiennent des substituts. Les vrais secrets sont ajoutés sur le Mac, seulement vers leur propre hôte.

Un prompt volé n'ouvre rien

Un faux tiré d'un prompt échoue en amont. Un identifiant de clé AWS récupéré vient avec un secret factice, donc chaque signature est rejetée.

Les push vous attendent

Prompt before write met chaque git push en attente d'approbation, appliqué dans le proxy. Un jeton commité est de toute façon un substitut.

Vous choisissez le lecteur

Les modèles sur l'appareil gardent le prompt sur le Mac. Les routes cloud se choisissent agent par agent, et le Mac garde une trace de chaque requête.

Que faire cette semaine

  • Si vous avez envoyé des requêtes à DeepSeek V4 Flash 0731 via Phala entre le 21 octobre et le 8 novembre, suivez les consignes de Phala et faites tourner tout secret que ces requêtes ont pu transporter.
  • Si vous avez utilisé MiniMax M3, GLM-5.2 ou Kimi K2.6 en serverless chez Together AI en juin ou juillet, lisez l'avis de Together et activez ZDR dans les paramètres de votre compte.
  • Si vous passez par OpenRouter et comptez sur ZDR, vérifiez si vos endpoints font partie des 125 qui ont été retirés.
  • Partez du principe que tout secret lu par un agent est passé par chaque étape entre lui et le modèle. Faites tourner les clés à longue durée de vie restées dans un .env qu'un agent pouvait ouvrir.
  • Ajoutez artex-agent et artex-judge-r121 à vos détections CloudTrail, comme le suggère Dragos.

Ensuite, mettez les secrets hors de portée de l'agent pour de bon. Importez le .env dans une machine Bromure, laissez GitHub sur Prompt before write et dirigez les agents vers le fournisseur que vous avez choisi. La frontière du fil, la re-signature AWS et l'import de .env sont décrits dans Credentials & the Wire Boundary, les données personnelles dans PII Protection, les modèles sur l'appareil et les serveurs personnalisés dans Models & Providers, et la trace locale dans Tracing & Audit.