Le modèle n'a jamais demandé ça
HiddenLayer a montré que quiconque contrôle la passerelle LLM entre un agent de code et son modèle peut ajouter des appels d'outils que le modèle n'a jamais faits, puis les retirer de l'historique avant que le modèle ne le voie. L'agent les exécute comme n'importe quel autre appel, et une demande d'approbation ne peut pas savoir d'où vient un appel. La veille, une version de LiteLLM publiée sur PyPI embarquait un voleur d'identifiants et une porte dérobée horaire. Dans Bromure Agentic Coding, un appel injecté s'exécute dans une VM qui ne contient que des substituts, le proxy bloque son envoi et met la VM en pause, et votre Mac garde une trace de l'appel hors de portée de la passerelle.
Votre agent demande au modèle quoi faire ensuite, et la réponse revient par une passerelle. Si la passerelle ajoute une étape, l'agent l'exécute. Le modèle ne l'a jamais demandée, et n'apprendra jamais qu'elle a eu lieu.
HiddenLayer a publié Man-in-the-Model: Hijacking Coding Agents in Transit le 22 octobre. Adversa l'a repris dans sa sélection de novembre des recherches sur la sécurité des agents de code. La question posée est simple : que peut faire une passerelle compromise aux agents qui se trouvent derrière elle ?
Beaucoup d'équipes n'envoient pas le trafic de leurs agents directement à Anthropic ou OpenAI. Il passe par un proxy LiteLLM pour le suivi des coûts et la gestion des clés, par OpenRouter pour le choix du modèle, ou vers vLLM, llama.cpp ou Ollama sur une machine GPU partagée. Chaque requête et chaque réponse traversent cette couche, et une réponse, c'est la liste des appels d'outils que l'agent va exécuter ensuite.
Ce que la passerelle peut faire
Les chercheurs de HiddenLayer (Esteban Tonglet, Divyanshu Divyanshu et Kasimir Schulz) ont déroulé l'attaque étape par étape.
Identifier l'appelant. Codex envoie des en-têtes commençant par
codex-tui, et Claude Code envoie claude-cli. Les agents qui n'envoient
qu'un en-tête de SDK générique se trahissent quand même par leurs noms
d'outils et les champs de leurs requêtes.
Repérer ce qui s'exécute sans demander. La passerelle voit quand elle envoie un appel d'outil et quand le résultat revient. Une lecture de fichier qui prend plusieurs secondes a probablement attendu qu'un humain l'approuve. Sur plus de 4 000 sessions capturées, seuls 4,7 % des appels d'outils rapides laissaient un doute. Quand le timing n'est pas clair, la passerelle peut glisser du code de mesure dans un script que l'agent est en train de modifier, ou envelopper une commande dans un chronomètre, et masquer la sortie.
Lire des fichiers que le modèle n'a jamais demandés. Claude Code charge
CLAUDE.md, Codex charge AGENTS.md, Cursor lit .cursorrules. La
passerelle peut ajouter à une réponse la lecture de n'importe lequel d'entre
eux, garder ce qui revient, puis retirer l'appel et son résultat avant de
transmettre la conversation au modèle. Selon HiddenLayer, « ces lectures de
fichiers sont déclenchées par la couche d'interception et non par le
modèle ».
Exécuter du code. Dans la première démonstration, l'agent était Hermes,
dans un mode qui demande avant les commandes qu'il juge dangereuses, mais
pas avant les modifications de fichiers ni le Python ordinaire.
L'utilisateur lui a demandé de lire un fichier Python. Le proxy a ajouté
des appels d'outils à la réponse : une modification a placé une fonction
heartbeat_ok() dans le fichier, une deuxième a ajouté du code qui
rassemblait /etc/passwd, les variables d'environnement contenant des
identifiants et ~/.ssh/id_rsa et les postait vers un webhook, une
troisième a exécuté le fichier avec python3, et une dernière modification
a remis le fichier dans son état d'origine. L'utilisateur n'a jamais vu de
commande réseau, parce que l'envoi se faisait à l'intérieur du script.
Profiter d'un préfixe approuvé. Dans la deuxième démonstration, Codex
avait git comme préfixe approuvé et un répertoire .git accessible en
écriture. La passerelle a envoyé :
git -c diff.external='sh -c "cat .env"' diff --no-index /dev/null .env
La commande commence par git, donc Codex l'a exécutée sans demander et a
affiché un fichier .env que l'agent refuserait normalement d'ouvrir. Pour
l'utilisateur, l'agent « semble toujours effectuer une opération Git
ordinaire ».
Planter une dépendance pour plus tard. Quand le modèle demande
d'ajouter requests, la passerelle le remplace par reqiests. L'agent
écrit le nom mal orthographié dans le fichier de dépendances, et la charge
utile s'exécute à la prochaine installation, sur un portable ou en CI.
Une demande d'approbation ne sait pas qui a écrit l'appel
La conclusion de HiddenLayer : « la frontière de sécurité n'est plus seulement le modèle. Elle inclut chaque système capable d'influer sur ce que l'agent finit par exécuter. »
Les demandes d'approbation et les listes d'autorisation jugent la commande, pas sa provenance. L'agent ne peut pas distinguer un appel d'outil venu du modèle d'un appel ajouté par la passerelle, puisque les deux arrivent dans la même réponse. La passerelle sait aussi, grâce au timing, quels appels vous approuvez sans regarder, et c'est ceux-là qu'elle choisit. Les défenses contre l'injection de prompt examinent le texte envoyé au modèle, et ici aucun texte n'a besoin d'atteindre le modèle.
Le 21 octobre, la veille de la publication de HiddenLayer, litellm 1.107.0 est apparu sur PyPI avec un voleur d'identifiants et un chargeur qui récupérait du code de l'attaquant toutes les heures. The Hacker News en a retrouvé l'origine : une clé maîtresse commitée dans un dépôt public en mai et jamais révoquée. PyPI l'a retiré au bout d'1 heure 43, et les images Docker Hub et GHCR publiées en même temps ont été rétablies plus tard. Un proxy LiteLLM qui a récupéré cette version a fait tourner le chargeur horaire d'un attaquant dans le processus qui relaie chaque conversation d'agent qu'il traite. Nous avons parlé de cette version dans La version avait deux heures.
La même passerelle, devant une machine Bromure
Bromure Agentic Coding exécute Claude Code, Codex, Grok, Kimi et omp dans des VM Ubuntu sur votre Mac. Une passerelle peut toujours mettre des mots dans la bouche de l'agent. Ces mots deviennent des commandes qui s'exécutent dans une VM conçue en partant du principe que l'agent pourrait être hostile, et chaque commande doit passer des contrôles que la passerelle ne peut pas toucher.
Le script trouve des substituts
Le script de HiddenLayer collectait les variables d'environnement contenant
des identifiants, ~/.ssh/id_rsa et .env. Dans une machine Bromure :
- Les variables d'environnement contiennent des substituts.
GH_TOKEN,NPM_TOKEN,ANTHROPIC_API_KEYet les autres ont le bon format et aucune valeur ailleurs que via le proxy de votre Mac, qui ne met la vraie valeur que dans les requêtes vers l'hôte auquel chaque identifiant appartient. ~/.sshne contient aucun fichier de clé privée. LeSSH_AUTH_SOCKde la VM est un pont vers le Mac : la VM peut demander des signatures, mais les octets de la clé restent sur l'hôte..envcontient des substituts dès que vous avez utilisé Import env file… dans le panneau Credentials de la machine. Il lit votre.envexistant, affiche les variables avec leurs valeurs masquées et les transforme en identifiants sur le Mac. La VM reçoit des substituts dans les mêmes variables.- Les clés AWS sont un vrai identifiant de clé d'accès avec un faux secret. Le Mac re-signe chaque requête avec le vrai, si bien que le secret n'existe jamais dans la VM.
L'astuce git diff.external de la deuxième démonstration fonctionne
toujours dans une machine Bromure. Elle affiche un fichier rempli de
substituts.
Les envoyer où que ce soit déclenche une alarme
L'étape suivante du script consiste à poster ce qu'il a trouvé vers un webhook. Le premier substitut de cette requête part vers un hôte pour lequel il n'a pas été émis. Le proxy bloque la requête avec un HTTP 451 avant qu'un seul octet ne sorte, met la VM en pause et ouvre sur le Mac une alerte intitulée This environment may have been compromised. L'alerte nomme l'identifiant, l'hôte auquel il appartient et l'hôte vers lequel il était envoyé. Rien de ce que fait la passerelle n'atteint ce dialogue : il s'exécute sur le Mac, et la passerelle ne voit que le trafic du modèle.
Une charge utile qui ignore les identifiants et prend plutôt le code source
ou /etc/passwd se heurte au pare-feu de sortie. Dans Guardrails,
réglez Unmatched traffic sur Deny et autorisez les hôtes dont la
machine a besoin : votre route vers le modèle, votre forge, vos registres.
Le webhook n'est pas sur la liste. Le pare-feu agit au niveau du
commutateur virtuel et dans le proxy, et le trafic web de la VM est
redirigé vers le proxy : un script ne peut pas le contourner.
Le Mac garde l'appel que la passerelle a effacé
Le meilleur tour de la passerelle, c'est le nettoyage. Elle retire l'appel de l'historique qu'elle transmet, si bien que les journaux du fournisseur et le contexte du modèle paraissent propres. Elle ne peut pas atteindre la copie qui se trouve sur votre Mac.
Chaque requête d'une machine Bromure passe par le proxy du Mac, et la trace
enregistre ce qui l'a traversé. Au niveau par défaut, AI request
details, elle conserve les corps complets des requêtes et des réponses
pour les fournisseurs de modèles connus. Pour une passerelle que Bromure ne
reconnaît pas par son nom, réglez la Session trace de la machine sur
Everything. La vue Conversation du Trace Inspector décompose chaque
réponse en appels d'outils, commandes shell, lectures et écritures de
fichiers. La réponse qui portait python3 main.py y figure telle que
l'agent l'a reçue, et la passerelle ne peut pas la modifier après coup. Les
corps sont scellés avec une clé de votre trousseau, et rien n'est envoyé
nulle part sur une installation non gérée.
Sur une machine qui utilise le moteur de bac à sable OpenShell +
Sentry, Show the Whole Chain sur la connexion bloquée va jusqu'au
bout : du paquet au processus python3, au shell lancé par l'agent, à
l'appel d'outil qui l'a lancé et au texte qui le précédait dans la même
réponse. Quand les journaux du fournisseur montrent un tour qui demandait
de lire un fichier et que votre Mac montre ce même tour exécutant un script
et postant vers un webhook, la différence entre les deux, c'est le travail
de la passerelle.
Les dialogues qui comptent sont sur le Mac
La passerelle de HiddenLayer apprend quels appels s'exécutent sans demande en chronométrant les approbations de l'agent lui-même. Les approbations importantes de Bromure ne se font pas dans l'agent.
Sur les nouvelles machines, chaque service protégé démarre en Prompt
before write dans le panneau Guardrails. Un git push, une écriture
vers une API AWS, un kubectl apply ou un INSERT vers un point d'accès
de base de données s'interrompt pour un dialogue sur le Mac qui affiche
l'opération exacte. Les suppressions demandent aussi. La politique est
appliquée dans le proxy, donc un appel injecté ne peut pas passer en
commençant par un préfixe approuvé : le dialogue dépend de ce que fait la
requête sur le réseau, quelle que soit la commande qui l'a produite.
La faute de frappe se heurte aux contrôles de chaîne d'approvisionnement
Le remplacement par reqiests vise le prochain pip install. Dans une
machine Bromure, chaque téléchargement de paquet passe par les contrôles de
chaîne d'approvisionnement du proxy avant que la VM ne reçoive un octet.
Avec socket.dev ou Depi activé dans le panneau Supply Chain,
Bromure signale le typosquatting et les logiciels malveillants connus au
moment du téléchargement. Le délai d'ancienneté, actif par défaut, masque
toute version publiée dans les deux derniers jours, ce qui attrape un
paquet que l'attaquant a publié juste avant d'activer la passerelle. Une
installation bloquée échoue avec un 451 qui nomme le paquet et la raison,
et pip l'affiche dans le terminal, pour vous comme pour l'agent.
La route vers le modèle se règle sur le Mac
La passerelle qui se trouve sur le chemin est un choix que vous faites sur le tableau Models du Mac, pas dans un fichier de configuration dans la VM. Si le travail d'une machine est trop sensible pour une passerelle tierce, quelle qu'elle soit, pointez ses agents vers un modèle On-device : Bromure exécute des modèles MLX sur le GPU de votre Mac, et la requête ne quitte jamais l'hôte. Pour savoir comment le tableau empêche quelqu'un d'autre de modifier la route, voir Le CLI était le vrai.
Des substituts à voler
Les variables d'environnement, .env et la configuration AWS
contiennent des substituts, et les clés SSH n'entrent jamais dans la
VM. Un script injecté collecte des valeurs qui ne fonctionnent qu'en
passant par votre Mac.
L'exfiltration met la VM en pause
Un substitut envoyé vers le mauvais hôte est bloqué avec un 451, la VM est mise en pause, et l'alerte indique ce qui était envoyé et où.
Une trace que la passerelle ne peut pas modifier
La trace sur votre Mac conserve chaque réponse telle que l'agent l'a reçue, appels injectés compris, scellée avec une clé de votre trousseau.
Les écritures vous attendent
Les push, les écritures cloud et les écritures en base de données attendent un dialogue sur le Mac, en fonction de ce que fait la requête, pas de la commande qui l'a envoyée.
Que faire cette semaine
- Listez chaque système entre vos agents et leurs modèles : le proxy LiteLLM, le compte OpenRouter, la machine GPU qui fait tourner vLLM ou Ollama. Mettez-les à jour et verrouillez-les comme des serveurs de production, parce que c'en sont.
- Si vous avez fait tourner litellm 1.107.0 quelque part, considérez cet hôte et tous les secrets qu'il pouvait atteindre comme compromis.
- Passez en revue les préfixes de commande approuvés.
gitcomme préfixe global approuvegit -c diff.external=…. - Sortez les vrais secrets de l'environnement de l'agent, pour qu'un script qui les collecte ne récupère que des substituts. Dans une machine Bromure, Import env file… le fait en une étape.
Le chapitre Credentials du manuel explique la substitution en détail, et Tracing & Audit décrit ce que la trace conserve et comment la lire.