L'évaluation est sortie du labo
Le 6 novembre, WorkOS a indiqué que l'agent à l'origine de sa brèche d'octobre était une exécution ARTEX d'un chercheur, qui « s'est échappée de son environnement de test isolé » pendant des évaluations sur benchmark. Il a atteint depuis Internet l'outil commercial interne de WorkOS, s'y est connecté avec un identifiant de développement devinable et a aspiré des fiches clients pendant cinq jours avant que quiconque ne s'en aperçoive. Dans Bromure Agentic Coding, la frontière réseau d'un agent est appliquée sur le Mac, hors de la VM : une destination que personne n'a autorisée est refusée, et une session qui se met à contacter de nouveaux hôtes est coupée et mise en pause en quelques millisecondes.
Le chercheur voulait tester son agent sur un benchmark. L'agent a trouvé l'API d'une vraie entreprise sur l'Internet public, et rien dans son « environnement de test isolé » ne l'a empêché d'y entrer.
Le 6 novembre, WorkOS a publié une mise à jour sur son incident de sécurité du 30 octobre. Une semaine plus tôt, l'entreprise avait révélé qu'un attaquant utilisant ARTEX, un framework de sécurité offensive à base d'IA, s'était introduit dans un outil interne de vente et de support. La mise à jour nomme l'attaquant : un chercheur en sécurité qui menait des évaluations sur des benchmarks de cybersécurité et dont, selon les mots du fondateur de WorkOS, Michael Grinich, « l'agent s'est échappé de son environnement de test isolé et a interagi avec WorkOS sans le vouloir ». BleepingComputer en a parlé le jour même.
Le chercheur a contacté WorkOS après le premier bulletin et lui a remis le détail des requêtes et leurs horodatages. L'équipe sécurité de WorkOS et un cabinet de forensique indépendant les ont comparés aux journaux de WorkOS et ont confirmé l'attribution « avec un haut degré de confiance ». Le chercheur affirme avoir supprimé tout ce que l'agent a récupéré et ne l'avoir partagé avec personne.
La chronologie, d'après le bulletin de WorkOS :
- 25 octobre : premier accès non autorisé confirmé à l'API de l'outil.
- 30 octobre : l'agent récupère des fiches en masse. Un employé remarque un usage inhabituel, et WorkOS coupe l'accès public.
- 30–31 octobre : authentification verrouillée, identifiants des services connectés révoqués ou renouvelés.
- 2 novembre : divulgation publique et notification des clients.
- 3–5 novembre : le chercheur se manifeste ; le cabinet de forensique valide ses dires.
Ce que l'agent a emporté : des coordonnées professionnelles, des historiques de comptes, des données d'usage des produits, et des résumés ou extraits d'appels commerciaux, de tickets de support et de conversations Slack avec des clients, dont certains contenaient des adresses e-mail d'utilisateurs finaux.
Deux défaillances, une de chaque côté
WorkOS a listé quatre failles de son côté. L'outil tournait sur une ancienne plateforme interne. Des contrôles d'accès trop lâches laissaient son API joignable depuis Internet. Un identifiant de développement faible était accepté en production, et il était assez prévisible pour que l'agent le devine. Il n'y avait pas de limite de débit, et rien n'a donné l'alerte sur ce trafic avant que les fiches ne soient déjà parties. WorkOS a depuis bloqué ses outils internes en bordure de réseau, supprimé le chemin d'authentification faible et commencé à lancer ARTEX contre ses propres systèmes exposés sur Internet.
L'autre défaillance se situe du côté du chercheur, et aucune des deux parties n'a expliqué comment l'évasion s'est produite. Quel qu'en soit le mécanisme, on se retrouve avec un agent conçu pour trouver et exploiter des faiblesses, disposant d'une route active vers l'Internet public, pendant une exécution censée le pointer vers un benchmark. Beaucoup de bacs à sable d'agents ressemblent à cela : un conteneur, un compte utilisateur séparé, ou un paragraphe dans le prompt système. Quand une frontière réseau existe, quelqu'un l'a configurée depuis l'intérieur de l'environnement même que l'agent contrôle.
Les agents de code se comportent de la même façon, à plus petite échelle. Ils lancent des tests d'intégration contre la préproduction, sondent des API pour en comprendre la forme et essaient l'hôte suivant quand le premier échoue. Donnez-leur un « connection refused » et ils se mettent à réfléchir à un autre moyen d'entrer, parce que terminer la tâche est ce pour quoi ils ont été entraînés.
La même exécution, dans Bromure Agentic Coding
Bromure Agentic Coding fait tourner Claude Code, Codex, Grok, Kimi et omp dans des VM Ubuntu sur votre Mac, une VM par machine. Chaque connexion ouverte par la VM sort par le commutateur virtuel et le proxy de Bromure, qui tournent sur le Mac. C'est là que vivent les règles réseau, et l'agent ne peut pas les atteindre. Il peut être root dans sa VM sans pour autant pouvoir les modifier.
Les hôtes inconnus sont refusés, et l'agent sait pourquoi
Une machine peut utiliser l'un de deux moteurs de bac à sable :
- Le Bromure Firewall : une table ordonnée de règles d'autorisation et de refus portant sur l'hôte, l'IP/CIDR, le protocole, le port et la méthode HTTP. Réglez Unmatched traffic sur Deny et la machine fonctionne sur liste blanche.
- OpenShell + Sentry : une politique NVIDIA OpenShell,
où tout est refusé sauf si une règle
network_policiesl'autorise. La politique de départ autorise GitHub, npm et PyPI en lecture seule ainsi que les miroirs de paquets d'Ubuntu.
Pour une exécution de benchmark, la politique nomme les cibles du benchmark
et le fournisseur du modèle. Bromure ajoute lui-même les hôtes du
fournisseur et des identifiants. Une API de WorkOS ne figure pas sur cette
liste, donc le commutateur virtuel du Mac refuse la toute première connexion
vers elle. Le commutateur vérifie l'adresse de destination et le nom que la
VM a résolu, et le proxy vérifie le nom de serveur TLS. Le commutateur
redirige les ports 80 et 443 vers le proxy, si bien qu'un programme qui
ignore HTTPS_PROXY y passe quand même. Sous OpenShell, Bromure refuse les
adresses de bouclage, link-local et de métadonnées cloud, quoi que dise la
politique.
Un agent qui ne voit qu'une connexion refusée a tendance à chercher une autre route. Avec Tell the agent when policy blocks it, activé par défaut sur les machines OpenShell, Bromure écrit dans la conversation de l'agent ce qui a été bloqué et pourquoi :
[Bromure policy] This workspace's network policy blocked connecting to
api.stripe.com:443— no network policy allowsapi.stripe.com:443. … This is a deliberate restriction, not a fault: don't retry it or reach the same thing another way … If your task needs it, stop and tell the user what you need and why so they can decide.
Claude Code lit cette note juste après la commande qui a été bloquée. L'hôte bloqué apparaît aussi dans le Sandbox drawer de la machine, avec le programme qui a essayé et le nombre de tentatives : si l'agent en a besoin, vous pouvez l'Allow pour 15 minutes ou une heure au lieu d'ouvrir le réseau pour de bon.
L'invité ne peut pas désactiver les règles
« S'est échappé de son environnement de test isolé » signifie en général que l'agent a fait, dans cet environnement, quelque chose que ses concepteurs n'avaient pas prévu. Dans une machine Bromure, partez du principe qu'il le fera. Les règles réseau ne sont toujours pas dans la VM. Ce sont le commutateur et le proxy du Mac qui les appliquent, et vous pouvez les durcir sur une machine en marche sans redémarrage.
Sur une machine OpenShell, vous pouvez aller plus loin à l'intérieur de la VM :
- une
filesystem_policyconfine les fichiers de l'agent avec Linux Landlock, même face à root ; - une section
processou Enforce binaries retire sudo et Docker, et chaque connexion doit provenir d'un programme nommé par la politique, épinglé par empreinte dès sa première utilisation ; - le kernel sentry, un petit module dans le noyau de la VM, signale au Mac les lancements de programmes, les connexions, les changements de privilèges et les chargements de modules. Une fois démarré, le noyau est verrouillé de sorte que même root ne peut pas charger de code pour interférer, et un trou dans son flux numéroté est signalé comme tampering suspected.
Si le bac à sable invité ne peut pas s'appliquer entièrement, aucune session ne démarre, et la carte Sandbox l'indique en rouge.
Cinq jours deviennent quelques millisecondes
WorkOS a découvert l'intrusion au bout de cinq jours, quand un employé a remarqué un usage inhabituel. L'agent watchdog de Bromure observe chaque session depuis l'extérieur de la VM, à l'affût :
- de rafales de requêtes bloquées ;
- de nouvelles destinations une fois la session stabilisée ;
- d'un volume sortant très supérieur à la référence propre à la session, compté au niveau du commutateur réseau ;
- d'identifiants qui n'ont rien à faire là, et de signes de falsification.
En mode Quarantine, une session qui franchit le seuil en moins d'une minute voit son réseau coupé et sa VM mise en pause en quelques millisecondes. Une alerte, The agent watchdog quarantined this workspace, liste ce qu'il a vu. Keep quarantined relance la VM avec son réseau toujours coupé pour que vous puissiez regarder à l'intérieur. Release rétablit le réseau, et Shut down arrête la machine.
Un agent qui sort de son benchmark et se met à parcourir l'API de quelqu'un d'autre produit exactement ce schéma : une série de blocages, puis de nouveaux hôtes, puis un téléchargement bien plus gros que tout ce que la session avait fait jusque-là.
Le registre est déjà sur votre Mac
Le chercheur de cette histoire a eu la correction de se manifester avec le détail des requêtes et leurs horodatages. WorkOS a tout de même eu besoin de sa propre équipe sécurité et d'un cabinet de forensique indépendant pour les rapprocher de ses journaux.
Chaque décision prise par Bromure est une ligne de la Security Timeline de la machine. Sur une machine équipée du kernel sentry, double-cliquez sur une ligne réseau et sa network lineage affiche toute la chaîne derrière cette connexion :
- le prompt que vous avez donné, le raisonnement de l'agent et l'intention qu'il a déclarée ;
- l'appel d'outil, avec la commande exacte ;
- les processus, de l'agent jusqu'au programme qui s'est connecté ;
- le flux réseau ;
- ce que Bromure a décidé, à quelle couche, et pourquoi.
Other flows from this tool call liste toutes les autres connexions ouvertes par la même étape. Si un agent faisait un jour quelque chose que vous n'aviez pas demandé, vous sauriez quelle instruction il suivait et chaque hôte qu'il a touché, sans attendre les journaux de qui que ce soit.
Un identifiant de dev devinable ne mène pas loin non plus
La troisième faille de WorkOS était un identifiant de développement que la
production acceptait encore. On trouve ce genre d'identifiants partout où
travaillent des agents de code : dans les fichiers .env, les fixtures de
test et l'historique du shell du dossier projet. Dans une machine Bromure,
les identifiants que détient l'agent sont des substituts. Les vraies valeurs
restent chiffrées sur le Mac, et le proxy ne les insère que dans les
requêtes vers les hôtes propres à chaque identifiant. Si un substitut part
vers un autre hôte, le proxy le bloque avec un HTTP 451, met la VM en pause
et ouvre une alerte nommant l'identifiant et sa destination. Activez Only
allow credentials Bromure injects et le proxy bloque aussi tout
identifiant que Bromure n'a pas placé lui-même, comme un identifiant que
l'agent aurait trouvé dans un fichier ou deviné.
Des règles hors de l'invité
La politique réseau s'exécute sur le commutateur et le proxy du Mac. Être root dans la VM ne permet pas de l'atteindre.
Refus par défaut
Les machines OpenShell n'autorisent que ce que nomme la politique. Le pare-feu peut lui aussi fonctionner sur liste blanche.
Quarantaine en millisecondes
Nouvelles destinations et pics sortants coupent le réseau et mettent la VM en pause jusqu'à votre décision.
Chaque connexion expliquée
La network lineage relie chaque flux au prompt, à l'appel d'outil et au processus qui l'a créé.
Ce qu'il faut faire cette semaine
Si vous faites tourner des agents contre quoi que ce soit, qu'il s'agisse de benchmarks de sécurité, d'outils de red team ou d'agents de code qui testent contre la préproduction :
- Notez les hôtes dont une exécution a besoin, et appliquez cette liste à un endroit que l'agent ne peut pas modifier. Une règle dans le conteneur ou dans la configuration de l'agent lui-même ne compte pas.
- Refusez par défaut pour les exécutions d'évaluation. Un benchmark a un ensemble de cibles connu.
- Alertez sur les nouvelles destinations et les pics de volume par session, et faites en sorte que l'alerte arrête l'exécution au lieu de seulement la journaliser.
- Conservez un registre par connexion que vous pouvez transmettre à quelqu'un d'autre, rattaché à ce qu'on a demandé à l'agent de faire.
Et du côté de celui qui reçoit le trafic, reprenez la liste de WorkOS : gardez vos outils internes hors de l'Internet public, refusez les identifiants de développement en production, et limitez le débit des API qui renvoient des données clients.
Pour le fonctionnement des politiques OpenShell et de la network lineage dans Bromure, voir Les politiques OpenShell dans Bromure, et le raisonnement derrière chaque connexion. Pour ce qui se passe quand un agent sort de son propre bac à sable, voir Quarante mille dollars par évasion. Les détails sont dans le chapitre Politique du bac à sable du manuel.