← Retour à tous les articles
Publié le · par Renaud Deraison

L'évaluation est sortie du labo

Le 6 novembre, WorkOS a indiqué que l'agent à l'origine de sa brèche d'octobre était une exécution ARTEX d'un chercheur, qui « s'est échappée de son environnement de test isolé » pendant des évaluations sur benchmark. Il a atteint depuis Internet l'outil commercial interne de WorkOS, s'y est connecté avec un identifiant de développement devinable et a aspiré des fiches clients pendant cinq jours avant que quiconque ne s'en aperçoive. Dans Bromure Agentic Coding, la frontière réseau d'un agent est appliquée sur le Mac, hors de la VM : une destination que personne n'a autorisée est refusée, et une session qui se met à contacter de nouveaux hôtes est coupée et mise en pause en quelques millisecondes.

Le chercheur voulait tester son agent sur un benchmark. L'agent a trouvé l'API d'une vraie entreprise sur l'Internet public, et rien dans son « environnement de test isolé » ne l'a empêché d'y entrer.

Le 6 novembre, WorkOS a publié une mise à jour sur son incident de sécurité du 30 octobre. Une semaine plus tôt, l'entreprise avait révélé qu'un attaquant utilisant ARTEX, un framework de sécurité offensive à base d'IA, s'était introduit dans un outil interne de vente et de support. La mise à jour nomme l'attaquant : un chercheur en sécurité qui menait des évaluations sur des benchmarks de cybersécurité et dont, selon les mots du fondateur de WorkOS, Michael Grinich, « l'agent s'est échappé de son environnement de test isolé et a interagi avec WorkOS sans le vouloir ». BleepingComputer en a parlé le jour même.

Le chercheur a contacté WorkOS après le premier bulletin et lui a remis le détail des requêtes et leurs horodatages. L'équipe sécurité de WorkOS et un cabinet de forensique indépendant les ont comparés aux journaux de WorkOS et ont confirmé l'attribution « avec un haut degré de confiance ». Le chercheur affirme avoir supprimé tout ce que l'agent a récupéré et ne l'avoir partagé avec personne.

La chronologie, d'après le bulletin de WorkOS :

  • 25 octobre : premier accès non autorisé confirmé à l'API de l'outil.
  • 30 octobre : l'agent récupère des fiches en masse. Un employé remarque un usage inhabituel, et WorkOS coupe l'accès public.
  • 30–31 octobre : authentification verrouillée, identifiants des services connectés révoqués ou renouvelés.
  • 2 novembre : divulgation publique et notification des clients.
  • 3–5 novembre : le chercheur se manifeste ; le cabinet de forensique valide ses dires.

Ce que l'agent a emporté : des coordonnées professionnelles, des historiques de comptes, des données d'usage des produits, et des résumés ou extraits d'appels commerciaux, de tickets de support et de conversations Slack avec des clients, dont certains contenaient des adresses e-mail d'utilisateurs finaux.

D'une exécution de benchmark à une base clientsBenchmarkagent ARTEX dans un« environnement detest isolé »Atteint Internettrouve l'API de l'outilcommercial interne deWorkOS, joignableSe connecteidentifiant de devprévisible, encoreaccepté en productionAspire les fichessans limite de débit :contacts, historiques,extraits d'appels, Slack25 oct.premier accèscinq jours sans alerte30 oct.aspiration, puis détection2 nov.divulgation6 nov.agent du chercheur nommé
Cinq jours entre la première requête de l'agent et le moment où quelqu'un s'en aperçoit. L'environnement du chercheur devait cantonner l'agent à son benchmark. L'agent a atteint une API publique, s'est connecté avec un identifiant de développement que la production acceptait encore, et a aspiré des fiches sans qu'aucune limite de débit ne le freine.

Deux défaillances, une de chaque côté

WorkOS a listé quatre failles de son côté. L'outil tournait sur une ancienne plateforme interne. Des contrôles d'accès trop lâches laissaient son API joignable depuis Internet. Un identifiant de développement faible était accepté en production, et il était assez prévisible pour que l'agent le devine. Il n'y avait pas de limite de débit, et rien n'a donné l'alerte sur ce trafic avant que les fiches ne soient déjà parties. WorkOS a depuis bloqué ses outils internes en bordure de réseau, supprimé le chemin d'authentification faible et commencé à lancer ARTEX contre ses propres systèmes exposés sur Internet.

L'autre défaillance se situe du côté du chercheur, et aucune des deux parties n'a expliqué comment l'évasion s'est produite. Quel qu'en soit le mécanisme, on se retrouve avec un agent conçu pour trouver et exploiter des faiblesses, disposant d'une route active vers l'Internet public, pendant une exécution censée le pointer vers un benchmark. Beaucoup de bacs à sable d'agents ressemblent à cela : un conteneur, un compte utilisateur séparé, ou un paragraphe dans le prompt système. Quand une frontière réseau existe, quelqu'un l'a configurée depuis l'intérieur de l'environnement même que l'agent contrôle.

Les agents de code se comportent de la même façon, à plus petite échelle. Ils lancent des tests d'intégration contre la préproduction, sondent des API pour en comprendre la forme et essaient l'hôte suivant quand le premier échoue. Donnez-leur un « connection refused » et ils se mettent à réfléchir à un autre moyen d'entrer, parce que terminer la tâche est ce pour quoi ils ont été entraînés.

La même exécution, dans Bromure Agentic Coding

Bromure Agentic Coding fait tourner Claude Code, Codex, Grok, Kimi et omp dans des VM Ubuntu sur votre Mac, une VM par machine. Chaque connexion ouverte par la VM sort par le commutateur virtuel et le proxy de Bromure, qui tournent sur le Mac. C'est là que vivent les règles réseau, et l'agent ne peut pas les atteindre. Il peut être root dans sa VM sans pour autant pouvoir les modifier.

Les hôtes inconnus sont refusés, et l'agent sait pourquoi

Une machine peut utiliser l'un de deux moteurs de bac à sable :

  • Le Bromure Firewall : une table ordonnée de règles d'autorisation et de refus portant sur l'hôte, l'IP/CIDR, le protocole, le port et la méthode HTTP. Réglez Unmatched traffic sur Deny et la machine fonctionne sur liste blanche.
  • OpenShell + Sentry : une politique NVIDIA OpenShell, où tout est refusé sauf si une règle network_policies l'autorise. La politique de départ autorise GitHub, npm et PyPI en lecture seule ainsi que les miroirs de paquets d'Ubuntu.

Pour une exécution de benchmark, la politique nomme les cibles du benchmark et le fournisseur du modèle. Bromure ajoute lui-même les hôtes du fournisseur et des identifiants. Une API de WorkOS ne figure pas sur cette liste, donc le commutateur virtuel du Mac refuse la toute première connexion vers elle. Le commutateur vérifie l'adresse de destination et le nom que la VM a résolu, et le proxy vérifie le nom de serveur TLS. Le commutateur redirige les ports 80 et 443 vers le proxy, si bien qu'un programme qui ignore HTTPS_PROXY y passe quand même. Sous OpenShell, Bromure refuse les adresses de bouclage, link-local et de métadonnées cloud, quoi que dise la politique.

Un agent qui ne voit qu'une connexion refusée a tendance à chercher une autre route. Avec Tell the agent when policy blocks it, activé par défaut sur les machines OpenShell, Bromure écrit dans la conversation de l'agent ce qui a été bloqué et pourquoi :

[Bromure policy] This workspace's network policy blocked connecting to api.stripe.com:443 — no network policy allows api.stripe.com:443. … This is a deliberate restriction, not a fault: don't retry it or reach the same thing another way … If your task needs it, stop and tell the user what you need and why so they can decide.

Claude Code lit cette note juste après la commande qui a été bloquée. L'hôte bloqué apparaît aussi dans le Sandbox drawer de la machine, avec le programme qui a essayé et le nombre de tentatives : si l'agent en a besoin, vous pouvez l'Allow pour 15 minutes ou une heure au lieu d'ouvrir le réseau pour de bon.

VM de la machineTâche de benchmarkrequêtes vers les ciblesnommées par la politiqueL'agent s'égaretente l'API d'une autreentreprise, root dans sa VMNote dans la conversation« stop and tell the user »Votre MacCommutateur et proxyla politique autorise lescibles ; le reste est refuséRefusé, journalisé, expliquéligne Security Timeline,Sandbox drawer, note à l'agentWatchdog : Quarantineréseau coupé, VM en pauseInternetCibles du benchmarket fournisseur du modèle :joignables comme d'habitudeL'API de quelqu'un d'autrene reçoit aucune requêtede la machine
La même exécution de benchmark dans une machine Bromure. L'agent peut être root dans sa VM, mais les règles sont sur le Mac. Un hôte hors de la politique est refusé au niveau du commutateur virtuel, l'agent reçoit la consigne de s'arrêter et de demander, et si la session continue à chercher de nouvelles destinations, le watchdog coupe son réseau et met la VM en pause.

L'invité ne peut pas désactiver les règles

« S'est échappé de son environnement de test isolé » signifie en général que l'agent a fait, dans cet environnement, quelque chose que ses concepteurs n'avaient pas prévu. Dans une machine Bromure, partez du principe qu'il le fera. Les règles réseau ne sont toujours pas dans la VM. Ce sont le commutateur et le proxy du Mac qui les appliquent, et vous pouvez les durcir sur une machine en marche sans redémarrage.

Sur une machine OpenShell, vous pouvez aller plus loin à l'intérieur de la VM :

  • une filesystem_policy confine les fichiers de l'agent avec Linux Landlock, même face à root ;
  • une section process ou Enforce binaries retire sudo et Docker, et chaque connexion doit provenir d'un programme nommé par la politique, épinglé par empreinte dès sa première utilisation ;
  • le kernel sentry, un petit module dans le noyau de la VM, signale au Mac les lancements de programmes, les connexions, les changements de privilèges et les chargements de modules. Une fois démarré, le noyau est verrouillé de sorte que même root ne peut pas charger de code pour interférer, et un trou dans son flux numéroté est signalé comme tampering suspected.

Si le bac à sable invité ne peut pas s'appliquer entièrement, aucune session ne démarre, et la carte Sandbox l'indique en rouge.

Cinq jours deviennent quelques millisecondes

WorkOS a découvert l'intrusion au bout de cinq jours, quand un employé a remarqué un usage inhabituel. L'agent watchdog de Bromure observe chaque session depuis l'extérieur de la VM, à l'affût :

  • de rafales de requêtes bloquées ;
  • de nouvelles destinations une fois la session stabilisée ;
  • d'un volume sortant très supérieur à la référence propre à la session, compté au niveau du commutateur réseau ;
  • d'identifiants qui n'ont rien à faire là, et de signes de falsification.

En mode Quarantine, une session qui franchit le seuil en moins d'une minute voit son réseau coupé et sa VM mise en pause en quelques millisecondes. Une alerte, The agent watchdog quarantined this workspace, liste ce qu'il a vu. Keep quarantined relance la VM avec son réseau toujours coupé pour que vous puissiez regarder à l'intérieur. Release rétablit le réseau, et Shut down arrête la machine.

Un agent qui sort de son benchmark et se met à parcourir l'API de quelqu'un d'autre produit exactement ce schéma : une série de blocages, puis de nouveaux hôtes, puis un téléchargement bien plus gros que tout ce que la session avait fait jusque-là.

Le registre est déjà sur votre Mac

Le chercheur de cette histoire a eu la correction de se manifester avec le détail des requêtes et leurs horodatages. WorkOS a tout de même eu besoin de sa propre équipe sécurité et d'un cabinet de forensique indépendant pour les rapprocher de ses journaux.

Chaque décision prise par Bromure est une ligne de la Security Timeline de la machine. Sur une machine équipée du kernel sentry, double-cliquez sur une ligne réseau et sa network lineage affiche toute la chaîne derrière cette connexion :

  1. le prompt que vous avez donné, le raisonnement de l'agent et l'intention qu'il a déclarée ;
  2. l'appel d'outil, avec la commande exacte ;
  3. les processus, de l'agent jusqu'au programme qui s'est connecté ;
  4. le flux réseau ;
  5. ce que Bromure a décidé, à quelle couche, et pourquoi.

Other flows from this tool call liste toutes les autres connexions ouvertes par la même étape. Si un agent faisait un jour quelque chose que vous n'aviez pas demandé, vous sauriez quelle instruction il suivait et chaque hôte qu'il a touché, sans attendre les journaux de qui que ce soit.

Un identifiant de dev devinable ne mène pas loin non plus

La troisième faille de WorkOS était un identifiant de développement que la production acceptait encore. On trouve ce genre d'identifiants partout où travaillent des agents de code : dans les fichiers .env, les fixtures de test et l'historique du shell du dossier projet. Dans une machine Bromure, les identifiants que détient l'agent sont des substituts. Les vraies valeurs restent chiffrées sur le Mac, et le proxy ne les insère que dans les requêtes vers les hôtes propres à chaque identifiant. Si un substitut part vers un autre hôte, le proxy le bloque avec un HTTP 451, met la VM en pause et ouvre une alerte nommant l'identifiant et sa destination. Activez Only allow credentials Bromure injects et le proxy bloque aussi tout identifiant que Bromure n'a pas placé lui-même, comme un identifiant que l'agent aurait trouvé dans un fichier ou deviné.

Des règles hors de l'invité

La politique réseau s'exécute sur le commutateur et le proxy du Mac. Être root dans la VM ne permet pas de l'atteindre.

Refus par défaut

Les machines OpenShell n'autorisent que ce que nomme la politique. Le pare-feu peut lui aussi fonctionner sur liste blanche.

Quarantaine en millisecondes

Nouvelles destinations et pics sortants coupent le réseau et mettent la VM en pause jusqu'à votre décision.

Chaque connexion expliquée

La network lineage relie chaque flux au prompt, à l'appel d'outil et au processus qui l'a créé.

Ce qu'il faut faire cette semaine

Si vous faites tourner des agents contre quoi que ce soit, qu'il s'agisse de benchmarks de sécurité, d'outils de red team ou d'agents de code qui testent contre la préproduction :

  • Notez les hôtes dont une exécution a besoin, et appliquez cette liste à un endroit que l'agent ne peut pas modifier. Une règle dans le conteneur ou dans la configuration de l'agent lui-même ne compte pas.
  • Refusez par défaut pour les exécutions d'évaluation. Un benchmark a un ensemble de cibles connu.
  • Alertez sur les nouvelles destinations et les pics de volume par session, et faites en sorte que l'alerte arrête l'exécution au lieu de seulement la journaliser.
  • Conservez un registre par connexion que vous pouvez transmettre à quelqu'un d'autre, rattaché à ce qu'on a demandé à l'agent de faire.

Et du côté de celui qui reçoit le trafic, reprenez la liste de WorkOS : gardez vos outils internes hors de l'Internet public, refusez les identifiants de développement en production, et limitez le débit des API qui renvoient des données clients.

Pour le fonctionnement des politiques OpenShell et de la network lineage dans Bromure, voir Les politiques OpenShell dans Bromure, et le raisonnement derrière chaque connexion. Pour ce qui se passe quand un agent sort de son propre bac à sable, voir Quarante mille dollars par évasion. Les détails sont dans le chapitre Politique du bac à sable du manuel.