Der Benutzer ohne Rechte war root
Am 4. November gab OpenAI bekannt, dass eine Agenten-Pipeline mit seinem kommenden Cyber-Modell in einem einzigen Durchlauf 948 funktionierende Linux-Root-Exploits gebaut hat, für rund 1.279 $ pro Stück, und dass ein Konto mit geringen Rechten auf einem ungepatchten System jetzt als root gelten sollte. Die meisten Coding-Agenten unter Linux werden von einem Benutzerkonto, einer Prozess-Sandbox oder einem Container eingehegt, und alle drei teilen sich den Kernel des Hosts. In Bromure Agentic Coding läuft jeder Agent in einer VM mit eigenem Kernel und hat dort bereits sudo. Root in dieser VM bekommt Platzhalter-Schlüssel, eine Firewall, die er nicht ändern kann, und eine Systemplatte, die auf ein signiertes Image zurückgesetzt wird.
OpenAIs Rat ist unmissverständlich: Ein Konto mit geringen Rechten auf einem System, das nicht vollständig gepatcht ist, „sollte als funktional gleichwertig mit Root-Zugriff betrachtet werden“. Coding-Agenten führen den ganzen Tag Code unter einem Konto mit geringen Rechten aus.
Am 4. November veröffentlichte OpenAI A thousand fewer paths to root, einen Bericht über eine Agenten-Pipeline, die im Linux-Kernel nach Bugs sucht, sie nachweist, Exploits dafür schreibt und die Patches entwirft. The Hacker News berichtete am Tag darauf.
In einem Durchlauf Mitte Oktober hat die Pipeline mit einem kommenden Cyber-Modell:
- 5.034 Audit-Ziele ausgewählt, rund 2,8 Millionen Zeilen oder 7 % des Kernels, weil ein Benutzer mit geringen Rechten sie erreichen kann;
- in 12 Stunden 2.308 mögliche Befunde erzeugt;
- innerhalb von 30 Stunden 1.724 davon in isolierten VMs reproduziert;
- 1.169 funktionierende Exploits zur lokalen Rechteausweitung gebaut, die sich auf 948 verschiedene Bugs zurückführen ließen, nachdem OpenAI je Bug einen Patch geschrieben hatte.
Die Ziele waren VMs mit „einem Standard-Desktop-Betriebssystem, keinem geschwächten Ziel“, mit eingeschaltetem SMEP, SMAP, KASLR und hardened usercopy. Jeder Exploit macht aus einem normalen Benutzer root. Der Durchlauf kostete 1.213.430 $ an API-Guthaben, rund 1.279 $ pro Exploit. Zu den Prämien früherer Pwn2Own- und TyphoonPWN-Wettbewerbe beziffert OpenAI die Ausbeute auf 18,9 bis 66,3 Millionen Dollar.
Im Juli fand GPT-5.6 Sol 166 dieser Bugs im selben Kernel-Zweig. Drei Monate Härtung später fand das neuere Modell 948. Die Agenten entwickelten außerdem mindestens 10 Exploit-Techniken, die externe Kernel-Fachleute noch nicht kannten.
Die Patches brauchen Zeit bis zu den Rechnern
Laut OpenAI haben die Kernel-Maintainer schnell reagiert. Zehn Tage nach dem Scan waren 61 der Bugs upstream gepatcht, für 43 lagen Patches in Staging, und 299 wurden gerade gemeldet und öffentlich diskutiert. OpenAI hat Hunderte Berichte verschickt und schickt den Rest mit Partnern aus seinem Programm Patch the Planet.
Upstream fängt ein Fix erst an. Danach muss er in einen Distributions-Kernel gelangen, installiert und gebootet werden. Bis dahin sagt OpenAIs Bericht, was man über diesen Rechner annehmen muss: Wer dort als normaler Benutzer Code ausführen kann, kann mit genug Aufwand root werden. Der Bericht sagt auch, was hilft: „Defense in depth, using sandboxes and isolation approaches like Firecracker and gVisor are important for limiting the blast radius.“
In einem frühen Durchlauf meldeten die Exploit-Agenten 200 Root-Shells. Als OpenAI nachprüfte, stammten 20 davon von einem anderen, unbekannten Bug als dem, den OpenAI ihnen zugewiesen hatte. Die Agenten hatten ihren eigenen Weg zu root gefunden, und OpenAI baute eine Prüfung dafür ein.
Coding-Agenten sind der normale Benutzer
Ein Coding-Agent führt den ganzen Tag Code aus, den er nicht geschrieben hat.
Er startet npm install samt aller mitgelieferten Installationsskripte,
Testsuiten, Build-Skripte, den Setup-Befehl aus einer README und das
Hilfsprogramm, das eine Webseite empfohlen hat. All das läuft unter dem Konto,
das der Agent nutzt.
Unter Linux hält eines von drei Dingen den Agenten in Schach:
- Ein Benutzerkonto. Der Agent läuft als Sie oder als eigener Benutzer mit geringen Rechten auf einem Entwicklungsrechner oder CI-Runner. Laut OpenAI kann dieser Benutzer auf einem ungepatchten Kernel root werden.
- Eine Prozess-Sandbox. Die in Coding-CLIs eingebauten Sandboxes nutzen unter Linux Kernel-Funktionen wie Namespaces, seccomp und Landlock, um den Agenten einzuzäunen. Der Kernel, der diesen Zaun durchsetzt, ist derselbe Kernel, auf den die Exploits zielen.
- Ein Container. Ein Dev Container oder ein Docker-Container hat ein eigenes Dateisystem, teilt sich aber den Kernel des Hosts. Ein im Container gestarteter Kernel-Exploit wirkt auf dem Host. OpenAIs eigenes Team sagt, es habe beim Härten der Infrastruktur für diese Forschung Schwachstellen in Kata, Moby/Docker und gVisor gefunden und gepatcht.
Auf einem Mac läuft der Agent unter Ihrem Login und hat Ihre Dateien und Ihren SSH-Agenten ganz ohne Exploit.
Kernel-Root auf einem gemeinsam genutzten Linux-Host gibt dem Angreifer jeden Container auf der Maschine, den Docker-Socket, die Cloud-Zugangsdaten in den Home-Verzeichnissen anderer Benutzer, die SSH-Schlüssel, die CI-Secrets und die Logs, in denen Sie nachlesen würden, wie es passiert ist.
Root in Bromure Agentic Coding
Bromure Agentic Coding führt Claude Code, Codex, Grok, Kimi und omp in Ubuntu-24.04-VMs auf Ihrem Mac aus, unter Apples Virtualization.framework. Jede Maschine ist eine eigene VM mit eigenem Kernel, eigenen Platten, eigener MAC-Adresse und eigenem Netzwerk. Das ist die Isolation, die OpenAIs Bericht empfiehlt, in jede Maschine eingebaut, ohne etwas zu konfigurieren.
Der Agent hat schon sudo
In einer Maschine läuft der Agent als ubuntu, ein normaler Benutzer mit
sudo. Er kann per apt install holen, was ein Projekt braucht, Docker
starten und /etc bearbeiten. Bromure hat sich nie auf die Grenze zwischen
Benutzer und root in der VM verlassen, ein Kernel-Exploit verschafft dem
Agenten also nur, was er ohnehin hatte.
Was root von dort aus erreicht, entscheidet der Mac.
Root findet Platzhalter
Beim Start einer Maschine schreibt der Mac ungültige Platzhalter hinein.
ANTHROPIC_API_KEY beginnt mit sk-ant-api03-brm-, und
~/.git-credentials, ~/.docker/config.json und ~/.kube/config enthalten
Fälschungen, die wie die echten aussehen. Die echten Werte liegen
verschlüsselt auf dem Mac, mit einem Hauptschlüssel im macOS-Schlüsselbund,
und im Speicher eines Proxys auf dem Mac. Der Proxy tauscht eine Fälschung nur
dann gegen den echten Wert, wenn die Anfrage an den Host geht, zu dem dieser
Zugangsschlüssel gehört.
Root kann jede Datei und den Speicher jedes Prozesses im Gast lesen und geht trotzdem nur mit Fälschungen davon. Schickt der Angreifer eine davon an seinen eigenen Server, sieht der Kompromittierungsdetektor einen Zugangsschlüssel, der an einen Host geht, für den er nicht ausgestellt wurde. Der Proxy blockiert die Anfrage mit HTTP 451 und pausiert die VM. Eine Warnung mit dem Titel This environment may have been compromised nennt den Zugangsschlüssel, seinen echten Host und den Host, an den er geschickt wurde. Shut down ist die Standardantwort.
Root kann die Firewall nicht ändern
Auf einem gemeinsam genutzten Host schreibt root iptables um und öffnet
jeden Tunnel, den er will. Die Firewall Outbound connections einer
Bromure-Maschine liegt im Bereich Guardrails auf dem Mac, und der Mac
setzt sie zweimal durch: Der virtuelle Netzwerk-Switch der VM prüft jede
Verbindung nach Ziel-IP und nach dem im DNS gesehenen Hostnamen, für jedes
Protokoll, und der Proxy prüft HTTPS noch einmal anhand des TLS-Servernamens.
Steht Unmatched traffic auf Deny, erreicht die Maschine die Hosts, die
Sie eingetragen haben, und sonst nichts:
allow web anthropic.com
allow web github.com
allow web registry.npmjs.org
allow web pypi.org
default deny
Root im Gast kann iptables in der VM leeren, und der Mac setzt seine eigenen
Regeln weiter durch. Der Mac verweigert eine Reverse Shell zum Server des
Angreifers und protokolliert eine rote „deny“-Zeile in der Security
Timeline.
Der Exploit muss durch den Proxy
Auf einer Coding-Maschine kommt ein Kernel-Exploit meist in einem Paket. Bromure prüft jeden Paket-Download auf dem Mac, bevor ein einziges Byte die VM erreicht. Eine Alterssperre blendet Versionen aus, die jünger als die Grenze sind, sodass der Agent nie ein Release sieht, das heute Morgen gekapert wurde. OSV markiert Versionen mit bekannten Advisories. socket.dev und Depi markieren Malware und Typosquats. npm-Installationsskripte lassen sich entfernen, bevor der Tarball ankommt. Die Richtlinie liegt auf dem Host, root im Gast kann sie also nicht lockern, und jeder Download wird in der Security Timeline festgehalten.
Container laufen auf dem Kernel der Maschine
Docker in einer Bromure-Maschine läuft auf dem Kernel dieser Maschine. Ein Agent, der aus einem Container ausbricht, landet in derselben VM, in der er angefangen hat, mit denselben Platzhaltern. Bromures Kubernetes-Cluster laufen in eigenen Node-VMs, und die Container-Registry bekommt eine eigene kleine VM, also teilen sich auch eine Cluster-Workload und der Agent, der sie bereitgestellt hat, keinen Kernel.
Was root ändert, fliegt raus
Eine Root-Kompromittierung hinterlässt meist etwas: ein verändertes Binary in
/usr, eine neue Unit unter /etc, einen Cron-Eintrag. Eine Bromure-Maschine
hält all das auf ihrer Systemplatte, einem APFS-Copy-on-Write-Klon eines
signierten Basis-Images. Reset disk klont sie neu aus dem aktuellen
Basis-Image und lässt Ihren Home-Ordner unberührt. Für das, was der Angreifer
im Home hinterlassen hat, legt Bromure bei jedem Start einen Checkpoint an,
und Rewind home… stellt das Home so wieder her, wie es bei einem früheren
Start war. Schlägt der Kompromittierungsdetektor an, markiert Bromure die
Maschine als kompromittiert und startet sie erst wieder, wenn Sie Platte und
Home gelöscht haben. Bromure behält Ihre Tokens, SSH-Schlüssel und
Einstellungen. Save for Investigation exportiert vorher Platte und Home,
wenn Sie sehen wollen, was der Exploit getan hat.
Patchen ist eine Abfrage pro Maschine
OpenAIs Bericht endet damit, Software aktuell zu halten. Bromure
veröffentlicht seine vorgefertigten Basis-Images jede Woche neu, mit frischen
Ubuntu-Paketen. Ist eine neue Basisversion installiert, fragt jede Maschine
beim nächsten Start: A newer base image is available. Yes, upgrade
setzt die Systemplatte auf die neue Basis und behält alles in /home/ubuntu.
Sie bekommen einen neuen Kernel auf jeder Agenten-Maschine, ohne eine
Entwicklungsumgebung neu aufzubauen.
Ein eigener Kernel
Jede Maschine ist eine VM unter Virtualization.framework. Ein Kernel-Exploit wird root in dieser VM und kommt nicht weiter.
Nichts, was root mitnehmen kann
Die Schlüssel in der VM sind Platzhalter. Ein Platzhalter, der an den falschen Host geht, bekommt eine 451, und die VM pausiert.
Regeln, die root nicht ändern kann
Firewall und Paketprüfungen laufen auf dem Mac, am Netzwerk-Switch und im Proxy. Nichts in der VM kann sie bearbeiten.
Ein bekannter Zustand auf Abruf
Reset disk klont das signierte Basis-Image neu. Rewind home stellt das Home von einem früheren Start wieder her.
Was diese Woche zu tun ist
OpenAIs Ergebnisse gelten für jeden Linux-Rechner, den ein Agent berührt:
- Behandeln Sie jeden Linux-Host, auf dem ein Agent Code ausführt, als einen Exploit von root entfernt, und patchen und rebooten Sie diese Kernel zuerst.
- Setzen Sie keinen Agenten in einen Container auf einem Host, der etwas Schützenswertes enthält: Cloud-Schlüssel, CI-Secrets, Workloads anderer Teams.
- Halten Sie echte Zugangsdaten aus jeder Umgebung heraus, die der Agent lesen kann. Ein Kernel-Exploit liest alles darin.
- Setzen Sie Egress-Regeln dort durch, wo der root des Agenten nicht hinkommt.
Bromure Agentic Coding erledigt die letzten drei auf jeder Maschine und macht aus dem ersten eine Abfrage pro Maschine. Der Agent kann in seiner VM root haben, während Ihr Mac die Schlüssel, die Regeln und das Protokoll hält.
Zur Browser-Seite derselben Geschichte über KI-Exploits siehe Das Laden der Seite genügte. Warum eine VM-Grenze für Coding-Agenten mehr taugt als eine Sandbox, lesen Sie in Warum Bromure Agentic Coding keine Sandbox ist.