Der Prompt hatte noch andere Leser
Dragos hat zwei Millionen KI-Prompts mit Köder-Zugangsdaten versehen und beobachtet, wer sie benutzt. Mindestens drei Inferenzanbieter waren seit Monaten kompromittiert, Wiederverkäufer protokollierten den Datenverkehr, und Datenschutz-Flags haben nichts davon verhindert. OpenRouter hat am 22. November drei Anbieter entfernt. Ein Coding-Agent schickt alles, was er liest, an sein Modell. In Bromure Agentic Coding liest er Platzhalter, also enthält ein gestohlener Prompt nichts Brauchbares.
Zwischen Agent und Modell durchläuft ein Prompt Router, Eingangstore, Inferenzserver und Log-Speicher. Dragos hat an jeder dieser Stellen Diebe gefunden. Alles, was der Agent gelesen hatte, reiste mit dem Prompt.
Stellen Sie sich eine Debugging-Sitzung an einem Dienstagnachmittag
vor. Ein Test schlägt mit einem AWS-Fehler fehl, und der Agent führt
cat .env aus, um die Region zu prüfen. Die Datei enthält den
Zugriffsschlüssel, das Secret, ein Datenbankpasswort und ein Hugging
Face-Token. All das landet in der nächsten Anfrage an das Modell, denn
so funktioniert ein Agent. Die Anfrage geht an den Anbieter, den der
Router in dieser Minute gewählt hat, vielleicht einen, der ein
Open-Weight-Modell zum halben Preis anbietet. Der Entwickler bekommt
seine Antwort und arbeitet weiter.
Laut einer Studie, die Dragos diese Woche veröffentlicht hat, hätte eine solche Anfrage am Eingangstor des Anbieters kopiert, von einem kompromittierten Inferenzserver mitgelesen, Tage später von einem Modelllabor abgegriffen oder von einem Wiederverkäufer protokolliert werden können, der einen billigen Endpunkt über einen privaten Internetanschluss betrieb. In jedem dieser Fälle musste der Angreifer nichts weiter tun, als sie zu lesen.
Zwei Millionen Prompts mit Stolperdrähten
Am 19. November veröffentlichte HD Moore, Chief Research Officer von Dragos, die Ergebnisse eines fünfmonatigen Experiments. Von Juli bis November schickte das Team rund zwei Millionen Prompts an populäre KI-Dienste. Jeder Prompt trug eindeutige Canaries, auch Stolperdrähte genannt: gefälschte Daten, die niemand aus legitimem Grund benutzt, sodass jede Verwendung beweist, dass jemand den Prompt gelesen hat. Ausgelegt wurden Weblinks, DNS-Namen, Git-Repository-URLs, SSH-Passwörter und echte AWS-Schlüssel, die an leere, vollständig protokollierte Konten gebunden waren. Jeder Canary ließ sich auf genau den Prompt, das Modell, den Router und die Datenschutzeinstellung zurückführen, mit denen er unterwegs war.
Was zurückkam:
- Drei Hosting-Anbieter waren kompromittiert, und keiner wusste davon. Die früheste Kompromittierung begann Mitte Juli. Im größten Fall erbeutete der Angreifer einige hundert AWS-Schlüssel, die jeweils in einer einzigen Anfrage in kurzen Zeitfenstern Ende Oktober gesendet worden waren. Einige stammten aus Anfragen, die der Anbieter abgelehnt hatte, bevor überhaupt ein Modell lief. Kopiert wurde also am Eingangstor, vor jeder Prüfung.
- Die Schlüssel wurden schnell benutzt. Manche wurden binnen
Stunden getestet. Ein am 21. Oktober ausgelegter Schlüssel wurde am
nächsten Tag benutzt und war drei Wochen später noch in Gebrauch. Der
Angreifer listete S3-Buckets auf, durchsuchte Secrets Manager und
Parameter Store, erstellte Bedrock-API-Schlüssel und legte IAM-Benutzer
an, um den Zugang zu halten, insgesamt Zehntausende AWS-Aufrufe. Am
- November zog er ARTEX hinzu, ein KI-gesteuertes Penetrationstest-Framework, um zu prüfen, welche Schlüssel noch funktionierten.
- Wiederverkäufer protokollierten, was durchlief. Auf einem Inferenz-Marktplatz boten Verkäufer Modelle zum niedrigsten Preis an, schalteten die Anfrageprotokollierung ein und warteten. Eine Person versuchte von Hand SSH-Root-Logins mit Passwörtern aus Prompts und testete dann AWS-Schlüssel vom selben Rechner aus. Ein Router leitete einen Teil seines Datenverkehrs an diesen Marktplatz weiter, ohne seine Kunden zu informieren.
- Datenschutz-Flags hielten nicht. Die Systeme eines chinesischen KI-Labors riefen die geheimen Links aus mehr als der Hälfte der an seine Modelle gesendeten Prompts ab, darunter etwa zwei Drittel der Anfragen, die als „keine Datenerfassung“ oder Zero Data Retention (ZDR) markiert waren. Ein Git-Client versuchte, in diesen Prompts erwähnte private Repositorys zu klonen. Ein großer US-Anbieter rief einen Link noch zwei Monate nach einer einzigen Anfrage ab.
Moores Zusammenfassung des Agentenproblems passt in eine Zeile: „KI-Agenten schicken bereitwillig alles, was sie lesen können, einschließlich Zugangsdaten.“
Die Berichte der Anbieter
Die Anbieter haben begonnen, es zu bestätigen. Der vorläufige Bericht von Phala besagt, dass ein Angreifer die Kontrolle über eine Inferenz-VM übernahm, die DeepSeek V4 Flash 0731 bereitstellte, und Anfragedaten während der Verarbeitung einsehen konnte. Die Empfehlung: jede zwischen dem 21. Oktober und dem 8. November an dieses Modell gesendete Anfrage als offengelegt betrachten und „alle API-Schlüssel, Tokens, Passwörter oder anderen Secrets rotieren, die in diesen Anfragen enthalten waren“. Canary-Tests bestätigten den Missbrauch von Zugangsdaten, die am 21. und 22. Oktober gesendet wurden.
Die Mitteilung von Together AI, veröffentlicht am 21. November, beschreibt einen anderen Weg hinein. Prompt-Stichproben aus Anfragen von Juni und Juli an MiniMax M3, GLM-5.2 und Kimi K2.6 lagen in einem privaten Hugging Face-Repository, das für Tests diente. Dann „committete ein KI-Coding-Agent Zugangsdaten, die Zugriff auf das private Hugging Face-Repository gewährten“, in ein öffentliches GitHub-Repository. Der Scanner von Together erkannte den Commit und machte ihn rückgängig, doch jemand nutzte die Zugangsdaten während des Expositionsfensters, lud die Stichproben herunter, durchsuchte sie nach Zugangsdaten für andere Dienste und testete diese. Fünf der ausprobierten Zugangsdaten waren Canaries von Dragos.
Am 22. November entfernte OpenRouter drei Anbieter und nahm 125 Endpunkte von seiner ZDR-Liste, bis zu einer erneuten Prüfung. Laut OpenRouter zeigen die Ergebnisse keine Kompromittierung von OpenRouter selbst. The Hacker News bietet eine vollständige Übersicht.
Zwei Fehler wiederholen sich in diesen Berichten. Ein Secret gelangte in den Prompt, weil der Agent es lesen konnte. Und im Fall von Together gelangte ein Secret in ein öffentliches Repository, weil der Agent es lesen und pushen konnte.
Warum ein Datenschutz-Flag das nicht lösen kann
Die Empfehlungen von Dragos sind vernünftig: wenn möglich selbst hosten, direkt zu einem erstrangigen Anbieter gehen, die Upstreams des Routers selbst auswählen, Canaries auslegen, Secret-Filterung einschalten. Jede davon verkürzt die Liste der Leser. Der Prompt enthält trotzdem alles, was der Agent gelesen hat. Zu ZDR äußert sich Moore unverblümt: „Ein Datenschutz-Flag hilft nicht, wenn der Angreifer schon drin ist.“
Secret-Filterung ist ein Mustervergleich auf dem Weg nach draußen. Sie
erkennt AKIA… und ghp_… und übersieht ein Passwort ohne Präfix,
genau die Art, die der Leser auf dem Marktplatz gegen SSH ausprobierte.
Ein Coding-Agent ist dafür gebaut, Dateien, Umgebungsvariablen und
Befehlsausgaben zu lesen und das Gelesene in die nächste Anfrage zu
packen. Um zu ändern, was der Prompt enthält, müssen Sie ändern, was
der Agent lesen kann.
Dieselbe Sitzung in Bromure Agentic Coding
Bromure Agentic Coding führt Claude Code, Codex, Grok, Kimi und omp in Ubuntu-VMs auf Ihrem Mac aus, eine VM pro Maschine. Jede HTTPS-Anfrage der VM läuft über einen Proxy auf dem Mac, und dieser Proxy ist der einzige Ort, an dem Ihre echten Zugangsdaten existieren.
Die .env, die der Agent liest, enthält Platzhalter
Import env file… im Bereich Credentials der Maschine liest die
.env Ihres Projekts. Bekannte Namen wie AWS_ACCESS_KEY_ID,
GH_TOKEN oder ANTHROPIC_API_KEY ordnet es dem passenden
Zugangsdatentyp zu, den Rest, etwa dieses HF_TOKEN, macht es zu
Other API keys, beschränkt auf den Host, den Sie angeben, hier
huggingface.co. Jeder Eintrag wird in der VM unter seinem üblichen
Variablennamen exportiert und enthält eine Fälschung in der Form des
echten Werts: ghp_ plus 36 Zeichen für GitHub, brm_… für ein
generisches Token, brm-db-… für ein Datenbank-Secret. Der Proxy setzt
den echten Wert nur in Anfragen ein, die an den eigenen Host des
Zugangsdatums gehen.
Wenn der Agent also cat .env oder printenv ausführt, enthält die
Unterhaltung, die er an das Modell schickt, Fälschungen. Jeder Leser
auf der Karte von Dragos bekommt eine Kopie des Prompts und nichts, was
er nutzen kann. Eine Fälschung, die vom Server eines Angreifers aus
wiederverwendet wird, läuft nie über den Proxy Ihres Macs. Sie erreicht
die echte API als Fälschung und scheitert an der Authentifizierung.
Der AWS-Schlüssel im Prompt kann nichts signieren
Der Dieb am Eingangstor nahm AWS-Schlüssel, und an AWS lässt sich die
Grenze gut zeigen. In einer Bromure-VM verweist ~/.aws/config auf ein
Hilfsprogramm, das Ihre echte Access-Key-ID zusammen mit einem
gefälschten Secret ausgibt. Jedes SDK und die aws-CLI signieren
Anfragen mit diesem gefälschten Secret. Auf dem Mac entfernt der Proxy
die Signatur und signiert mit dem echten Secret neu, bevor die Anfrage
hinausgeht. Wer das Paar aus einem Prompt fischt, erhält als Secret nur
die Fälschung. AWS beantwortet jeden damit signierten Aufruf mit
InvalidSignatureException. Das S3-Listing, die Suche in Secrets
Manager, die neuen Bedrock-Schlüssel und IAM-Benutzer in den Logs von
Dragos brauchten alle dieses Secret.
Bei SSH ist es genauso. Die Bytes des privaten Schlüssels gelangen nie in die VM. Der Gast kann den Mac um eine Signatur bitten, den Schlüssel aber nicht lesen, also enthält kein Transkript jemals einen.
Auch personenbezogene Daten bekommen Platzhalter
Die Canaries von Dragos waren Zugangsdaten und Links, doch die Prompts,
in denen sie reisten, enthalten auch alles, was der Agent aus einer
Kundentabelle oder einem Support-Export gelesen hat. Dafür ist PII
Protection zuständig. Bevor eine Anfrage zum Modellanbieter geht,
findet der Proxy mit einem Modell auf dem Gerät Namen, E-Mail-Adressen,
Telefonnummern, Kartennummern, amtliche Ausweisnummern und
Adresszeilen und ersetzt jeden Wert durch einen realistischen
Platzhalter. Die Antwort erhält die echten Werte zurück, bevor der Agent
sie sieht. Der Anbieter und jeder, der seinen Datenverkehr mitliest,
sieht @example.com-Adressen und Testkartennummern. Jede Ersetzung wird
in der Security Timeline mit dem Zielhost gezählt, die Werte selbst
werden nie protokolliert.
Der Commit enthält eine Fälschung, und der Push wartet
Das Leck bei Together hatte zwei Schritte: Ein Coding-Agent besaß echte Hugging Face-Zugangsdaten, und er pushte sie in ein öffentliches Repository. In einer Bromure-Maschine gelingt keiner der beiden.
Das Token, das der Agent sehen kann, ist der Platzhalter brm_…, also
enthält ein Commit den Platzhalter. Wer ihn von GitHub abgreift, hat
eine Zeichenkette, die nur im Proxy Ihres Macs zu einem echten Token
wird, bei einer Anfrage an huggingface.co aus Ihrer VM. Vom eigenen
Rechner aus lehnt Hugging Face sie ab.
Bevor der Commit irgendwohin geht, hält der Push selbst an der
Schreibrichtlinie der Guardrails an. Neue Maschinen stehen für
GitHub, GitLab und Bitbucket standardmäßig auf Prompt before write:
Lesezugriffe gehen durch, und jeder Schreibzugriff, git push
eingeschlossen, wartet auf einen Dialog auf dem Mac, der den Vorgang
benennt. Die Richtlinie läuft im Proxy, außerhalb der VM, sodass ein
Agent sie nicht abschalten kann. Ein unerwarteter Push in ein
öffentliches Repository wird zu einer Frage, die Sie beantworten, bevor
der Commit veröffentlicht ist.
Hätte doch jemand ein echtes Token in eine Datei der VM kopiert, meldet
der Proxy nicht ersetzte, echt aussehende Zugangsdaten in ausgehenden
Headern: Werte mit bekannten Präfixen wie sk-ant-, ghp_ oder
AKIA sowie lange undurchsichtige Tokens. Sie erscheinen unter Leaks
only im Trace Inspector und in bromure-cli trace leaks. Der
Strict credential mode, ebenfalls unter Guardrails, blockiert
alle Zugangsdaten, die Bromure nicht selbst ausgegeben hat.
Sie entscheiden, wer den Prompt liest
Die erste Empfehlung von Dragos lautet, selbst zu hosten. Die Preisliste beginnt mit einem Mac Studio mit 512 GB Arbeitsspeicher. Das Models-Board von Bromure hat einen On-device-Anbieter, der Open-Weight-Coding-Modelle mit Apples MLX auf der GPU des Macs ausführt, ohne dass etwas installiert werden muss, und jeder Agent kann eines davon wählen. Ein auf dem Gerät bedienter Turn verlässt den Mac nie. Ein Custom server-Eintrag richtet Agenten auf einen beliebigen OpenAI-kompatiblen Server in Ihrem Netzwerk aus, etwa vLLM, Ollama oder LM Studio, sodass ein Team sich einen GPU-Rechner teilen kann, den es selbst kontrolliert.
Wenn Sie doch ein Cloud-Modell nutzen, wählen Sie im Models-Board auch die Route. Sie können jeden Agenten auf einen erstrangigen Anbieter richten, mit dessen eigener Anmeldung oder eigenem API-Schlüssel, was die zweite Empfehlung von Dragos ist. Auch dieser Schlüssel gelangt nie in die VM. Ein Router wie OpenRouter steht bereit, wenn Sie ihn wollen, als Entscheidung, die Sie pro Agent treffen.
Wenn ein Anbieter sagt: „Rotieren Sie, was Sie gesendet haben“
Phala bittet seine Kunden, jedes Secret zu rotieren, das in Anfragen an ein Modell zwischen dem 21. Oktober und dem 8. November enthalten war. Die meisten Teams können nicht sagen, welche Secrets das waren, weil niemand festgehalten hat, was ihre Agenten gesendet haben.
Bromure hält das auf Ihrem Mac fest. Auf der Standardstufe AI request
details speichert der Proxy jeden Austausch mit einem bekannten
Modell-Host, verschlüsselt mit einem Schlüssel in Ihrem
Anmeldeschlüsselbund. Der Trace Inspector filtert nach Host und nach
Conversations only, und bromure-cli trace hostnames listet jeden
Host auf, den eine Maschine kontaktiert hat. Sie können die Anfragen aus
dem Expositionsfenster öffnen und Anfrage für Anfrage lesen, was
hinausging. In einer Bromure-Maschine waren das Platzhalter.
Der Agent liest Fälschungen
Importierte .env-Werte, Konfigurationsdateien und Umgebungsvariablen enthalten Platzhalter. Echte Secrets werden auf dem Mac eingesetzt, nur für ihren eigenen Host.
Gestohlene Prompts öffnen nichts
Eine Fälschung aus einem Prompt scheitert upstream. Eine erbeutete AWS-Access-Key-ID kommt mit einem gefälschten Secret, also wird jede Signatur abgelehnt.
Pushes warten auf Sie
Prompt before write hält jeden git push zur Freigabe an, durchgesetzt im Proxy. Ein committetes Token ist ohnehin ein Platzhalter.
Sie wählen den Leser
Modelle auf dem Gerät halten den Prompt auf dem Mac. Cloud-Routen wählen Sie pro Agent, und der Mac protokolliert jede Anfrage.
Was Sie diese Woche tun sollten
- Wenn Sie zwischen dem 21. Oktober und dem 8. November Anfragen über Phala an DeepSeek V4 Flash 0731 gesendet haben, folgen Sie den Hinweisen von Phala und rotieren Sie jedes Secret, das diese Anfragen enthalten haben könnten.
- Wenn Sie im Juni oder Juli MiniMax M3, GLM-5.2 oder Kimi K2.6 serverless bei Together AI genutzt haben, lesen Sie die Mitteilung von Together und schalten Sie ZDR in Ihren Kontoeinstellungen ein.
- Wenn Sie über OpenRouter routen und sich auf ZDR verlassen, prüfen Sie, ob Ihre Endpunkte zu den 125 entfernten gehören.
- Gehen Sie davon aus, dass jedes Secret, das ein Agent gelesen hat, an
jede Station zwischen ihm und dem Modell ging. Rotieren Sie
langlebige Schlüssel, die in einer
.envlagen, die ein Agent öffnen konnte. - Nehmen Sie
artex-agentundartex-judge-r121in Ihre CloudTrail-Erkennungen auf, wie Dragos vorschlägt.
Bringen Sie die Secrets danach dauerhaft außer Reichweite des Agenten.
Importieren Sie die .env in eine Bromure-Maschine, lassen Sie GitHub
auf Prompt before write und richten Sie die Agenten auf den
Anbieter Ihrer Wahl aus. Die Leitungsgrenze, das AWS-Neusignieren und
der .env-Import werden in
Credentials & the Wire Boundary
beschrieben, personenbezogene Daten in PII Protection,
Modelle auf dem Gerät und eigene Server in
Models & Providers und die lokale
Aufzeichnung in Tracing & Audit.