← Zurück zu allen Beiträgen
Veröffentlicht am · von Renaud Deraison

Der Prompt hatte noch andere Leser

Dragos hat zwei Millionen KI-Prompts mit Köder-Zugangsdaten versehen und beobachtet, wer sie benutzt. Mindestens drei Inferenzanbieter waren seit Monaten kompromittiert, Wiederverkäufer protokollierten den Datenverkehr, und Datenschutz-Flags haben nichts davon verhindert. OpenRouter hat am 22. November drei Anbieter entfernt. Ein Coding-Agent schickt alles, was er liest, an sein Modell. In Bromure Agentic Coding liest er Platzhalter, also enthält ein gestohlener Prompt nichts Brauchbares.

Zwischen Agent und Modell durchläuft ein Prompt Router, Eingangstore, Inferenzserver und Log-Speicher. Dragos hat an jeder dieser Stellen Diebe gefunden. Alles, was der Agent gelesen hatte, reiste mit dem Prompt.

Stellen Sie sich eine Debugging-Sitzung an einem Dienstagnachmittag vor. Ein Test schlägt mit einem AWS-Fehler fehl, und der Agent führt cat .env aus, um die Region zu prüfen. Die Datei enthält den Zugriffsschlüssel, das Secret, ein Datenbankpasswort und ein Hugging Face-Token. All das landet in der nächsten Anfrage an das Modell, denn so funktioniert ein Agent. Die Anfrage geht an den Anbieter, den der Router in dieser Minute gewählt hat, vielleicht einen, der ein Open-Weight-Modell zum halben Preis anbietet. Der Entwickler bekommt seine Antwort und arbeitet weiter.

Laut einer Studie, die Dragos diese Woche veröffentlicht hat, hätte eine solche Anfrage am Eingangstor des Anbieters kopiert, von einem kompromittierten Inferenzserver mitgelesen, Tage später von einem Modelllabor abgegriffen oder von einem Wiederverkäufer protokolliert werden können, der einen billigen Endpunkt über einen privaten Internetanschluss betrieb. In jedem dieser Fälle musste der Angreifer nichts weiter tun, als sie zu lesen.

Zwei Millionen Prompts mit Stolperdrähten

Am 19. November veröffentlichte HD Moore, Chief Research Officer von Dragos, die Ergebnisse eines fünfmonatigen Experiments. Von Juli bis November schickte das Team rund zwei Millionen Prompts an populäre KI-Dienste. Jeder Prompt trug eindeutige Canaries, auch Stolperdrähte genannt: gefälschte Daten, die niemand aus legitimem Grund benutzt, sodass jede Verwendung beweist, dass jemand den Prompt gelesen hat. Ausgelegt wurden Weblinks, DNS-Namen, Git-Repository-URLs, SSH-Passwörter und echte AWS-Schlüssel, die an leere, vollständig protokollierte Konten gebunden waren. Jeder Canary ließ sich auf genau den Prompt, das Modell, den Router und die Datenschutzeinstellung zurückführen, mit denen er unterwegs war.

Was zurückkam:

  • Drei Hosting-Anbieter waren kompromittiert, und keiner wusste davon. Die früheste Kompromittierung begann Mitte Juli. Im größten Fall erbeutete der Angreifer einige hundert AWS-Schlüssel, die jeweils in einer einzigen Anfrage in kurzen Zeitfenstern Ende Oktober gesendet worden waren. Einige stammten aus Anfragen, die der Anbieter abgelehnt hatte, bevor überhaupt ein Modell lief. Kopiert wurde also am Eingangstor, vor jeder Prüfung.
  • Die Schlüssel wurden schnell benutzt. Manche wurden binnen Stunden getestet. Ein am 21. Oktober ausgelegter Schlüssel wurde am nächsten Tag benutzt und war drei Wochen später noch in Gebrauch. Der Angreifer listete S3-Buckets auf, durchsuchte Secrets Manager und Parameter Store, erstellte Bedrock-API-Schlüssel und legte IAM-Benutzer an, um den Zugang zu halten, insgesamt Zehntausende AWS-Aufrufe. Am
    1. November zog er ARTEX hinzu, ein KI-gesteuertes Penetrationstest-Framework, um zu prüfen, welche Schlüssel noch funktionierten.
  • Wiederverkäufer protokollierten, was durchlief. Auf einem Inferenz-Marktplatz boten Verkäufer Modelle zum niedrigsten Preis an, schalteten die Anfrageprotokollierung ein und warteten. Eine Person versuchte von Hand SSH-Root-Logins mit Passwörtern aus Prompts und testete dann AWS-Schlüssel vom selben Rechner aus. Ein Router leitete einen Teil seines Datenverkehrs an diesen Marktplatz weiter, ohne seine Kunden zu informieren.
  • Datenschutz-Flags hielten nicht. Die Systeme eines chinesischen KI-Labors riefen die geheimen Links aus mehr als der Hälfte der an seine Modelle gesendeten Prompts ab, darunter etwa zwei Drittel der Anfragen, die als „keine Datenerfassung“ oder Zero Data Retention (ZDR) markiert waren. Ein Git-Client versuchte, in diesen Prompts erwähnte private Repositorys zu klonen. Ein großer US-Anbieter rief einen Link noch zwei Monate nach einer einzigen Anfrage ab.

Moores Zusammenfassung des Agentenproblems passt in eine Zeile: „KI-Agenten schicken bereitwillig alles, was sie lesen können, einschließlich Zugangsdaten.“

Ein Prompt, viele Leser (Dragos, Juli bis November 2026)Coding-Agentführte cat .env aus,die Anfrage enthält:AKIA… + secretDB_PASSWORD=…HF_TOKEN=hf_…Routerwählt pro Anfrageeinen AnbieterEingangstorAPI-Endpunktdes AnbietersInferenz-serverführt Modell ausGespeich.StichprobenLogs, TestsetsHändler-Marktplatzein Router leiteteVerkehr dorthin; dieVerkäufer loggten allesBeim Eingang kopierteinige hundert AWS-Schlüssel, sogar ausabgelehnten AnfragenLive mitgelesenPhala: Angreiferhielt die VM,21.10. bis 8.11.GeladenTogether: offendurch ein Token,das KI committeteDann werden die Schlüssel benutzt.AWS-Schlüssel binnen Stunden getestet, Bedrock-Keys und IAM-Benutzer angelegt. SSH-Root-Logins mit Prompt-Passwörtern. Ein Labor griff 2/3 der ZDR-Prompts ab.
Wo die Canaries von Dragos gelesen wurden. Ein Prompt kann einen Router, das Eingangstor eines Anbieters, einen Inferenzserver und einen Log-Speicher durchlaufen, bevor er ein Modell erreicht, und an jeder Station gab es einen Leser. Datenschutz-Flags wie ZDR binden nur die erste Station, und ein Angreifer, der schon drin ist, ignoriert sie.

Die Berichte der Anbieter

Die Anbieter haben begonnen, es zu bestätigen. Der vorläufige Bericht von Phala besagt, dass ein Angreifer die Kontrolle über eine Inferenz-VM übernahm, die DeepSeek V4 Flash 0731 bereitstellte, und Anfragedaten während der Verarbeitung einsehen konnte. Die Empfehlung: jede zwischen dem 21. Oktober und dem 8. November an dieses Modell gesendete Anfrage als offengelegt betrachten und „alle API-Schlüssel, Tokens, Passwörter oder anderen Secrets rotieren, die in diesen Anfragen enthalten waren“. Canary-Tests bestätigten den Missbrauch von Zugangsdaten, die am 21. und 22. Oktober gesendet wurden.

Die Mitteilung von Together AI, veröffentlicht am 21. November, beschreibt einen anderen Weg hinein. Prompt-Stichproben aus Anfragen von Juni und Juli an MiniMax M3, GLM-5.2 und Kimi K2.6 lagen in einem privaten Hugging Face-Repository, das für Tests diente. Dann „committete ein KI-Coding-Agent Zugangsdaten, die Zugriff auf das private Hugging Face-Repository gewährten“, in ein öffentliches GitHub-Repository. Der Scanner von Together erkannte den Commit und machte ihn rückgängig, doch jemand nutzte die Zugangsdaten während des Expositionsfensters, lud die Stichproben herunter, durchsuchte sie nach Zugangsdaten für andere Dienste und testete diese. Fünf der ausprobierten Zugangsdaten waren Canaries von Dragos.

Am 22. November entfernte OpenRouter drei Anbieter und nahm 125 Endpunkte von seiner ZDR-Liste, bis zu einer erneuten Prüfung. Laut OpenRouter zeigen die Ergebnisse keine Kompromittierung von OpenRouter selbst. The Hacker News bietet eine vollständige Übersicht.

Zwei Fehler wiederholen sich in diesen Berichten. Ein Secret gelangte in den Prompt, weil der Agent es lesen konnte. Und im Fall von Together gelangte ein Secret in ein öffentliches Repository, weil der Agent es lesen und pushen konnte.

Warum ein Datenschutz-Flag das nicht lösen kann

Die Empfehlungen von Dragos sind vernünftig: wenn möglich selbst hosten, direkt zu einem erstrangigen Anbieter gehen, die Upstreams des Routers selbst auswählen, Canaries auslegen, Secret-Filterung einschalten. Jede davon verkürzt die Liste der Leser. Der Prompt enthält trotzdem alles, was der Agent gelesen hat. Zu ZDR äußert sich Moore unverblümt: „Ein Datenschutz-Flag hilft nicht, wenn der Angreifer schon drin ist.“

Secret-Filterung ist ein Mustervergleich auf dem Weg nach draußen. Sie erkennt AKIA… und ghp_… und übersieht ein Passwort ohne Präfix, genau die Art, die der Leser auf dem Marktplatz gegen SSH ausprobierte. Ein Coding-Agent ist dafür gebaut, Dateien, Umgebungsvariablen und Befehlsausgaben zu lesen und das Gelesene in die nächste Anfrage zu packen. Um zu ändern, was der Prompt enthält, müssen Sie ändern, was der Agent lesen kann.

Dieselbe Sitzung in Bromure Agentic Coding

Bromure Agentic Coding führt Claude Code, Codex, Grok, Kimi und omp in Ubuntu-VMs auf Ihrem Mac aus, eine VM pro Maschine. Jede HTTPS-Anfrage der VM läuft über einen Proxy auf dem Mac, und dieser Proxy ist der einzige Ort, an dem Ihre echten Zugangsdaten existieren.

Die .env, die der Agent liest, enthält Platzhalter

Import env file… im Bereich Credentials der Maschine liest die .env Ihres Projekts. Bekannte Namen wie AWS_ACCESS_KEY_ID, GH_TOKEN oder ANTHROPIC_API_KEY ordnet es dem passenden Zugangsdatentyp zu, den Rest, etwa dieses HF_TOKEN, macht es zu Other API keys, beschränkt auf den Host, den Sie angeben, hier huggingface.co. Jeder Eintrag wird in der VM unter seinem üblichen Variablennamen exportiert und enthält eine Fälschung in der Form des echten Werts: ghp_ plus 36 Zeichen für GitHub, brm_… für ein generisches Token, brm-db-… für ein Datenbank-Secret. Der Proxy setzt den echten Wert nur in Anfragen ein, die an den eigenen Host des Zugangsdatums gehen.

Wenn der Agent also cat .env oder printenv ausführt, enthält die Unterhaltung, die er an das Modell schickt, Fälschungen. Jeder Leser auf der Karte von Dragos bekommt eine Kopie des Prompts und nichts, was er nutzen kann. Eine Fälschung, die vom Server eines Angreifers aus wiederverwendet wird, läuft nie über den Proxy Ihres Macs. Sie erreicht die echte API als Fälschung und scheitert an der Authentifizierung.

Der AWS-Schlüssel im Prompt kann nichts signieren

Der Dieb am Eingangstor nahm AWS-Schlüssel, und an AWS lässt sich die Grenze gut zeigen. In einer Bromure-VM verweist ~/.aws/config auf ein Hilfsprogramm, das Ihre echte Access-Key-ID zusammen mit einem gefälschten Secret ausgibt. Jedes SDK und die aws-CLI signieren Anfragen mit diesem gefälschten Secret. Auf dem Mac entfernt der Proxy die Signatur und signiert mit dem echten Secret neu, bevor die Anfrage hinausgeht. Wer das Paar aus einem Prompt fischt, erhält als Secret nur die Fälschung. AWS beantwortet jeden damit signierten Aufruf mit InvalidSignatureException. Das S3-Listing, die Suche in Secrets Manager, die neuen Bedrock-Schlüssel und IAM-Benutzer in den Logs von Dragos brauchten alle dieses Secret.

Bei SSH ist es genauso. Die Bytes des privaten Schlüssels gelangen nie in die VM. Der Gast kann den Mac um eine Signatur bitten, den Schlüssel aber nicht lesen, also enthält kein Transkript jemals einen.

Auch personenbezogene Daten bekommen Platzhalter

Die Canaries von Dragos waren Zugangsdaten und Links, doch die Prompts, in denen sie reisten, enthalten auch alles, was der Agent aus einer Kundentabelle oder einem Support-Export gelesen hat. Dafür ist PII Protection zuständig. Bevor eine Anfrage zum Modellanbieter geht, findet der Proxy mit einem Modell auf dem Gerät Namen, E-Mail-Adressen, Telefonnummern, Kartennummern, amtliche Ausweisnummern und Adresszeilen und ersetzt jeden Wert durch einen realistischen Platzhalter. Die Antwort erhält die echten Werte zurück, bevor der Agent sie sieht. Der Anbieter und jeder, der seinen Datenverkehr mitliest, sieht @example.com-Adressen und Testkartennummern. Jede Ersetzung wird in der Security Timeline mit dem Zielhost gezählt, die Werte selbst werden nie protokolliert.

Dieselbe Sitzung in Bromure Agentic CodingBromure-VM$ cat .envAWS: echte Key-ID + falsches SecretDB_PASSWORD= brm-db-…HF_TOKEN= brm_…Private SSH-Keys: nicht in der VM.Der Prompt des Agenten enthältnur, was er las: Platzhalter.Proxy auf Ihrem MacPII ProtectionNamen, E-Mails, Karten, IDs werdenzu Platzhaltern vor dem ModellAustausch der Zugangsdatenechter Wert nur in Anfragen anden eigenen Host; AWS wird hiermit dem echten Secret neu signiertEchte Secrets: nur hier, verschlüsselt.Jede KI-Anfrage wird am Mac erfasst.Route zum Cloud-ModellRouter, Eingangstor, Inferenz-server, Log-SpeicherEin Leser bekommt PlatzhalterAWS: InvalidSignatureExceptionandere APIs lehnen Fälschung ab;kein Passwort für SSH-VersucheAuf dem Gerät oder eigener ServerMLX-Modell auf der Mac-GPU oder vLLMim eigenen Netz: kein fremder LeserDer Weg von Together, in einer Bromure-MaschineDer Agent committet HF_TOKEN. Was er committet, ist brm_…, das nur über den Proxy Ihres Macs funktioniert, zu huggingface.co.Der git push selbst wartet auf dem Mac auf Freigabe, gemäß der Standardrichtlinie Prompt before write für GitHub.Wer das öffentliche Repo klont, bekommt eine Fälschung. Der Prompt-Speicher bleibt zu.
Dieselbe Debugging-Sitzung in einer Bromure-Maschine. Der Agent liest Platzhalter aus der .env, also enthält der Prompt Platzhalter, und PII Protection ersetzt personenbezogene Daten, bevor die Anfrage den Mac verlässt. Ein Leser an jeder Station bekommt Fälschungen, die upstream scheitern. Echte Secrets werden nur auf dem Mac und nur für ihren eigenen Host eingesetzt, und ein Modell auf dem Gerät hält den Prompt ganz auf dem Mac.

Der Commit enthält eine Fälschung, und der Push wartet

Das Leck bei Together hatte zwei Schritte: Ein Coding-Agent besaß echte Hugging Face-Zugangsdaten, und er pushte sie in ein öffentliches Repository. In einer Bromure-Maschine gelingt keiner der beiden.

Das Token, das der Agent sehen kann, ist der Platzhalter brm_…, also enthält ein Commit den Platzhalter. Wer ihn von GitHub abgreift, hat eine Zeichenkette, die nur im Proxy Ihres Macs zu einem echten Token wird, bei einer Anfrage an huggingface.co aus Ihrer VM. Vom eigenen Rechner aus lehnt Hugging Face sie ab.

Bevor der Commit irgendwohin geht, hält der Push selbst an der Schreibrichtlinie der Guardrails an. Neue Maschinen stehen für GitHub, GitLab und Bitbucket standardmäßig auf Prompt before write: Lesezugriffe gehen durch, und jeder Schreibzugriff, git push eingeschlossen, wartet auf einen Dialog auf dem Mac, der den Vorgang benennt. Die Richtlinie läuft im Proxy, außerhalb der VM, sodass ein Agent sie nicht abschalten kann. Ein unerwarteter Push in ein öffentliches Repository wird zu einer Frage, die Sie beantworten, bevor der Commit veröffentlicht ist.

Hätte doch jemand ein echtes Token in eine Datei der VM kopiert, meldet der Proxy nicht ersetzte, echt aussehende Zugangsdaten in ausgehenden Headern: Werte mit bekannten Präfixen wie sk-ant-, ghp_ oder AKIA sowie lange undurchsichtige Tokens. Sie erscheinen unter Leaks only im Trace Inspector und in bromure-cli trace leaks. Der Strict credential mode, ebenfalls unter Guardrails, blockiert alle Zugangsdaten, die Bromure nicht selbst ausgegeben hat.

Sie entscheiden, wer den Prompt liest

Die erste Empfehlung von Dragos lautet, selbst zu hosten. Die Preisliste beginnt mit einem Mac Studio mit 512 GB Arbeitsspeicher. Das Models-Board von Bromure hat einen On-device-Anbieter, der Open-Weight-Coding-Modelle mit Apples MLX auf der GPU des Macs ausführt, ohne dass etwas installiert werden muss, und jeder Agent kann eines davon wählen. Ein auf dem Gerät bedienter Turn verlässt den Mac nie. Ein Custom server-Eintrag richtet Agenten auf einen beliebigen OpenAI-kompatiblen Server in Ihrem Netzwerk aus, etwa vLLM, Ollama oder LM Studio, sodass ein Team sich einen GPU-Rechner teilen kann, den es selbst kontrolliert.

Wenn Sie doch ein Cloud-Modell nutzen, wählen Sie im Models-Board auch die Route. Sie können jeden Agenten auf einen erstrangigen Anbieter richten, mit dessen eigener Anmeldung oder eigenem API-Schlüssel, was die zweite Empfehlung von Dragos ist. Auch dieser Schlüssel gelangt nie in die VM. Ein Router wie OpenRouter steht bereit, wenn Sie ihn wollen, als Entscheidung, die Sie pro Agent treffen.

Wenn ein Anbieter sagt: „Rotieren Sie, was Sie gesendet haben“

Phala bittet seine Kunden, jedes Secret zu rotieren, das in Anfragen an ein Modell zwischen dem 21. Oktober und dem 8. November enthalten war. Die meisten Teams können nicht sagen, welche Secrets das waren, weil niemand festgehalten hat, was ihre Agenten gesendet haben.

Bromure hält das auf Ihrem Mac fest. Auf der Standardstufe AI request details speichert der Proxy jeden Austausch mit einem bekannten Modell-Host, verschlüsselt mit einem Schlüssel in Ihrem Anmeldeschlüsselbund. Der Trace Inspector filtert nach Host und nach Conversations only, und bromure-cli trace hostnames listet jeden Host auf, den eine Maschine kontaktiert hat. Sie können die Anfragen aus dem Expositionsfenster öffnen und Anfrage für Anfrage lesen, was hinausging. In einer Bromure-Maschine waren das Platzhalter.

Der Agent liest Fälschungen

Importierte .env-Werte, Konfigurationsdateien und Umgebungsvariablen enthalten Platzhalter. Echte Secrets werden auf dem Mac eingesetzt, nur für ihren eigenen Host.

Gestohlene Prompts öffnen nichts

Eine Fälschung aus einem Prompt scheitert upstream. Eine erbeutete AWS-Access-Key-ID kommt mit einem gefälschten Secret, also wird jede Signatur abgelehnt.

Pushes warten auf Sie

Prompt before write hält jeden git push zur Freigabe an, durchgesetzt im Proxy. Ein committetes Token ist ohnehin ein Platzhalter.

Sie wählen den Leser

Modelle auf dem Gerät halten den Prompt auf dem Mac. Cloud-Routen wählen Sie pro Agent, und der Mac protokolliert jede Anfrage.

Was Sie diese Woche tun sollten

  • Wenn Sie zwischen dem 21. Oktober und dem 8. November Anfragen über Phala an DeepSeek V4 Flash 0731 gesendet haben, folgen Sie den Hinweisen von Phala und rotieren Sie jedes Secret, das diese Anfragen enthalten haben könnten.
  • Wenn Sie im Juni oder Juli MiniMax M3, GLM-5.2 oder Kimi K2.6 serverless bei Together AI genutzt haben, lesen Sie die Mitteilung von Together und schalten Sie ZDR in Ihren Kontoeinstellungen ein.
  • Wenn Sie über OpenRouter routen und sich auf ZDR verlassen, prüfen Sie, ob Ihre Endpunkte zu den 125 entfernten gehören.
  • Gehen Sie davon aus, dass jedes Secret, das ein Agent gelesen hat, an jede Station zwischen ihm und dem Modell ging. Rotieren Sie langlebige Schlüssel, die in einer .env lagen, die ein Agent öffnen konnte.
  • Nehmen Sie artex-agent und artex-judge-r121 in Ihre CloudTrail-Erkennungen auf, wie Dragos vorschlägt.

Bringen Sie die Secrets danach dauerhaft außer Reichweite des Agenten. Importieren Sie die .env in eine Bromure-Maschine, lassen Sie GitHub auf Prompt before write und richten Sie die Agenten auf den Anbieter Ihrer Wahl aus. Die Leitungsgrenze, das AWS-Neusignieren und der .env-Import werden in Credentials & the Wire Boundary beschrieben, personenbezogene Daten in PII Protection, Modelle auf dem Gerät und eigene Server in Models & Providers und die lokale Aufzeichnung in Tracing & Audit.