プロンプトにはほかの読み手がいた
Dragos は 200 万件の AI プロンプトにおとりの認証情報を仕込み、誰がそれを使うかを観察した。少なくとも 3 社の推論プロバイダーが何か月も侵害されたままで、再販業者はトラフィックを記録し、プライバシーフラグはそのどれも止めなかった。OpenRouter は 11 月 22 日に 3 社のプロバイダーを外した。コーディングエージェントは、読んだものをすべてモデルに送る。Bromure Agentic Coding では、エージェントが読むのは身代わりの値なので、盗まれたプロンプトには使えるものが何も入っていない。
エージェントとモデルのあいだで、プロンプトはルーター、玄関口、推論サーバー、ログストアを通る。Dragos はそのすべてに盗み手を見つけた。エージェントが読んだものは、すべてプロンプトと一緒に運ばれていた。
火曜日の午後のデバッグ作業を思い浮かべてほしい。テストが AWS のエラーで失敗し、エージェントはリージョンを確かめるために cat .env を実行する。ファイルにはアクセスキー、シークレット、データベースのパスワード、Hugging Face のトークンが入っている。そのすべてがモデルへの次のリクエストに含まれる。エージェントとはそういうものだからだ。リクエストは、ルーターがその瞬間に選んだプロバイダーに届く。オープンウェイトのモデルを半額で提供しているプロバイダーかもしれない。開発者は答えを受け取り、作業に戻る。
Dragos が今週公開した調査によれば、こうしたリクエストは、プロバイダーの玄関口でコピーされたり、侵害された推論サーバー上で読まれたり、数日後にモデル開発元に収集されたり、家庭用回線から安いエンドポイントを運営する再販業者にログとして残されたりした可能性がある。どの場合も、攻撃者はそれを読む以外に何もする必要がなかった。
罠を仕込んだ 200 万件のプロンプト
11 月 19 日、Dragos の最高研究責任者 HD Moore が 5 か月にわたる実験の結果を公開した。7 月から 11 月にかけて、チームは人気の AI サービスに約 200 万件のプロンプトを送った。各プロンプトには固有のカナリア、別名トリップワイヤーが含まれていた。誰も正当な理由で使うことのない偽のデータで、使われた時点で誰かがプロンプトを読んだ証拠になる。仕込んだのはウェブリンク、DNS 名、git リポジトリの URL、SSH パスワード、そして空の、すべてがログに記録されるアカウントに紐づいた本物の AWS キーだ。どのカナリアも、それを運んだプロンプト、モデル、ルーター、プライバシー設定まで正確にたどれた。
返ってきたもの:
- 3 社のホスティングプロバイダーが侵害されており、どこもそれに気づいていなかった。 最も早い侵害は 7 月中旬に始まっていた。最大の事例では、攻撃者は 200 件ほどの AWS キーを手に入れた。いずれも 10 月下旬の短い時間帯に 1 回のリクエストで送られたものだ。中には、モデルが動く前にプロバイダーが拒否したリクエストからのものもあった。つまりコピーは玄関口で、あらゆるチェックの前に行われていた。
- キーはすぐに使われた。 数時間以内に試されたものもある。10 月 21 日に仕込んだあるキーは翌日に使われ、3 週間後もまだ使われていた。攻撃者は S3 バケットを列挙し、Secrets Manager と Parameter Store を探り、Bedrock の API キーを作り、アクセスを維持するために IAM ユーザーを追加した。AWS への呼び出しは合計で数万回に及んだ。11 月 1 日には、AI 駆動のペネトレーションテストフレームワーク ARTEX を持ち込み、どのキーがまだ有効かを確かめた。
- 再販業者は通過するものを記録していた。 ある推論マーケットプレイスでは、出品者が最安値でモデルを出し、リクエストのログ記録をオンにして待っていた。ある人物はプロンプトから取ったパスワードで SSH の root ログインを手作業で試し、同じマシンから AWS キーを試した。あるルーターは、トラフィックの一部を顧客に知らせずにそのマーケットプレイスへ流していた。
- プライバシーフラグは守られなかった。 ある中国の AI ラボのシステムは、そのモデルに送られたプロンプトの半分以上から秘密のリンクを取得した。その中には「データ収集なし」またはゼロデータ保持 (ZDR) と指定されたリクエストの約 3 分の 2 も含まれていた。ある git クライアントは、それらのプロンプトに書かれた非公開リポジトリをクローンしようとした。ある米国の大手プロバイダーは、1 回のリクエストから 2 か月後もまだリンクをクロールしていた。
Moore はエージェントの問題を 1 行でまとめている。「AI エージェントは、読めるものなら認証情報も含めて何でも喜んで送る」
プロバイダー側の報告
プロバイダーも認め始めている。Phala の暫定報告によれば、攻撃者は DeepSeek V4 Flash 0731 を提供する推論 VM を乗っ取り、処理中のリクエストデータを見ることができた。Phala の助言は、10 月 21 日から 11 月 8 日までにこのモデルへ送られたすべてのリクエストを漏えいしたものとして扱い、「それらのリクエストに含まれていた API キー、トークン、パスワード、その他のシークレットをすべてローテーションする」ことだ。カナリアのテストで、10 月 21 日と 22 日に送られた認証情報の悪用が確認された。
11 月 21 日に公開された Together AI の告知は、別の侵入経路を説明している。6 月と 7 月に MiniMax M3、GLM-5.2、Kimi K2.6 へ送られたリクエストのプロンプトサンプルが、テスト用の非公開 Hugging Face リポジトリに置かれていた。そして「AI コーディングエージェントが、その非公開 Hugging Face リポジトリにアクセスできる認証情報をコミットした」。コミット先は公開の GitHub リポジトリだった。Together のスキャナーがコミットを検知して取り消したが、露出していた間に誰かがその認証情報を使い、サンプルをダウンロードし、ほかのサービスの認証情報を探して試した。試された認証情報のうち 5 件は Dragos のカナリアだった。
11 月 22 日、OpenRouter は検証が済むまで 3 社のプロバイダーを外し、125 のエンドポイントを ZDR リストから外した。調査結果は OpenRouter 自体の侵害を示していない、としている。The Hacker News に全体のまとめがある。
これらの報告には 2 つの失敗が繰り返し現れる。シークレットがプロンプトに入ったのは、エージェントがそれを読めたからだ。そして Together の場合、シークレットが公開リポジトリに入ったのは、エージェントがそれを読めて、しかもプッシュできたからだ。
プライバシーフラグでは解決できない理由
Dragos の推奨は筋が通っている。可能ならセルフホストする。一次プロバイダーに直接つなぐ。ルーターの上流は自分で選ぶ。カナリアを仕込む。シークレットのフィルタリングを有効にする。どれも読み手のリストを短くする。それでもプロンプトには、エージェントが読んだものが入っている。ZDR について Moore は率直だ。「攻撃者がすでに内部にいるなら、プライバシーフラグは役に立たない」
シークレットのフィルタリングは、出口でのパターンマッチだ。AKIA… や ghp_… は捕まえるが、接頭辞のないパスワードは見逃す。マーケットプレイスの読み手が SSH で試したのは、まさにそういうパスワードだった。コーディングエージェントは、ファイル、環境変数、コマンドの出力を読み、読んだものを次のリクエストに入れるように作られている。プロンプトの中身を変えるには、エージェントが読めるものを変えるしかない。
Bromure Agentic Coding での同じ作業
Bromure Agentic Coding は、Claude Code、Codex、Grok、Kimi、omp を Mac 上の Ubuntu VM で動かす。マシン 1 台につき VM が 1 つだ。VM が送る HTTPS リクエストはすべて Mac 上のプロキシを通り、本物の認証情報が存在するのはそのプロキシの中だけだ。
エージェントが読む .env には身代わりが入っている
マシンの Credentials ペインにある Import env file… は、プロジェクトの .env を読み込む。AWS_ACCESS_KEY_ID、GH_TOKEN、ANTHROPIC_API_KEY など認識できる名前は適切な認証情報の種類に割り当て、残り、たとえば先ほどの HF_TOKEN は、指定したホスト (ここでは huggingface.co) に限定した Other API keys にする。それぞれが VM 内でいつもの変数名のままエクスポートされ、中身は本物と同じ形をした偽物だ。GitHub なら ghp_ に 36 文字、汎用トークンなら brm_…、データベースのシークレットなら brm-db-… になる。プロキシが本物の値に差し替えるのは、その認証情報自身のホストに向かうリクエストだけだ。
だからエージェントが cat .env や printenv を実行しても、モデルに送られる会話には偽物しか入らない。Dragos の地図にいるどの読み手も、プロンプトのコピーを手に入れるが、使えるものは何もない。攻撃者のサーバーから再送された偽物は、あなたの Mac のプロキシを一度も通らないので、偽物のまま本物の API に届き、認証に失敗する。
プロンプトに入った AWS キーでは何も署名できない
玄関口の盗み手は AWS キーを持ち去った。境界の仕組みは AWS がいちばんわかりやすい。Bromure の VM では、~/.aws/config がヘルパーを指しており、ヘルパーは本物のアクセスキー ID と偽のシークレットの組を渡す。すべての SDK と aws CLI は、その偽のシークレットでリクエストに署名する。Mac 上のプロキシはリクエストが出ていく前に署名を取り除き、本物のシークレットで署名し直す。プロンプトからこの組を抜き取っても、手に入るシークレットは偽物だけだ。それで署名した呼び出しには、AWS はすべて InvalidSignatureException を返す。Dragos のログにあった S3 の列挙、Secrets Manager の探索、新しい Bedrock キーや IAM ユーザーは、どれもそのシークレットを必要としていた。
SSH も同じだ。秘密鍵のバイト列は VM に入らない。ゲストは Mac に署名を頼めるが、鍵そのものは読めない。だから、どのトランスクリプトにも鍵が含まれることはない。
個人データにも身代わりを
Dragos のカナリアは認証情報とリンクだったが、それを運んだプロンプトには、エージェントが顧客テーブルやサポートのエクスポートから読んだものも入る。その部分を受け持つのが PII Protection だ。リクエストがモデルプロバイダーへ出ていく前に、プロキシはデバイス上のモデルを使って氏名、メールアドレス、電話番号、カード番号、公的な身分証番号、住所を見つけ、それぞれをもっともらしい身代わりに置き換える。応答は、エージェントが見る前に本物の値に戻される。プロバイダーも、そのトラフィックを読む誰かも、目にするのは @example.com のアドレスとテスト用のカード番号だ。置き換えは宛先ホストとともに Security Timeline に件数として記録され、値そのものは決してログに残らない。
コミットには偽物が入り、プッシュは待たされる
Together の漏えいは 2 段階だった。コーディングエージェントが本物の Hugging Face の認証情報を持っていたこと、そしてそれを公開リポジトリにプッシュしたことだ。Bromure のマシンでは、どちらの段階も成立しない。
エージェントに見えるトークンは身代わりの brm_… なので、コミットに入るのも身代わりだ。GitHub からそれを拾った人が手にするのは、あなたの Mac のプロキシの中で、あなたの VM から huggingface.co へのリクエストに対してだけ本物のトークンになる文字列だ。その人のマシンから使えば、Hugging Face は拒否する。
コミットがどこかへ出る前に、プッシュそのものが Guardrails の書き込みポリシーで止まる。新しいマシンでは、GitHub、GitLab、Bitbucket に対して Prompt before write が既定だ。読み取りは通り、git push を含むすべての書き込みは、操作の内容を示すダイアログが Mac に出るまで待たされる。ポリシーは VM の外、プロキシの中で動くので、エージェントには無効にできない。公開リポジトリへの思いがけないプッシュは、コミットが公開される前にあなたが答える質問になる。
それでも誰かが本物のトークンを VM 内のファイルに貼り付けた場合、プロキシは送信ヘッダー内の差し替えられていない本物らしい認証情報にフラグを立てる。sk-ant-、ghp_、AKIA などの既知の接頭辞を持つ値や、長い不透明なトークンだ。それらは Trace Inspector の Leaks only と bromure-cli trace leaks に表示される。同じく Guardrails にある Strict credential mode は、Bromure 自身が発行していない認証情報をすべてブロックする。
プロンプトを読む相手は自分で選ぶ
Dragos の第一の推奨はセルフホストだ。その価格表は、512 GB のメモリを積んだ Mac Studio から始まっている。Bromure の Models ボードには On-device プロバイダーがあり、Apple の MLX を使って Mac の GPU でオープンウェイトのコーディングモデルを動かす。インストールは不要で、どのエージェントでも選べる。デバイス上で処理されたターンは Mac から出ない。Custom server エントリを使えば、vLLM、Ollama、LM Studio など、ネットワーク上の任意の OpenAI 互換サーバーにエージェントを向けられるので、チームは自分たちで管理する GPU マシンを共有できる。
クラウドのモデルを使う場合も、経路を選ぶのは Models ボードだ。各エージェントを一次プロバイダーに、そのプロバイダー自身のサインインまたは API キーで向けられる。これが Dragos の第二の推奨だ。そのキーも VM には入らない。OpenRouter のようなルーターも、使いたいときにエージェントごとの選択として使える。
プロバイダーに「送ったものをローテーションせよ」と言われたら
Phala は顧客に、10 月 21 日から 11 月 8 日までに特定のモデルへ送ったリクエストに含まれるすべてのシークレットをローテーションするよう求めている。ほとんどのチームは、それがどのシークレットだったのか答えられない。エージェントが何を送ったか、誰も記録していないからだ。
Bromure はその記録を Mac に残す。既定の AI request details レベルでは、プロキシは既知のモデルホストとのやり取りをすべて、ログインキーチェーン内の鍵で暗号化して保存する。Trace Inspector はホストや Conversations only で絞り込め、bromure-cli trace hostnames は各マシンが接続したホストを一覧にする。露出期間のリクエストを開き、何が出ていったかを 1 件ずつ読める。Bromure のマシンなら、出ていったのは身代わりだ。
エージェントが読むのは偽物
インポートした .env の値、設定ファイル、環境変数には身代わりが入っている。本物のシークレットは Mac の上で、その認証情報自身のホストに向かうときだけ加わる。
盗まれたプロンプトでは何も開かない
プロンプトから取った偽物は上流で失敗する。抜き取られた AWS のアクセスキー ID には偽のシークレットが付いているので、どの署名も拒否される。
プッシュはあなたを待つ
Prompt before write は、すべての git push を承認まで止める。強制するのはプロキシだ。そもそもコミットされたトークンは身代わりだ。
読み手はあなたが選ぶ
デバイス上のモデルなら、プロンプトは Mac にとどまる。クラウドの経路はエージェントごとに選び、Mac はすべてのリクエストのトレースを残す。
今週やるべきこと
- 10 月 21 日から 11 月 8 日までに Phala 経由で DeepSeek V4 Flash 0731 にリクエストを送った場合は、Phala の案内に従い、それらのリクエストに含まれていた可能性のあるシークレットをローテーションする。
- 6 月か 7 月に Together AI のサーバーレスで MiniMax M3、GLM-5.2、Kimi K2.6 を使った場合は、Together の告知を読み、アカウント設定で ZDR を有効にする。
- OpenRouter 経由でルーティングし、ZDR に頼っている場合は、自分のエンドポイントが外された 125 件に含まれていないか確認する。
- エージェントが読んだシークレットは、エージェントとモデルのあいだのすべてのホップに渡ったと考える。エージェントが開ける
.envに置かれていた長期間有効なキーはローテーションする。 - Dragos の提案どおり、
artex-agentとartex-judge-r121を CloudTrail の検知に加える。
そのうえで、シークレットをエージェントの手の届かない場所へ移し、二度と戻さない。.env を Bromure のマシンにインポートし、GitHub は Prompt before write のままにして、エージェントを自分で選んだプロバイダーに向ける。ワイヤー境界、AWS の再署名、.env のインポートについては Credentials & the Wire Boundary、個人データについては PII Protection、デバイス上のモデルとカスタムサーバーについては Models & Providers、ローカルの記録については Tracing & Audit で説明している。