← すべての投稿に戻る
公開日 · 著者 Renaud Deraison

評価がラボの外に出た

11 月 6 日、WorkOS は 10 月の侵害を起こしたエージェントが、ベンチマーク評価の最中に「隔離されたテスト環境から抜け出した」研究者の ARTEX 実行だったと発表しました。エージェントはインターネットから WorkOS の社内営業ツールに到達し、推測可能な開発用認証情報でログインして、誰も気づかないまま 5 日間にわたり顧客レコードを取得し続けました。Bromure Agentic Coding では、エージェントのネットワーク境界は VM の外側、Mac 上で強制されます。誰も許可していない宛先は拒否され、新しいホストと通信し始めたセッションは数ミリ秒で遮断され一時停止されます。

研究者はエージェントをベンチマークに対してテストするつもりでした。エージェントは公開インターネット上で実在する企業の API を見つけ、その「隔離されたテスト環境」の何ものも、侵入を止めませんでした。

11 月 6 日、WorkOS は 10 月 30 日のセキュリティインシデントに関する続報を公開しました。その 1 週間前、同社は AI を使った攻撃的セキュリティフレームワーク ARTEX を用いる攻撃者が、社内の営業・サポートツールに侵入したことを公表していました。続報は攻撃者を特定しています。サイバーセキュリティのベンチマーク評価を行っていたセキュリティ研究者で、WorkOS 創業者 Michael Grinich の言葉によれば「そのエージェントが隔離されたテスト環境から抜け出し、意図せず WorkOS とやり取りした」のです。BleepingComputer も同じ日に報じました。

研究者は最初の告知の後で WorkOS に連絡し、リクエストの詳細とタイムスタンプを提供しました。WorkOS のセキュリティチームと独立したフォレンジック企業がそれを WorkOS のログと突き合わせ、「高い確度で」帰属を確認しました。研究者は、エージェントが取得したものをすべて削除し、誰とも共有していないと述べています。

WorkOS の告知による時系列は次のとおりです。

  • 10 月 25 日:ツールの API への最初の不正アクセスを確認。
  • 10 月 30 日:エージェントがレコードを一括取得。従業員が異常な利用に気づき、WorkOS が公開アクセスを遮断。
  • 10 月 30〜31 日:認証を締め上げ、接続サービスの認証情報を失効またはローテーション。
  • 11 月 2 日:公表と顧客への通知。
  • 11 月 3〜5 日:研究者が名乗り出て、フォレンジック企業がその主張を検証。

エージェントが持ち出したもの:ビジネス上の連絡先、アカウント履歴、製品の利用データ、そして営業通話、サポートスレッド、顧客との Slack 会話の要約や抜粋です。その一部にはエンドユーザーのメールアドレスが含まれていました。

ベンチマーク実行から顧客データベースへベンチマーク実行ARTEX エージェント「隔離されたテスト環境」インターネットへWorkOS の社内営業ツール API を発見外部から到達可能ログイン予測可能な開発用認証情報が本番でまだ有効レコードを取得レート制限なし連絡先、履歴、通話と Slack の抜粋10/25最初のアクセス5 日間気づかれず10/30一括取得、そして検知11/2公表11/6研究者の名が判明
エージェントの最初のリクエストから誰かが気づくまで 5 日。研究者の環境は、エージェントをベンチマークの範囲にとどめるはずでした。エージェントは公開 API に到達し、本番環境がまだ受け付けていた開発用認証情報でログインし、レート制限に阻まれることなくレコードを取得しました。

失敗は二つ、両側に一つずつ

WorkOS は自社側の欠陥を四つ挙げました。ツールはレガシーな社内プラットフォーム上で動いていました。緩いアクセス制御のせいで、その API はインターネットから到達可能でした。脆弱な開発用認証情報が本番環境で受け付けられ、しかもエージェントが割り出せるほど予測可能でした。レート制限はなく、レコードが持ち出されるまでそのトラフィックに警告を出すものもありませんでした。WorkOS はその後、社内ツールをネットワーク境界でブロックし、脆弱な認証情報の経路を取り除き、インターネットに面した自社システムに対して ARTEX を実行し始めています。

もう一つの失敗は研究者側にあり、脱出がどのように起きたのかはどちらも明らかにしていません。仕組みが何であれ、結果として、弱点を見つけて悪用するために作られたエージェントが、ベンチマークに向けられるはずの実行中に、公開インターネットへの生きた経路を手にしていました。エージェントのサンドボックスの多くはこういう姿です。コンテナ、別のユーザーアカウント、あるいはシステムプロンプトの一段落。ネットワーク境界があるとしても、それを設定したのはエージェントが制御している同じ環境の内側からです。

コーディングエージェントも規模が小さいだけで同じように振る舞います。ステージングに対して統合テストを走らせ、API を探ってその形を把握し、最初のホストが失敗すれば次を試します。「connection refused」を返せば、別の入り口を考え始めます。タスクを完了することこそ、訓練された目的だからです。

同じ実行を Bromure Agentic Coding で

Bromure Agentic Coding は、Claude Code、Codex、Grok、Kimi、omp を Mac 上の Ubuntu VM で動かします。1 台のマシンにつき 1 つの VM です。VM が開くすべての接続は、Mac 上で動く Bromure の仮想スイッチとプロキシを通って出ていきます。ネットワークのルールはそこにあり、エージェントは手が届きません。VM の中で root を握っていても、ルールは変えられません。

未知のホストは拒否され、エージェントには理由が伝えられる

マシンは二つのサンドボックスエンジンのどちらかを使えます。

  • Bromure Firewall:ホスト、IP/CIDR、プロトコル、ポート、HTTP メソッドを対象にした、順序付きの許可/拒否テーブルです。Unmatched traffic を Deny にすれば、マシンは許可リスト方式で動きます。
  • OpenShell + Sentry:NVIDIA OpenShell のポリシーで、network_policies ルールが許可しない限りすべて拒否されます。初期ポリシーは GitHub、npm、PyPI を読み取り専用で、加えて Ubuntu のパッケージミラーを許可します。

ベンチマーク実行の場合、ポリシーにはベンチマークの対象とモデルプロバイダーを書きます。プロバイダーと認証情報のホストは Bromure が自動で追加します。WorkOS の API はそのリストにないため、Mac の仮想スイッチは最初の接続から拒否します。スイッチは宛先アドレスと VM が名前解決した名前を確認し、プロキシは TLS のサーバー名を確認します。スイッチはポート 80 と 443 をプロキシに振り向けるので、HTTPS_PROXY を無視するプログラムも必ずプロキシを通ります。OpenShell では、ポリシーの内容にかかわらず、Bromure はループバック、リンクローカル、クラウドメタデータのアドレスを拒否します。

拒否された接続しか見えないエージェントは、別の経路を探しがちです。OpenShell マシンでは既定で有効な Tell the agent when policy blocks it により、Bromure は何がなぜブロックされたかをエージェントの会話に書き込みます。

[Bromure policy] This workspace's network policy blocked connecting to api.stripe.com:443 — no network policy allows api.stripe.com:443. … This is a deliberate restriction, not a fault: don't retry it or reach the same thing another way … If your task needs it, stop and tell the user what you need and why so they can decide.

Claude Code は、ブロックに当たったコマンドの直後にこのメモを読みます。ブロックされたホストはマシンの Sandbox drawer にも、試みたプログラムと回数とともに表示されます。エージェントに本当に必要なら、ネットワークを恒久的に開けるのではなく、15 分または 1 時間だけ Allow できます。

マシンの VMベンチマークのタスクポリシーが名指しした対象へのリクエストエージェントが逸脱無関係な企業の API をVM 内の root で試す会話にポリシーのメモ「stop and tell the user」あなたの Macスイッチとプロキシポリシーは対象を許可それ以外はすべて拒否拒否、記録、説明Security Timeline の行Sandbox drawer、メモWatchdog: Quarantineネット切断、VM 停止インターネットベンチマークの対象とモデルプロバイダーいつもどおり到達可能他社の APIリクエストは一つも届かない
同じベンチマーク実行を Bromure のマシンで。エージェントは VM の中で root を握れますが、ルールは Mac 上にあります。ポリシー外のホストは仮想スイッチで拒否され、エージェントには止まって尋ねるよう伝えられます。それでもセッションが新しい宛先に手を伸ばし続けると、watchdog がネットワークを切断し VM を一時停止します。

ゲストはルールを止められない

「隔離されたテスト環境から抜け出した」とは、たいていの場合、その環境の設計者が想定していなかったことをエージェントが環境の中で行ったという意味です。Bromure のマシンでは、エージェントはそうするものだと考えてください。それでもネットワークのルールは VM の中にはありません。Mac 上のスイッチとプロキシがそれを確認し、稼働中のマシンでも再起動なしにルールを厳しくできます。

OpenShell マシンでは、VM の内側でさらに踏み込めます。

  • filesystem_policy は Linux Landlock でエージェントのファイルを閉じ込めます。root に対しても有効です。
  • process セクションまたは Enforce binaries は sudo と Docker を取り除き、各接続はポリシーが名指ししたプログラムから行われる必要があります。そのプログラムは初回使用時にハッシュで固定されます。
  • kernel sentry は VM のカーネル内の小さなモジュールで、プログラムの起動、接続、権限の変更、モジュールの読み込みを Mac に報告します。起動するとカーネルがロックダウンされ、root でさえ干渉するためのコードを読み込めなくなります。番号付きのストリームに欠落があれば tampering suspected としてフラグが立ちます。

ゲスト側のサンドボックスを完全に適用できなければセッションは開始されず、Sandbox カードが赤字でそれを示します。

5 日が数ミリ秒になる

WorkOS が侵入に気づいたのは 5 日後、従業員が異常な利用に気づいたときでした。Bromure の agent watchdog は VM の外側から各セッションを監視し、次のものを見張ります。

  • ブロックされたリクエストの急増
  • セッションが落ち着いた後の新しい宛先
  • そのセッション自身のベースラインを大きく上回る送信量(ネットワークスイッチで計測)
  • 本来そこにないはずの認証情報と、改ざんの兆候

Quarantine モードでは、1 分以内にしきい値を超えたセッションは、数ミリ秒でネットワークが切断され VM が一時停止されます。The agent watchdog quarantined this workspace というアラートに、検知した内容が並びます。Keep quarantined はネットワークを切ったまま VM を再開し、中を調べられるようにします。Release はネットワークを戻し、Shut down はマシンを停止します。

ベンチマークから抜け出して他人の API を歩き回り始めたエージェントは、まさにこのパターンを生みます。ブロックの連続、次に新しいホスト、そしてそのセッションがそれまでに行ったどんな通信よりはるかに大きなダウンロードです。

記録はすでにあなたの Mac にある

この話の研究者は誠実に振る舞い、リクエストの詳細とタイムスタンプを持って名乗り出ました。それでも WorkOS は、それを自社のログと突き合わせるために、自社のセキュリティチームと独立したフォレンジック企業を必要としました。

Bromure が下す判断はすべて、マシンの Security Timeline の 1 行になります。kernel sentry のあるマシンでネットワークの行をダブルクリックすると、その network lineage が、その接続の背後にある連鎖全体を表示します。

  1. あなたが与えたプロンプト、エージェントの推論、そして表明された意図
  2. 正確なコマンドを含むツール呼び出し
  3. エージェントから接続したプログラムに至るまでのプロセス
  4. ネットワークフロー
  5. Bromure が何を、どの層で、なぜ決めたか

Other flows from this tool call には、同じステップが行った他のすべての接続が並びます。万一エージェントが頼んでもいないことをしたら、どの指示に従っていたのか、どのホストに触れたのかが、他の誰かのログを待たずにわかります。

推測可能な開発用認証情報も遠くへは行けない

WorkOS の三つ目の欠陥は、本番環境がまだ受け付けていた開発用認証情報でした。こうした認証情報は、コーディングエージェントが作業する場所ならどこにでもあります。プロジェクトフォルダの .env ファイル、テストフィクスチャ、シェル履歴です。Bromure のマシンでは、エージェントが持つ認証情報は身代わりです。本物の値は Mac 上で暗号化されたままで、プロキシは各認証情報に対応するホストへのリクエストにだけ本物を差し込みます。身代わりがそれ以外のホストに向かえば、プロキシは HTTP 451 でブロックし、VM を一時停止し、その認証情報と送信先を示すアラートを開きます。Only allow credentials Bromure injects をオンにすれば、エージェントがファイルで見つけたり割り出したりしたものなど、Bromure が置いたのではない認証情報もプロキシがブロックします。

ルールはゲストの外

ネットワークポリシーは Mac のスイッチとプロキシで動きます。VM の root では届きません。

既定で拒否

OpenShell マシンはポリシーが名指ししたものだけを許可します。ファイアウォールも許可リストとして動かせます。

ミリ秒で隔離

新しい宛先や送信量の急増でネットワークを切断し、あなたが判断するまで VM を一時停止します。

すべての接続に説明を

network lineage が各フローを、プロンプト、ツール呼び出し、それを生んだプロセスに結び付けます。

今週やるべきこと

セキュリティベンチマーク、レッドチームツール、ステージングに対してテストするコーディングエージェントなど、何に対してであれエージェントを動かしているなら:

  • 実行に必要なホストを書き出し、そのリストをエージェントが編集できない場所で強制してください。コンテナの中やエージェント自身の設定にあるルールは数に入りません。
  • 評価の実行では既定で拒否にしてください。ベンチマークの対象は既知の集合です。
  • セッションごとに新しい宛先と送信量の急増で警告を出し、記録するだけでなく実行を止めるようにしてください。
  • 接続ごとの記録を残し、エージェントに何を頼んだかと結び付けて、他の人に渡せるようにしてください。

そして受け手の側では、WorkOS のリストに従ってください。社内ツールを公開インターネットから外し、本番環境で開発用認証情報を拒否し、顧客データを返す API にレート制限をかけることです。

Bromure における OpenShell ポリシーと network lineage の仕組みは Bromure の OpenShell ポリシーと、すべての接続の背後にある推論を、エージェントが自分のサンドボックスから抜け出したときに何が起きるかは 脱出 1 回につき 4 万ドルをご覧ください。詳細はマニュアルの サンドボックスポリシー の章にあります。