ローカルモデル

ローカルモデルペインは Mac 自体でコーディングモデルを実行し、ワークスペースのエージェントがクラウドプロバイダーを呼び出す代わりに完全にオンデバイスで応答できるようにします。あるいは、クラウドに到達できないときにのみローカルモデルにフォールバックさせることもできます。重みは Apple MLX ビルドで、推論エンジンはアプリに同梱されているため、モデルをダウンロードする以外にインストールするものは何もありません。

このページの内容にはそれぞれ詳細な解説があります。オンデバイスエンジン、ツール呼び出し修復レイヤー、ハイブリッドフォールバックポリシー、そして bromure-cli model と bromure-cli vm routing コマンドについては、すべてローカルモデルにまとめられています。このページでは設定ペインについて説明します。

デフォルトでは、このペインには ローカルモデルを有効にする という単一のスイッチだけが表示され、それ以外はすべて非表示になっています。オンにすると、以下で説明するルーティングモードとモデルカタログが表示されます。

ローカルモデルを有効にする

クラウドの代わりにこの Mac でコーディングモデルを実行する。 というキャプションが付いたマスタースイッチは、ワークスペースのオンデバイス推論のオン/オフを切り替えます。

オフ（デフォルト） — ワークスペースはエージェントのトラフィックをクラウドにルーティングします。このペインが存在しない場合とまったく同じ動作です。
オン — ルーティングがオンデバイス推論に切り替わり、モードピッカーとモデルリストが表示されます。オンにすると、モードはデフォルトで ローカル になります。

これがオンの間、ワークスペースのエージェントは LLM トラフィックをローカルエンジン経由で実行するため、有効化することで有効なすべてのエージェントの認証モードが ローカルモデル に固定されます。オフに戻すと、各エージェントの以前のモードが復元されます。エージェントペインを手動で操作する必要はありません。

ルーティングモード

ローカルモデルが有効になっている場合、ラジオボタンでワークスペースがそれらをどのように使用するかを選択します。2 つの行にはペイン自身のフッターの説明が記載されています。

モード	動作
ローカル — 常にオンデバイス	すべてのリクエストがこの Mac 上に留まり、何もマシンの外に出ません。応答はプライベートですが低速で、メモリに収まるモデルによって制約されます。
ハイブリッド — クラウド、ローカルにフォールバック	リクエストは通常どおりクラウドに送られ、クラウドに到達できないときにのみオンデバイスモデルにフォールバックします。クラウドの速度と品質に、ローカルのセーフティネットを備えています。

ハイブリッドのより細かい調整項目 — ローリングのクラウドトークン予算、最初のトークンまでの時間の期限、能動的なローカル/クラウドの分割 — は、このペインではなくコマンドライン（bromure-cli vm hybrid …）から調整します。これらはローカルモデルに記載されています。

モデルカタログ

モードピッカーの下には、モデル · N GB ユニファイドメモリ という見出しのリストがあります。N は Mac のユニファイドメモリです。各行は 1 つの厳選された MLX モデルを説明しています。

アクティブモデルのラジオ — 塗りつぶされたドットは、このワークスペースが提供する単一のモデルを示します。ここで選択すると、有効なエージェントも ローカルモデル 認証に切り替わります。
ティアバッジ — 小さな S / M / L / XL のサイズクラスです。
フィットバッジ — モデルが Mac のメモリに対してどう収まるかを示します。収まる（緑 — 十分な余裕がある）、ぎりぎり（オレンジ — ほとんど余裕なくロードされる）、収まらない（グレーアウト。行は無効化され選択できません）。ペインのフッターにも記載されています。グレーアウトされたモデルは、この Mac が持つよりも多くのメモリを必要とします。
ダウンロードサイズ — ディスク上の重みのサイズ（GB）です。
tools シール — ツール呼び出しがエージェント用途で検証済みのモデルに付くチェックマークバッジです。

各行の末尾のコントロールは、そのダウンロード状態を反映します。

状態	コントロール
未ダウンロード	ダウンロードボタン（モデルが収まらない場合は無効）。
ダウンロード中	バイトラベルと停止（✕）ボタンが付いたプログレスバー。
中断（取得の途中でアプリが終了された）	中断、再開ボタンと破棄（ゴミ箱）ボタン。
失敗	再試行ボタン（ホバーするとエラーメッセージが表示されます）。
インストール済み	インストール済み、削除を提供するメニュー付き。

メモ: ダウンロードは即座かつグローバルです。ここで取得したモデルは共有ストレージに保存され、このワークスペースだけでなくすべてのワークスペースで利用可能になります。対照的に、ルーティングモードとアクティブモデルの選択はワークスペースごとであり、保存をクリックしたときにのみ有効になります。

合計メモリの警告

このワークスペースが選択したローカルモデル — アクティブモデルに加えて、ローカルモデル 認証に設定された任意のエージェント、および任意の Fusion のローカルレッグやジャッジ — は 1 つのエンジンで並列にロードされるため、そのメモリ要件は合計されます。それらが Mac の RAM に近づくと、リストの上に警告が表示されます。ホストのメモリに近い場合は オレンジ、超える場合は赤です。合計でどれだけ必要かを示し、いずれかを外すか、より小さいモデルを選ぶことを提案します。

設定リファレンス

設定	説明
ローカルモデルを有効にする	オンデバイス推論のマスタースイッチ。オンにするとルーティングがローカルに設定され、オフにするとクラウドが復元されます。デフォルト: オフ（クラウド）。
モード	ラジオ: ローカル — 常にオンデバイス / ハイブリッド — クラウド、ローカルにフォールバック。デフォルト: 有効時はローカル。
アクティブモデル	行ごとのラジオドット。ワークスペースが提供する 1 つのモデル。デフォルト: なし — 最初にダウンロードしたモデルが自動的に選択されます。
ダウンロード / インストール済み / 削除	モデルごとのアクション。即座かつグローバル（ワークスペース間で共有）で、保存トランザクションの一部ではありません。