Lokale Modelle

Der Bereich Lokale Modelle betreibt ein Coding-Modell auf Ihrem Mac selbst, sodass die Agenten eines Arbeitsbereichs vollständig On-Device antworten können, statt einen Cloud-Anbieter aufzurufen — oder nur dann auf ein lokales Modell zurückgreifen, wenn die Cloud nicht erreichbar ist. Die Gewichte sind Apple-MLX-Builds; die Inferenz-Engine ist in die App eingebettet, sodass Sie außer dem Herunterladen eines Modells nichts installieren müssen.

Alles auf dieser Seite hat eine begleitende Vertiefung: die On-Device-Engine, die Reparaturschicht für Tool-Calls, die hybride Fallback-Richtlinie sowie die Befehle bromure-cli model und bromure-cli vm routing finden Sie vollständig unter Lokale Modelle. Diese Seite dokumentiert den Einstellungsbereich.

Standardmäßig zeigt der Bereich einen einzigen Schalter — Lokale Modelle aktivieren — wobei alles andere ausgeblendet ist. Beim Einschalten werden der Routing-Modus und der unten beschriebene Modellkatalog eingeblendet.

Lokale Modelle aktivieren

Der Hauptschalter mit der Bildunterschrift Ein Coding-Modell auf diesem Mac statt in der Cloud betreiben. ist der Ein/Aus-Schalter des Arbeitsbereichs für On-Device-Inferenz:

Aus (Standard) — der Arbeitsbereich leitet den Agenten-Verkehr in die Cloud, genau so, als gäbe es diesen Bereich nicht.
Ein — das Routing wechselt zur On-Device-Inferenz und die Modusauswahl sowie die Modellliste erscheinen. Beim Einschalten ist der Modus standardmäßig auf Lokal gesetzt.

Da die Agenten des Arbeitsbereichs ihren LLM-Verkehr über die lokale Engine leiten, solange dies aktiviert ist, fixiert die Aktivierung den Auth-Modus jedes aktivierten Agenten auf Lokales Modell, und das Ausschalten stellt den vorherigen Modus jedes Agenten wieder her. Sie müssen den Bereich Agenten nicht von Hand anfassen.

Routing-Modus

Bei aktivierten lokalen Modellen legt eine Auswahl fest, wie der Arbeitsbereich sie nutzt. Die beiden Zeilen tragen die eigenen Fußzeilenbeschreibungen des Bereichs:

Modus	Verhalten
Lokal — immer On-Device	Jede Anfrage bleibt auf diesem Mac — nichts verlässt die Maschine. Antworten sind privat, aber langsamer und durch das Modell begrenzt, das in den Speicher passt.
Hybrid — Cloud, Fallback auf lokal	Anfragen gehen wie üblich in die Cloud und greifen nur dann auf das On-Device-Modell zurück, wenn die Cloud nicht erreichbar ist — Cloud-Geschwindigkeit und -Qualität mit lokalem Sicherheitsnetz.

Die feineren Stellschrauben des Hybrid-Modus — ein rollierendes Cloud-Token-Budget, eine Time-to-First-Token-Frist und eine proaktive Aufteilung zwischen lokal und Cloud — werden über die Kommandozeile (bromure-cli vm hybrid …) statt in diesem Bereich eingestellt. Sie sind unter Lokale Modelle dokumentiert.

Der Modellkatalog

Unterhalb der Modusauswahl ist die Liste mit Modelle · N GB gemeinsamer Speicher überschrieben, wobei N der gemeinsame Speicher Ihres Macs ist. Jede Zeile beschreibt ein kuratiertes MLX-Modell:

Radio für aktives Modell — der gefüllte Punkt markiert das einzige Modell, das dieser Arbeitsbereich bereitstellt. Die Auswahl hier ist auch das, was aktivierte Agenten auf die Auth Lokales Modell umstellt.
Tier-Badge — eine kleine Größenklasse S / M / L / XL.
Fit-Badge — wie das Modell zum Speicher Ihres Macs passt: Passt (grün — komfortabler Spielraum), Knapp (orange — lädt mit wenig Reserve) oder Passt nicht (ausgegraut; die Zeile ist deaktiviert und kann nicht ausgewählt werden). Die Fußzeile des Bereichs wiederholt es: Ausgegraute Modelle benötigen mehr Speicher, als dieser Mac hat.
Downloadgröße — die Gewichtsgröße auf der Festplatte in GB.
tools-Siegel — ein Häkchen-Badge bei Modellen, deren Tool-Calling für den Agenten-Einsatz verifiziert wurde.

Das Steuerelement am Ende jeder Zeile spiegelt ihren Download-Status wider:

Status	Steuerelement
Nicht heruntergeladen	Schaltfläche Herunterladen (deaktiviert, wenn das Modell nicht passt).
Wird heruntergeladen	Ein Fortschrittsbalken mit Byte-Bezeichnung und einer Stopp-Schaltfläche (✕).
Unterbrochen (die App wurde mitten im Abruf beendet)	Unterbrochen, mit einer Schaltfläche Fortsetzen und einer Verwerfen-Schaltfläche (Papierkorb).
Fehlgeschlagen	Eine Schaltfläche Wiederholen (Fehlermeldung beim Überfahren mit der Maus).
Installiert	Installiert, mit einem Menü, das Entfernen anbietet.

Hinweis: Downloads sind sofort wirksam und global — ein Modell, das Sie hier abrufen, landet im gemeinsamen Speicher und wird für jeden Arbeitsbereich verfügbar, nicht nur für diesen. Der Routing-Modus und die Wahl des aktiven Modells sind hingegen pro Arbeitsbereich und werden erst wirksam, wenn Sie auf Sichern klicken.

Warnung bei kombiniertem Speicher

Die von diesem Arbeitsbereich ausgewählten lokalen Modelle — das aktive Modell sowie jeder auf die Auth Lokales Modell gesetzte Agent und jeder lokale Fusion-Zweig oder Judge — werden parallel in einer Engine geladen, sodass sich ihre Speicheranforderungen summieren. Wenn sie sich dem RAM Ihres Macs nähern, erscheint eine Warnung über der Liste: orange, wenn sie dem Speicher des Hosts nahekommen, rot, wenn sie ihn überschreiten. Sie gibt an, wie viel sie zusammen benötigen, und schlägt vor, eines zu entfernen oder kleinere Modelle zu wählen.

Einstellungsreferenz

Einstellung	Beschreibung
Lokale Modelle aktivieren	Hauptschalter für On-Device-Inferenz. Ein setzt das Routing auf Lokal; Aus stellt Cloud wieder her. Standard: aus (Cloud).
Modus	Radio: Lokal — immer On-Device / Hybrid — Cloud, Fallback auf lokal. Standard: Lokal, wenn aktiviert.
Aktives Modell	Radio-Punkt pro Zeile; das eine Modell, das der Arbeitsbereich bereitstellt. Standard: keines — das erste heruntergeladene Modell wird automatisch ausgewählt.
Herunterladen / Installiert / Entfernen	Aktion pro Modell. Sofort wirksam und global (über Arbeitsbereiche hinweg geteilt); nicht Teil der Sichern-Transaktion.