Modelos locales

El panel Modelos locales ejecuta un modelo de programación en tu propio Mac, de modo que los agentes de un espacio de trabajo pueden responder por completo en el dispositivo en lugar de llamar a un proveedor en la nube — o recurrir a un modelo local solo cuando la nube no está disponible. Los pesos son compilaciones Apple MLX; el motor de inferencia viene incluido con la app, así que no hay nada que instalar más allá de descargar un modelo.

Todo lo de esta página tiene un análisis en profundidad complementario: el motor en el dispositivo, la capa de reparación de llamadas a herramientas, la política de recurso híbrido y los comandos bromure-cli model y bromure-cli vm routing están todos en Modelos locales. Esta página documenta el panel de ajustes.

De forma predeterminada, el panel muestra un único interruptor — Activar modelos locales — con todo lo demás oculto. Al activarlo se revelan el modo de enrutamiento y el catálogo de modelos que se describen a continuación.

Activar modelos locales

El interruptor principal, con el subtítulo Ejecuta un modelo de programación en este Mac en lugar de la nube., es el encendido/apagado del espacio de trabajo para la inferencia en el dispositivo:

Desactivado (predeterminado) — el espacio de trabajo enruta el tráfico de los agentes hacia la nube, exactamente como si este panel no existiera.
Activado — el enrutamiento cambia a la inferencia en el dispositivo y aparecen el selector de modo y la lista de modelos. Al activarlo, el modo pasa de forma predeterminada a Local.

Como los agentes del espacio de trabajo ejecutan su tráfico de LLM a través del motor local mientras esto está activado, activarlo fija el modo de autenticación de cada agente habilitado en Modelo local, y volver a desactivarlo restaura el modo anterior de cada agente. No tienes que tocar el panel Agentes a mano.

Modo de enrutamiento

Con los modelos locales activados, un botón de opción determina cómo los usa el espacio de trabajo. Las dos filas llevan las propias descripciones del pie del panel:

Modo	Comportamiento
Local — siempre en el dispositivo	Cada solicitud permanece en este Mac — nada sale de la máquina. Las respuestas son privadas pero más lentas, y están limitadas por el modelo que puedas alojar en memoria.
Híbrido — nube, con recurso a local	Las solicitudes van a la nube como de costumbre, recurriendo al modelo en el dispositivo solo cuando la nube no está disponible — velocidad y calidad de la nube con una red de seguridad local.

Los ajustes más finos del modo híbrido — un presupuesto móvil de tokens en la nube, un plazo límite para el tiempo hasta el primer token y una división proactiva local/nube — se configuran desde la línea de comandos (bromure-cli vm hybrid …) en lugar de este panel. Están documentados en Modelos locales.

El catálogo de modelos

Debajo del selector de modo, la lista se titula Models · N GB unified memory, donde N es la memoria unificada de tu Mac. Cada fila describe un modelo MLX seleccionado:

Botón de opción del modelo activo — el punto relleno marca el único modelo que sirve este espacio de trabajo. Seleccionarlo aquí es también lo que cambia los agentes habilitados a la autenticación Modelo local.
Insignia de nivel — una pequeña clase de tamaño S / M / L / XL.
Insignia de ajuste — cómo se acomoda el modelo respecto a la memoria de tu Mac: Encaja (verde — margen cómodo), Justo (naranja — se carga con poco margen) o No encaja (atenuado; la fila está deshabilitada y no se puede seleccionar). El pie del panel lo reitera: Los modelos atenuados necesitan más memoria de la que tiene este Mac.
Tamaño de descarga — el tamaño de los pesos en disco en GB.
Sello de tools — una insignia con marca de verificación en los modelos cuya llamada a herramientas se ha verificado para uso con agentes.

El control al final de cada fila refleja su estado de descarga:

Estado	Control
Sin descargar	Botón Descargar (deshabilitado cuando el modelo no encaja).
Descargando	Una barra de progreso con una etiqueta de bytes y un botón de detención (✕).
Interrumpido (la app se cerró a mitad de la descarga)	Interrumpido, con un botón Reanudar y un botón para descartar (papelera).
Fallido	Un botón Reintentar (pasa el cursor por encima para ver el mensaje de error).
Instalado	Instalado, con un menú que ofrece Quitar.

Nota: Las descargas son inmediatas y globales — un modelo que descargas aquí se guarda en el almacenamiento compartido y queda disponible para cada espacio de trabajo, no solo para este. El modo de enrutamiento y la elección del modelo activo, en cambio, son por espacio de trabajo y solo surten efecto al hacer clic en Guardar.

Advertencia de memoria combinada

Los modelos locales que este espacio de trabajo ha seleccionado — el modelo activo, además de cualquier agente configurado con autenticación Modelo local y cualquier tramo local o juez de Fusion — se cargan en paralelo en un mismo motor, por lo que sus requisitos de memoria se suman. Cuando se acercan a la RAM de tu Mac, aparece una advertencia encima de la lista: naranja cuando están cerca de la memoria del anfitrión, roja cuando la superan. Indica cuánta necesitan en conjunto y sugiere que descartes uno o elijas modelos más pequeños.

Referencia de ajustes

Ajuste	Descripción
Activar modelos locales	Interruptor principal para la inferencia en el dispositivo. Activado establece el enrutamiento en Local; desactivado restaura Nube. Predeterminado: desactivado (Nube).
Modo	Botón de opción: Local — siempre en el dispositivo / Híbrido — nube, con recurso a local. Predeterminado: Local cuando está activado.
Modelo activo	Punto de opción por fila; el único modelo que sirve el espacio de trabajo. Predeterminado: ninguno — el primer modelo que descargas se selecciona automáticamente.
Descargar / Instalado / Quitar	Acción por modelo. Inmediata y global (compartida entre espacios de trabajo); no forma parte de la transacción de Guardar.

Capítulos relacionados

Modelos locales — el motor en el dispositivo, el catálogo de modelos y la CLI, y la política de recurso híbrido al completo.
Agentes — el modo de autenticación Modelo local por agente que este panel mantiene sincronizado.
Fusion — usar un modelo local como tramo de fusión o como juez.