El prompt tenía otros lectores
Dragos sembró dos millones de prompts de IA con credenciales señuelo y observó quién las usaba. Al menos tres proveedores de inferencia llevaban meses comprometidos, había revendedores registrando el tráfico y las opciones de privacidad no frenaron nada de eso. OpenRouter retiró a tres proveedores el 22 de noviembre. Un agente de programación envía a su modelo todo lo que lee. En Bromure Agentic Coding, lo que lee son sustitutos, así que un prompt robado no contiene nada que sirva.
Entre el agente y el modelo, un prompt pasa por routers, puertas de entrada, servidores de inferencia y almacenes de logs. Dragos encontró ladrones en cada uno de ellos. Todo lo que el agente había leído viajaba con el prompt.
Imagina una sesión de depuración un martes por la tarde. Una prueba
falla con un error de AWS y el agente ejecuta cat .env para
comprobar la región. El archivo contiene la clave de acceso, el
secreto, una contraseña de base de datos y un token de Hugging Face.
Todo ello va en la siguiente petición al modelo, porque así funciona un
agente. La petición va al proveedor que el router eligió en ese minuto,
quizá uno que sirve un modelo de pesos abiertos a mitad de precio. El
desarrollador obtiene su respuesta y vuelve al trabajo.
Según la investigación que Dragos publicó esta semana, una petición así pudo copiarse en la puerta de entrada del proveedor, leerse en un servidor de inferencia comprometido, ser rastreada días después por un laboratorio de modelos o quedar registrada por un revendedor que operaba un endpoint barato desde una conexión doméstica. En cada caso, al atacante le bastó con leerla.
Dos millones de prompts con trampas dentro
El 19 de noviembre, HD Moore, director de investigación de Dragos, publicó los resultados de un experimento de cinco meses. De julio a noviembre, el equipo envió unos dos millones de prompts a servicios de IA populares. Cada prompt llevaba canarios únicos, también llamados trampas: datos falsos que nadie tiene un motivo legítimo para usar, de modo que cualquier uso demuestra que alguien leyó el prompt. Sembraron enlaces web, nombres DNS, URL de repositorios git, contraseñas SSH y claves de AWS reales vinculadas a cuentas vacías y totalmente registradas. Cada canario remitía al prompt, el modelo, el router y el ajuste de privacidad exactos que lo habían transportado.
Lo que volvió:
- Tres proveedores de alojamiento estaban comprometidos y ninguno lo sabía. La intrusión más antigua empezó a mediados de julio. En la mayor, el atacante se llevó un par de cientos de claves de AWS, cada una enviada en una sola petición durante breves ventanas a finales de octubre. Algunas procedían de peticiones que el proveedor rechazó antes de ejecutar ningún modelo, así que la copia ocurría en la puerta de entrada, antes de cualquier comprobación.
- Las claves se usaron rápido. Algunas se probaron en cuestión de horas. Una clave sembrada el 21 de octubre se usó al día siguiente y seguía en uso tres semanas después. El atacante listó buckets de S3, buscó en Secrets Manager y Parameter Store, creó claves de API de Bedrock y añadió usuarios IAM para conservar el acceso, con decenas de miles de llamadas a AWS en total. El 1 de noviembre recurrió a ARTEX, un framework de pruebas de penetración impulsado por IA, para comprobar qué claves seguían funcionando.
- Los revendedores registraban lo que pasaba. En un marketplace de inferencia, los vendedores publicaban modelos al precio más bajo, activaban el registro de peticiones y esperaban. Una persona probó a mano inicios de sesión SSH como root con contraseñas sacadas de los prompts y luego probó claves de AWS desde la misma máquina. Un router desviaba parte de su tráfico a ese marketplace sin decírselo a sus clientes.
- Las opciones de privacidad no aguantaron. Los sistemas de un laboratorio de IA chino accedieron a los enlaces secretos de más de la mitad de los prompts enviados a sus modelos, incluidas cerca de dos tercios de las peticiones marcadas como “sin recopilación de datos” o retención cero de datos (ZDR). Un cliente git intentó clonar repositorios privados mencionados en esos prompts. Un gran proveedor estadounidense seguía rastreando un enlace dos meses después de una sola petición.
El resumen de Moore sobre el problema de los agentes cabe en una línea: “Los agentes de IA enviarán encantados todo lo que puedan leer, credenciales incluidas”.
Lo que dicen los proveedores
Los proveedores han empezado a confirmarlo. El informe preliminar de Phala dice que un atacante tomó el control de una VM de inferencia que servía DeepSeek V4 Flash 0731 y podía ver los datos de las peticiones mientras se procesaban. Su consejo: tratar como expuesta toda petición enviada a ese modelo entre el 21 de octubre y el 8 de noviembre, y “rotar cualquier clave de API, token, contraseña u otro secreto incluido en esas peticiones”. Las pruebas con canarios confirmaron el uso indebido de credenciales enviadas el 21 y el 22 de octubre.
El aviso de Together AI, publicado el 21 de noviembre, describe otra vía de entrada. Muestras de prompts de peticiones de junio y julio a MiniMax M3, GLM-5.2 y Kimi K2.6 estaban en un repositorio privado de Hugging Face usado para pruebas. Después, “un agente de programación con IA hizo commit de una credencial que daba acceso al repositorio privado de Hugging Face” en un repositorio público de GitHub. El escáner de Together detectó el commit y lo revirtió, pero alguien usó la credencial durante la ventana de exposición, descargó las muestras, buscó en ellas credenciales de otros servicios y las probó. Cinco de las credenciales que intentaron usar eran canarios de Dragos.
El 22 de noviembre, OpenRouter retiró a tres proveedores y sacó 125 endpoints de su lista ZDR a la espera de validarlos. Afirma que los hallazgos no muestran ninguna intrusión en el propio OpenRouter. The Hacker News tiene el resumen completo.
Dos fallos se repiten en estos informes. Un secreto llegó al prompt porque el agente podía leerlo. Y en el caso de Together, un secreto llegó a un repositorio público porque el agente podía leerlo y hacer push.
Por qué una opción de privacidad no lo arregla
Las recomendaciones de Dragos son sensatas: aloja tú mismo si puedes, ve directamente a un proveedor de primer nivel, elige tú los proveedores de origen de tu router, siembra canarios, activa el filtrado de secretos. Cada una acorta la lista de lectores. El prompt sigue conteniendo lo que el agente leyó. Moore es tajante sobre ZDR: “Una opción de privacidad no sirve de nada cuando el atacante ya está dentro”.
El filtrado de secretos es una búsqueda de patrones a la salida.
Detecta AKIA… y ghp_… y deja pasar una contraseña sin prefijo,
justo el tipo que el lector del marketplace probó contra SSH. Un agente
de programación está hecho para leer archivos, variables de entorno y
salidas de comandos, y para meter lo que leyó en la siguiente petición.
Para cambiar lo que contiene el prompt, tienes que cambiar lo que el
agente puede leer.
La misma sesión en Bromure Agentic Coding
Bromure Agentic Coding ejecuta Claude Code, Codex, Grok, Kimi y omp en VM de Ubuntu en tu Mac, una VM por máquina. Cada petición HTTPS que hace la VM pasa por un proxy en el Mac, y ese proxy es el único lugar donde existen tus credenciales reales.
El .env que lee el agente contiene sustitutos
Import env file…, en el panel Credentials de la máquina, lee
el .env de tu proyecto. Asocia los nombres que reconoce, como
AWS_ACCESS_KEY_ID, GH_TOKEN o ANTHROPIC_API_KEY, al tipo de
credencial correcto, y convierte el resto, como ese HF_TOKEN, en
Other API keys limitadas al host que indiques, aquí
huggingface.co. Cada una se exporta en la VM con su nombre de
variable habitual y contiene un valor falso con la forma del real:
ghp_ y 36 caracteres para GitHub, brm_… para un token genérico,
brm-db-… para un secreto de base de datos. El proxy pone el valor
real solo en las peticiones dirigidas al host propio de la credencial.
Así que cuando el agente ejecuta cat .env o printenv, la
conversación que envía al modelo lleva valores falsos. Cada lector del
mapa de Dragos obtiene una copia del prompt y nada que pueda usar. Un
valor falso reenviado desde el servidor de un atacante nunca pasa por
el proxy de tu Mac, así que llega a la API real como falso y falla la
autenticación.
La clave de AWS del prompt no puede firmar nada
El ladrón de la puerta de entrada se llevó claves de AWS, y AWS muestra
con claridad cómo funciona la frontera. En una VM de Bromure,
~/.aws/config apunta a un asistente que entrega tu ID de clave de
acceso real junto con un secreto falso. Todos los SDK y la CLI
aws firman las peticiones con ese secreto falso. En el Mac, el proxy
quita la firma y vuelve a firmar con el secreto real antes de que la
petición salga. Si sacas el par de un prompt, el único secreto que
obtienes es el falso. AWS responde a toda llamada firmada con él con
InvalidSignatureException. El listado de S3, la búsqueda en Secrets
Manager, las nuevas claves de Bedrock y los usuarios IAM de los logs de
Dragos necesitaban todos ese secreto.
SSH funciona igual. Los bytes de la clave privada nunca entran en la VM. El invitado puede pedir una firma al Mac, pero no puede leer la clave, así que ninguna transcripción la contiene jamás.
Los datos personales también tienen sustitutos
Los canarios de Dragos eran credenciales y enlaces, pero los prompts
que los llevaban también contienen todo lo que el agente leyó de una
tabla de clientes o una exportación de soporte. PII Protection se
encarga de esa parte. Antes de que una petición salga hacia el
proveedor del modelo, el proxy encuentra nombres, direcciones de
correo, números de teléfono, números de tarjeta, documentos de
identidad y direcciones postales mediante un modelo en el dispositivo,
y sustituye cada uno por un sustituto realista. La respuesta recupera
los valores reales antes de que el agente la vea. El proveedor, y
cualquiera que lea su tráfico, ve direcciones @example.com y números
de tarjeta de prueba. Cada sustitución se contabiliza en la Security
Timeline con el host de destino, y los valores nunca se registran.
El commit lleva un valor falso, y el push espera
La filtración de Together tuvo dos pasos: un agente de programación tenía una credencial real de Hugging Face y la subió a un repositorio público. En una máquina Bromure, ninguno de los dos pasos prospera.
El token que el agente puede ver es el sustituto brm_…, así que un
commit lleva el sustituto. Quien lo extraiga de GitHub tiene una cadena
que solo se convierte en un token real dentro del proxy de tu Mac, en
una petición a huggingface.co desde tu VM. Desde su propia máquina,
Hugging Face la rechaza.
Antes de que el commit vaya a ningún sitio, el push se detiene en la
política de escritura de Guardrails. Las máquinas nuevas usan por
defecto Prompt before write para GitHub, GitLab y Bitbucket: las
lecturas pasan, y cada escritura, git push incluido, espera un
diálogo en el Mac que nombra la operación. La política se ejecuta en el
proxy, fuera de la VM, así que un agente no puede desactivarla. Un push
inesperado a un repositorio público se convierte en una pregunta que
respondes antes de que el commit se publique.
Si alguien pegara aun así un token real en un archivo de la VM, el
proxy marca las credenciales reales sin sustituir en las cabeceras
salientes: valores con prefijos conocidos como sk-ant-, ghp_ o
AKIA, y tokens opacos largos. Aparecen en Leaks only en el Trace
Inspector y en bromure-cli trace leaks. El Strict credential mode,
también en Guardrails, bloquea cualquier credencial que Bromure no
haya emitido.
Tú eliges quién lee el prompt
La primera recomendación de Dragos es alojar tú mismo. Su lista de precios empieza con un Mac Studio con 512 GB de memoria. El tablero Models de Bromure tiene un proveedor On-device que ejecuta modelos de programación de pesos abiertos en la GPU del Mac con MLX de Apple, sin nada que instalar, y cualquier agente puede elegir uno. Un turno servido en el dispositivo nunca sale del Mac. Una entrada Custom server dirige a los agentes a cualquier servidor compatible con OpenAI de tu red, como vLLM, Ollama o LM Studio, para que un equipo pueda compartir una máquina con GPU que controla.
Cuando sí usas un modelo en la nube, el tablero Models es también donde eliges la ruta. Puedes dirigir cada agente a un proveedor de primer nivel, con su propio inicio de sesión o clave de API, que es la segunda recomendación de Dragos. Esa clave tampoco entra nunca en la VM. Un router como OpenRouter está disponible cuando lo quieras, como una elección que haces por agente.
Cuando un proveedor dice “rota lo que enviaste”
Phala pide a sus clientes que roten todo secreto incluido en peticiones a un modelo entre el 21 de octubre y el 8 de noviembre. La mayoría de los equipos no saben decir qué secretos eran, porque nadie guardó un registro de lo que enviaron sus agentes.
Bromure guarda ese registro en tu Mac. En el nivel predeterminado,
AI request details, el proxy almacena cada intercambio con un host
de modelo conocido, cifrado con una clave de tu llavero de inicio de
sesión. El Trace Inspector filtra por host y por Conversations
only, y bromure-cli trace hostnames lista cada host que contactó
cada máquina. Puedes abrir las peticiones de la ventana de exposición y
leer lo que salió, petición por petición. En una máquina Bromure, lo
que salió fueron sustitutos.
El agente lee valores falsos
Los valores .env importados, los archivos de configuración y las variables de entorno contienen sustitutos. Los secretos reales se añaden en el Mac, solo hacia su propio host.
Un prompt robado no abre nada
Un valor falso sacado de un prompt falla en origen. Un ID de clave de AWS robado viene con un secreto falso, así que toda firma se rechaza.
Los push te esperan
Prompt before write detiene cada git push hasta que lo apruebas, aplicado en el proxy. Un token en un commit es, de todos modos, un sustituto.
Tú eliges al lector
Los modelos en el dispositivo mantienen el prompt en el Mac. Las rutas en la nube se eligen por agente, y el Mac guarda una traza de cada petición.
Qué hacer esta semana
- Si enviaste peticiones a DeepSeek V4 Flash 0731 a través de Phala entre el 21 de octubre y el 8 de noviembre, sigue las indicaciones de Phala y rota cualquier secreto que esas peticiones pudieran llevar.
- Si usaste MiniMax M3, GLM-5.2 o Kimi K2.6 en modo serverless de Together AI en junio o julio, lee el aviso de Together y activa ZDR en la configuración de tu cuenta.
- Si enrutas a través de OpenRouter y dependes de ZDR, comprueba si tus endpoints están entre los 125 que retiró.
- Da por hecho que cualquier secreto que leyó un agente pasó por cada
salto entre él y el modelo. Rota las claves de larga duración que
hayan estado en un
.envque un agente pudiera abrir. - Añade
artex-agentyartex-judge-r121a tus detecciones de CloudTrail, como sugiere Dragos.
Después, pon los secretos fuera del alcance del agente para siempre.
Importa el .env en una máquina Bromure, deja GitHub en Prompt
before write y dirige a los agentes al proveedor que elegiste. La
frontera de la red, la refirma de AWS y la importación de .env se
explican en
Credentials & the Wire Boundary,
los datos personales en PII Protection,
los modelos en el dispositivo y los servidores propios en
Models & Providers, y el registro
local en Tracing & Audit.