← Volver a todas las publicaciones
Publicado el · por Renaud Deraison

El prompt tenía otros lectores

Dragos sembró dos millones de prompts de IA con credenciales señuelo y observó quién las usaba. Al menos tres proveedores de inferencia llevaban meses comprometidos, había revendedores registrando el tráfico y las opciones de privacidad no frenaron nada de eso. OpenRouter retiró a tres proveedores el 22 de noviembre. Un agente de programación envía a su modelo todo lo que lee. En Bromure Agentic Coding, lo que lee son sustitutos, así que un prompt robado no contiene nada que sirva.

Entre el agente y el modelo, un prompt pasa por routers, puertas de entrada, servidores de inferencia y almacenes de logs. Dragos encontró ladrones en cada uno de ellos. Todo lo que el agente había leído viajaba con el prompt.

Imagina una sesión de depuración un martes por la tarde. Una prueba falla con un error de AWS y el agente ejecuta cat .env para comprobar la región. El archivo contiene la clave de acceso, el secreto, una contraseña de base de datos y un token de Hugging Face. Todo ello va en la siguiente petición al modelo, porque así funciona un agente. La petición va al proveedor que el router eligió en ese minuto, quizá uno que sirve un modelo de pesos abiertos a mitad de precio. El desarrollador obtiene su respuesta y vuelve al trabajo.

Según la investigación que Dragos publicó esta semana, una petición así pudo copiarse en la puerta de entrada del proveedor, leerse en un servidor de inferencia comprometido, ser rastreada días después por un laboratorio de modelos o quedar registrada por un revendedor que operaba un endpoint barato desde una conexión doméstica. En cada caso, al atacante le bastó con leerla.

Dos millones de prompts con trampas dentro

El 19 de noviembre, HD Moore, director de investigación de Dragos, publicó los resultados de un experimento de cinco meses. De julio a noviembre, el equipo envió unos dos millones de prompts a servicios de IA populares. Cada prompt llevaba canarios únicos, también llamados trampas: datos falsos que nadie tiene un motivo legítimo para usar, de modo que cualquier uso demuestra que alguien leyó el prompt. Sembraron enlaces web, nombres DNS, URL de repositorios git, contraseñas SSH y claves de AWS reales vinculadas a cuentas vacías y totalmente registradas. Cada canario remitía al prompt, el modelo, el router y el ajuste de privacidad exactos que lo habían transportado.

Lo que volvió:

  • Tres proveedores de alojamiento estaban comprometidos y ninguno lo sabía. La intrusión más antigua empezó a mediados de julio. En la mayor, el atacante se llevó un par de cientos de claves de AWS, cada una enviada en una sola petición durante breves ventanas a finales de octubre. Algunas procedían de peticiones que el proveedor rechazó antes de ejecutar ningún modelo, así que la copia ocurría en la puerta de entrada, antes de cualquier comprobación.
  • Las claves se usaron rápido. Algunas se probaron en cuestión de horas. Una clave sembrada el 21 de octubre se usó al día siguiente y seguía en uso tres semanas después. El atacante listó buckets de S3, buscó en Secrets Manager y Parameter Store, creó claves de API de Bedrock y añadió usuarios IAM para conservar el acceso, con decenas de miles de llamadas a AWS en total. El 1 de noviembre recurrió a ARTEX, un framework de pruebas de penetración impulsado por IA, para comprobar qué claves seguían funcionando.
  • Los revendedores registraban lo que pasaba. En un marketplace de inferencia, los vendedores publicaban modelos al precio más bajo, activaban el registro de peticiones y esperaban. Una persona probó a mano inicios de sesión SSH como root con contraseñas sacadas de los prompts y luego probó claves de AWS desde la misma máquina. Un router desviaba parte de su tráfico a ese marketplace sin decírselo a sus clientes.
  • Las opciones de privacidad no aguantaron. Los sistemas de un laboratorio de IA chino accedieron a los enlaces secretos de más de la mitad de los prompts enviados a sus modelos, incluidas cerca de dos tercios de las peticiones marcadas como “sin recopilación de datos” o retención cero de datos (ZDR). Un cliente git intentó clonar repositorios privados mencionados en esos prompts. Un gran proveedor estadounidense seguía rastreando un enlace dos meses después de una sola petición.

El resumen de Moore sobre el problema de los agentes cabe en una línea: “Los agentes de IA enviarán encantados todo lo que puedan leer, credenciales incluidas”.

Un prompt, muchos lectores (Dragos, de julio a noviembre de 2026)Agente de códigoejecutó cat .env, asíque la petición lleva:AKIA… + secretDB_PASSWORD=…HF_TOKEN=hf_…Routerelige un proveedorpara cada peticiónPuerta de entradaendpoint de APIdel proveedorServidor deinferenciaejecuta el modeloMuestrasguardadaslogs, pruebasMarketplaceun router desviabatráfico allí; cadavendedor lo registrabaCopiadas al llegarcientos de claves deAWS, incluso depeticiones rechazadasLeído en tránsitoPhala: el atacantetenía la VM, del21 oct. al 8 nov.DescargadasTogether: abiertocon un token quesubió una IADespués, las claves se usan.Claves de AWS probadas en horas, claves de Bedrock y usuarios IAM creados. Logins SSH root con contraseñas de prompts. Un laboratorio leyó 2/3 de prompts ZDR.
Dónde se leyeron los canarios de Dragos. Antes de llegar a un modelo, un prompt puede pasar por un router, la puerta de entrada de un proveedor, un servidor de inferencia y un almacén de logs, y cada salto tenía un lector. Las opciones de privacidad como ZDR solo obligan al primer salto, y un atacante que ya está dentro las ignora.

Lo que dicen los proveedores

Los proveedores han empezado a confirmarlo. El informe preliminar de Phala dice que un atacante tomó el control de una VM de inferencia que servía DeepSeek V4 Flash 0731 y podía ver los datos de las peticiones mientras se procesaban. Su consejo: tratar como expuesta toda petición enviada a ese modelo entre el 21 de octubre y el 8 de noviembre, y “rotar cualquier clave de API, token, contraseña u otro secreto incluido en esas peticiones”. Las pruebas con canarios confirmaron el uso indebido de credenciales enviadas el 21 y el 22 de octubre.

El aviso de Together AI, publicado el 21 de noviembre, describe otra vía de entrada. Muestras de prompts de peticiones de junio y julio a MiniMax M3, GLM-5.2 y Kimi K2.6 estaban en un repositorio privado de Hugging Face usado para pruebas. Después, “un agente de programación con IA hizo commit de una credencial que daba acceso al repositorio privado de Hugging Face” en un repositorio público de GitHub. El escáner de Together detectó el commit y lo revirtió, pero alguien usó la credencial durante la ventana de exposición, descargó las muestras, buscó en ellas credenciales de otros servicios y las probó. Cinco de las credenciales que intentaron usar eran canarios de Dragos.

El 22 de noviembre, OpenRouter retiró a tres proveedores y sacó 125 endpoints de su lista ZDR a la espera de validarlos. Afirma que los hallazgos no muestran ninguna intrusión en el propio OpenRouter. The Hacker News tiene el resumen completo.

Dos fallos se repiten en estos informes. Un secreto llegó al prompt porque el agente podía leerlo. Y en el caso de Together, un secreto llegó a un repositorio público porque el agente podía leerlo y hacer push.

Por qué una opción de privacidad no lo arregla

Las recomendaciones de Dragos son sensatas: aloja tú mismo si puedes, ve directamente a un proveedor de primer nivel, elige tú los proveedores de origen de tu router, siembra canarios, activa el filtrado de secretos. Cada una acorta la lista de lectores. El prompt sigue conteniendo lo que el agente leyó. Moore es tajante sobre ZDR: “Una opción de privacidad no sirve de nada cuando el atacante ya está dentro”.

El filtrado de secretos es una búsqueda de patrones a la salida. Detecta AKIA… y ghp_… y deja pasar una contraseña sin prefijo, justo el tipo que el lector del marketplace probó contra SSH. Un agente de programación está hecho para leer archivos, variables de entorno y salidas de comandos, y para meter lo que leyó en la siguiente petición. Para cambiar lo que contiene el prompt, tienes que cambiar lo que el agente puede leer.

La misma sesión en Bromure Agentic Coding

Bromure Agentic Coding ejecuta Claude Code, Codex, Grok, Kimi y omp en VM de Ubuntu en tu Mac, una VM por máquina. Cada petición HTTPS que hace la VM pasa por un proxy en el Mac, y ese proxy es el único lugar donde existen tus credenciales reales.

El .env que lee el agente contiene sustitutos

Import env file…, en el panel Credentials de la máquina, lee el .env de tu proyecto. Asocia los nombres que reconoce, como AWS_ACCESS_KEY_ID, GH_TOKEN o ANTHROPIC_API_KEY, al tipo de credencial correcto, y convierte el resto, como ese HF_TOKEN, en Other API keys limitadas al host que indiques, aquí huggingface.co. Cada una se exporta en la VM con su nombre de variable habitual y contiene un valor falso con la forma del real: ghp_ y 36 caracteres para GitHub, brm_… para un token genérico, brm-db-… para un secreto de base de datos. El proxy pone el valor real solo en las peticiones dirigidas al host propio de la credencial.

Así que cuando el agente ejecuta cat .env o printenv, la conversación que envía al modelo lleva valores falsos. Cada lector del mapa de Dragos obtiene una copia del prompt y nada que pueda usar. Un valor falso reenviado desde el servidor de un atacante nunca pasa por el proxy de tu Mac, así que llega a la API real como falso y falla la autenticación.

La clave de AWS del prompt no puede firmar nada

El ladrón de la puerta de entrada se llevó claves de AWS, y AWS muestra con claridad cómo funciona la frontera. En una VM de Bromure, ~/.aws/config apunta a un asistente que entrega tu ID de clave de acceso real junto con un secreto falso. Todos los SDK y la CLI aws firman las peticiones con ese secreto falso. En el Mac, el proxy quita la firma y vuelve a firmar con el secreto real antes de que la petición salga. Si sacas el par de un prompt, el único secreto que obtienes es el falso. AWS responde a toda llamada firmada con él con InvalidSignatureException. El listado de S3, la búsqueda en Secrets Manager, las nuevas claves de Bedrock y los usuarios IAM de los logs de Dragos necesitaban todos ese secreto.

SSH funciona igual. Los bytes de la clave privada nunca entran en la VM. El invitado puede pedir una firma al Mac, pero no puede leer la clave, así que ninguna transcripción la contiene jamás.

Los datos personales también tienen sustitutos

Los canarios de Dragos eran credenciales y enlaces, pero los prompts que los llevaban también contienen todo lo que el agente leyó de una tabla de clientes o una exportación de soporte. PII Protection se encarga de esa parte. Antes de que una petición salga hacia el proveedor del modelo, el proxy encuentra nombres, direcciones de correo, números de teléfono, números de tarjeta, documentos de identidad y direcciones postales mediante un modelo en el dispositivo, y sustituye cada uno por un sustituto realista. La respuesta recupera los valores reales antes de que el agente la vea. El proveedor, y cualquiera que lea su tráfico, ve direcciones @example.com y números de tarjeta de prueba. Cada sustitución se contabiliza en la Security Timeline con el host de destino, y los valores nunca se registran.

La misma sesión en Bromure Agentic CodingVM de Bromure$ cat .envAWS: ID de clave real + secreto falsoDB_PASSWORD= brm-db-…HF_TOKEN= brm_…Claves SSH privadas: no en la VM.El prompt del agente lleva sololo que leyó: sustitutos.Proxy en tu MacPII Protectionnombres, correos, tarjetas, ID sesustituyen antes del modeloCambio de credencialesvalor real solo en peticiones alhost de la propia credencial; AWSse refirma aquí con el secreto realSecretos reales: solo aquí, cifrados.Cada petición de IA se traza en el Mac.Ruta a un modelo en la nuberouter, puerta de entrada, servidorde inferencia, almacén de logsUn lector obtiene sustitutosAWS: InvalidSignatureExceptionlas demás API rechazan el falso;ninguna contraseña para SSHEn el dispositivo o tu servidormodelo MLX en la GPU del Mac, o vLLMen tu red: ningún lector externoLa ruta de Together, en una máquina BromureEl agente hace commit de HF_TOKEN. Lo que sube es brm_…, que solo funciona a través del proxy de tu Mac, hacia huggingface.co.El propio git push espera aprobación en el Mac con la política predeterminada Prompt before write para GitHub.Quien clone el repositorio público obtiene un falso. El almacén de prompts sigue cerrado.
La misma sesión de depuración en una máquina Bromure. El agente lee sustitutos en .env, así que el prompt lleva sustitutos, y PII Protection reemplaza los datos personales antes de que la petición salga del Mac. Un lector en cualquier salto obtiene valores falsos que fallan en origen. Los secretos reales se añaden solo en el Mac y solo hacia su propio host, y un modelo en el dispositivo mantiene el prompt por completo en el Mac.

El commit lleva un valor falso, y el push espera

La filtración de Together tuvo dos pasos: un agente de programación tenía una credencial real de Hugging Face y la subió a un repositorio público. En una máquina Bromure, ninguno de los dos pasos prospera.

El token que el agente puede ver es el sustituto brm_…, así que un commit lleva el sustituto. Quien lo extraiga de GitHub tiene una cadena que solo se convierte en un token real dentro del proxy de tu Mac, en una petición a huggingface.co desde tu VM. Desde su propia máquina, Hugging Face la rechaza.

Antes de que el commit vaya a ningún sitio, el push se detiene en la política de escritura de Guardrails. Las máquinas nuevas usan por defecto Prompt before write para GitHub, GitLab y Bitbucket: las lecturas pasan, y cada escritura, git push incluido, espera un diálogo en el Mac que nombra la operación. La política se ejecuta en el proxy, fuera de la VM, así que un agente no puede desactivarla. Un push inesperado a un repositorio público se convierte en una pregunta que respondes antes de que el commit se publique.

Si alguien pegara aun así un token real en un archivo de la VM, el proxy marca las credenciales reales sin sustituir en las cabeceras salientes: valores con prefijos conocidos como sk-ant-, ghp_ o AKIA, y tokens opacos largos. Aparecen en Leaks only en el Trace Inspector y en bromure-cli trace leaks. El Strict credential mode, también en Guardrails, bloquea cualquier credencial que Bromure no haya emitido.

Tú eliges quién lee el prompt

La primera recomendación de Dragos es alojar tú mismo. Su lista de precios empieza con un Mac Studio con 512 GB de memoria. El tablero Models de Bromure tiene un proveedor On-device que ejecuta modelos de programación de pesos abiertos en la GPU del Mac con MLX de Apple, sin nada que instalar, y cualquier agente puede elegir uno. Un turno servido en el dispositivo nunca sale del Mac. Una entrada Custom server dirige a los agentes a cualquier servidor compatible con OpenAI de tu red, como vLLM, Ollama o LM Studio, para que un equipo pueda compartir una máquina con GPU que controla.

Cuando sí usas un modelo en la nube, el tablero Models es también donde eliges la ruta. Puedes dirigir cada agente a un proveedor de primer nivel, con su propio inicio de sesión o clave de API, que es la segunda recomendación de Dragos. Esa clave tampoco entra nunca en la VM. Un router como OpenRouter está disponible cuando lo quieras, como una elección que haces por agente.

Cuando un proveedor dice “rota lo que enviaste”

Phala pide a sus clientes que roten todo secreto incluido en peticiones a un modelo entre el 21 de octubre y el 8 de noviembre. La mayoría de los equipos no saben decir qué secretos eran, porque nadie guardó un registro de lo que enviaron sus agentes.

Bromure guarda ese registro en tu Mac. En el nivel predeterminado, AI request details, el proxy almacena cada intercambio con un host de modelo conocido, cifrado con una clave de tu llavero de inicio de sesión. El Trace Inspector filtra por host y por Conversations only, y bromure-cli trace hostnames lista cada host que contactó cada máquina. Puedes abrir las peticiones de la ventana de exposición y leer lo que salió, petición por petición. En una máquina Bromure, lo que salió fueron sustitutos.

El agente lee valores falsos

Los valores .env importados, los archivos de configuración y las variables de entorno contienen sustitutos. Los secretos reales se añaden en el Mac, solo hacia su propio host.

Un prompt robado no abre nada

Un valor falso sacado de un prompt falla en origen. Un ID de clave de AWS robado viene con un secreto falso, así que toda firma se rechaza.

Los push te esperan

Prompt before write detiene cada git push hasta que lo apruebas, aplicado en el proxy. Un token en un commit es, de todos modos, un sustituto.

Tú eliges al lector

Los modelos en el dispositivo mantienen el prompt en el Mac. Las rutas en la nube se eligen por agente, y el Mac guarda una traza de cada petición.

Qué hacer esta semana

  • Si enviaste peticiones a DeepSeek V4 Flash 0731 a través de Phala entre el 21 de octubre y el 8 de noviembre, sigue las indicaciones de Phala y rota cualquier secreto que esas peticiones pudieran llevar.
  • Si usaste MiniMax M3, GLM-5.2 o Kimi K2.6 en modo serverless de Together AI en junio o julio, lee el aviso de Together y activa ZDR en la configuración de tu cuenta.
  • Si enrutas a través de OpenRouter y dependes de ZDR, comprueba si tus endpoints están entre los 125 que retiró.
  • Da por hecho que cualquier secreto que leyó un agente pasó por cada salto entre él y el modelo. Rota las claves de larga duración que hayan estado en un .env que un agente pudiera abrir.
  • Añade artex-agent y artex-judge-r121 a tus detecciones de CloudTrail, como sugiere Dragos.

Después, pon los secretos fuera del alcance del agente para siempre. Importa el .env en una máquina Bromure, deja GitHub en Prompt before write y dirige a los agentes al proveedor que elegiste. La frontera de la red, la refirma de AWS y la importación de .env se explican en Credentials & the Wire Boundary, los datos personales en PII Protection, los modelos en el dispositivo y los servidores propios en Models & Providers, y el registro local en Tracing & Audit.