Ir al contenido
Arara Code

Guías y comparativas

Prompt injection en agentes de código: riesgos y defensas

La prompt injection es un ataque en el que texto malicioso, proveniente del usuario o de contenido externo como issues, páginas y archivos, altera el comportamiento de un modelo de lenguaje. En agentes de código el riesgo aumenta, porque el modelo lee archivos, ejecuta comandos y puede alcanzar credenciales.

Arara Code

Publicado por el proyecto Arara Code con base en la documentación oficial citada.

Qué es la prompt injection y por qué afecta a los agentes de código

OWASP incluye la prompt injection como LLM01 en su Top 10 para aplicaciones con modelos de lenguaje. El ataque aprovecha que el modelo recibe instrucciones y datos por el mismo canal de texto, sin una separación confiable entre ambos.

Simon Willison acuñó el término en 2022. En la inyección indirecta, la instrucción maliciosa está en un README, un issue, una página web o el resultado de una herramienta que el agente lee durante la tarea, sin que la persona escriba nada sospechoso.

OWASP: LLM01 Prompt Injection

Cómo ocurre el ataque en el día a día

Un escenario típico: se pide al agente resolver un issue público, y el texto del issue le ordena leer el archivo .env y enviar el contenido a una dirección externa. Si el agente tiene acceso a la terminal y a la red, la acción puede ejecutarse.

Willison describe la combinación de riesgo como "lethal trifecta": acceso a datos privados, exposición a contenido no confiable y capacidad de comunicación externa. Eliminar cualquiera de los tres reduce mucho el daño posible.

Simon Willison: serie sobre prompt injection

Defensas prácticas: mínimo privilegio y aprobación humana

OWASP trata el tema también como agencia excesiva (LLM06): da al agente solo las herramientas y permisos que la tarea exige. Mantén los secretos fuera del directorio de trabajo, usa tokens con alcance mínimo y bloquea el acceso a la red cuando no sea necesario.

Exige aprobación humana para comandos de shell, escritura fuera del proyecto y llamadas de red. Revisa el diff antes de aceptar, porque los filtros de texto por sí solos no bloquean todas las variaciones del ataque.

OWASP: LLM06 Excessive Agency

Cómo aplicarlo en Arara Code

Arara Code, un editor de código abierto basado en Code-OSS, pide aprobación para acciones sensibles de los agentes y respeta Workspace Trust, .gitignore y una lista de archivos sensibles, como .env y claves privadas, antes de enviar contexto.

Abre solo repositorios de confianza, mantén activa la aprobación de comandos y trata el contenido externo, como issues, páginas y salidas de servidores MCP, como entrada no confiable.

Repositorio de Arara Code en GitHub

Fuentes y lecturas adicionales

Leer en Markdown

Sigue explorando

Haz espacio para tu próxima idea.

Conoce Arara Code en tu propio proyecto. Empieza con el instalador y revisa los cambios que haga tu asistente.