Ir al contenido
Arara Code

Guías y comparativas

Seguridad del código generado por IA: datos y checklist

No asumas que el código generado por IA es seguro. En el informe de 2025 de Veracode, el 45% de las muestras falló las pruebas de seguridad e introdujo fallas del OWASP Top 10. Los riesgos incluyen inyección, secretos expuestos y paquetes que la IA inventa. Para protegerte, valida entradas, usa consultas parametrizadas, saca secretos del código, revisa dependencias y cada diff, y ejecuta pruebas.

Arara Code

Publicado por el proyecto Arara Code con base en la documentación oficial citada.

Qué muestran los datos sobre el código generado por IA

El informe GenAI Code Security 2025 de Veracode probó más de 100 modelos de lenguaje en Java, Python, C# y JavaScript. En el 45% de las muestras, el código generado falló las pruebas de seguridad e introdujo vulnerabilidades del OWASP Top 10. Java fue el lenguaje más riesgoso, con un 72% de fallas de seguridad. Uno de los problemas más frecuentes fue el cross-site scripting, que las herramientas de IA no evitaron en el 86% de las muestras relevantes.

Veracode mantuvo la misma prueba, con 80 tareas de programación. Hasta la actualización Spring 2026, de marzo de 2026, ya había evaluado más de 150 modelos. La corrección de sintaxis superó el 95%, pero la tasa de aprobación en seguridad quedó en alrededor del 55%, casi igual que dos años antes. La aprobación fue del 82% contra inyección SQL, pero solo del 15% contra cross-site scripting y del 13% contra inyección en logs, fallas que exigen seguir el dato por el código.

Veracode: informe GenAI Code Security 2025

Secretos filtrados y paquetes que la IA inventa

Los secretos, como contraseñas y claves de API, son otro riesgo. Según el informe State of Secrets Sprawl 2025 de GitGuardian, en 2024 llegaron 23.770.171 nuevos secretos fijos en el código a repositorios públicos de GitHub, un 25% más que el año anterior. El 70% de los secretos filtrados en 2022 seguía vigente. Los repositorios públicos con GitHub Copilot tuvieron una tasa de filtración del 6,4%, un 40% más que el promedio. Para GitGuardian, esto sugiere que la IA también puede traer riesgos de seguridad.

Las dependencias traen un riesgo nuevo. El estudio “We Have a Package for You!”, aceptado para el USENIX Security Symposium de 2025, generó 576.000 muestras de código en Python y JavaScript con 16 modelos. En promedio, al menos el 5,2% de los paquetes sugeridos por modelos comerciales y el 21,7% de los sugeridos por modelos de código abierto no existían. Eso permite el slopsquatting: alguien publica un paquete malicioso con el nombre que la IA suele inventar y espera a que alguien lo instale.

GitGuardian: State of Secrets Sprawl 2025

Checklist de seguridad basado en el OWASP Top 10

El OWASP Top 10:2025 reúne los riesgos más críticos de las aplicaciones web y sirve de mapa para revisar lo que escribe la IA. Valida toda entrada en el servidor y separa los datos de los comandos, con consultas parametrizadas (A05:2025 Injection). Aplica el control de acceso en el código del servidor y niega por defecto lo que no sea público (A01:2025 Broken Access Control). Saca contraseñas y claves del código, donde se vuelven credenciales fijas (A07:2025 Authentication Failures), y nunca las pegues en prompts.

Antes de instalar un paquete que sugiere la IA, revisa el nombre exacto, quién lo publica y su repositorio. Usa solo fuentes oficiales y elige cada versión a propósito (A03:2025 Software Supply Chain Failures). Como un atacante puede haber publicado ya el paquete inventado, ver que existe no basta. Después, lee cada diff antes del commit y ejecuta las pruebas, incluidos los casos de acceso denegado. OWASP indica revisión de código junto con pruebas automatizadas para encontrar fallas de inyección.

OWASP Top 10:2025: riesgos de aplicaciones web

Cómo aplicar el checklist en Arara Code

Veracode concluye que el flujo de trabajo no debe asumir que el código de IA es seguro y que la responsabilidad por la seguridad sigue siendo humana. En Arara Code, el chat lateral pide tu permiso antes de editar archivos o ejecutar comandos, y tú apruebas o rechazas cada uno. Rechaza un comando de instalación hasta revisar el paquete. Los archivos modificados aparecen en una tarjeta con sus diffs: lee cada uno antes del commit.

Crea una rama para cada tarea, así puedes descartar lo que salga mal sin afectar el resto. Al terminar, pide al asistente que ejecute la skill security-audit, que la IDE instala por defecto, sobre los cambios de tu rama. Lee los hallazgos y pide correcciones pequeñas, una a la vez. Nunca pegues contraseñas, tokens ni claves de API en el chat: guárdalos en variables de entorno o en un gestor de secretos. Por último, ejecuta las pruebas antes del commit.

Veracode: actualización Spring 2026 del estudio

Fuentes y lecturas adicionales

Leer en Markdown

Sigue explorando

Haz espacio para tu próxima idea.

Conoce Arara Code en tu propio proyecto. Empieza con el instalador y revisa los cambios que haga tu asistente.