O relatório GenAI Code Security da Veracode, de 2025, testou mais de 100 modelos de linguagem em Java, Python, C# e JavaScript. Em 45% das amostras, o código gerado falhou nos testes de segurança e trouxe vulnerabilidades da lista OWASP Top 10. Contra cross-site scripting, as ferramentas de IA não protegeram o código em 86% das amostras relevantes. Segundo a Veracode, os modelos melhoraram em escrever código que funciona, mas não em escrever código seguro.
A defesa é um processo curto que você repete a cada pedido. Peça uma tarefa pequena por vez, em uma branch separada. Depois de cada mudança, rode o app e os testes. Leia o diff antes do commit, com atenção a entradas do usuário, autenticação e consultas ao banco. Use uma ferramenta que peça sua permissão antes de editar arquivos ou rodar comandos. E nunca cole senhas, tokens ou chaves de API no prompt.