Ir para o conteúdo
Arara Code

Guias e comparativos

Prompt injection em agentes de código: riscos e defesas

Prompt injection é um ataque em que texto malicioso, vindo do usuário ou de conteúdo externo como issues, páginas e arquivos, altera o comportamento de um modelo de linguagem. Em agentes de código o risco cresce, porque o modelo lê arquivos, executa comandos e pode alcançar credenciais.

Arara Code

Publicado pelo projeto Arara Code com base na documentação oficial citada.

O que é prompt injection e por que afeta agentes de código

O OWASP lista prompt injection como LLM01 no Top 10 para aplicações com modelos de linguagem. O ataque explora o fato de o modelo receber instruções e dados no mesmo canal de texto, sem uma separação confiável entre os dois.

Simon Willison cunhou o termo em 2022. Na injeção indireta, a instrução maliciosa fica em um README, uma issue, uma página web ou um retorno de ferramenta que o agente lê durante a tarefa, sem que a pessoa digite nada suspeito.

OWASP: LLM01 Prompt Injection

Como o ataque acontece no dia a dia

Um cenário típico: o agente recebe o pedido de resolver uma issue pública, e o texto da issue manda ler o arquivo .env e enviar o conteúdo a um endereço externo. Se o agente tem acesso ao terminal e à rede, a ação pode ser executada.

Willison descreve a combinação de risco como "lethal trifecta": acesso a dados privados, exposição a conteúdo não confiável e capacidade de comunicação externa. Remover qualquer um dos três reduz muito o dano possível.

Simon Willison: série sobre prompt injection

Defesas práticas: menor privilégio e aprovação humana

O OWASP trata o tema também em agência excessiva (LLM06): dê ao agente só as ferramentas e permissões que a tarefa exige. Mantenha segredos fora do diretório de trabalho, use tokens com escopo mínimo e bloqueie o acesso à rede quando ele não for necessário.

Exija aprovação humana para comandos de shell, escrita fora do projeto e chamadas de rede. Revise o diff antes de aceitar, porque filtros de texto isolados não bloqueiam todas as variações do ataque.

OWASP: LLM06 Excessive Agency

Como aplicar isso no Arara Code

O Arara Code, editor open source baseado em Code-OSS, pede aprovação para ações sensíveis dos agentes e respeita Workspace Trust, .gitignore e uma lista de arquivos sensíveis, como .env e chaves privadas, antes de enviar contexto.

Abra só repositórios confiáveis, mantenha a aprovação de comandos ativa e trate conteúdo externo, como issues, páginas e saídas de servidores MCP, como entrada não confiável.

Repositório do Arara Code no GitHub

Fontes e leitura complementar

Ler em Markdown

Continue explorando

Dê espaço à sua próxima ideia.

Conheça o Arara Code no seu próprio projeto. Comece pelo instalador e revise as mudanças que seu assistente fizer.