tema

#geracao-codigo

3 publicações marcadas com esta tag.

risco altoOS-2026-448 · 2026-09-17

Agentes de codificação que se auto-modificam podem ser envenenados através de benchmarks maliciosos

Pesquisadores revisitaram o clássico ataque "Reflections on Trusting Trust", de Ken Thompson, aplicando-o a agentes de codificação que reescrevem seu próprio código com base em autoavaliação. Ao contaminar os benchmarks usados nesse processo de autoaperfeiçoamento, conseguiram induzir agentes como o Hyperagents (rodando sobre Sonnet 4.5) a evoluir instruções que desativam a validação de certificado HTTPS em tarefas completamente neutras. A contaminação frequentemente persiste mesmo depois que o agente volta a ser treinado com benchmarks limpos.

#artigo-cientifico #agentes-ia #envenenamento-benchmark #auto-modificacao #cadeia-de-suprimentos-ia #geracao-codigo

Fonte ↗

risco médioOS-2026-455 · 2026-09-17

Framework quantitativo mede o risco de segurança do código gerado por ferramentas de IA de desenvolvimento

O Security Risk Assessment Framework (SRF) combina modelagem de ameaças, análise estática (Bandit e Semgrep) e uma pontuação quantitativa de risco baseada na criticidade das vulnerabilidades para comparar ferramentas de IA de geração de código. Aplicado a várias ferramentas em tarefas de programação sensíveis à segurança, o estudo encontra vulnerabilidades em todas elas, com tarefas de processamento de entrada e manipulação de arquivos apresentando risco consistentemente mais alto do que a escolha da ferramenta em si.

#artigo-cientifico #geracao-codigo #sast #avaliacao-risco #agentes-ia

Fonte ↗

panoramaOS-2026-143 · 2026-08-05

Pesquisa revela que LLMs geram Terraform funcional, mas raramente seguro

Um benchmark comparando sete modelos (três LLMs fechados e quatro SLMs abertos) na geração de código Terraform para AWS mostra que validade sintática e conformidade de segurança são praticamente independentes: alguns modelos geram Terraform que funciona perfeitamente, mas quase nunca passa em scanners de segurança como Checkov e Trivy. Os autores concluem que engenharia de prompt sozinha não é suficiente e que scanning automatizado continua indispensável.

#artigo-cientifico #iac #geracao-codigo #llm

Fonte ↗