tema

#geracao-de-codigo

4 publicações marcadas com esta tag.

risco médioOS-2026-282 · 2026-08-24

Estudo de 'vibe coding' mostra que pedir segurança no prompt reduz pela metade as vulnerabilidades em apps gerados por IA

Comparando doze aplicações web geradas pelo mesmo assistente de codificação agentic — seis com prompt padrão e seis com uma seção extra pedindo boas práticas de segurança — pesquisadores encontraram 51 vulnerabilidades confirmadas no grupo baseline contra 24 no grupo com prompt de segurança, sem nenhuma falha crítica ou alta neste último. O estudo é pequeno e não-iterativo, mas é um dos primeiros a quantificar o efeito de instruções de segurança explícitas no código gerado por IA generativa.

#artigo-cientifico #vibe-coding #geracao-de-codigo #seguranca-de-aplicacoes-web #llm-como-vetor

Fonte ↗

risco médioOS-2026-187 · 2026-08-10

Estudo testa 'model editing' como alternativa ao hardening em tempo de inferência para gerar código mais seguro

O trabalho compara editores de modelo de última geração com CoSec, uma técnica de hardening em tempo de inferência, para reduzir a geração de código vulnerável por LLMs, encontrando ganhos de 15% a 25% na taxa de segurança para tipos de vulnerabilidade já conhecidos pelo modelo, mas transferência fraca para vulnerabilidades não vistas e possível queda na corretude funcional do código gerado. Os autores propõem o SafeEdit, um refinamento pós-edição que recupera boa parte da corretude perdida preservando a maior parte do ganho de segurança.

#geracao-de-codigo #seguranca-de-software #model-editing #artigo-cientifico

Fonte ↗

risco médioOS-2026-172 · 2026-08-07

ARIA automatiza a criação de backdoors furtivos em instruções de LLMs personalizados para geração de código

Pesquisadores apresentam o ARIA, um framework de red teaming automatizado que usa um LLM atacante para gerar e refinar instruções com backdoor contra plataformas de personalização de LLM que operam só por system prompt, sem alterar os pesos do modelo. O ataque atingiu 94,5% de taxa de sucesso preservando a utilidade da tarefa original, além de evadir quase totalmente mecanismos de detecção do lado da plataforma e do usuário, com taxa de falso negativo chegando a 1,0.

#artigo-cientifico #backdoor #red-teaming-automatizado #llm-customizado #geracao-de-codigo

Fonte ↗

risco médioOS-2026-098 · 2026-07-28

Estudo com 2.700 casos mostra que mais da metade do código gerado por LLMs falha em cenários de segurança realistas

Pesquisadores construíram um benchmark de 2.700 casos que reproduz situações comuns de desenvolvimento real — requisitos ambíguos, contexto operacional pouco especificado e conflitos entre segurança e funcionalidade — para avaliar oito LLMs de ponta na geração de código. Todos os modelos apresentaram taxas de vulnerabilidade acima de 56%, embora prompts com instruções explícitas de segurança tenham reduzido o problema em até 45%.

#artigo-cientifico #llm #geracao-de-codigo #vulnerabilidades #sdlc-seguro

Fonte ↗