Jailbreaks com intenção camuflada: um framework teórico-informacional para ataques compositivos a LLMs
Pesquisadores formalizam matematicamente por que pedidos maliciosos dissimulados dentro de tarefas benignas conseguem escapar de filtros de segurança de LLMs. O estudo introduz o conceito de "prior-posterior matching": selecionar tarefas auxiliares de modo que o risco médio percebido do pacote combinado se iguale à média geral, mascarando a intenção nociva sem removê-la. Os autores mostram que o ataque funciona em vários modelos open-source, mas revelam um trade-off: pacotes maiores escondem melhor a intenção, porém tendem a degradar a execução do objetivo malicioso original.
Fonte ↗