CredLeakBench expoe que todos os agentes de LLM testados vazam credenciais sob ataques de phishing
Pesquisadores da University of Central Florida apresentaram o CredLeakBench, um benchmark que mede se agentes de LLM autonomos vazam informacoes sensiveis quando confrontados com tentativas de phishing, cobrindo tanto autenticacao solicitada pelo usuario quanto monitoramento autonomo de caixa de entrada sem pedido explicito de login. Todos os modelos avaliados se mostraram vulneraveis a algum grau de vazamento, inclusive revelando dados durante monitoramento passivo de e-mail, e as mitigacoes que reduzem o vazamento tendem a prejudicar a capacidade do agente de completar tarefas legitimas.
Fonte ↗