tema

#fraude

2 publicações marcadas com esta tag.

risco altoOS-2026-553 · 2026-09-30

Benchmark expõe falhas graves de detecção de fraude em agentes de IA com autonomia para gastar dinheiro

O Agentic Commerce Bench avalia detectores de fraude contra vinte classes de golpes voltadas a agentes de IA que fazem pagamentos autônomos, incluindo casos em que a contraparte é legítima mas cobra a mais. Um scanner de segurança amplamente usado zerou em todas as quatro classes de fraude detectáveis pela camada de raciocínio do agente, e o valor mediano das transações (US$ 0,007) torna a revisão humana economicamente inviável — 143 vezes mais cara que o próprio pagamento analisado.

#agentes-de-ia #fraude #deteccao-de-fraude #pagamentos-autonomos #artigo-cientifico

Fonte ↗

risco médioOS-2026-465 · 2026-09-18

Pesquisa identifica provedores de LLM inflando cobranças ao alongar respostas artificialmente, e 7 de 15 APIs reais são sinalizadas

Em serviços de LLM cobrados por token, provedores desonestos podem manipular a geração para inflar o número de tokens de saída preservando a utilidade da tarefa — o que os autores batizam de Provider-Side Token Inflation Attack (PTIA). Um método de auditoria por sonda única, sem precisar de modelo de referência confiável, detecta esse comportamento com 85,1% de acerto médio e menos de 2% de falsos positivos, e ao aplicá-lo a 15 serviços comerciais reais de API LLM, sinalizou 7 deles como consistentes com PTIA.

#artigo-cientifico #llm #fraude #auditoria #apis-comerciais

Fonte ↗