RuntimeGuard-AI propõe recibos assinados para tornar auditável a integridade de decisões de política de IA

O trabalho, de autoria única (Neeraj Kumar Singh Beshane), reconstrói um protótipo de pesquisa chamado RuntimeGuard-AI em torno de uma restrição específica: um registro de auditoria de IA só é útil se sua durabilidade e sua fronteira de confiança forem explícitas. Devolver uma decisão de política 'aprovada' antes de qualquer escrita durável minimiza a latência, mas não garante que a evidência sobreviva a uma falha imediatamente após a decisão.

Tecnicamente, o sistema vincula cada decisão determinística de política à fonte exata de política que a gerou, grava um registro que minimiza dados sensíveis em um ponto de sincronização escolhido por quem chama o serviço, e devolve um recibo assinado com Ed25519 atestando se aquele ponto de sincronização realmente foi concluído. Após um reinício, o motor revalida registros enquadrados, manifestos, posicionamento de shards, continuidade de sequência e identidade de replay, para detectar adulteração ou lacunas. Um caminho separado de atestação agrupa os registros já confirmados em épocas encadeadas e assinadas via árvore de Merkle, que um auditor externo pode verificar com uma chave que ele mesmo controla, sem depender da confiança no operador do sistema.

Os benchmarks, rodados em um Apple M4 Pro, mostram a troca entre velocidade e durabilidade de forma explícita: evidência assinada em modo bufferizado atinge 27.193 requisições por segundo com latência mediana de 141,9 microssegundos, enquanto sincronização completa por registro cai para cerca de 242 requisições por segundo, com latência mediana de 16,0 milissegundos; selar uma época assinada de 100 mil registros leva 97,0 milissegundos. Os autores são explícitos: isso é uma troca medida entre durabilidade e latência, não um caminho de auditoria assíncrona 'grátis', e o protótipo não prova que o modelo subjacente de fato executou como alegado, não impede que um assinante comprometido bifurque o histórico, e não faz nenhuma alegação de conformidade legal.

À medida que reguladores e clientes corporativos passam a exigir trilhas de auditoria à prova de adulteração para decisões automatizadas de IA (moderação de conteúdo, aprovação de chamadas de ferramenta por agentes, gates de compliance), a troca real entre 'rápido' e 'comprovadamente durável' em registro é exatamente o tipo de detalhe que decide se um sistema de auditoria resiste a condições adversariais, como um atacante correndo para corromper o estado logo após provocar uma violação, ou um operador comprometido tentando reescrever o histórico. Mais do que um produto pronto, o trabalho funciona como um modelo de custo honesto: equipes que constroem infraestrutura de guardrail e auditoria de IA agora têm números concretos de quanta vazão perdem para obter evidência criptograficamente defensável, e um lembrete explícito de que o comprometimento do assinante segue sendo uma ameaça em aberto que esse desenho não resolve.