ToolGuardian usa Answer Set Programming para decidir, de forma auditável, quais ferramentas um agente de IA pode usar
Pesquisadores apresentam o ToolGuardian, um framework que aplica uma camada declarativa baseada em Answer Set Programming para autorizar, de forma explícita e auditável, quais ferramentas externas um agente de LLM pode invocar e sob quais condições de tarefa. Testado contra 16 ferramentas no estilo MCP, incluindo oito variantes maliciosas derivadas de projetos open source reais, o sistema atinge F1 de 0,86 para a classe de negação e classifica corretamente todos os 20 cenários de autorização em tempo de execução.
Fonte ↗