NOMOS compila politicas escritas em portoes deterministicos para conter agentes LLM que violam regras
Agentes LLM que usam ferramentas costumam violar silenciosamente as politicas que deveriam seguir, e as defesas existentes ou dependem de regras escritas a mao, ou de um verificador LLM por acao, ou de maquinaria formal pesada. O NOMOS compila uma politica em linguagem natural em um portao deterministico de chamadas de ferramenta usando apenas verificacao estatica baseada no esquema das ferramentas, reduzindo violacoes de 66,3% para 2,6% em um cenario de companhia aerea e chegando a zero por cento de sucesso de ataque no setor bancario.
Fonte ↗