MAGS: framework multiagente usa Dafny para dar garantias formais de segurança a código gerado por IA
Pesquisadores propõem o MAGS, um framework multiagente que traduz código gerado por agentes de IA para Dafny, uma linguagem com verificação formal, a fim de provar matematicamente que certas propriedades de segurança são respeitadas. O sistema atingiu 100% de sucesso na verificação formal contra especificações congeladas em 220 casos testados, mas avaliações independentes revelaram que a garantia formal nem sempre corresponde a segurança ou funcionalidade real quando a formalização não captura todo o comportamento relevante.
Fonte ↗