FedLSG usa LLM em arquitetura student-teacher para defender aprendizado federado em grafos contra backdoor
O FedLSG e apresentado como o primeiro framework a integrar LLMs na defesa contra ataques de backdoor em Redes Neurais de Grafos Federadas (FedGNNs), traduzindo estruturas de grafo e comportamento de clientes para linguagem natural de modo que um LLM possa avaliar semanticamente se uma atualizacao e maliciosa. A motivacao e que defesas baseadas em regras fixas sao vulneraveis a gatilhos furtivos justamente por nao entenderem o significado semantico dos padroes que estao filtrando.
Redes Neurais de Grafos treinadas de forma federada (FedGNNs) sao particularmente vulneraveis a envenenamento por backdoor, no qual um cliente malicioso insere gatilhos furtivos nas atualizacoes de modelo que enviam ao servidor de agregacao. Defesas convencionais usam regras estatisticas fixas para filtrar atualizacoes suspeitas, mas esse tipo de heuristica carece de entendimento semantico, o que a torna facil de contornar com gatilhos bem desenhados e, ao mesmo tempo, propensa a descartar estruturas de grafo legitimas.
O FedLSG ataca o problema convertendo tanto a estrutura local do grafo quanto o comportamento de atualizacao de cada cliente em texto em linguagem natural (um "grounding" de grafo e comportamento para texto), permitindo que um modelo de linguagem raciocine sobre esses padroes de forma semantica em vez de puramente estatistica. A arquitetura e do tipo student-teacher: no servidor, um LLM completo atua como professor, fornecendo orientacao contextual global e avaliando atualizacoes de clientes durante a agregacao para sinalizar participantes potencialmente maliciosos; no lado do cliente, um modelo student mais leve, ajustado via LoRA, faz raciocinio semantico local para suprimir a influencia de arestas associadas a gatilhos de backdoor antes mesmo de enviar a atualizacao.
O resultado pratico e um mecanismo de defesa que combina sinais baseados em regras com interpretacao semantica adaptativa durante a passagem de mensagens e a agregacao de clientes, aumentando a resistencia a backdoors sem comprometer a integridade dos grafos legitimos. Isso e relevante para qualquer implantacao de aprendizado federado sobre dados de grafo (por exemplo, deteccao de fraude em redes de transacoes ou sistemas de recomendacao distribuidos), onde a natureza federada do treinamento ja limita a visibilidade do servidor sobre os dados de cada participante, tornando a deteccao semantica de comportamento anomalo uma camada de defesa adicional relevante.