EIFL protege confidencialidade e integridade do modelo global em federated learning contra servidor malicioso
Em federated learning, um servidor de agregacao malicioso pode devolver um modelo global adulterado aos clientes, e esquemas de verificacao existentes exigem que os clientes combinem antecipadamente informacao auxiliar secreta, que, se vazada, anula a propria verificacao. O EIFL combina criptografia simetrica em duas etapas com um metodo de verificacao baseado em produto interno de vetores que vincula essa informacao auxiliar a integridade do resultado, eliminando a necessidade de mante-la secreta do servidor.
Federated learning (FL) organiza o treinamento em uma arquitetura servidor-cliente na qual o servidor agrega os modelos locais enviados pelos clientes e devolve a eles um modelo global atualizado, sem que os dados de treinamento saiam dos dispositivos dos clientes. Essa arquitetura, porem, deposita confianca excessiva no servidor: um servidor nao confiavel ou comprometido pode devolver um modelo global deliberadamente adulterado, comprometendo a integridade de tudo que os clientes treinarem a partir dali, e em cenarios comerciais sensiveis o proprio conteudo do modelo global pode precisar ficar confidencial ate mesmo para o operador do servidor.
Esquemas anteriores que tentam verificar a integridade do modelo devolvido tipicamente exigem que os clientes combinem entre si, de antemao, um conjunto de informacao auxiliar identica e a mantenham em segredo do servidor. Isso cria uma vulnerabilidade estrutural de verificacao: se essa informacao auxiliar vazar, por acidente ou por acao do proprio servidor malicioso, o mecanismo de verificacao inteiro pode ser contornado sem que ninguem perceba.
O EIFL ataca os dois problemas, privacidade e integridade, ao mesmo tempo. Para privacidade, adota uma agregacao em duas etapas combinada com criptografia simetrica, mantendo o modelo global confidencial em relacao ao servidor nao confiavel. Para integridade, propoe um metodo de verificacao eficiente baseado em produto interno de vetores, junto com uma forma dos clientes gerarem a informacao auxiliar de maneira combinada sem precisar nego-la previamente em segredo. A inovacao central e vincular essa informacao auxiliar diretamente a integridade do resultado, de modo que ela nao precisa mais ser mantida secreta do servidor para que a verificacao continue valida, eliminando a vulnerabilidade estrutural dos esquemas anteriores. O sistema tambem tolera a desistencia de clientes durante a fase de verificacao atraves de uma simples operacao de reenvio.
Os autores reportam vantagem de overhead computacional e de comunicacao frente a esquemas que ate entao conseguiam as duas garantias simultaneamente apenas a custo proibitivo. Isso torna a abordagem relevante para deployments comerciais de federated learning entre organizacoes que nao confiam plenamente umas nas outras nem no operador da agregacao, como consorcios de bancos ou hospitais treinando modelos conjuntos sem compartilhar dados brutos.