Revisao sistematica mapeia uma decada de ataques adversariais de um unico pixel contra modelos de visao
Uma revisao guiada por PRISMA organiza quase dez anos de pesquisa sobre one-pixel attacks -- ataques adversariais que alteram um unico pixel de uma imagem para forcar classificacao incorreta com alta confianca -- cobrindo metodos de ataque baseados em evolucao diferencial, defesas propostas e lacunas em diversidade de datasets e avaliacao padronizada. Os autores tambem propoem uma agenda regulatoria para testes de robustez e divulgacao de incidentes envolvendo esse tipo de fragilidade em sistemas de visao computacional usados em diagnostico medico, conducao autonoma e biometria.
One-pixel attacks sao o caso extremo da fragilidade adversarial em deep learning: modificar um unico pixel de uma imagem pode, em muitos modelos, induzir classificacao incorreta com alta confianca. A revisao sintetiza estudos de 2017 a 2026 e organiza uma taxonomia multi-eixo cobrindo fundamentos algoritmicos, otimizacao evolutiva em caixa-preta, ataques hibridos e de sintese de programas, mecanismos de defesa, ferramentas de interpretabilidade e vulnerabilidades especificas de dominio.
No lado tecnico, os autores apontam o predominio de estrategias baseadas em evolucao diferencial para buscar, sem acesso a gradientes, qual pixel e qual perturbacao causam a classificacao errada, alem da ascensao recente de metodos guiados por saliencia e otimizados para eficiencia computacional. Do lado defensivo, a revisao cobre restauracao de pixel, deteccao de anomalia, transformacoes no espaco de entrada e treinamento robusto, destacando que cada familia de defesa troca robustez por imperceptibilidade ou por custo computacional, sem uma solucao que resolva as tres dimensoes ao mesmo tempo.
O trabalho tambem documenta lacunas persistentes: diversidade de datasets limitada, pouca evidencia de transferibilidade entre arquiteturas e ausencia de protocolos de avaliacao padronizados -- o que dificulta comparar resultados entre estudos e estimar o risco real em producao.
A relevancia pratica esta em que, diferente de muitos ataques adversariais que exigem acesso de caixa-branca ou perturbacoes elaboradas, um unico pixel e um modelo de falha plausivel em cenarios reais (ruido de sensor, pixel morto, adesivo adversarial) em dominios onde o custo de um erro de classificacao e alto -- diagnostico por imagem, conducao autonoma, biometria. A proposta dos autores de um regime regulatorio com testes de robustez obrigatorios e divulgacao de incidentes sinaliza que a comunidade de seguranca de IA ja considera esse tipo de fragilidade madura o suficiente para tratamento normativo, nao apenas academico.