olimposec.com
tema

#robotica

3 publicações marcadas com esta tag.

panoramaOS-2026-638 · 2026-10-08
0

Modelos de visao-linguagem-acao herdam vulnerabilidades adversariais de seus modelos de visao-linguagem ancestrais, mesmo em ataque black-box

Pesquisadores demonstraram que e possivel atacar modelos de Visao-Linguagem-Acao (VLAs) usados em robotica -- sistemas que convertem percepcao visual e instrucoes em acoes fisicas -- tendo acesso apenas ao modelo de visao-linguagem (VLM) publico do qual o VLA foi derivado, sem qualquer acesso ao VLA implantado em si. Patches adversariais otimizados sobre o VLM ancestral causaram degradacao substancial na taxa de sucesso de tarefas em diferentes familias de VLA, tanto em simulacao quanto em imagens estaticas do mundo real, revelando que a adaptacao de um VLM para controle robotico nao elimina automaticamente as fragilidades adversariais herdadas da base visual-linguistica.

Fonte ↗
panoramaOS-2026-343 · 2026-09-02
0

Pesquisadores propõem modelo de confiança federada para marketplaces de habilidades de robôs controlados por LLM

Diante da chegada de 'app stores' de habilidades para frotas de robôs guiadas por LLM, pesquisadores argumentam que o modelo tradicional de PKI centralizada (uma autoridade certificadora, um log de transparência único) não se encaixa em operadores heterogêneos, implantações isoladas de rede e consequências físicas de confiar no publicador errado. Eles propõem 'confiança federada', em que cada robô mantém seu próprio diretório local de assinantes confiáveis, e mostram que o esquema bloqueia 100% de ataques de publicador falso, adulteração e assinante revogado em 5.000 tentativas adversariais.

Fonte ↗
risco altoOS-2026-238 · 2026-08-18
0

Rowhammer contra robôs: poucos bit-flips derrubam modelos Vision-Language-Action a zero

Pesquisadores demonstram o primeiro ataque de bit-flip contra modelos Vision-Language-Action (VLA) quantizados, que controlam robôs físicos: alterar entre 1 e 300 bits específicos nos pesos INT8, dependendo da arquitetura, derruba a taxa de sucesso da tarefa a zero. Em um robô real, 100 flips calibrados zeraram todas as 20 tentativas de sucesso, contra 14/20 na versão limpa, mostrando que a integridade dos pesos é uma fronteira de segurança real para IA embarcada.

Fonte ↗