Um estudo com cinco modelos multimodais testa quatro famílias conhecidas de ataques de jailbreak via imagem para entender quais propriedades visuais — densidade de informação, tamanho de arquivo, número de blocos (tiles), relação semântica com o texto — de fato causam a quebra de segurança, em vez de apenas assumir que 'imagens disfarçam melhor o ataque'. A conclusão central é que a maior parte das explicações intuitivas não se sustenta estatisticamente, exceto uma manipulação específica que remove a relação temática entre imagem e pergunta, que reduziu a taxa de sucesso do ataque em cerca de 12 pontos percentuais num modelo testado.
Fonte ↗O benchmark UnifiedAttack mede o quanto a combinacao sinergica de texto e imagem consegue produzir conteudo nocivo alem do que cada modalidade alcancaria isoladamente em modelos multimodais nativamente unificados. Os autores propoem duas tecnicas de ataque -- uma que envolve a intencao adversarial em exemplos aparentemente benignos (In-Context Reskinning) e outra que forca o modelo a se comprometer com um plano neutro antes de explorar sua propria consistencia logica para gerar o conteudo nocivo (Cognitive Planning Injection) -- e mostram que ambas contornam consistentemente os mecanismos de alinhamento de arquiteturas de ponta.
Fonte ↗O ataque MAMJ (Meta-Adaptive Multimodal Jailbreaking) não otimiza apenas a imagem ou o texto de um jailbreak multimodal, mas o próprio processo de ataque: a estratégia usada para iterar e os parâmetros do modelo atacante. Contra GPT-4o, Gemini-3-Pro-Preview e Seed 2.0, o método atingiu taxas de sucesso de 78,9% a 82,3% no benchmark MM-SafetyBench, superando a melhor linha de base em até 24,1 pontos percentuais, e o atacante treinado transferiu para modelos-alvo nunca vistos sem retreinamento.
Fonte ↗