UnifiedAttack mostra que combinar texto e imagem gera jailbreaks mais eficazes contra modelos multimodais unificados
O benchmark UnifiedAttack mede o quanto a combinacao sinergica de texto e imagem consegue produzir conteudo nocivo alem do que cada modalidade alcancaria isoladamente em modelos multimodais nativamente unificados. Os autores propoem duas tecnicas de ataque -- uma que envolve a intencao adversarial em exemplos aparentemente benignos (In-Context Reskinning) e outra que forca o modelo a se comprometer com um plano neutro antes de explorar sua propria consistencia logica para gerar o conteudo nocivo (Cognitive Planning Injection) -- e mostram que ambas contornam consistentemente os mecanismos de alinhamento de arquiteturas de ponta.
Fonte ↗