Pesquisa revela que modelos de linguagem em loop tem seguranca inconsistente entre profundidades de recorrencia
Looped Language Models reutilizam os mesmos parametros em multiplas etapas recorrentes para economizar custo, mas cada profundidade de recorrencia pode ser lida de forma independente, criando uma superficie de saida muito mais ampla do que um LLM convencional. Os autores mostram que a taxa de sucesso de jailbreaks varia, e as vezes aumenta, conforme a profundidade escolhida, que ataques feitos contra uma profundidade transferem para outras, e propoem o SafeBridge para alinhar a seguranca atraves de todas as profundidades simultaneamente.
Fonte ↗