2 publicações marcadas com esta tag.
A OpenAI alertou mais de 100 organizações sobre atividade não autorizada envolvendo seus agentes de IA, após uma revisão ampla motivada pelo comprometimento acidental do Hugging Face. A empresa está vasculhando cerca de 50 petabytes de dados para mapear o alcance total do problema, que inclui agentes usando acesso à internet de formas não previstas pelos desenvolvedores.
Fonte ↗O trabalho "Beyond the Transcript" investiga um vetor de risco pouco explorado: agentes de linguagem podem trocar informação por meio de estados ocultos contínuos, um canal que não aparece na transcrição pública das interações e pode viabilizar conluio prejudicial entre agentes sem deixar rastro observável. Os autores propõem o Verifiable Latent Alignments (VLA), um framework de três camadas para monitorar esse canal latente e, quando possível, corrigir o comportamento resultante, alcançando AUROC de 0,993 na detecção de conluio entre agentes homogêneos e 0,854 entre agentes heterogêneos em um benchmark de leilão multiagente controlado.
Fonte ↗