SoK propõe framework de cinco dimensões para mapear como IA de fronteira altera a dinâmica de risco em infraestrutura crítica
Um Systematization of Knowledge (SoK) argumenta que a literatura atual de segurança de IA, organizada por tipo de ataque ou estágio do ciclo de vida, não captura como o risco realmente emerge e se propaga quando modelos de fronteira são integrados a infraestrutura crítica. Os autores propõem um framework de cinco dimensões — emergência de capacidade, vias de infiltração, propagação entre sistemas, degradação de controle e sobrecarga da capacidade de resposta institucional — para deslocar o foco de robustez de modelo isolado para garantias em nível de sistema.
O ponto de partida do trabalho é a constatação de que infraestrutura crítica (energia, água, transporte, telecom) foi historicamente protegida com base em premissas como comportamento limitado de componentes, segmentação de rede, transparência de componentes e tomada de decisão em ritmo humano. A integração de modelos de fronteira — LLMs, modelos multimodais e sistemas agênticos — quebra essas quatro premissas simultaneamente, pois esses sistemas têm comportamento emergente difícil de prever, se conectam a múltiplas fontes de dados e ferramentas, e podem agir em velocidade muito superior à de um operador humano.
O framework de cinco dimensões proposto tenta capturar a dinâmica e não apenas o catálogo de ameaças: como novas capacidades ofensivas e defensivas surgem com a escala do modelo; como dados, modelos e cadeias de suprimento de IA se tornam vias de infiltração; como uma falha se propaga entre sistemas interconectados (por exemplo, de um assistente de triagem para um sistema de controle industrial); como a autoridade de controle técnico e humano se degrada quando decisões passam a ser mediadas por IA; e como a capacidade de resposta institucional (equipes de segurança, processos de incident response) fica sob pressão quando o ritmo operacional é ditado pela IA.
Os autores também apontam um descompasso estrutural entre a pesquisa acadêmica de segurança de IA — em geral focada em robustez de modelo, benchmarks de jailbreak e ataques adversariais isolados — e as restrições operacionais reais de infraestrutura crítica, como sistemas legados, exigência de disponibilidade contínua e superfícies de ataque físicas. Esse gap motiva a proposta de uma agenda de pesquisa orientada a critérios de garantia em nível de sistema, e não apenas de modelo.
Para quem trabalha com segurança de OT/ICS, o valor prático do artigo está menos nos ataques específicos e mais no vocabulário de análise: ele dá uma forma de justificar, para tomadores de decisão que só pensam em termos de CVEs individuais, por que a introdução de um copiloto de IA em uma sala de controle é um problema de dinâmica sistêmica — de propagação e perda de controle — e não apenas mais um componente a ser corrigido com patches.