Duas Fronteiras Estruturais de Governança em Sistemas Autônomos — Artigo 9 Este artigo formaliza uma visão estrutural da governança da IA baseada em duas fronteiras distintas: a fronteira de espaço de estado admissível e a fronteira de execução (compromisso). A maioria das abordagens de governança opera post hoc, avaliando ou restringindo decisões após serem geradas. Este trabalho argumenta que tais abordagens são estruturalmente insuficientes, pois atuam sobre um espaço de propostas que permanece irrestrito. Introduzimos um modelo de dupla fronteira: Fronteira de Espaço de Estado Admissível: define o que pode existir no sistema. A governança neste nível não é imposição, mas construção — certos estados nunca são representáveis. Fronteira de Compromisso: governa o ponto de irreversibilidade, onde as ações se tornam reais e devem ser explicitamente autorizadas, não contornáveis e avaliadas no momento da execução. O artigo mostra que: A governança aplicada apenas na execução é reativa. A governança aplicada apenas no nível de espaço de estado carece de garantias de imposição. Uma governança robusta requer ambas as fronteiras, estruturalmente acopladas, mas funcionalmente distintas. Este trabalho reformula a governança de uma camada de controle para uma propriedade da arquitetura do sistema, mudando de filtrar comportamento para definir possibilidade.
Ricardo Rubio Albacete (Qui,) estudou esta questão.
Synapse has enriched 5 closely related papers on similar clinical questions. Consider them for comparative context: