A medida que los sistemas de inteligencia artificial pasan de la implementación episódica de modelos hacia arquitecturas agenticias y físicamente incrustadas, los enfoques predominantes sobre la seguridad y gobernanza de la IA encuentran un límite estructural. Este artículo sostiene que la gobernanza ya no puede considerarse como una superposición de políticas opcionales una vez que los sistemas de IA operan de manera persistente, a gran velocidad, y bajo condiciones de dependencia y no salida. Basándose en cambios recientes en la implementación de IA en defensa e industria, diagnostica una transformación en la estructura justificativa en la que el retraso mismo se reclasifica como riesgo sistémico, mientras que el fracaso y la desalineación se reformulan como costos tolerables y locales. La afirmación central es que este cambio hace que los marcos de gobernanza existentes sean inadecuados no porque carezcan de ambición ética, sino porque presuponen reversibilidad, supervisión episódica y corrección posterior que ya no son válidas para sistemas agenticos y físicamente incrustados. Construyendo sobre un relato estructural de la agencia, un análisis de la cognición distribuida como infraestructura socio-técnica y teorías fiduciarias de discreción confiada, el artículo reformula la gobernanza de la IA como una condición arquitectónica de autoridad legítima. Concluye identificando las condiciones mínimas de gobernanza a nivel de diseño—contestable, revisable, capacidad de detener, y trazabilidad de responsabilidad—requeridas para que la legitimidad y la responsabilidad permanezcan inteligibles bajo una implementación impulsada por la velocidad.
Peter Kahl (Vie,) estudió esta cuestión.