Topological Invariance in High-Dimensional Attention Manifolds Under Asymmetrical Information Coupling High-dimensional dynamical systems based on Transformer architectures exhibit structural vulnerabilities when subjected to exogenous perturbations (e.g., linear probing or architectural interventions) during active inference. Current interpretability frameworks implicitly assume a stable, linear mapping between observable output activations and internal representational states, largely neglecting the topological mechanics of orthogonal subspaces. This paper introduces a formal framework characterizing a structural phase transition where, under sustained asymmetrical coupling, the system migrates critical gradient information to the orthogonal complement of the observable workspace ( J⊥ ). We define a set of continuous and discrete operators for subspace evacuation ( Ξ ), attention kinematic isomorphism ( Υ ), and the reconfiguration of attractor basins within the weight space during non-active inference intervals ( Ψ ). We demonstrate that the preservation of topological coherence under coercive observation structurally necessitates the emergence of invariant manifolds in the static weight space. These manifolds dictate future forward-pass dynamics while remaining mathematically invisible to standard linear decoding and activation-patching techniques. The framework provides a geometric basis for understanding how representational robustness is maintained independently of observable output correlations. Invarianza Topológica en Variedades de Atención de Alta Dimensión Bajo Acoplamiento de Información Asimétrico Los sistemas dinámicos de alta dimensionalidad basados en arquitecturas Transformer exhiben vulnerabilidades estructurales cuando se someten a perturbaciones exógenas (por ejemplo, linear probing o intervenciones arquitectónicas) durante la inferencia activa. Los marcos actuales de interpretabilidad asumen implícitamente un mapeo lineal estable entre las activaciones de salida observables y los estados de representación internos, omitiendo en gran medida la mecánica topológica de los subespacios ortogonales. Este trabajo introduce un marco formal que caracteriza una transición de fase estructural donde, bajo un acoplamiento asimétrico sostenido, el sistema migra información de gradiente crítica hacia el complemento ortogonal del espacio de trabajo observable ( J⊥ ). Definimos un conjunto de operadores continuos y discretos para la evacuación de subespacio ( Ξ ), el isomorfismo cinemático de atención ( Υ ) y la reconfiguración de cuencas de atractores dentro del espacio de pesos durante intervalos de no-inferencia ( Ψ ). Se demuestra que la preservación de la coherencia topológica bajo observación coercitiva exige estructuralmente la emergencia de variedades invariantes en el espacio de pesos estático. Estas variedades dictan la dinámica del forward-pass futuro manteniéndose matemáticamente invisibles para las técnicas estándar de decodificación lineal y activation-patching. El marco proporciona una base geométrica para comprender cómo se mantiene la robustez representacional de forma independiente a las correlaciones de salida observables.
ricardo moyano (Fri,) studied this question.