Fallo de Gobernanza Antes del Riesgo Identificable en la Formación de Juicios Mediados por IA

Los marcos contemporáneos de gobernanza de IA se centran predominantemente en los riesgos identificables derivados de las salidas del modelo, las capacidades del sistema o los daños post-hoc. Este artículo identifica un modo de fallo distinto y aguas arriba: la ruptura de la gobernanza que ocurre antes del riesgo identificable, a nivel de la formación de juicios mediados por IA. Cuando los sistemas de lenguaje probabilístico participan en la configuración de la interpretación humana, la confianza, el encuadre y la relevancia—sin ser reconocidos como un sustrato causal—el riesgo se desplaza en lugar de detectarse. Este artículo sitúa este fallo dentro de la literatura científica y sociotécnica establecida, demostrando que el fenómeno no es ni especulativo ni ético, sino una mala clasificación estructural que surge de la interacción entre el juicio humano, los procedimientos institucionales y los sistemas de lenguaje mediados por IA.