Sistemas neurais modernos, como grandes modelos de linguagem e agentes de aprendizado por reforço, exibem capacidades impressionantes, mas frequentemente carecem de mecanismos para monitorar a coerência interna durante processos de raciocínio e tomada de decisão. Falhas como alucinações, cadeias de raciocínio instáveis e comportamento incoerente do agente podem surgir quando transições de estado interno se tornam estruturalmente difíceis de integrar. Este artigo propõe uma estrutura leve de monitoramento baseada no conceito de Coerência-Complexidade (Cₖ), originalmente introduzido no contexto da teoria eidônica de sistemas adaptativos. A abordagem proposta trata Cₖ como uma medida estrutural do esforço de integração dentro do espaço de estados de um sistema. Em vez de modificar a arquitetura de IA subjacente, um Coprocessador Eidônico externo observa continuamente as trajetórias de estado interno e computa as dinâmicas de Cₖ como um indicador de estabilidade. Gradientes crescentes de Cₖ sinalizam um aumento na dificuldade de integração e potencial colapso de coerência. A estrutura proposta pode ser implementada como um módulo de software que opera ao lado de modelos existentes e pode fornecer indicadores precoces para alucinações, instabilidade de raciocínio e estados de conflito entre múltiplos agentes. Este artigo delineia a base teórica, a arquitetura do sistema e possíveis caminhos experimentais para avaliar o monitoramento de coerência em sistemas neurais.
Steven William Baxmeier (Qui,) estudou essa questão.