在人工通用智能时代的神经符号人工智能与机制可解释性

神经符号人工智能（NeSy）提供了一种有前景的方法，通过桥接神经网络和符号推理来解决人工智能中的可解释性挑战。本文探讨了NeSy如何通过提供对人工智能决策过程的透明见解来增强机制可解释性（MI）和可解释人工智能（XAI）。通过将符号表示与神经网络集成，NeSy缓解了传统人工智能系统的黑箱特性，使人们能够更深入地理解其内部机制。我们提出了一种结构化的五阶段方法，集成NeSy与MI，包括组件识别、符号对齐、因果验证、评估指标和迭代精炼。该框架提供了一种新颖的、理论基础的方式，将结构化知识和逻辑推理嵌入人工智能模型，同时保持性能。为了将该框架应用于实践，我们在医学成像中的一个假设示例中实现了所有五个阶段，阐明了每个指标如何应用、原则上预期的结果，以及从业者应该预见的限制。没有进行实证实验；该场景仅旨在帮助概念理解框架。研究以对NeSy在推进人工通用智能（AGI）方面潜在作用的前瞻性分析作为结尾，强调了更大的透明度、问责制和与人类价值观的对齐。