概率分布层次结构的信息几何

指数族或混合族的概率分布具有自然的层次结构。本文基于信息几何提供了此类系统的“正交”分解。一个典型的例子是多个随机变量之间随机依赖关系的分解。一般来说，它们具有复杂的依赖关系结构。成对依赖关系可以通过相关性容易地表示，但测量这些变量之间纯三元或更高阶相互作用（依赖关系）的影响则更加困难。随机依赖关系定量分解为成对、三元及更高阶依赖关系的“正交”和。这提供了联合熵的新不变性分解。这个问题对于提取神经元群体的发火模式中的内在相互作用以及估计其功能连接至关重要。正交分解适用于包括指数族和混合族在内的广泛层次结构。例如，我们将高阶马尔可夫链中的依赖关系分解为各种低阶马尔可夫链中的依赖关系之和.