STANCE：一个统一的统计模型用于检测空间转录组学中的细胞类型特异性空间变异基因

空间转录组学中的主要挑战之一是检测空间变异基因（SVGs），这些基因的表达模式在组织位置上是非随机的。许多SVG与细胞类型组成相关，引入了细胞类型特异性SVG（ctSVGs）的概念。现有的ctSVG检测方法将细胞类型特异性的空间效应视为固定效应，从而导致组织空间旋转依赖的结果。此外，SVG可能在细胞类型内表现出随机的空间模式，这意味着一个SVG并不总是ctSVG，反之亦然，进一步复杂化了检测。我们提出了STANCE，一种在线性混合效应模型框架下同时检测SVG和ctSVG的统一统计模型，整合了基因表达、空间位置和细胞类型组成信息。STANCE确保了组织旋转不变的结果，采用两阶段的方法：初始的SVG/ctSVG检测，随后进行ctSVG特异性测试。我们通过广泛的模拟和公共数据集的分析展示了其性能。下游分析揭示了STANCE在空间转录组学分析中的潜力.