估计和解释FST：稀有变异的影响

在一对开创性的论文中，塞沃尔·赖特和古斯塔夫·马莱考特将FST引入作为自然种群结构的一个测量指标。在随后的几十年中，多篇论文提供了不同的定义、估计方法和超出赖特的解释。尽管这种方法的多样性使得许多遗传学研究成为可能，但也引入了如何从可用数据中估计FST的困惑。考虑到这种困惑，发表的对于HapMap种群对的FST估计值的广泛变异令人担忧。在比较基因分型阵列的估计与测序数据的估计时，这些估计发生了变化——在某些情况下超过两倍。实际上，测序数据中的FST变化可能是由于影响稀有变异的种群遗传因素。虽然稀有变异确实影响结果，但我们展示这种影响主要通过估计方法的差异。对此进行校正，能得到在序列和基因型数据之间更一致的FST估计。这些差异与三个具体问题有关：（1）单个SNP的FST估计，（2）跨多个SNP的FST估计的结合，以及（3）选择用于计算的SNP集。这些估计方面的变化可能导致FST估计值之间高度偏离。在此，我们阐明这些问题并提出解决方案。