A comparison of several measures of genetic distance and population structure with microsatellite data: bias and sampling variance

Because of their rapid mutation rate and resulting large number of alleles, microsatellite DNA are well suited to examine the genetic or demographic structure of fish populations. However, the large number of alleles imply that large sample sizes are required for accurate reflection of genotypic frequencies. Estimates of genetic distance are often biased at small sample sizes, and biases and sampling variances can be affected by the number of, and distances between, alleles. Using data from a large collection of larval cod (Gadus morhua) from a single area, I examined the effect of sample size on seven genetic distance and two structure metrics. Pairs of samples (equal or unequal) of various sizes were drawn at random from a pool of 856 individuals scored for six microsatellite loci. ( δμ) 2 , DSW, RST ,a ndFST were the best performers in terms of bias and variance. Sample sizes of 50 ≤ N ≤ 100 individuals were generally necessary for precise estimation of genetic distances and this value depended on number of loci, number of alleles, and range in allele size. (δμ) 2 and DSW were biased at small sample sizes. Resume : Parce qu'ils sont le siege de mutations rapides, ce qui se traduit par un nombre d'alleles eleve, les microsatellites de l'ADN conviennent bien a l'etude genetique et demographique des populations de poissons. Toutefois, etant donne le nombre eleve d'alleles en jeu, il faut des echantillons a effectif eleve pour que l'evaluation des frequences genotypiques soit exacte. L'estimation de la distance genetique est souvent biaisee avec les echantillons de faible effectif; en outre, le nombre d'alleles et la distance qui les separe peuvent influer sur le biais et sur la variance d'echantillonnage. Nous avons utilise des donnees portant sur un vaste ensemble de larves de morue (Gadus morhua) provenant d'une meme zone pour etudier l'effet de l'effectif des echantillons sur sept distances genetiques et deux parametres de structure. Nous avons choisi au hasard des paires d'echantillons (egaux ou inegaux) d'effectifs varies dans un ensemble constitue de 856 specimens presentant six microsatellites. (δμ) 2 , DSW, RST et FST ont donne les meilleurs resultats (biais et variance). Nous avons constate qu'en general, il faut des echantillons d'au plus 50 sujets et d'au moins 100 sujets (50 ≤ N ≤ 100) pour estimer avec precision les distances genetiques, la valeur de l'effectif dependant du nombre de locus, du nombre d'alleles et de la variation de la taille des alleles. (δμ) 2 et DSW presentaient un biais avec les echantillons de faible effectif. (Traduit par la Redaction)