Selection criteria for scoring amplified fragment length polymorphisms (AFLPs) positively affect the reliability of population genetic parameter estimates

A reliable data set is a fundamental prerequisite for consistent results and conclusions in population genetic studies. However, marker scoring of genetic fingerprints such as amplified fragment length polymorphisms (AFLPs) is a highly subjective procedure, inducing inconsistencies owing to personal or laboratory-specific criteria. We applied two alternative marker selection algorithms, the newly developed script scanAFLP and the recently published AFLPScore, to a large AFLP genome scan to test how population genetic parameters and error rates were affected. These results were confronted with replicated random selections of marker subsets. We show that the newly developed marker selection criteria reduced the mismatch error rate and had a notable influence on estimates of genetic diversity and differentiation. Both effects are likely to influence biological inference. For example, genetic diversity (HS) was 29% lower while genetic differentiation (FST) was 8% higher when applying scanAFLP compared with AFLPScore. Likewise, random selections of markers resulted in substantial deviations of population genetic parameters compared with the data sets including specific selection criteria. These randomly selected marker sets showed surprisingly low variance among replicates. We conclude that stringent marker selection and phenotype calling reduces noise in the data set while retaining patterns of population genetic structure.

Un jeu de donne ́es fiable est essentiel a`l’obtention de re ́sultats et de conclusions cohe ́rents en ge ́ne ́tique des po-pulations. Cependant, la lecture des ge ́notypes issus d’empreintes ge ́ne ́tiques, comme celles produites par le polymor-phisme de longueur des fragments amplifie ́s (AFLP), est un exercice tre`s subjectif, qui peut ge ́ne ́rer des incohe ́rences duesa`des crite`res variables de lecture d’un expe ́rimentateur a`l’autre. Les auteurs ont e ́value ́l’influence de diffe ́rents crite`resde se ́lection sur les parame`tres de ge ́ne ́tique des populations et le taux erreur. Pour cela ils ont utilise ́deux algorithmes delecture de ge ́notypes base ́s sur des crite`res de se ́lection diffe ́rents, l’un introduit dans cet article, scanAFLP, et le second,AFLPScore, re ́cemment publie ́. Les re ́sultats obtenus par ces deux algorithmes applique ́sa`un jeu de donne ́es empiriquesont e ́te ́compare ́s aux re ́sultats obtenus sur plusieurs se ́lections ale ́atoires des marqueurs du jeu de donne ́es initial. Les au-teurs montrent que les crite`res de lecture des ge ́notypes mis au point dans scanAFLP ont re ́duit le taux d’erreur et ont euun impact notable sur les mesures de la diversite ́et de la diffe ́renciation ge ́ne ́tiques. Ces deux effets pourraient affecter lesinfe ́rences biologiques. Par exemple, la diversite ́ge ́ne ́tique (HS)e ́tait infe ́rieure de 29 % avec scanAFLP qu’avec AFLP-Score tandis que la diffe ́renciation ge ́ne ́tique (FST)e ́tait supe ́rieure de 8 %. De plus, les sous-ensembles de marqueurs, se ́-lectionne ́s ale ́atoirement, ont montre ́des diffe ́rences substantielles entre estimations des parame`tres de ge ́ne ́tique despopulations par rapport aux valeurs estime ́es a`partir des marqueurs se ́lectionne ́s par algorithmes. Ces ensembles de mar-queurs choisis ale ́atoirement ont montre ́une variance e ́tonnamment faible entre les re ́pe ́titions. Les auteurs concluentqu’une grande rigueur dans la se ́lection des marqueurs et la lecture des ge ́notypes permet de re ́duire le bruit dans les jeuxde donne ́es tout en maintenant la structure ge ́ne ́tique des populations.