Lorsque on applique un modèle aux données, on a de nombreuses variables explicatives. Avec ces variables, on aimerait expliquer la variable dépendante/réponse pour la modéliser. Il est possible que ces variables représentent la même quantité, car elles partagent la même partie de la variance. Ainsi, pour choisir quelles variables utiliser, il faut appliquer des méthodes de sélection de modèle, le but étant de trouver le modèle le plus simple, avec l’erreur la plus petite et le moins de variables explicatives.