Dans le domaine de la modélisation statistique appliquée aux sciences psychologiques et comportementales, l’art de concevoir un modèle à la fois parcimonieux et explicatif constitue une préoccupation méthodologique fondamentale. L’élimination rétrograde (ou sélection descendante, connue sous le terme anglais de backward elimination) s’impose comme une procédure séquentielle majeure permettant d’élaguer les variables indépendantes superflues afin d’aboutir à une structure prédictive optimale. Cette approche descendante offre aux chercheurs un cadre rigoureux pour explorer des jeux de données complexes sans sacrifier la puissance analytique.
Élimination rétrograde (Backward Elimination)
1. Définition concise
L’élimination rétrograde est une méthode séquentielle de sélection de variables employée en analyse de régression statistique (linéaire, logistique ou multivariée), débutant par un modèle saturé contenant l’ensemble des prédicteurs potentiels, desquels sont retirées pas à pas les variables ne satisfaisant pas à un seuil prédéfini de significativité statistique ou d’ajustement. Ce processus itératif se poursuit de manière descendante jusqu’à ce que tous les prédicteurs restants contribuent de façon significative à l’explication de la variable dépendante ou critère.
Dans le contexte des sciences psychologiques, cette technique est fréquemment mobilisée pour identifier les dimensions psychométriques, cognitives ou environnementales qui prédisent le mieux un comportement, un trouble psychopathologique ou une performance cognitive. En partant d’un modèle complet incluant toutes les covariables théoriquement envisageables, elle garantit que les effets conjoints et les corrélations partielles sont pris en compte dès l’entame du processus d’ajustement.
Contrairement aux démarches ascendantes, la méthode rétrograde examine d’abord la covariance globale de l’ensemble des prédicteurs, ce qui permet de préserver des variables dont la contribution explicative n’apparaît que lorsqu’elles sont ajustées pour d’autres facteurs concomitants. Elle constitue ainsi un pilier classique de la modélisation exploratoire et de la recherche empirique quantitative en psychométrie.
2. Étymologie et origine linguistique
L’expression française « élimination rétrograde » est la traduction directe du terme statistique anglo-saxon backward elimination. Le vocable « élimination » provient du latin eliminare, composé du préfixe ex- (« hors de ») et de limen (« seuil »), signifiant littéralement « chasser au-delà du seuil », ce qui correspond exactement au rejet des variables statistiques dont la valeur p dépasse un seuil d’exclusion critique.
L’adjectif « rétrograde » dérive du latin retrogradus, formé de retro (« en arrière ») et gradi (« marcher, avancer »). En statistique, cette qualification traduit le fait que l’algorithme avance à rebours : au lieu de construire le modèle en agrégeant des éléments pas à pas (sélection progressive ou ascendante), il procède par soustraction successive en partant de la totalité des covariables disponibles.
Le terme s’est diffusé dans la littérature francophone de biostatistique, de psychométrie et de sociologie quantitative au cours de la seconde moitié du XXe siècle, sous l’impulsion de la standardisation des progiciels d’analyse de données informatisés. On rencontre parfois les synonymes de « régression pas à pas descendante », de « sélection descendante » ou de « méthode descendante pas à pas » pour désigner le même protocole d’élagage mathématique.
3. Prononciation et forme grammaticale
Sur le plan phonétique, « élimination rétrograde » se prononce en français international standard : /e.li.mi.na.sjɔ̃ ʁe.tʁɔ.ɡʁad/. L’adjectif « rétrograde » s’accorde en genre et en nombre avec le substantif féminin « élimination », donnant au pluriel « éliminations rétrogrades » (/e.li.mi.na.sjɔ̃ ʁe.tʁɔ.ɡʁad/).
D’un point de vue grammatical, il s’agit d’un syntagme nominal féminin singulier. Dans le jargon académique et les publications scientifiques, il est couramment employé comme complément d’objet direct ou complément du nom, par exemple : « Les variables ont été sélectionnées par élimination rétrograde » ou « Nous avons appliqué une procédure de sélection rétrograde automatisée ».
Il convient de distinguer l’élimination rétrograde pure de la sélection pas à pas bidirectionnelle (stepwise selection). Alors que l’élimination rétrograde ne fait que retirer des prédicteurs sans jamais les réintroduire une fois rejetés, certaines variantes algorithmiques sophistiquées permettent une réévaluation à chaque étape, bien que la désignation stricte d’élimination rétrograde implique une trajectoire unidirectionnelle de réduction dimensionnelle.
4. Explication conceptuelle détaillée
La logique sous-jacente à l’élimination rétrograde repose sur le principe de parcimonie scientifique, souvent illustré par le rasoir d’Ockham : entre deux modèles offrant un niveau d’explication comparable d’un phénomène psychologique, le modèle comportant le plus petit nombre de paramètres doit systématiquement être préféré. Un modèle surparamétré pose en effet des problèmes majeurs de surajustement (overfitting), réduisant sa capacité de généralisation à de nouveaux échantillons cliniques ou populationnels.
Le point de départ de l’algorithme est l’ajustement du modèle maximal, intégrant l’intégralité des k prédicteurs identifiés par le chercheur. À cette étape initiale, les coefficients de régression partielle, leurs erreurs-types et les statistiques de test associées (comme le test de Wald ou le test t de Student) sont calculés simultanément. Cela offre une vue panoramique des relations linéaires ou non linéaires qui unissent les prédicteurs à la variable d’intérêt, en contrôlant les interdépendances mutuelles.
L’étape suivante consiste à identifier la variable qui présente la contribution empirique la plus faible au modèle global. Dans une approche fondée sur les valeurs p (critère d’élimination fréquentiste), il s’agit du prédicteur associé à la plus grande valeur p supérieure à un seuil critique préétabli, noté α_out (généralement fixé à 0,05 ou 0,10 selon les objectifs de l’investigation). Si cette valeur p dépasse le seuil, la variable correspondante est retirée et le modèle est réajusté avec les k – 1 prédicteurs restants.
Ce cycle de recalcul et d’éviction s’exécute itérativement. Il s’interrompt formellement dès lors que toutes les variables demeurant dans la structure mathématique présentent une valeur de test inférieure au seuil critique retenu, ou lorsque les critères d’information globale (tels que le critère d’information d’Akaike, AIC, ou le critère d’information bayésien, BIC) cessent de s’améliorer par le retrait d’une dimension additionnelle. Le modèle final obtenu est réputé optimal selon les règles algorithmiques définies au départ.
L’élimination rétrograde présente un avantage théorique substantiel sur la sélection progressive : elle permet d’évaluer l’impact d’une variable en présence de toutes les autres. Dans les études comportementales où les phénomènes de masquage ou de confusion statistique sont légion, un prédicteur peut ne présenter aucune corrélation bivariée avec le critère, mais devenir hautement significatif en tant que variable de suppression lorsqu’il est modélisé de concert avec d’autres dimensions. L’élimination rétrograde préserve ces configurations complexes que la sélection ascendante ignore souvent.
5. Développement historique
L’histoire de l’élimination rétrograde est intimement liée à l’avènement de l’informatique moderne et au développement de l’économétrie et de la psychométrie au cours des années 1960. Auparavant, les calculs matriciels nécessaires à l’inversion des matrices de variance-covariance pour des modèles comprenant des dizaines de variables étaient réalisés à la main ou à l’aide de calculateurs mécaniques, ce qui rendait l’ajustement itératif de modèles multiples extraordinairement laborieux.
Les fondations méthodologiques de la sélection de variables séquentielle ont été formalisées notamment par des statisticiens tels que M. A. Efroymson en 1960, qui a popularisé les algorithmes informatisés de régression pas à pas (stepwise regression). Dans la foulée, des méthodologistes comme Draper et Smith ont codifié, dans leur ouvrage classique Applied Regression Analysis (1966), les procédures systématiques d’élimination rétrograde et de sélection progressive, établissant des standards qui allaient influencer des générations de chercheurs en sciences sociales et comportementales.
Durant les années 1970 et 1980, l’intégration de ces procédures au sein des grands progiciels de calcul statistique tels que SPSS (Statistical Package for the Social Sciences), SAS et BMDP a démocratisé l’utilisation de l’élimination rétrograde dans les laboratoires de psychologie à travers le monde. Les psychologues pouvaient désormais injecter des batteries entières d’items d’échelles de personnalité ou de tests cognitifs dans un algorithme afin d’extraire automatiquement le sous-ensemble de variables le plus pertinent.
À partir des années 1990 et 2000, l’essor de la statistique computationnelle et l’introduction de critères d’information fondés sur la théorie de la décision et de l’information (notamment l’AIC proposé par Hirotugu Akaike et le BIC formalisé par Gideon Schwarz) ont transformé la méthode. L’élimination rétrograde s’est alors émancipée de la simple dépendance aux valeurs p issues des tests d’hypothèse nulle pour s’orienter vers une sélection pénalisant explicitement la complexité des modèles, préparant le terrain pour les techniques de régularisation contemporaines.
6. Fondements théoriques
L’élimination rétrograde s’ancre dans la théorie de l’estimation par les moindres carrés ordinaires (MCO) pour les modèles de régression linéaire et dans l’estimation par le maximum de vraisemblance pour les modèles linéaires généralisés (GLM). Le principe fondamental repose sur la décomposition de la somme des carrés ou de la déviance, permettant d’isoler la variance unique expliquée par chaque prédicteur au-delà de la variance partagée avec les autres covariables.
Sur le plan épistémologique, la technique reflète le paradigme néo-positiviste et déductif : le chercheur rassemble l’ensemble des facteurs documentés par la théorie clinique ou empirique au sein d’une équation générale, puis procède à une réduction contrôlée. Cette démarche s’oppose au pur inductivisme ascendant, car elle suppose que l’omission initiale de variables explicatives pertinentes introduit un biais d’endogénéité ou une distorsion d’omission de variable (omitted variable bias), faussant l’évaluation des coefficients.
Un autre cadre théorique fondamental est la théorie asymptotique des tests de rapport de vraisemblance (likelihood-ratio tests). Lors de chaque soustraction d’un prédicteur, l’algorithme compare formellement un modèle restreint (sans la variable candidate à l’exclusion) à un modèle non restreint (avec cette variable). Selon le théorème de Wilks, deux fois la différence des log-vraisemblances suit asymptotiquement une loi du chi-deux dont les degrés de liberté correspondent à la différence du nombre de paramètres estimés, fournissant une assise probabiliste rigoureuse à l’éviction séquentielle.
Enfin, la méthode interagit étroitement avec la théorie du compromis biais-variance (bias-variance tradeoff). Alors que l’inclusion de prédicteurs non pertinents gonfle artificiellement la variance des prédictions (instabilité du modèle lors de sa réplication sur un autre échantillon), leur omission hâtive risque d’introduire un biais systématique dans les estimations. L’élimination rétrograde tente d’identifier le point d’équilibre où la variance d’échantillonnage est minimisée sans accroître inconsidérément le biais théorique.
7. Composantes clés, types et dimensions
La mise en œuvre et la formalisation de l’élimination rétrograde s’articulent autour de plusieurs dimensions et mécanismes décisionnels distincts :
- Modèle initial complet (Full Model) : Configuration de départ contenant l’ensemble exhaustif des prédicteurs théoriques ou exploratoires choisis par l’investigateur, servant de référence de variance expliquée.
- Critères de décision pour l’exclusion : Les règles quantitatives déterminant le retrait d’une variable à chaque itération :
- Seuil de valeur p (p-to-remove) : Règle classique où la variable présentant la plus forte valeur p supérieure à un seuil critique (généralement p > 0,05 ou p > 0,10) est retranchée.
- Statistique F partielle ou t de Student : Retrait du prédicteur dont la statistique de test associée est la plus basse en valeur absolue.
- Critères de théorie de l’information (AIC, BIC) : Élimination de la variable dont le retrait entraîne la plus forte diminution de la valeur globale de l’AIC ou du BIC du modèle.
- Déviance ou rapport de vraisemblance : Utilisé préférentiellement dans les régressions logistiques et les modèles de Poisson.
- Élimination rétrograde simple versus bidirectionnelle (Stepwise backward) : Dans la forme simple, une variable exclue ne peut plus jamais réintégrer le modèle ; dans la variante bidirectionnelle, l’algorithme teste à chaque étape si une variable préalablement retirée améliorerait significativement le modèle à la lumière des exclusions ultérieures.
- Contraintes de hiérarchie : Règles méthodologiques imposées par le chercheur pour préserver des termes d’ordre inférieur (effets principaux) tant que des termes d’ordre supérieur (interactions ou puissances polynomiales) impliquant ces mêmes prédicteurs sont conservés dans le modèle.
- Critère d’arrêt : Condition logique indiquant à l’algorithme la fin des calculs, survenant lorsque plus aucune variable ne satisfait le critère d’exclusion ou lorsque la fonction de perte atteint son minimum local.
8. Exemples et cas illustratifs
Pour concrétiser l’application de l’élimination rétrograde en psychologie clinique, considérons une recherche portant sur les déterminants de l’observance thérapeutique chez des patients adultes présentant un trouble dépressif majeur. L’équipe de recherche sélectionne initialement sept prédicteurs issus de la littérature : l’âge du patient, le niveau d’alliance thérapeutique, le sentiment d’auto-efficacité, le score d’anxiété comorbide, le niveau de revenu annuel, la présence d’effets secondaires médicamenteux et le niveau de soutien social perçu.
Dans un premier temps, le modèle de régression multiple complet est ajusté avec les sept prédicteurs. L’analyse des résultats montre que le niveau de revenu présente la valeur p la plus élevée (p = 0,78), largement au-dessus du seuil de significativité retenu (α = 0,05). Cette variable est donc exclue en premier lieu.
Le modèle est réestimé avec les six variables restantes. À cette deuxième étape, l’anxiété comorbide affiche une valeur p de 0,42. L’algorithme élimine alors l’anxiété. Lors de la troisième itération, avec cinq variables, l’âge du patient révèle une valeur p de 0,12. Bien qu’approchant de la tendance, il est supérieur au seuil critique de 0,05 et se voit exclu à son tour.
Au quatrième cycle, le modèle comprend l’alliance thérapeutique (p = 0,001), le sentiment d’auto-efficacité (p = 0,004), la présence d’effets secondaires (p = 0,015) et le soutien social perçu (p = 0,032). Aucune des variables restantes ne dépasse le seuil d’élimination de 0,05. L’algorithme s’arrête. Les chercheurs obtiennent une configuration parcimonieuse de quatre prédicteurs solides, offrant une interprétation clinique directe et un modèle robuste pour guider les interventions psychothérapeutiques ciblées.
9. Mesure, évaluation et diagnostic
L’évaluation rigoureuse d’un modèle issu d’une élimination rétrograde ne s’arrête pas à la constatation de la significativité des prédicteurs conservés ; elle exige une phase poussée de diagnostic statistique pour valider la qualité de l’ajustement. L’un des écueils majeurs réside dans l’inflation artificielle du coefficient de détermination (R²), qui a tendance à être optimiste lorsque les variables sont sélectionnées sur la base des données de l’échantillon lui-même.
Pour mesurer la dégradation ou le gain d’ajustement entre le modèle complet initial et le modèle final réduit, les chercheurs s’appuient sur le test F de changement de R² (R-square change test). Une valeur de changement de R² non significative indique que le retrait conjoint des prédicteurs n’a pas entraîné de perte substantielle de variance expliquée, justifiant ainsi l’adoption du modèle le plus simple.
Le diagnostic de la multicolinéarité constitue une composante indispensable de la procédure. La présence de corrélations élevées entre prédicteurs au départ peut fausser gravement l’ordre d’élimination des variables en gonflant les erreurs-types des coefficients. L’utilisation du facteur d’inflation de la variance (VIF pour Variance Inflation Factor) et de l’indice de tolérance est incontournable avant et après la sélection pour s’assurer que les estimateurs finaux demeurent stables et interprétables.
Enfin, la vérification des postulats classiques de régression doit être exécutée scrupuleusement sur le modèle terminal : normalité de la distribution des résidus, homoscédasticité (homogénéité de la variance des erreurs), absence d’autocorrélation résiduelle et détection d’observations aberrantes ou hautement influentes à l’aide de la distance de Cook. Un modèle réduit dont les résidus violent gravement ces hypothèses ne saurait être validé d’un point de vue psychométrique.
10. Applications et pertinence pratique
L’élimination rétrograde trouve des champs d’application variés dans toutes les branches de la psychologie et des disciplines connexes du comportement humain :
En psychologie clinique et psychiatrie, elle est mobilisée pour l’élaboration d’arbres décisionnels diagnostiques ou la conception d’outils de dépistage abrégés. Les praticiens partent souvent de questionnaires fleuves comportant des dizaines d’items pour évaluer un construit (comme le risque suicidaire ou la dépression). L’élimination rétrograde permet d’isoler la combinaison minimale d’items capables de prédire le diagnostic clinique avec une sensibilité et une spécificité optimales, réduisant ainsi la fatigue des patients lors des passations.
En neuropsychologie et sciences cognitives, la technique permet de discerner, au sein d’une batterie d’épreuves cognitives explorant la mémoire de travail, l’attention divisée et les fonctions exécutives, quelles composantes spécifiques sous-tendent les troubles des apprentissages ou le déclin cognitif lié à l’âge. Cela aide à identifier les cibles prioritaires pour les programmes de remédiation cognitive.
En psychologie du travail et des organisations, les départements des ressources humaines l’utilisent dans le cadre de la sélection du personnel et de la prédiction de la performance au travail. En introduisant des variables de personnalité (modèle des Big Five), d’aptitude cognitive générale, d’intelligence émotionnelle et d’expériences antérieures, l’élimination rétrograde permet de dégager les prédicteurs ayant une validité incrémentielle réelle, évitant ainsi le recours à des tests de recrutement redondants et coûteux.
11. Recherche et données empiriques
De nombreux travaux en méthodologie quantitative et statistique computationnelle se sont penchés sur les propriétés mathématiques et les biais inhérents à l’élimination rétrograde. Des chercheurs renommés en biostatistique, tels que Frank Harrell (2015), ont documenté de manière approfondie les limites structurelles des méthodes de sélection pas à pas entièrement automatisées.
Les études de simulation de type Monte-Carlo ont révélé de façon constante que l’élimination rétrograde, bien que généralement supérieure à la sélection ascendante (forward selection) en raison de sa prise en compte globale des corrélations partielles, produit souvent des coefficients de régression biaisés vers le haut (un phénomène connu sous le nom de biais de sélection ou « malédiction du gagnant »). Les valeurs p associées aux variables finales sélectionnées sont généralement trop optimistes (artificiellement basses), car les calculs standards ne tiennent pas compte de l’incertitude liée au fait même d’avoir sélectionné ces variables parmi un ensemble plus large.
Face à ce constat, les recherches empiriques modernes soulignent la nécessité absolue d’appliquer des protocoles de validation croisée (k-fold cross-validation) ou des procédures de rééchantillonnage par bootstrap. Par exemple, l’approche préconisée par Austin et Tu (2004) démontre que l’application de l’élimination rétrograde sur des milliers d’échantillons générés par bootstrap met en évidence une instabilité fréquente : de légères fluctuations dans les données peuvent conduire à des modèles finaux intégrant des sous-ensembles de prédicteurs radicalement différents, invitant les psychologues à une grande prudence dans l’interprétation causale des variables retenues.
12. Considérations culturelles et contextuelles
Bien que l’élimination rétrograde soit un procédé mathématique dénué en soi de biais culturel intrinsèque, son application pratique en recherche transculturelle et sociale soulève des enjeux méthodologiques d’envergure. Dans les études comparatives internationales évaluant des construits psychologiques à travers différents groupes ethniques ou nationaux, l’invariance de mesure doit obligatoirement être établie avant d’engager une procédure de sélection de variables.
Si un modèle d’élimination rétrograde est exécuté sur un échantillon regroupant plusieurs populations sans contrôle préalable de l’équivalence de mesure, l’algorithme risque d’évincer des variables hautement prédictives au sein d’une culture donnée simplement parce que leur variance est atténuée ou leur corrélation inversée dans un autre groupe sous-jacent. L’omission de cette sensibilité contextuelle peut aboutir à l’universalisation indue d’un modèle statistique calibré en réalité sur des échantillons occidentaux, éduqués, industrialisés, riches et démocratiques (dits échantillons WEIRD).
De surcroît, les seuils décisionnels (les critères alpha d’inclusion et d’exclusion) peuvent nécessiter des adaptations selon les implications sanitaires ou sociétales du modèle dans différentes régions. Dans certains contextes de santé publique communautaire où les ressources diagnostiques sont rares, l’algorithme peut être calibré pour privilégier la sensibilité globale plutôt que la parcimonie stricte, conduisant à retenir des variables qui auraient été rejetées dans un protocole clinique standardisé occidental.
13. Critiques, débats et limites
L’élimination rétrograde fait l’objet de vifs débats au sein de la communauté des statisticiens et méthodologistes de la psychologie, certains allant jusqu’à déconseiller formellement son usage non supervisé dans les revues à fort impact. La principale critique porte sur la falsification des inférences statistiques standard : après une élimination séquentielle, les intervalles de confiance et les tests de significativité ne respectent plus la distribution théorique classique, car ils ne corrigent pas l’ajustement multiple fondé sur les données (problème d’exploration opportuniste des données ou data-driven selection).
Un autre problème majeur réside dans la gestion de la multicolinéarité. Lorsque deux prédicteurs cliniquement cruciaux sont fortement corrélés l’un avec l’autre, leurs variances se neutralisent mutuellement lors de l’ajustement simultané initial. L’algorithme risque d’exclure arbitrairement l’un d’entre eux en raison d’une valeur p marginalement plus élevée, conduisant le chercheur à conclure faussement à l’inutilité théorique d’un construit fondamental.
Par ailleurs, l’élimination rétrograde souffre d’une instabilité d’échantillonnage avérée. L’ajout ou le retrait de quelques observations marginales peut suffire à modifier l’ordre d’éviction et à produire une solution finale complètement dissemblable. Cette instabilité a largement contribué à la crise de la réplicabilité observée en sciences psychologiques, où des modèles optimisés sur un échantillon d’entraînement échouent fréquemment à reproduire leur performance prédictive lors d’études indépendantes.
Enfin, la méthode est confrontée à la concurrence de techniques statistiques plus avancées issues de l’apprentissage automatique, telles que les méthodes de régularisation (régression Lasso, Ridge et Elastic Net). Contrairement à l’élimination rétrograde qui pratique un choix binaire strict (laisser la variable intacte ou l’évincer totalement), la régression pénalisée de type Lasso réduit continûment les coefficients vers zéro, limitant le surajustement tout en stabilisant l’estimation en présence de colinéarité.
14. Termes connexes et distinctions
Pour appréhender pleinement l’élimination rétrograde, il importe de la situer par rapport aux concepts méthodologiques voisins :
- Sélection progressive (Forward Selection) : Démarche inverse débutant par un modèle sans aucun prédicteur, où les variables sont intégrées une par une selon leur gain explicatif. Contrairement à l’élimination rétrograde, elle peut échouer à détecter des effets de masquage ou des configurations où les variables n’agissent qu’en combinaison synergique.
- Régression pas à pas classique (Stepwise Regression bidirectionnelle) : Approche combinée qui alterne l’ajout ascendant et l’exclusion descendante à chaque étape. L’élimination rétrograde pure est plus rigoureuse dans son exploration de la covariance conjointe, mais moins flexible si une erreur de rejet est commise tôt dans le parcours.
- Régularisation Lasso (Least Absolute Shrinkage and Selection Operator) : Technique moderne qui applique une pénalité L1 à la somme absolue des coefficients de régression. Alors que l’élimination rétrograde opère par coupures discrètes, le Lasso contracte continuellement les paramètres et effectue une sélection de variables continue et mathématiquement plus stable.
- Régression sur composantes principales (PCR) : Méthode de réduction dimensionnelle qui transforme les prédicteurs originaux en composantes orthogonales avant la régression. Elle résout la multicolinéarité sans exclure de variables, mais au détriment de l’interprétabilité clinique directe des indicateurs.
15. Synthèse des points clés
L’élimination rétrograde demeure une technique séquentielle classique et pédagogiquement éclairante pour la sélection de variables dans la recherche psychologique et comportementale. En amorçant l’analyse par un modèle complet pour en retrancher successivement les prédicteurs redondants ou non significatifs, elle favorise la construction de structures explicatives concises respectant le principe fondamental de parcimonie.
Néanmoins, les avancées de la statistique méthodologique contemporaine invitent à l’utiliser avec une rigueur critique exemplaire. L’optimisme artificiel des valeurs p, le risque d’élimination erronée lié à la multicolinéarité et la vulnérabilité au surajustement imposent de coupler impérativement cette procédure à des diagnostics approfondis, à des démarches de validation croisée et à une solide justification théorique plutôt qu’à une confiance aveugle en des automatismes algorithmiques.
Références
- Akaike, H. (1974). A new look at the statistical model identification. IEEE Transactions on Automatic Control, 19(6), 716–723. https://doi.org/10.1109/TAC.1974.1100705
- Austin, P. C., & Tu, J. V. (2004). Automated variable selection methods for logistic regression produced unstable models for predicting acute myocardial infarction mortality. Journal of Clinical Epidemiology, 57(11), 1138–1146. https://doi.org/10.1016/j.jclinepi.2004.04.003
- Draper, N. R., & Smith, H. (1998). Applied regression analysis (3rd ed.). John Wiley & Sons. https://doi.org/10.1002/9781118625590
- Harrell, F. E. (2015). Regression modeling strategies: With applications to linear models, logistic and ordinal regression, and survival analysis (2nd ed.). Springer. https://doi.org/10.1007/978-3-319-19425-7
- Tibshirani, R. (1996). Regression shrinkage and selection via the lasso. Journal of the Royal Statistical Society: Series B (Methodological), 58(1), 267–288. https://doi.org/10.1111/j.2517-6161.1996.tb02080.x