L’analyse de r\u00e9gression constitue depuis plus d’un si\u00e8cle l’armature m\u00e9thodologique pr\u00e9pond\u00e9rante de la mod\u00e9lisation statistique appliqu\u00e9e aux sciences empiriques. Qu’il s’agisse de quantifier l’influence de d\u00e9terminants socio-\u00e9conomiques, de d\u00e9m\u00ealer les contributions relatives de biomarqueurs neurophysiologiques ou de mod\u00e9liser des r\u00e9seaux d’attributs psychom\u00e9triques, les chercheurs ont traditionnellement accord\u00e9 une confiance quasi absolue \u00e0 la m\u00e9thode des moindres carr\u00e9s ordinaires. Ce paradigme d’estimation, sanctifi\u00e9 par des propri\u00e9t\u00e9s analytiques \u00e9l\u00e9gantes et une interpr\u00e9tabilit\u00e9 intuitive, a longtemps incarn\u00e9 l’\u00e9talon-or de l’inf\u00e9rence causale et descriptive. Pourtant, \u00e0 mesure que les dispositifs exp\u00e9rimentaux se sont sophistiqu\u00e9s et que la dimensionnalit\u00e9 des jeux de donn\u00e9es a cr\u00fb de mani\u00e8re exponentielle, les failles structurelles de cette approche classique sont apparues au grand jour, r\u00e9v\u00e9lant une vuln\u00e9rabilit\u00e9 critique face aux pathologies informationnelles des matrices de donn\u00e9es contemporaines.<\/p>\n
Au c\u0153ur de ces difficult\u00e9s r\u00e9side le fl\u00e9au de la colin\u00e9arit\u00e9 et de la haute dimensionnalit\u00e9. Lorsque les covariables collect\u00e9es pr\u00e9sentent de fortes corr\u00e9lations mutuelles \u2014 une situation non pas exceptionnelle mais omnipr\u00e9sente dans l’observation des syst\u00e8mes complexes et des conduites humaines \u2014, l’\u00e9difice math\u00e9matique des moindres carr\u00e9s vacille. L’exigence fondamentale d’ind\u00e9pendance lin\u00e9aire se heurte \u00e0 la r\u00e9alit\u00e9 d’espaces pr\u00e9dictifs satur\u00e9s de redondance, provoquant une instabilit\u00e9 num\u00e9rique dramatique, une inflation d\u00e9mesur\u00e9e de la variance d’\u00e9chantillonnage et une incapacit\u00e9 chronique des mod\u00e8les \u00e0 reproduire fid\u00e8lement leurs pr\u00e9dictions sur des cohortes ind\u00e9pendantes. Face \u00e0 cette crise de r\u00e9plicabilit\u00e9, le dogme classique postulant qu’un bon estimateur se doit d’\u00eatre rigoureusement sans biais a d\u00fb \u00eatre profond\u00e9ment r\u00e9\u00e9valu\u00e9 au profit de paradigmes d’optimisation plus pragmatiques et math\u00e9matiquement plus robustes.<\/p>\n
C’est pr\u00e9cis\u00e9ment \u00e0 cette crois\u00e9e des chemins \u00e9pist\u00e9mologiques que s’inscrit la r\u00e9gression ridge. Con\u00e7ue initialement pour rem\u00e9dier au mauvais conditionnement des syst\u00e8mes lin\u00e9aires en ing\u00e9nierie chimique avant de conqu\u00e9rir l’ensemble des sciences quantitatives, cette technique de r\u00e9gularisation propose un compromis th\u00e9orique audacieux : renoncer d\u00e9lib\u00e9r\u00e9ment \u00e0 la puret\u00e9 formelle de l’absence de biais afin d’obtenir en contrepartie un effondrement spectaculaire de la variance des estimations. En introduisant une contrainte quadratique sur la magnitude des coefficients, la r\u00e9gression p\u00e9nalis\u00e9e op\u00e8re un r\u00e9tr\u00e9cissement continu et harmonieux des poids statistiques, garantissant l’inversibilit\u00e9 des matrices d’information et pr\u00e9servant l’int\u00e9grit\u00e9 globale du syst\u00e8me explicatif. Ce trait\u00e9 offre une immersion exhaustive dans les fondements math\u00e9matiques, les propri\u00e9t\u00e9s spectrales, les dynamiques computationnelles et les applications concr\u00e8tes de la r\u00e9gularisation ridge, tra\u00e7ant ainsi la voie vers une mod\u00e9lisation pr\u00e9dictive et inf\u00e9rentielle d’une robustesse optimale.<\/p>\n
La formalisation du mod\u00e8le de r\u00e9gression lin\u00e9aire multiple<\/a> repose sur la postulation d’une relation affine entre un vecteur de r\u00e9ponse continue et un ensemble structur\u00e9 de variables explicatives. Dans une notation matricielle standardis\u00e9e, consid\u00e9rons un \u00e9chantillon constitu\u00e9 de n<\/em> observations ind\u00e9pendantes et de p<\/em> pr\u00e9dicteurs. Le vecteur des observations Y<\/strong> ∈ ℜn<\/sup> est mod\u00e9lis\u00e9 par l’\u00e9quation matricielle fondamentale Y<\/strong> = X<\/strong>β + ε, o\u00f9 X<\/strong> d\u00e9signe la matrice de conception de dimensions n<\/em> × (p<\/em> + 1), int\u00e9grant conventionnellement une colonne unitaire d\u00e9di\u00e9e \u00e0 l’ordonn\u00e9e \u00e0 l’origine, β ∈ ℜ(p + 1)<\/sup> repr\u00e9sente le vecteur inconnu des param\u00e8tres de r\u00e9gression \u00e0 estimer, et ε ∈ ℜn<\/sup> correspond au vecteur des perturbations stochastiques inobservables.<\/p>\n L’estimation conventionnelle des param\u00e8tres s’effectue via le crit\u00e8re d’optimisation des moindres carr\u00e9s ordinaires<\/a> (MCO), dont la finalit\u00e9 consiste \u00e0 minimiser la somme des carr\u00e9s des r\u00e9sidus, formalis\u00e9e analytiquement par la fonction de co\u00fbt S<\/em>(β) = ||Y<\/strong> – X<\/strong>β||2<\/sup> = (Y<\/strong> – X<\/strong>β)T<\/sup>(Y<\/strong> – X<\/strong>β). En d\u00e9veloppant cette expression quadratique sous la forme Y<\/strong>T<\/sup>Y<\/strong> – 2βT<\/sup>X<\/strong>T<\/sup>Y<\/strong> + βT<\/sup>X<\/strong>T<\/sup>X<\/strong>β et en annulant son gradient par rapport au vecteur β, nous obtenons le syst\u00e8me classique des \u00e9quations normales : X<\/strong>T<\/sup>X<\/strong>β = X<\/strong>T<\/sup>Y<\/strong>. D\u00e8s lors que la matrice carr\u00e9e de Gram X<\/strong>T<\/sup>X<\/strong> est d’ordre plein et non singuli\u00e8re, l’estimateur analytique s’\u00e9crit de mani\u00e8re unique : βMCO<\/sub> = (X<\/strong>T<\/sup>X<\/strong>)-1<\/sup>X<\/strong>T<\/sup>Y<\/strong>.<\/p>\n Sous la validit\u00e9 des hypoth\u00e8ses classiques formalis\u00e9es par le th\u00e9or\u00e8me de Gauss-Markov<\/a>, cet estimateur jouit de la propri\u00e9t\u00e9 BLUE (Best Linear Unbiased Estimator<\/em>), affirmant qu’au sein de la classe des estimateurs lin\u00e9aires et sans biais, βMCO<\/sub> minimise la variance d’\u00e9chantillonnage de chaque coefficient individuel. La matrice de variance-covariance associ\u00e9e \u00e0 ce vecteur d’estimation s’exprime rigoureusement par Var(βMCO<\/sub>) = σ2<\/sup>(X<\/strong>T<\/sup>X<\/strong>)-1<\/sup>, o\u00f9 σ2<\/sup> d\u00e9note la variance r\u00e9siduelle homosc\u00e9dastique de la perturbation ε. Toutefois, cette \u00e9l\u00e9gance th\u00e9orique masque une sensibilit\u00e9 op\u00e9rationnelle extr\u00eame : l’inversion de la matrice d’information X<\/strong>T<\/sup>X<\/strong> s’av\u00e8re hautement vuln\u00e9rable au mauvais conditionnement num\u00e9rique, transformant le moindre bruit stochastique en distorsions param\u00e9triques colossales.<\/p>\n L’int\u00e9grit\u00e9 inf\u00e9rentielle du mod\u00e8le des moindres carr\u00e9s ordinaires repose sur un ensemble d’axiomes probabilistes rigides, formul\u00e9s d\u00e8s les origines de l’\u00e9conom\u00e9trie et de la biom\u00e9trie moderne. Le premier postulat exige l’exog\u00e9n\u00e9it\u00e9 stricte des r\u00e9gresseurs, stipulant que l’esp\u00e9rance conditionnelle des perturbations par rapport \u00e0 la matrice de conception s’annule identiquement : E(ε|X<\/strong>) = 0. Cette condition implique l’absence d’omission de variables explicatives pertinentes corr\u00e9l\u00e9es aux r\u00e9gresseurs inclus, ainsi que l’absence d’erreurs de mesure syst\u00e9matiques au sein des variables ind\u00e9pendantes. Parall\u00e8lement, la structure de variance des erreurs est assujettie \u00e0 l’hypoth\u00e8se d’homosc\u00e9dasticit\u00e9, selon laquelle la variance conditionnelle Var(εi<\/sub>|X<\/strong>) demeure strictement constante et \u00e9gale \u00e0 σ2<\/sup> pour tout indice i<\/em>, proscrivant toute d\u00e9pendance fonctionnelle entre l’\u00e9chelle de dispersion des r\u00e9sidus et les niveaux des variables pr\u00e9dictives.<\/p>\n Le deuxi\u00e8me volet axiomatique concerne l’ind\u00e9pendance stochastique mutuelle des r\u00e9sidus, formalis\u00e9e par l’absence d’autocorr\u00e9lation : Cov(εi<\/sub>, εj<\/sub>|X<\/strong>) = 0 pour tout couple d’observations distinctes o\u00f9 i<\/em> ≠ j<\/em>. Cette clause d’orthogonalit\u00e9 est fr\u00e9quemment viol\u00e9e au sein des protocoles longitudinaux ou spatiaux. En outre, pour autoriser la d\u00e9rivation exacte des lois de distribution d’\u00e9chantillonnage relatives aux statistiques de test t<\/em> de Student et F<\/em> de Fisher-Snedecor en petits \u00e9chantillons, la th\u00e9orie impose la normalit\u00e9 multidimensionnelle du vecteur des perturbations, formul\u00e9e par ε ~ N<\/em>(0, σ2<\/sup>I<\/strong>n<\/sub>). L’exigence la plus contraignante pour le calcul matriciel r\u00e9side cependant dans le rang plein de la matrice de conception : le rang de X<\/strong> doit \u00eatre strictement \u00e9gal \u00e0 (p<\/em> + 1), interdisant formellement toute d\u00e9pendance lin\u00e9aire exacte entre les colonnes explicatives.<\/p>\n Dans la pratique empirique des sciences humaines, cliniques et sociales, la violation concomitante de ces postulats n’est point une anomalie marginale, mais l’\u00e9tat habituel des donn\u00e9es d’observation. Lorsque les covariables s’entrelacent au sein de syst\u00e8mes interactifs non contr\u00f4l\u00e9s, l’illusion d’une ind\u00e9pendance lin\u00e9aire stricte s’effondre. Les tests d’hypoth\u00e8ses conventionnels s’en trouvent irr\u00e9m\u00e9diablement fauss\u00e9s : les seuils de significativit\u00e9 empiriques s’\u00e9cartent drastiquement des distributions th\u00e9oriques tabul\u00e9es, induisant des taux d’erreur de type I massifs et conduisant les chercheurs \u00e0 rejeter \u00e0 tort l’hypoth\u00e8se nulle d’absence d’effet pour de simples art\u00e9facts d’instabilit\u00e9 matricielle.<\/p>\n L’\u00e9mergence contemporaine de m\u00e9thodologies d’acquisition massives de donn\u00e9es a pr\u00e9cipit\u00e9 la faillite op\u00e9rationnelle de l’estimateur des moindres carr\u00e9s ordinaires face au ph\u00e9nom\u00e8ne de haute dimensionnalit\u00e9. Lorsque le nombre de pr\u00e9dicteurs p<\/em> s’accro\u00eet jusqu’\u00e0 approcher la taille de l’\u00e9chantillon n<\/em>, le volume de l’espace g\u00e9om\u00e9trique engendr\u00e9 par les colonnes de X<\/strong> devient disproportionn\u00e9 par rapport au nombre restreint de points de donn\u00e9es disponibles pour calibrer l’hyperplan de r\u00e9gression. Dans la situation limite o\u00f9 p<\/em> ≥ n<\/em>, la matrice X<\/strong>T<\/sup>X<\/strong> devient structurellement singuli\u00e8re, son rang ne pouvant exc\u00e9der n<\/em>. Le d\u00e9terminant matriciel s’annule rigoureusement, rendant l’op\u00e9ration d’inversion classique alg\u00e9briquement impossible et plongeant le syst\u00e8me dans une infinit\u00e9 d’hyperplans ajustant parfaitement les donn\u00e9es observ\u00e9es au prix d’une perte totale de g\u00e9n\u00e9ralisation.<\/p>\n M\u00eame lorsque la configuration demeure en r\u00e9gime sous-satur\u00e9 o\u00f9 p<\/em> < n<\/em> mais avec un ratio p<\/em>\/n<\/em> non n\u00e9gligeable, la solution MCO subit une d\u00e9gradation pathologique de ses propri\u00e9t\u00e9s de stabilit\u00e9 num\u00e9rique. L’espace vectoriel d’estimation se caract\u00e9rise par des valeurs propres quasi nulles au sein de la matrice de Gram, ce qui pr\u00e9cipite l’explosion de la trace de la matrice de variance-covariance des coefficients : tr(Var(βMCO<\/sub>)) = σ2<\/sup> ∑ (1 \/ λj<\/sub>), o\u00f9 les λj<\/sub> repr\u00e9sentent les valeurs propres de X<\/strong>T<\/sup>X<\/strong>. D\u00e8s lors qu’une seule valeur propre λmin<\/sub> s’approche de z\u00e9ro, la variance globale de l’estimateur tend vers l’infini, engendrant une fluctuation chaotique des coefficients d’un \u00e9chantillon d’apprentissage \u00e0 un autre.<\/p>\n Cette instabilit\u00e9 structurelle se traduit concr\u00e8tement par un surapprentissage (overfitting<\/em>) aigu. Le mod\u00e8le MCO, dot\u00e9 d’une flexibilit\u00e9 param\u00e9trique d\u00e9mesur\u00e9e par rapport \u00e0 la contrainte informationnelle disponible, incorpore avidement le bruit stochastique propre \u00e0 l’\u00e9chantillon d’entra\u00eenement comme s’il s’agissait d’un signal causal authentique. Bien que le coefficient de d\u00e9termination R<\/em>2<\/sup> apparent puisse fr\u00f4ler l’unit\u00e9 sur la cohorte d’estimation, l’erreur quadratique moyenne de pr\u00e9diction \u00e9valu\u00e9e sur des cohortes ind\u00e9pendantes subit une d\u00e9gradation exponentielle. L’estimateur sans biais garantit th\u00e9oriquement une esp\u00e9rance asymptotique conforme \u00e0 la v\u00e9rit\u00e9 param\u00e9trique, mais il le fait au prix d’une telle incertitude d’\u00e9chantillonnage que toute tentative de pr\u00e9diction individualis\u00e9e en haute dimension devient scientifiquement caduque.<\/p>\n La multicolin\u00e9arit\u00e9<\/a> d\u00e9signe une configuration structurelle au sein de laquelle deux ou plusieurs variables explicatives d’un mod\u00e8le de r\u00e9gression lin\u00e9aire sont unies par une relation de d\u00e9pendance lin\u00e9aire approch\u00e9e ou quasi stochastique. Il convient d’op\u00e9rer une c\u00e9sure conceptuelle fondamentale entre la colin\u00e9arit\u00e9 exacte, situation math\u00e9matique d\u00e9g\u00e9n\u00e9r\u00e9e o\u00f9 il existe une combinaison lin\u00e9aire non triviale telle que c1<\/sub>X<\/strong>1<\/sub> + c2<\/sub>X<\/strong>2<\/sub> + … + cp<\/sub>X<\/strong>p<\/sub> = 0 emp\u00eachant toute inversion matricielle, et la multicolin\u00e9arit\u00e9 imparfaite ou quasi-colin\u00e9arit\u00e9, caract\u00e9ris\u00e9e par une \u00e9quation de la forme c1<\/sub>X<\/strong>1<\/sub> + … + cp<\/sub>X<\/strong>p<\/sub> + ν = 0, o\u00f9 ν repr\u00e9sente un vecteur r\u00e9siduel stochastique d’amplitude infinit\u00e9simale.<\/p>\n Dans l’investigation empirique, particuli\u00e8rement au sein des sciences psychologiques, cognitives et comportementales, la pr\u00e9sence de covariables hautement corr\u00e9l\u00e9es constitue non pas une anomalie exp\u00e9rimentale, mais le reflet direct de l’architecture des construits mesur\u00e9s. Lorsque des investigateurs administrent des batteries psychom\u00e9triques complexes comprenant des inventaires de personnalit\u00e9, des \u00e9valuations d’affects ou des sous-tests d’efficience cognitive, les diff\u00e9rents items ou sous-\u00e9chelles puisent in\u00e9luctablement dans des dimensions latentes communes. Par exemple, l’\u00e9valuation conjointe de l’anxi\u00e9t\u00e9-trait, du neuroticisme, de la tendance \u00e0 la rumination et de la d\u00e9tresse psychologique g\u00e9n\u00e9rale g\u00e9n\u00e8re une matrice de donn\u00e9es satur\u00e9e de redondance informationnelle intrins\u00e8que.<\/p>\n Cette architecture se formalise au niveau alg\u00e9brique par une structure de covariance largement non diagonale au sein de la matrice de conception standardis\u00e9e. Les vecteurs colonnes de X<\/strong> cessent de former une base orthogonale dans l’espace euclidien ℜn<\/sup> ; ils se regroupent au sein de sous-espaces de faible dimensionnalit\u00e9, pointant dans des directions g\u00e9om\u00e9triques quasi indiscernables. Cette redondance implique que le mod\u00e8le lin\u00e9aire se voit assigner la t\u00e2che th\u00e9oriquement impossible d’attribuer de fa\u00e7on univoque des parts de variance sp\u00e9cifiques \u00e0 des variables explicatives qui ne partagent entre elles aucune variabilit\u00e9 ind\u00e9pendante dans l’\u00e9chantillon collect\u00e9.<\/p>\n L’expression analytique de la variance du j<\/em>-i\u00e8me coefficient de r\u00e9gression estim\u00e9 par la m\u00e9thode des moindres carr\u00e9s ordinaires fournit une illustration implacable des ravages provoqu\u00e9s par la colin\u00e9arit\u00e9 : Var(β\u0302j<\/sub>) = σ2<\/sup> \/ [(1 – R<\/em>j<\/sub>2<\/sup>) ∑ (xij<\/sub> – x\u0304j<\/sub>)2<\/sup>], o\u00f9 R<\/em>j<\/sub>2<\/sup> d\u00e9signe le coefficient de d\u00e9termination issu de la r\u00e9gression auxiliaire du pr\u00e9dicteur X<\/strong>j<\/sub> sur l’ensemble exhaustif des (p<\/em> – 1) autres variables explicatives du mod\u00e8le. Lorsque la multicolin\u00e9arit\u00e9 s’intensifie, R<\/em>j<\/sub>2<\/sup> converge de mani\u00e8re asymptotique vers la valeur 1, ce qui entra\u00eene la chute du d\u00e9nominateur (1 – R<\/em>j<\/sub>2<\/sup>) vers z\u00e9ro et projette la variance de l’estimateur vers des valeurs vertigineuses.<\/p>\n Ce gonflement artificiel des erreurs-types des coefficients de r\u00e9gression a pour corollaire une fragilisation extr\u00eame de la solution num\u00e9rique. Les coefficients estim\u00e9s deviennent hyper-r\u00e9actifs : une alt\u00e9ration infinit\u00e9simale d’une seule mesure exp\u00e9rimentale, la suppression fortuite de quelques sujets au sein de l’\u00e9chantillon ou l’adjonction d’un l\u00e9ger bruit instrumental suffit \u00e0 provoquer des oscillations spectaculaires de l’amplitude des estimations, pouvant aller jusqu’\u00e0 d\u00e9cupler la magnitude d’un coefficient ou en inverser radicalement le sens arithm\u00e9tique. Cette sensibilit\u00e9 pathologique interdit toute interpr\u00e9tation substantielle de l’influence isol\u00e9e d’un facteur sur le ph\u00e9nom\u00e8ne \u00e9tudi\u00e9.<\/p>\n Sur le plan de l’inf\u00e9rence hypoth\u00e9tique, cette inflation de la variance pulv\u00e9rise la puissance statistique des tests de Student portant sur les coefficients individuels. La statistique de test t<\/em> = β\u0302j<\/sub> \/ SE(β\u0302j<\/sub>) subit un \u00e9crasement syst\u00e9matique en raison de la magnitude excessive du d\u00e9nominateur d’erreur standard. Il en r\u00e9sulte une situation paradoxale embl\u00e9matique de la multicolin\u00e9arit\u00e9 : le test global d’analyse de variance F<\/em> de Snedecor rejette triomphalement l’hypoth\u00e8se nulle globale \u00e0 p<\/em> < 0,001 (attestant que le mod\u00e8le dans son ensemble capte une part substantielle de variance), tandis que l’int\u00e9gralit\u00e9 des tests univari\u00e9s associ\u00e9s aux pr\u00e9dicteurs s’av\u00e8re non significative. Enfin, la multicolin\u00e9arit\u00e9 induit fr\u00e9quemment des inversions de signes contre-intuitives, o\u00f9 une variable notoirement corr\u00e9l\u00e9e positivement au crit\u00e8re se voit attribuer une pente fortement n\u00e9gative, heurtant de plein fouet la validit\u00e9 th\u00e9orique de l’investigation.<\/p>\n Pour diagnostiquer la pr\u00e9sence et la s\u00e9v\u00e9rit\u00e9 de ces d\u00e9pendances lin\u00e9aires, la m\u00e9thodologie quantitative a d\u00e9velopp\u00e9 divers indicateurs canoniques. Le plus r\u00e9pandu d’entre eux est incontestablement le facteur d’inflation de la variance, ou VIF<\/a> (Variance Inflation Factor<\/em>), d\u00e9fini math\u00e9matiquement comme VIFj<\/sub> = 1 \/ (1 – R<\/em>j<\/sub>2<\/sup>). L’indice de tol\u00e9rance associ\u00e9 n’\u00e9tant que l’inverse arithm\u00e9tique de ce coefficient (Tol\u00e9rance = 1 \/ VIF). Bien que la litt\u00e9rature empirique v\u00e9hicule des r\u00e8gles pragmatiques fixant des seuils d’alerte st\u00e9r\u00e9otyp\u00e9s \u00e0 un VIF exc\u00e9dant 5 ou 10, ces crit\u00e8res heuristiques demeurent arbitraires et n’offrent aucune indication sur la structure globale des interd\u00e9pendances multidimensionnelles.<\/p>\n Une approche diagnostique math\u00e9matiquement plus rigoureuse consiste \u00e0 r\u00e9aliser l’analyse spectrale de la matrice d’information standardis\u00e9e X<\/strong>T<\/sup>X<\/strong> par le calcul des indices de conditionnement. L’indice de conditionnement maximal, ou nombre de conditionnement κ, est d\u00e9fini par le ratio κ = √(λmax<\/sub> \/ λmin<\/sub>), o\u00f9 λmax<\/sub> et λmin<\/sub> repr\u00e9sentent respectivement la plus grande et la plus petite valeur propre de la matrice. Une valeur de κ sup\u00e9rieure \u00e0 30 signale une instabilit\u00e9 num\u00e9rique s\u00e9v\u00e8re, mat\u00e9rialisant l’existence de relations de colin\u00e9arit\u00e9 complexes engageant simultan\u00e9ment de multiples vecteurs sans que les corr\u00e9lations bivari\u00e9es prises deux \u00e0 deux ne soient n\u00e9cessairement alarmantes.<\/p>\n Face \u00e0 ces diagnostics, les r\u00e9ponses traditionnellement apport\u00e9es par les praticiens se r\u00e9v\u00e8lent m\u00e9thodologiquement insatisfaisantes. La strat\u00e9gie rudimentaire consistant \u00e0 \u00e9liminer manuellement ou s\u00e9quentiellement les variables affichant les VIF les plus \u00e9lev\u00e9s entra\u00eene une amputation de l’int\u00e9grit\u00e9 th\u00e9orique de l’\u00e9tude. En psychom\u00e9trie, retrancher des facettes enti\u00e8res d’un inventaire clinique alt\u00e8re la validit\u00e9 de contenu du construit explor\u00e9 et peut introduire un biais de variable omise bien plus pernicieux que la colin\u00e9arit\u00e9 initiale. De surcro\u00eet, le recours aux algorithmes de s\u00e9lection pas \u00e0 pas (stepwise regression<\/em>) souffre d’instabilit\u00e9s d’\u00e9chantillonnage r\u00e9dhibitoires, les choix algorithmiques \u00e9tant dict\u00e9s par des fluctuations al\u00e9atoires d’erreurs d’\u00e9chantillonnage. Il appara\u00eet d\u00e8s lors imp\u00e9ratif de recourir \u00e0 une m\u00e9thodologie alternative, capable de conserver la totalit\u00e9 des pr\u00e9dicteurs dans le mod\u00e8le tout en immunisant structurellement l’estimation contre les effondrements de conditionnement matriciel.<\/p>\n L’acte de naissance officiel de la r\u00e9gression ridge dans le corpus de la statistique math\u00e9matique moderne remonte \u00e0 l’ann\u00e9e 1970, marqu\u00e9 par la publication conjointe de deux articles devenus historiques dans la revue Technometrics<\/em> par les math\u00e9maticiens am\u00e9ricains Arthur E. Hoerl et Robert W. Kennard. Confront\u00e9s dans le secteur de l’ing\u00e9nierie chimique \u00e0 des syst\u00e8mes physiques complexes r\u00e9gis par des r\u00e9actions hautement corr\u00e9l\u00e9es o\u00f9 l’inversion par les moindres carr\u00e9s produisait des estimations physiquement aberrantes et d\u00e9nu\u00e9es de sens pratique, Hoerl et Kennard entreprirent de formaliser une r\u00e9ponse analytique p\u00e9renne au probl\u00e8me du mauvais conditionnement des matrices de Gram.<\/p>\n1.2 Les postulats fondamentaux du mod\u00e8le lin\u00e9aire classique<\/h3>\n
1.3 Vuln\u00e9rabilit\u00e9 des moindres carr\u00e9s ordinaires en haute dimension<\/h3>\n
2. Le ph\u00e9nom\u00e8ne de la multicolin\u00e9arit\u00e9 en mod\u00e9lisation quantitative<\/h2>\n
2.1 D\u00e9finition et m\u00e9canismes sous-jacents de la colin\u00e9arit\u00e9<\/h3>\n
2.2 Impact direct sur la variance des estimateurs<\/h3>\n
2.3 Outils classiques de d\u00e9tection et leurs limites<\/h3>\n
3. Gen\u00e8se th\u00e9orique de la r\u00e9gression ridge<\/h2>\n
3.1 Les travaux fondateurs de Hoerl et Kennard<\/h3>\n