{"id":5043,"date":"2026-10-14T18:01:21","date_gmt":"2026-10-14T18:01:21","guid":{"rendered":"http:\/\/french.arabpsychology.com\/statistics\/corriger-prediction-from-rank-deficient-fit-may-be-misleading-r\/"},"modified":"2026-10-14T18:01:21","modified_gmt":"2026-10-14T18:01:21","slug":"corriger-prediction-from-rank-deficient-fit-may-be-misleading-r","status":"publish","type":"psych_stat","link":"https:\/\/french.arabpsychology.com\/?psych_stat=corriger-prediction-from-rank-deficient-fit-may-be-misleading-r","title":{"rendered":"Comment corriger : la pr\u00e9diction \u00e0 partir d’un ajustement de rang d\u00e9ficient peut \u00eatre trompeuse"},"content":{"rendered":"

L’analyse de r\u00e9gression lin\u00e9aire constitue la cl\u00e9 de vo\u00fbte de la mod\u00e9lisation statistique appliqu\u00e9e, tant dans les sciences fondamentales que dans les disciplines appliqu\u00e9es comme l’\u00e9conom\u00e9trie, la psychom\u00e9trie ou la biostatistique. Lorsqu’un praticien utilise l’environnement statistique GNU R<\/a> pour calibrer un mod\u00e8le au moyen de la fonction native lm()<\/code>, l’op\u00e9ration semble fluide et imm\u00e9diate gr\u00e2ce \u00e0 l’efficacit\u00e9 des algorithmes sous-jacents. N\u00e9anmoins, l’\u00e9tape subs\u00e9quente de d\u00e9ploiement pr\u00e9dictif via la m\u00e9thode g\u00e9n\u00e9rique predict()<\/code> confronte fr\u00e9quemment les analystes \u00e0 un message d\u00e9routant : \u00ab prediction from a rank-deficient fit may be misleading<\/em> \u00bb (la pr\u00e9diction \u00e0 partir d’un ajustement de rang d\u00e9ficient peut \u00eatre trompeuse).<\/p>\n

Cet avertissement ne constitue pas une simple curiosit\u00e9 logicielle, mais le sympt\u00f4me formel d’une singularit\u00e9 matricielle au sein de l’espace vectoriel engendr\u00e9 par les covariables. Il signale que le syst\u00e8me d’\u00e9quations normales ne poss\u00e8de pas de solution unique, for\u00e7ant l’interpr\u00e9teur R \u00e0 faire des choix arbitraires d’\u00e9limination de variables pour inverser la matrice d’information. D\u00e8s lors, si l’\u00e9valuation de la performance intra-\u00e9chantillon peut afficher un coefficient de d\u00e9termination artificiellement stable, l’inf\u00e9rence statistique et les projections pr\u00e9dictives sur de nouvelles observations sont substantiellement compromises.<\/p>\n

Comprendre la nature exacte de cette anomalie requiert une exploration m\u00e9thodique croisant l’alg\u00e8bre lin\u00e9aire, la th\u00e9orie statistique des moindres carr\u00e9s et la programmation num\u00e9rique. Ce guide exhaustif d\u00e9cortique l’anatomie de l’avertissement, analyse ses sources math\u00e9matiques et empiriques, propose une m\u00e9thodologie d’audit pas \u00e0 pas et d\u00e9taille les quatre grandes strat\u00e9gies de rem\u00e9diation indispensables pour r\u00e9tablir l’int\u00e9grit\u00e9, la robustesse et la validit\u00e9 scientifique de vos mod\u00e8les pr\u00e9dictifs.<\/p>\n

1. Introduction et anatomie de l’avertissement dans l’environnement R<\/h2>\n

1.1 Contexte d’apparition avec la fonction predict.lm<\/h3>\n

L’avertissement \u00ab prediction from a rank-deficient fit may be misleading<\/em> \u00bb surgit principalement lors de l’ex\u00e9cution de la m\u00e9thode predict.lm<\/code> appliqu\u00e9e \u00e0 un objet de classe lm<\/code> ou glm<\/code>. Pour comprendre son \u00e9mission, il convient d’analyser la cha\u00eene d’ex\u00e9cution interne de R. Lorsqu’un mod\u00e8le lin\u00e9aire est estim\u00e9, le moteur d’optimisation v\u00e9rifie si l’ensemble des colonnes de la matrice de plan est lin\u00e9airement ind\u00e9pendant. Si cette condition \u00e9choue, R conserve l’ensemble des variables sp\u00e9cifi\u00e9es dans la formule mais attribue la valeur NA<\/code> aux coefficients estim\u00e9s des colonnes jug\u00e9es redondantes.<\/p>\n

Dans la philosophie de conception de R, cette situation n’interrompt pas le processus par une erreur bloquante (fatal error<\/em>), mais g\u00e9n\u00e8re un avertissement diff\u00e9r\u00e9. L’estimation s’ach\u00e8ve avec succ\u00e8s en apparence, produisant un objet exploitable pour le calcul des r\u00e9sidus ou du R-carr\u00e9 intra-\u00e9chantillon. Toutefois, le danger se mat\u00e9rialise d\u00e8s que l’analyste sollicite la fonction predict()<\/code> pour \u00e9valuer de nouvelles donn\u00e9es. Le sous-programme constate que la matrice de covariance des param\u00e8tres pr\u00e9sente une singularit\u00e9 et que le vecteur pr\u00e9dictif d\u00e9pend d’un sous-espace tronqu\u00e9 de fa\u00e7on arbitraire.<\/p>\n

Le comportement de l’interpr\u00e9teur face aux coefficients non estimables consiste \u00e0 les ignorer purement et simplement lors du produit matriciel entre la nouvelle matrice d’exp\u00e9rience et le vecteur des estimateurs. Les vecteurs de valeurs pr\u00e9dites g\u00e9n\u00e9r\u00e9s par cette op\u00e9ration peuvent s’av\u00e9rer corrects pour des observations dont la structure de colin\u00e9arit\u00e9 reproduit exactement celle de l’\u00e9chantillon d’apprentissage. Cependant, d\u00e8s qu’une l\u00e9g\u00e8re d\u00e9viation survient dans la g\u00e9om\u00e9trie des nouveaux pr\u00e9dicteurs, les valeurs pr\u00e9dites deviennent instables, biais\u00e9es, voire totalement aberrantes, justifiant le qualificatif de \u00ab trompeuses \u00bb.<\/p>\n

1.2 D\u00e9finition synth\u00e9tique d’un mod\u00e8le \u00e0 rang d\u00e9ficient<\/h3>\n

D’un point de vue structural, un mod\u00e8le lin\u00e9aire est qualifi\u00e9 de rang d\u00e9ficient lorsque la matrice de plan<\/a> $X$<\/span>, de dimensions $n \\times p$<\/span> (o\u00f9 $n$<\/span> repr\u00e9sente le nombre d’observations et $p$<\/span> le nombre de param\u00e8tres \u00e0 estimer en incluant la constante), poss\u00e8de un rang strictement inf\u00e9rieur \u00e0 $p$<\/span>. Le rang d’une matrice correspond au nombre maximal de vecteurs colonnes (ou lignes) lin\u00e9airement ind\u00e9pendants. Lorsque $mathrm{rg}(X) = k < p$, les colonnes de la matrice n’engendrent pas un espace de dimension$<\/span>p$, mais un sous-e\\space vectoriel de dimension restreinte$<\/span>k$.<\/p>\n

Cette d\u00e9ficience entra\u00eene une incapacit\u00e9 math\u00e9matique fondamentale : le produit matriciel $X^T X$<\/span>, couramment d\u00e9nomm\u00e9 matrice d’information ou matrice de Gram, devient non inversible. Son d\u00e9terminant s’annule, ce qui rend caduque l’\u00e9quation standard des moindres carr\u00e9s ordinaires. La perte d’ind\u00e9pendance lin\u00e9aire stricte entre les pr\u00e9dicteurs signifie qu’au moins une variable explicative peut s’exprimer sous la forme d’une combinaison lin\u00e9aire exacte d’une ou plusieurs autres colonnes du mod\u00e8le.<\/p>\n

Il est capital d’op\u00e9rer une distinction nette entre deux types de d\u00e9ficiences : la d\u00e9ficience structurelle et la d\u00e9ficience accidentelle. La d\u00e9ficience structurelle rel\u00e8ve d’une erreur conceptuelle dans la formulation du mod\u00e8le, telle que l’inclusion simultan\u00e9e des composantes d’un total et de leur somme, ou le non-retrait d’une modalit\u00e9 de r\u00e9f\u00e9rence dans les contrastes cat\u00e9goriels. La d\u00e9ficience accidentelle, quant \u00e0 elle, d\u00e9coule des caract\u00e9ristiques intrins\u00e8ques du jeu de donn\u00e9es collect\u00e9, par exemple lorsqu’une modalit\u00e9 exp\u00e9rimentale rare n’a jamais \u00e9t\u00e9 observ\u00e9e en combinaison avec un autre facteur, cr\u00e9ant des cellules d’effectif nul non anticip\u00e9es par le chercheur.<\/p>\n

1.3 Enjeux m\u00e9thodologiques pour la recherche quantitative<\/h3>\n

Dans le domaine de la recherche quantitative, en particulier au sein des sciences comportementales, de l’\u00e9conomie et de la biom\u00e9decine, la pr\u00e9sence non r\u00e9solue d’un ajustement de rang d\u00e9ficient sape l’ensemble de la d\u00e9marche inf\u00e9rentielle. Le premier \u00e9cueil r\u00e9side dans le biais d’interpr\u00e9tation des coefficients de r\u00e9gression. Dans un mod\u00e8le lin\u00e9aire de plein rang, chaque coefficient repr\u00e9sente l’effet marginal th\u00e9orique d’un pr\u00e9dicteur sur la variable d\u00e9pendante, toutes les autres variables \u00e9tant maintenues constantes. En pr\u00e9sence de rang d\u00e9ficient, cette condition ceteris paribus<\/em> devient g\u00e9om\u00e9triquement impossible, car les covariables sont interd\u00e9pendantes.<\/p>\n

La validit\u00e9 interne des inf\u00e9rences statistiques se trouve d\u00e8s lors compromise. Les tests d’hypoth\u00e8ses conventionnels bas\u00e9s sur la distribution de Student ou de Fisher s’effondrent pour les param\u00e8tres associ\u00e9s aux variables redondantes. L’attribution automatique de la valeur NA<\/code> \u00e9limine artificiellement ces pr\u00e9dicteurs de la table d’analyse de la variance, modifiant le calcul des degr\u00e9s de libert\u00e9 r\u00e9siduels et d\u00e9formant le seuil de significativit\u00e9 statistique des variables restantes.<\/p>\n

Enfin, sur le plan appliqu\u00e9 de la g\u00e9n\u00e9ralisation des mod\u00e8les, les risques d’instabilit\u00e9 num\u00e9rique majeure lors de la pr\u00e9diction sur de nouveaux \u00e9chantillons sont critiques. Un mod\u00e8le \u00e0 rang d\u00e9ficient peut afficher une excellente ad\u00e9quation aux donn\u00e9es d’apprentissage tout en produisant une erreur quadratique moyenne de pr\u00e9diction catastrophique lorsqu’il est confront\u00e9 \u00e0 des donn\u00e9es externes. Les intervalles de confiance et de pr\u00e9diction deviennent erron\u00e9s, exposant les praticiens \u00e0 des prises de d\u00e9cision strat\u00e9giques, cliniques ou industrielles fond\u00e9es sur des projections m\u00e9thodologiquement trompeuses.<\/p>\n

2. Fondements alg\u00e9briques : Comprendre la d\u00e9ficience de rang matriciel<\/h2>\n

2.1 L’alg\u00e8bre lin\u00e9aire sous-jacente aux moindres carr\u00e9s ordinaires (MCO)<\/h3>\n

L’estimation des param\u00e8tres d’un mod\u00e8le lin\u00e9aire repose sur la formulation matricielle classique r\u00e9gie par la relation vectorielle :<\/p>\n

$$Y = X\\beta + \\varepsilon$$<\/span><\/p>\n

Dans cette \u00e9quation, $Y$<\/span> est le vecteur de dimension $n \\times 1$<\/span> des observations de la r\u00e9ponse, $X$<\/span> est la matrice d’exp\u00e9rience de dimension $n \\times p$<\/span>, $\\beta$<\/span> est le vecteur $p \\times 1$<\/span> des coefficients inconnus \u00e0 estimer, et $varepsilon$<\/span> repr\u00e9sente le terme d’erreur stochastique non corr\u00e9l\u00e9e de moyenne nulle et de variance constante $\\sigma^2 I_n$<\/span>. L’objectif fondamental de la m\u00e9thode des moindres carr\u00e9s ordinaires<\/a> consiste \u00e0 d\u00e9terminer le vecteur d’estimation $\\hat{\\beta}$<\/span> qui minimise la somme des carr\u00e9s des r\u00e9sidus, repr\u00e9sent\u00e9e par la norme quadratique $|Y – Xbeta|^2$<\/span>.<\/p>\n

En diff\u00e9rentiant cette expression par rapport au vecteur des coefficients $\\beta$<\/span> et en \u00e9galisant le gradient r\u00e9sultant au vecteur nul, nous obtenons le syst\u00e8me fondamental des \u00e9quations normales :<\/p>\n

$$X^T X \\hat{\\beta} = X^T Y$$<\/span><\/p>\n

L’existence et l’unicit\u00e9 d’une solution analytique rigoureuse pour ce syst\u00e8me d’\u00e9quations imposent une condition stricte : la matrice carr\u00e9e $X^T X$<\/span>, de dimensions $p \\times p$<\/span>, doit \u00eatre inversible. En alg\u00e8bre lin\u00e9aire matricielle, une matrice carr\u00e9e est inversible si et seulement si son d\u00e9terminant est non nul, ce qui implique que son rang soit \u00e9gal \u00e0 sa dimension, \u00e0 savoir $\\mathrm{rg}(X^T X) = p$<\/span>. Puisque le rang du produit $X^T X$<\/span> est math\u00e9matiquement identique au rang de la matrice $X$<\/span> d’origine, cette condition impose que $X$<\/span> soit de plein rang de colonne, c’est-\u00e0-dire que $\\mathrm{rg}(X) = p$<\/span>.<\/p>\n

Lorsque cette condition de plein rang est respect\u00e9e, l’estimateur des moindres carr\u00e9s prend la forme ferm\u00e9e universelle bien connue :<\/p>\n

$$\\hat{\\beta} = (X^T X)^{-1} X^T Y$$<\/span><\/p>\n

En revanche, d\u00e8s lors que la matrice $X$<\/span> accuse une d\u00e9ficience de rang ($mathrm{rg}(X) < p$), le d\u00e9terminant de la matrice d’information s’annule rigoureusement :$<\/span>det(X^T X) = 0$. En cons\u00e9quence g\u00e9om\u00e9trique et alg\u00e9brique directe, la matrice inverse$<\/span>(X^T X)^{-1}$ n’existe pas. Le syst\u00e8me des \u00e9quations normales admet alors une infinit\u00e9 de solutions pour le vecteur de r\u00e9gression $\\hat{\\beta}$<\/span>, induisant une ind\u00e9termination totale quant \u00e0 l’impact marginal respectif de chaque variable explicative.<\/p>\n

2.2 D\u00e9composition en valeurs singuli\u00e8res et espaces nuls<\/h3>\n

Pour contourner l’impossibilit\u00e9 d’inverser directement la matrice d’information, les logiciels de calcul statistique moderne et en particulier le logiciel R \u00e9vitent le calcul explicite de $X^T X$<\/span>. Au lieu de multiplier la matrice $X$<\/span> par sa transpos\u00e9e \u2014 une op\u00e9ration qui double la condition num\u00e9rique du syst\u00e8me \u2014, la fonction lm()<\/code> recourt \u00e0 une routine num\u00e9rique bas\u00e9e sur la d\u00e9composition QR<\/a> avec pivotement de colonnes, ex\u00e9cut\u00e9e via les algorithmes Fortran de la biblioth\u00e8que LINPACK\/LAPACK (notamment la routine dqrls<\/code>).<\/p>\n

Cette approche factorise la matrice d’exp\u00e9rience sous la forme suivante :<\/p>\n

$$X P = Q R$$<\/span><\/p>\n

o\u00f9 $P$<\/span> repr\u00e9sente une matrice de permutation de dimension $p \\times p$<\/span> servant \u00e0 permuter l’ordre des variables, $Q$<\/span> est une matrice orthogonale $n \\times n$<\/span> telle que $Q^T Q = I$<\/span>, et $R$<\/span> est une matrice triangulaire sup\u00e9rieure $n \\times p$<\/span>. Lors de cette d\u00e9composition, les \u00e9l\u00e9ments diagonaux de la matrice triangulaire $R$<\/span> (not\u00e9s $r_{ii}$<\/span>) sont examin\u00e9s s\u00e9quentiellement en fonction d’un seuil de tol\u00e9rance num\u00e9rique stricte. Si un \u00e9l\u00e9ment diagonal devient inf\u00e9rieur \u00e0 la tol\u00e9rance sp\u00e9cifi\u00e9e (par d\u00e9faut dans R, une valeur proche de la pr\u00e9cision machine multipli\u00e9e par la plus grande valeur singuli\u00e8re), la colonne correspondante est imm\u00e9diatement projet\u00e9e dans l’espace nul (le noyau matriciel, ou null space<\/em>).<\/p>\n

Dans le cadre \u00e9quivalent de la d\u00e9composition en valeurs singuli\u00e8res (SVD), o\u00f9 $X = U \\Sigma V^T$<\/span>, la d\u00e9ficience de rang se manifeste par la pr\u00e9sence de valeurs singuli\u00e8res nulles ou infinit\u00e9simales dans la matrice diagonale $\\Sigma$<\/span>. L’espace vectoriel engendr\u00e9 par les colonnes de $X$<\/span> ne couvre pas la totalit\u00e9 de $\\mathbb{R}^p$<\/span>. Les colonnes associ\u00e9es \u00e0 ces valeurs singuli\u00e8res nulles appartiennent au noyau de la transformation lin\u00e9aire $ker(X)$<\/span>, signifiant qu’il existe des vecteurs non nuls $v$<\/span> tels que $X v = 0$<\/span>. R r\u00e9sout pragmatiquement cette non-inversibilit\u00e9 en stoppant l’estimation des colonnes d\u00e9pendantes : il affecte la valeur NA<\/code> \u00e0 leurs coefficients et force leur contribution \u00e0 z\u00e9ro dans la solution num\u00e9rique retenue.<\/p>\n

2.3 Pourquoi les pr\u00e9dictions deviennent-elles trompeuses ?<\/h3>\n

La raison fondamentale pour laquelle la documentation et les concepteurs de R qualifient de \u00ab trompeuse \u00bb la pr\u00e9diction issue d’un tel ajustement repose sur l’arbitraire algorithmique inh\u00e9rent \u00e0 la r\u00e9solution num\u00e9rique. Lorsque $X$<\/span> est de rang d\u00e9ficient, il existe une infinit\u00e9 de vecteurs de coefficients $\\hat{\\beta}$<\/span> capables de minimiser identiquement la somme des carr\u00e9s des r\u00e9sidus au sein de l’\u00e9chantillon initial. Le choix du sous-ensemble de variables qui re\u00e7oivent une valeur estim\u00e9e et de celles qui re\u00e7oivent un NA<\/code> d\u00e9pend strictement de l’ordre d’entr\u00e9e des variables dans la formule ou de la strat\u00e9gie de pivotement num\u00e9rique de la d\u00e9composition QR.<\/p>\n

Consid\u00e9rons deux sp\u00e9cifications \u00e9quivalentes d’un mod\u00e8le o\u00f9 une variable $X_2$<\/span> est \u00e9gale \u00e0 deux fois $X_1$<\/span>. Si l’on \u00e9crit lm(Y ~ X1 + X2)<\/code>, l’algorithme attribuera g\u00e9n\u00e9ralement une valeur estim\u00e9e \u00e0 $X_1$<\/span> et un NA<\/code> \u00e0 $X_2$<\/span>. \u00c0 l’inverse, si l’on \u00e9crit lm(Y ~ X2 + X1)<\/code>, le mod\u00e8le retiendra le coefficient pour $X_2$<\/span> et \u00e9liminera $X_1$<\/span>. Tant que les nouvelles observations respectent rigoureusement la relation $X_2 = 2 X_1$<\/span>, les pr\u00e9dictions scalaires restent formellement identiques. Cependant, si dans le jeu de test ou dans le monde r\u00e9el, cette colin\u00e9arit\u00e9 d\u00e9terministe est viol\u00e9e ne serait-ce que marginalement (par exemple si $X_2 = 2 X_1 + \\delta$<\/span>), la valeur pr\u00e9dite diverge instantan\u00e9ment selon le mod\u00e8le choisi, conduisant \u00e0 des r\u00e9sultats physiquement ou \u00e9conomiquement absurdes.<\/p>\n

De surcro\u00eet, cette situation alt\u00e8re profond\u00e9ment le calcul des variances pr\u00e9dictives. Alors que l’ajustement global interne mesur\u00e9 par le coefficient de d\u00e9termination ($R^2$<\/span>) ou la somme des carr\u00e9s r\u00e9siduels reste parfaitement invariant face au choix de la base vectorielle arbitraire, la matrice de variance-covariance des param\u00e8tres devient conditionnelle \u00e0 l’\u00e9limination artificielle des colonnes redondantes. D\u00e8s lors, les erreurs standards associ\u00e9es aux pr\u00e9dictions s’av\u00e8rent fallacieuses, sous-estimant massivement l’incertitude r\u00e9elle du mod\u00e8le et g\u00e9n\u00e9rant des intervalles de confiance pr\u00e9dictifs artificiellement \u00e9troits qui trompent l’analyste sur la fiabilit\u00e9 de ses projections.<\/p>\n

3. Cause premi\u00e8re : La colin\u00e9arit\u00e9 parfaite entre variables explicatives<\/h2>\n

3.1 M\u00e9canismes de la multicolin\u00e9arit\u00e9 exacte<\/h3>\n

La cause la plus fr\u00e9quente et la plus \u00e9l\u00e9mentaire menant \u00e0 une alerte de rang d\u00e9ficient dans R est la multicolin\u00e9arit\u00e9 exacte ou parfaite. Ce ph\u00e9nom\u00e8ne math\u00e9matique survient lorsqu’il existe une relation lin\u00e9aire d\u00e9terministe entre deux ou plusieurs pr\u00e9dicteurs inclus dans la sp\u00e9cification du mod\u00e8le. Formellement, il existe un ensemble de constantes scalaires scalaires non toutes nulles $(c_0, c_1, c_2, dots, c_k)$<\/span> telles que, pour chaque observation $i$<\/span> du jeu de donn\u00e9es, la relation suivante soit rigoureusement satisfaite :<\/p>\n

$$c_0 + c_1 X_{i1} + c_2 X_{i2} + dots + c_k X_{ik} = 0$$<\/span><\/p>\n

Dans la pratique de la science des donn\u00e9es, cette situation provient rarement d’une volont\u00e9 d\u00e9lib\u00e9r\u00e9e du mod\u00e9lisateur, mais plut\u00f4t d’erreurs d’ing\u00e9nierie des caract\u00e9ristiques (feature engineering<\/em>) ou de manipulations de donn\u00e9es imprudentes. Parmi les exemples embl\u00e9matiques figure la duplication accidentelle d’une colonne sous un nom de variable distinct lors d’une jointure de tables, ou encore l’application d’une mise \u00e0 l’\u00e9chelle purement lin\u00e9aire sans suppression de la colonne d’origine (par exemple, introduire simultan\u00e9ment la temp\u00e9rature mesur\u00e9e en degr\u00e9s Celsius et en degr\u00e9s Fahrenheit, o\u00f9 l’on a $T_F = 1.8 \\times T_C + 32$<\/span>).<\/p>\n

Sur le plan informatif, l’inclusion de covariables parfaitement colin\u00e9aires n’apporte strictement aucune information empirique nouvelle au syst\u00e8me statistique. Le sous-espace vectoriel balay\u00e9 par les pr\u00e9dicteurs redondants est strictement superposable \u00e0 celui de la variable d’origine. Les tests de significativit\u00e9 individuelle bas\u00e9s sur la statistique de Student deviennent inop\u00e9rants, car ils mesurent l’apport marginal d’une variable au-del\u00e0 de toutes les autres. L’effet de masque est total : chacune des variables redondantes pourrait expliquer la variance, mais aucune ne peut revendiquer une contribution unique, paralysant la m\u00e9thode d’estimation.<\/p>\n

3.2 Reproduction empirique sous R : Deux variables parfaitement d\u00e9pendantes<\/h3>\n

Pour illustrer de mani\u00e8re concr\u00e8te et reproductible ce m\u00e9canisme d’\u00e9chec, nous pouvons simuler un protocole simple au sein d’une session R. G\u00e9n\u00e9rons un \u00e9chantillon synth\u00e9tique compos\u00e9 de 100 observations o\u00f9 une variable explicative $x_2$<\/span> est construite comme un multiple parfait d’une variable $x_1$<\/span>, avant d’ajuster un mod\u00e8le lin\u00e9aire visant \u00e0 pr\u00e9dire une variable continue $y$<\/span> :<\/p>\n

L’ex\u00e9cution de la commande classique lm(y ~ x1 + x2, data = df)<\/code> r\u00e9v\u00e8le imm\u00e9diatement la logique de protection interne de R. Si l’on sollicite le tableau r\u00e9sum\u00e9 via la commande summary(model)<\/code>, le syst\u00e8me affiche les estimations num\u00e9riques pour l’ordonn\u00e9e \u00e0 l’origine et pour le pr\u00e9dicteur $x_1$<\/span>. En revanche, pour la ligne correspondant \u00e0 $x_2$<\/span>, l’ensemble des colonnes d’estimation (l’erreur standard, la valeur du test $t$<\/span> et la $p$<\/span>-valeur associ\u00e9e) est uniform\u00e9ment remplac\u00e9 par la mention explicite NA<\/code>.<\/p>\n

\u00c0 ce stade, aucune interruption critique n’a eu lieu dans le script. Toutefois, d\u00e8s lors que l’utilisateur applique la commande pr\u00e9dictive predict(model, newdata = data.frame(x1 = c(2, 3), x2 = c(4, 6)))<\/code>, le flux d’ex\u00e9cution d\u00e9clenche l’avertissement formel :<\/p>\n

Warning message: In predict.lm(model, newdata = ...): prediction from a rank-deficient fit may be misleading<\/code><\/p>\n

Ce d\u00e9clenchement reproductible mat\u00e9rialise le fait que le mod\u00e8le ignore structurellement $x_2$<\/span>. Si le nouveau jeu de donn\u00e9es contenait une observation aberrante o\u00f9 $x_1 = 2$<\/span> mais $x_2 = 100$<\/span>, le mod\u00e8le pr\u00e9dirait la valeur de $y$<\/span> uniquement \u00e0 partir de $x_1$<\/span>, g\u00e9n\u00e9rant une pr\u00e9diction potentiellement catastrophique si le ph\u00e9nom\u00e8ne r\u00e9el sous-jacent avait rompu cette d\u00e9pendance.<\/p>\n

3.3 Manifestations subtiles dans les scores composites et psychom\u00e9triques<\/h3>\n

Au-del\u00e0 des duplications \u00e9videntes, la colin\u00e9arit\u00e9 exacte se manifeste sous des formes nettement plus subtiles et pernicieuses, en particulier dans les recherches en psychologie, en sociologie et en sant\u00e9 publique manipulant des scores composites. Un cas prototypique r\u00e9side dans l’introduction conjointe, au sein d’un m\u00eame mod\u00e8le explicatif, des sous-\u00e9chelles d’un instrument de mesure psychom\u00e9trique et du score global qui en d\u00e9rive.<\/p>\n

Consid\u00e9rons un questionnaire clinique \u00e9valuant l’\u00e9puisement professionnel (burnout) mesur\u00e9 selon trois dimensions fondamentales : l’\u00e9puisement \u00e9motionnel, la d\u00e9personnalisation et la perte d’accomplissement personnel. Si le chercheur construit une variable de score global d\u00e9finie par la somme arithm\u00e9tique exacte des trois sous-scores, la relation suivante s’impose m\u00e9caniquement :<\/p>\n

$$\\text{Score Global} – \\text{SousScore}_1 – \\text{SousScore}_2 – \\text{SousScore}_3 = 0$$<\/span><\/p>\n

L’introduction simultan\u00e9e de ces quatre variables explicatives dans la formule de r\u00e9gression induit in\u00e9luctablement une d\u00e9pendance lin\u00e9aire stricte \u00e0 quatre termes. R sera dans l’obligation math\u00e9matique d’annuler l’une de ces dimensions en lui attribuant un coefficient NA<\/code>, sans que l’analyste non averti ne comprenne pourquoi une \u00e9chelle th\u00e9oriquement fondamentale est subitement ignor\u00e9e par le syst\u00e8me.<\/p>\n

Un m\u00e9canisme analogue s’observe fr\u00e9quemment dans le traitement des donn\u00e9es compositionnelles<\/a>, o\u00f9 les covariables repr\u00e9sentent des pourcentages ou des proportions d’un tout soumis \u00e0 une contrainte de somme constante (la fermeture \u00e0 100 % ou \u00e0 1). Si un mod\u00e8le \u00e9conom\u00e9trique int\u00e8gre la part du budget allou\u00e9e au logement, \u00e0 l’alimentation, aux loisirs et aux autres d\u00e9penses, la somme de ces composantes \u00e9gale invariablement 1. En pr\u00e9sence d’une constante dans le mod\u00e8le, cette matrice de variables compositionnelles devient math\u00e9matiquement de rang d\u00e9ficient, imposant d’exclure une composante pour briser la contrainte d\u00e9terministe.<\/p>\n

4. Cause seconde : Le probl\u00e8me du sur-param\u00e9trage (n < p)<\/h2>\n

4.1 La mal\u00e9diction de la dimensionnalit\u00e9 dans les petits \u00e9chantillons<\/h3>\n

La seconde cause pr\u00e9pond\u00e9rante menant \u00e0 une d\u00e9ficience de rang matriciel ne provient pas d’une redondance d\u00e9terministe entre les pr\u00e9dicteurs, mais d’une discordance fondamentale entre la taille de l’\u00e9chantillon d’observations et le nombre de param\u00e8tres que l’on ambitionne d’estimer. Cette configuration, universellement formalis\u00e9e par l’in\u00e9galit\u00e9 $n < p$, incarne une expression directe de la mal\u00e9diction de la dimensionnalit\u00e9<\/a>.<\/p>\n

D’un point de vue g\u00e9om\u00e9trique, ajuster un mod\u00e8le lin\u00e9aire consiste \u00e0 faire passer un hyperplan de dimension $p-1$<\/span> \u00e0 travers un nuage de $n$<\/span> points distribu\u00e9s dans l’espace euclidien $\\mathbb{R}^p$<\/span>. Pour d\u00e9terminer de mani\u00e8re unique une droite dans le plan cart\u00e9sien ($\\mathbb{R}^2$<\/span>), il est math\u00e9matiquement indispensable de disposer d’au moins deux points distincts ($n ge 2$<\/span>). Si l’on ne dispose que d’un seul point ($n=1$<\/span>), il existe une infinit\u00e9 de droites passant par ce point : le probl\u00e8me n’est pas contraint. Par extension directe, pour caler de mani\u00e8re unique un hyperplan dans un espace \u00e0 $p$<\/span> dimensions, le nombre d’observations ind\u00e9pendantes $n$<\/span> doit imp\u00e9rativement \u00eatre sup\u00e9rieur ou \u00e9gal au nombre total de colonnes de la matrice d’exp\u00e9rience $p$<\/span>.<\/p>\n

Lorsque $n < p$, le rang d'une matrice \u00e9tant born\u00e9 par le plus petit de ses ordres de dimension, nous avons obligatoirement :<\/p>\n

$$\\mathrm{rg}(X) le \\min(n, p) = n < p$$<\/span><\/p>\n

D\u00e8s lors, la matrice de Gram $X^T X$<\/span>, qui est d’ordre $p \\times p$<\/span>, ne peut exc\u00e9der le rang $n$<\/span>. Elle est structurellement et in\u00e9luctablement singuli\u00e8re. Les degr\u00e9s de libert\u00e9 r\u00e9siduels, classiquement calcul\u00e9s par la diff\u00e9rence $n – p$<\/span>, deviennent nuls ou n\u00e9gatifs. Le mod\u00e8le pr\u00e9sente un ajustement parfait trivial aux donn\u00e9es d’entra\u00eenement (la somme des carr\u00e9s des r\u00e9sidus devient strictement nulle et le coefficient $R^2$<\/span> s’\u00e9l\u00e8ve artificiellement \u00e0 1.0), mais cet ajustement ne refl\u00e8te aucun apprentissage statistique l\u00e9gitime : il n’est que la cons\u00e9quence de l’interpolation g\u00e9om\u00e9trique d’un syst\u00e8me sous-contraint.<\/p>\n

4.2 Reproduction d’un cas p sup\u00e9rieur \u00e0 n sous R<\/h3>\n

L’observation empirique de cette situation sous R s’obtient ais\u00e9ment en g\u00e9n\u00e9rant une matrice artificielle de taille ultra-r\u00e9duite face \u00e0 une abondance de covariables. Simulons un protocole d’exp\u00e9rimentation o\u00f9 un investigateur mesure seulement $n = 5$<\/span> sujets, mais rel\u00e8ve pour chacun d’eux $p = 10$<\/span> pr\u00e9dicteurs quantitatifs continus ind\u00e9pendants et non corr\u00e9l\u00e9s :<\/p>\n

Lors de l’appel de l’ajustement standard lm(y ~ ., data = df_surparam)<\/code>, R ex\u00e9cute sa d\u00e9composition QR. Constatant que la dimension de ligne est \u00e9gale \u00e0 5, l’algorithme ne peut identifier plus de 5 vecteurs orthogonaux dans l’espace des donn\u00e9es. En cons\u00e9quence m\u00e9canique, le mod\u00e8le parvient \u00e0 estimer l’ordonn\u00e9e \u00e0 l’origine ainsi que les quatre premiers pr\u00e9dicteurs. L’ensemble des cinq pr\u00e9dicteurs suivants ($X_5$<\/span> \u00e0 $X_{10}$<\/span>) est brutalement neutralis\u00e9 et re\u00e7oit la mention NA<\/code>.<\/p>\n

L’inspection du tableau summary()<\/code> affiche alors l’avertissement math\u00e9matique terminal : \u00ab Residual standard error: NaN on 0 degrees of freedom<\/em> \u00bb. Les degr\u00e9s de libert\u00e9 ayant \u00e9t\u00e9 totalement \u00e9puis\u00e9s pour interpoler les donn\u00e9es d’entra\u00eenement, il ne subsiste plus aucune information pour quantifier l’erreur stochastique ou estimer la variance du bruit r\u00e9siduel $\\sigma^2$<\/span>. Lorsque l’on soumet un nouveau profil de sujet \u00e0 la fonction predict()<\/code>, le message d’alerte de rang d\u00e9ficient est \u00e9mis instantan\u00e9ment, et la projection r\u00e9sultante ne s’appuie que sur les variables arbitrairement pr\u00e9serv\u00e9es par l’algorithme, ignorant l’impact potentiel de l’ensemble des variables \u00e9limin\u00e9es.<\/p>\n

4.3 Contextes d’apparition fr\u00e9quents en neuroimagerie et \u00e9tudes pilotes<\/h3>\n

L’asym\u00e9trie dimensionnelle $n ll p$<\/span> ne rel\u00e8ve pas d’une pure abstraction p\u00e9dagogique ; elle constitue le quotidien de nombreux secteurs de pointe de la recherche scientifique contemporaine. Un domaine embl\u00e9matique est celui de la g\u00e9nomique et de la transcriptomique, o\u00f9 les puces \u00e0 ADN et le s\u00e9quen\u00e7age d’ARN mesurent l’expression simultan\u00e9e de 20 000 \u00e0 50 000 g\u00e8nes pour une cohorte clinique n’exc\u00e9dant que rarement quelques centaines de patients.<\/p>\n

De m\u00eame, les protocoles de neuroimagerie fonctionnelle (IRMf<\/a>) ou d’\u00e9lectroenc\u00e9phalographie \u00e0 haute densit\u00e9 (EEG) g\u00e9n\u00e8rent des matrices de signaux comportant des centaines de milliers de voxels spatiaux ou d’\u00e9chantillons temporels pour des protocoles exp\u00e9rimentaux recrutant typiquement 20 \u00e0 40 participants. Tenter d’ajuster un mod\u00e8le lin\u00e9aire g\u00e9n\u00e9ralis\u00e9 univari\u00e9 incluant tous les voxels comme r\u00e9gresseurs simultan\u00e9s conduit imm\u00e9diatement \u00e0 une singularit\u00e9 de rang absolue.<\/p>\n

Cette probl\u00e9matique frappe \u00e9galement les \u00e9tudes pilotes en psychologie exp\u00e9rimentale ou en ergonomie cognitive. Lorsqu’un plan factoriel int\u00e8gre de multiples facteurs crois\u00e9s (par exemple trois facteurs \u00e0 3, 4 et 5 modalit\u00e9s) et que le mod\u00e9lisateur d\u00e9cide de saturer son \u00e9quation en incluant l’ensemble des termes d’interactions d’ordre deux et d’ordre trois, le nombre de colonnes d’effets interactifs combin\u00e9s d\u00e9passe tr\u00e8s rapidement l’effectif des volontaires recrut\u00e9s lors de la phase pr\u00e9liminaire. L’inversion matricielle devient impossible, condamnant le mod\u00e8le \u00e0 une d\u00e9ficience de rang majeure.<\/p>\n

5. Cause tierce : Mauvaise gestion des variables qualitatives et codages dummy<\/h2>\n

5.1 Le pi\u00e8ge de la variable muette (Dummy Variable Trap)<\/h3>\n

L’incorporation de pr\u00e9dicteurs cat\u00e9goriels (de type factor<\/code> dans R) au sein d’une r\u00e9gression lin\u00e9aire n\u00e9cessite leur transformation pr\u00e9alable en variables indicatrices num\u00e9riques binaires (ou variables muettes, couramment d\u00e9sign\u00e9es sous le terme anglais de dummy variables<\/em>). Cette manipulation fondamentale rec\u00e8le un \u00e9cueil classique de la mod\u00e9lisation statistique : le pi\u00e8ge de la variable muette (Dummy Variable Trap<\/em>).<\/p>\n

Consid\u00e9rons une variable qualitative comportant $K$<\/span> modalit\u00e9s exhaustives et mutuellement exclusives, par exemple la situation g\u00e9ographique d’un individu d\u00e9coup\u00e9e en quatre r\u00e9gions distinctes ($K = 4$<\/span> : Nord, Sud, Est, Ouest). Si l’on cr\u00e9e quatre variables binaires $D_1, D_2, D_3, D_4$<\/span> associ\u00e9es chacune \u00e0 une modalit\u00e9, la somme de ces quatre indicatrices est rigoureusement \u00e9gale \u00e0 1 pour la totalit\u00e9 des observations de l’\u00e9chantillon :<\/p>\n

$$\\sum_{k=1}^{K} D_{ik} = D_{i1} + D_{i2} + D_{i3} + D_{i4} = 1$$<\/span><\/p>\n

Si le mod\u00e8le de r\u00e9gression incorpore simultan\u00e9ment un terme constant (l’ordonn\u00e9e \u00e0 l’origine $\\beta_0$<\/span>, repr\u00e9sent\u00e9e formellement dans la matrice $X$<\/span> par une colonne remplie exclusivement de 1) ainsi que la totalit\u00e9 des $K$<\/span> indicatrices, la colonne de constante devient une combinaison lin\u00e9aire exacte de la somme des colonnes indicatrices. La matrice de plan devient de facto de rang d\u00e9ficient, avec $\\mathrm{rg}(X) le p – 1$<\/span>. Pour lever cette singularit\u00e9, il est imp\u00e9ratif d’omettre une modalit\u00e9 qui servira de modalit\u00e9 de r\u00e9f\u00e9rence, ou de supprimer l’interception globale. R applique par d\u00e9faut les contrastes de traitement (contr.treatment<\/code>), qui excluent automatiquement la premi\u00e8re modalit\u00e9 alphab\u00e9tique du facteur. Cependant, si l’utilisateur impose un recodage manuel ou utilise des paquets tiers qui injectent simultan\u00e9ment la constante et l’ensemble des $K$<\/span> modalit\u00e9s, la matrice bascule dans le rang d\u00e9ficient.<\/p>\n

5.2 Sous-cat\u00e9gories vides ou cellules non observ\u00e9es<\/h3>\n

Une manifestation plus pernicieuse de la d\u00e9ficience de rang induite par les facteurs r\u00e9side dans la pr\u00e9sence de cellules d’\u00e9chantillonnage non observ\u00e9es ou de combinaisons de facteurs totalement vides. Ce ph\u00e9nom\u00e8ne appara\u00eet de fa\u00e7on r\u00e9currente lors de l’estimation de mod\u00e8les factoriels comportant des interactions entre deux ou plusieurs variables qualitatives.<\/p>\n

Imaginons un protocole clinique \u00e9valuant l’efficacit\u00e9 d’un traitement \u00e0 trois modalit\u00e9s (Placebo, Mol\u00e9cule A, Mol\u00e9cule B) chez des patients stratifi\u00e9s selon quatre stades de s\u00e9v\u00e9rit\u00e9 d’une pathologie (Stade 1, Stade 2, Stade 3, Stade 4). Le plan d’exp\u00e9rience th\u00e9orique comprend $3 \\times 4 = 12$<\/span> conditions exp\u00e9rimentales distinctes. Si, en raison de contraintes de recrutement ou de raret\u00e9 \u00e9pid\u00e9miologique, aucun patient pr\u00e9sentant un Stade 4 n’a re\u00e7u la Mol\u00e9cule B dans les donn\u00e9es collect\u00e9es, le vecteur de l’interaction binaire correspondant au produit $\\text{Traitement}_B \\times \\text{Stade}_4$<\/span> sera int\u00e9gralement constitu\u00e9 de z\u00e9ros sur l’ensemble des $n$<\/span> lignes de la base de donn\u00e9es.<\/p>\n

Une colonne ne contenant que des z\u00e9ros ne poss\u00e8de aucune variance ; elle est orthogonale \u00e0 l’espace des donn\u00e9es et ne peut \u00eatre distingu\u00e9e d’une colin\u00e9arit\u00e9 nulle, ce qui r\u00e9duit imm\u00e9diatement le rang effectif de la matrice d’interaction. De mani\u00e8re analogue, si un facteur d\u00e9fini dans un vecteur de type factor<\/code> conserve des niveaux r\u00e9siduels th\u00e9oriques (levels<\/em>) pour lesquels aucun individu n’est pr\u00e9sent dans le sous-ensemble filtr\u00e9 pour l’analyse, R g\u00e9n\u00e9rera une colonne enti\u00e8rement nulle lors de l’expansion de la matrice de plan via la fonction model.matrix()<\/code>, d\u00e9clenchant instantan\u00e9ment l’alerte d’ajustement d\u00e9ficient lors de la mod\u00e9lisation.<\/p>\n

5.3 R\u00f4le des contrastes polynomiaux et non lin\u00e9aires<\/h3>\n

L’introduction de non-lin\u00e9arit\u00e9s par le biais de d\u00e9veloppements polynomiaux d’une variable continue (termes quadratiques, cubiques, etc.) constitue une autre source technique d’instabilit\u00e9 de rang, particuli\u00e8rement lorsque la gamme de variation du pr\u00e9dicteur est restreinte ou que le nombre de points d’appui distincts est limit\u00e9.<\/p>\n

D’un point de vue alg\u00e9brique, si un utilisateur tente d’estimer un polyn\u00f4me de degr\u00e9 $d$<\/span> sur une variable explicative continue $x$<\/span> qui ne prend que $m$<\/span> valeurs num\u00e9riques distinctes dans l’\u00e9chantillon, la matrice de plan ne peut pas \u00eatre de plein rang si $d ge m$<\/span>. Par exemple, ajuster un terme cubique ($x + x^2 + x^3$<\/span>) sur une variable qui n’a \u00e9t\u00e9 mesur\u00e9e qu’\u00e0 trois temps d’\u00e9valuation distincts ($t in {0, 1, 2}$<\/span>) g\u00e9n\u00e8re une singularit\u00e9 stricte : le nombre de param\u00e8tres polynomiaux exc\u00e8de la dimension de l’espace des observations distinctes.<\/p>\n

Par ailleurs, m\u00eame lorsque $m > d$<\/span>, le calcul des puissances brutes (par exemple $x, x^2, x^3, x^4$<\/span>) induit une multicolin\u00e9arit\u00e9 quasi-parfaite extr\u00eame, car les puissances successives d’une variable positive sont extr\u00eamement corr\u00e9l\u00e9es entre elles. Bien que cette multicolin\u00e9arit\u00e9 soit techniquement approximative et non d\u00e9terministe, les limites de la pr\u00e9cision flottante de la machine peuvent conduire les routines de factorisation QR \u00e0 consid\u00e9rer les derni\u00e8res colonnes comme nulles sous le seuil de tol\u00e9rance num\u00e9rique. L’utilisation de contrastes polynomiaux orthogonaux, garantis sous R par l’utilisation de la fonction poly(x, degree, raw = FALSE)<\/code>, s’av\u00e8re alors imp\u00e9rative pour pr\u00e9server l’ind\u00e9pendance lin\u00e9aire des colonnes.<\/p>\n

6. Protocole de diagnostic : D\u00e9tecter et isoler l’origine du rang d\u00e9ficient<\/h2>\n

6.1 Inspection syst\u00e9matique du r\u00e9sum\u00e9 du mod\u00e8le (summary.lm)<\/h3>\n

Le diagnostic pr\u00e9coce d’un rang d\u00e9ficient commence imp\u00e9rativement par une lecture critique et approfondie de la restitution fournie par la m\u00e9thode summary()<\/code> appliqu\u00e9e \u00e0 l’objet mod\u00e8le. L’indice visuel le plus imm\u00e9diat et infaillible r\u00e9side dans l’apparition de mentions NA<\/code> au sein du tableau des coefficients r\u00e9gressifs (Coefficients table<\/em>).<\/p>\n

Lorsqu’une variable explicative voit son estimation num\u00e9rique remplac\u00e9e par NA<\/code> pour l’erreur type (Std. Error<\/em>), la statistique $t$<\/span> (t value<\/em>) et la probabilit\u00e9 critique (Pr(>|t|)<\/em>), cela signifie formellement que l’algorithme a exclu cette variable pour r\u00e9soudre la singularit\u00e9 de la matrice $X^T X$<\/span>. Cette \u00e9limination ne traduit pas une absence d’effet statistique de la variable dans la population, mais son incapacit\u00e9 alg\u00e9brique \u00e0 apporter une information non redondante par rapport aux pr\u00e9dicteurs qui la pr\u00e9c\u00e8dent dans la formule.<\/p>\n

L’analyste doit \u00e9galement porter son attention sur la ligne finale rapportant les degr\u00e9s de libert\u00e9 r\u00e9siduels (Residual degrees of freedom<\/em>). Dans une situation de sur-param\u00e9trage o\u00f9 $n le p$<\/span>, les degr\u00e9s de libert\u00e9 r\u00e9siduels chutent \u00e0 z\u00e9ro, signalant que l’erreur type des r\u00e9sidus ne peut pas \u00eatre calcul\u00e9e, ce qui se traduit par l’affichage d’un \u00e9cart-type r\u00e9siduel \u00e9valu\u00e9 \u00e0 NaN<\/code> ou Inf<\/code>. Enfin, sur le plan de la programmation, il est possible d’interroger directement l’attribut logique de colin\u00e9arit\u00e9 encapsul\u00e9 dans l’objet r\u00e9sum\u00e9 via la commande R vectoris\u00e9e :<\/p>\n

summary(model)$aliased<\/code><\/p>\n

Cette commande renvoie un vecteur bool\u00e9en associant chaque terme du mod\u00e8le \u00e0 la valeur TRUE<\/code> si la colonne a \u00e9t\u00e9 identifi\u00e9e comme redondante et neutralis\u00e9e par l’ajustement, ou \u00e0 la valeur FALSE<\/code> si elle a \u00e9t\u00e9 conserv\u00e9e dans la solution de plein rang.<\/p>\n

6.2 Utilisation de la fonction alias() int\u00e9gr\u00e9e \u00e0 R<\/h3>\n

Si l’inspection du r\u00e9sum\u00e9 permet de constater l’existence d’une d\u00e9ficience de rang, elle ne renseigne pas sur l’\u00e9quation exacte de d\u00e9pendance qui lie la variable \u00e9limin\u00e9e aux autres r\u00e9gresseurs. Pour expliciter la structure alg\u00e9brique pr\u00e9cise de cette d\u00e9pendance, le langage R int\u00e8gre un outil analytique de premier plan : la fonction alias()<\/code>.<\/p>\n

La commande alias(model)<\/code> interroge la structure de d\u00e9composition QR stock\u00e9e dans l’objet mod\u00e8le et calcule la projection exacte des colonnes d\u00e9pendantes sur la base des colonnes ind\u00e9pendantes retenues. La syntaxe g\u00e9n\u00e9rale s’ex\u00e9cute comme suit :<\/p>\n

modele_complet <- lm(y ~ x1 + x2 + x3, data = donnees)<\/code>
\nalias(modele_complet)<\/code><\/p>\n

La sortie g\u00e9n\u00e9r\u00e9e par alias()<\/code> se compose d'une matrice o\u00f9 les lignes repr\u00e9sentent les pr\u00e9dicteurs redondants (ceux marqu\u00e9s par NA<\/code> dans le sommaire) et les colonnes repr\u00e9sentent les pr\u00e9dicteurs lin\u00e9aires conserv\u00e9s. Les coefficients affich\u00e9s dans la matrice correspondent exactement aux pond\u00e9rations de la combinaison lin\u00e9aire reliant les variables. Par exemple, si la variable $X_3$<\/span> a \u00e9t\u00e9 neutralis\u00e9e et que la matrice alias<\/code> indique une valeur de 1.0 sous $X_1$<\/span> et de 2.0 sous $X_2$<\/span>, cela \u00e9tablit formellement la preuve empirique que pour chaque observation du jeu de donn\u00e9es, la relation exacte $X_3 = X_1 + 2 X_2$<\/span> a \u00e9t\u00e9 identifi\u00e9e, permettant ainsi \u00e0 l'analyste de localiser instantan\u00e9ment la source de la colin\u00e9arit\u00e9 d\u00e9terministe.<\/p>\n

6.3 \u00c9valuation du Facteur d'Inflation de la Variance (VIF)<\/h3>\n

Dans l'arsenal classique du diagnostic de multicolin\u00e9arit\u00e9, le Facteur d'Inflation de la Variance<\/a> (VIF) repr\u00e9sente l'indicateur quantitatif le plus populaire. Calcul\u00e9 pour chaque variable explicative $X_j$<\/span>, le VIF mesure l'ampleur avec laquelle la variance de l'estimateur $\\hat{\\beta}_j$<\/span> est gonfl\u00e9e en raison des corr\u00e9lations lin\u00e9aires existant entre ce pr\u00e9dicteur et l'ensemble des $p-1$<\/span> autres covariables :<\/p>\n

$$\\mathrm{VIF}_j = \\frac{1}{1 - R_j^2}$$<\/span><\/p>\n

o\u00f9 $R_j^2$<\/span> d\u00e9signe le coefficient de d\u00e9termination issu de la r\u00e9gression auxiliaire du pr\u00e9dicteur $X_j$<\/span> sur tous les autres pr\u00e9dicteurs du mod\u00e8le.<\/p>\n

Cependant, en pr\u00e9sence d'une d\u00e9ficience de rang av\u00e9r\u00e9e, l'utilisation standard de la fonction vif()<\/code> (issue de l'incontournable paquet car<\/code> de John Fox) se heurte \u00e0 une impossibilit\u00e9 calculatoire. Puisque au moins une variable pr\u00e9sente une corr\u00e9lation parfaite avec les autres ($R_j^2 = 1$<\/span>), le d\u00e9nominateur s'annule, ce qui conduit formellement \u00e0 un VIF infini. Face \u00e0 une matrice de variance-covariance singuli\u00e8re, la fonction car::vif(model)<\/code> interrompt son ex\u00e9cution et renvoie un message d'erreur explicite :<\/p>\n

Error in vif.default(model) : there are aliased coefficients in the model<\/code><\/p>\n

Pour d\u00e9passer cette limite, le mod\u00e9lisateur doit recourir \u00e0 l'analyse du nombre de conditionnement (condition number<\/em>), accessible nativement sous R via la fonction kappa()<\/code> appliqu\u00e9e \u00e0 la matrice de plan :<\/p>\n

kappa(model.matrix(model), exact = TRUE)<\/code><\/p>\n

Le nombre de conditionnement correspond au ratio entre la plus grande et la plus petite valeur singuli\u00e8re de la matrice d'exp\u00e9rience : $\\kappa = \\sigma_{\\max} \/ \\sigma_{\\min}$<\/span>. Une r\u00e8gle empirique solidement \u00e9tablie stipule qu'une valeur de $kappa < 100$ t\u00e9moigne de l'absence de colin\u00e9arit\u00e9 probl\u00e9matique. Un indice compris entre 100 et 1 000 signale une colin\u00e9arit\u00e9 mod\u00e9r\u00e9e \u00e0 forte. En revanche, un indice exc\u00e9dant 1 000, ou tendant vers l'infini (au sens de la pr\u00e9cision machine, typiquement $> 10^{12}$<\/span>), apporte la confirmation formelle d'une matrice num\u00e9riquement singuli\u00e8re et d'une d\u00e9ficience de rang matriciel.<\/p>\n

6.4 Analyse de la matrice de corr\u00e9lation et visualisation<\/h3>\n

Compl\u00e9tant les d\u00e9marches alg\u00e9briques formelles, l'analyse descriptive exploratoire de la structure de corr\u00e9lation des variables fournit une validation empirique imm\u00e9diate des d\u00e9pendances bilat\u00e9rales. L'ex\u00e9cution de la commande standard cor(donnees)<\/code> permet d'extraire la matrice des coefficients de corr\u00e9lation lin\u00e9aire de Pearson ($r$<\/span>).<\/p>\n

Dans ce cadre diagnostique, l'investigateur doit scruter attentivement les coefficients extr\u00eames dont la valeur absolue est strictement \u00e9gale \u00e0 1.0 (ou s'en approche \u00e0 un niveau d'arrondi infinit\u00e9simal, par exemple $|r| > 0.9999$<\/span>). Une telle valeur signe la pr\u00e9sence d'une d\u00e9pendance d\u00e9terministe directe entre deux variables quantitatives continues. Pour fluidifier l'exploration de bases de donn\u00e9es comportant plusieurs dizaines de covariables, la repr\u00e9sentation sous forme de cartographie thermique (heatmap<\/em>) via des paquets comme corrplot<\/code> ou ggplot2<\/code> offre une visualisation synoptique des blocs d'invariance.<\/p>\n

Enfin, il est imp\u00e9ratif d'\u00e9valuer la variance marginale de chaque colonne explicative prise individuellement. Une variable dont la variance empirique est strictement nulle (colonne constante) ou quasi-nulle (o\u00f9 une unique modalit\u00e9 domine 99,9 % des observations) d\u00e9grade le rang de la matrice d\u00e8s lors qu'une constante globale est incorpor\u00e9e au mod\u00e8le. L'utilisation de la fonction nearZeroVar()<\/code> du paquet caret<\/code> permet d'automatiser cette d\u00e9tection en identifiant de fa\u00e7on syst\u00e9matique les r\u00e9gresseurs d\u00e9pourvus d'information discriminante avant m\u00eame l'\u00e9tape d'estimation lin\u00e9aire.<\/p>\n

7. Solution 1 : Suppression et s\u00e9lection raisonn\u00e9e des variables redondantes<\/h2>\n

7.1 Arbitrage th\u00e9orique versus \u00e9limination aveugle<\/h3>\n

La strat\u00e9gie de rem\u00e9diation la plus directe et conceptuellement la plus saine face \u00e0 une d\u00e9pendance lin\u00e9aire d\u00e9terministe consiste \u00e0 retirer manuellement une ou plusieurs variables redondantes de la formule de r\u00e9gression. Cependant, cet arbitrage ne doit sous aucun pr\u00e9texte \u00eatre d\u00e9l\u00e9gu\u00e9 \u00e0 une proc\u00e9dure m\u00e9canique aveugle guid\u00e9e par le seul hasard de l'ordre d'entr\u00e9e des colonnes dans le mod\u00e8le.<\/p>\n

Le choix de la variable \u00e0 \u00e9liminer doit reposer sur des fondements th\u00e9oriques, cliniques ou op\u00e9rationnels rigoureusement explicit\u00e9s par le chercheur. Face \u00e0 deux pr\u00e9dicteurs parfaitement colin\u00e9aires, il convient de s'interroger sur la nature \u00e9pist\u00e9mologique du lien unissant les grandeurs : l'une des variables repr\u00e9sente-t-elle la cause fondamentale du ph\u00e9nom\u00e8ne tandis que la seconde n'en est qu'un \u00e9piph\u00e9nom\u00e8ne ou un marqueur indirect ? Dans une mod\u00e9lisation biom\u00e9dicale, par exemple, si la clairance r\u00e9nale calcul\u00e9e et la cr\u00e9atinine s\u00e9rique transform\u00e9e sont en relation alg\u00e9brique exacte, la grandeur physiologique la plus proche du m\u00e9canisme d'action th\u00e9rapeutique devra \u00eatre pr\u00e9serv\u00e9e au d\u00e9triment de l'indicateur d\u00e9riv\u00e9.<\/p>\n

De m\u00eame, dans les sciences sociales et l'\u00e9valuation psychologique, il est capital de pr\u00e9server l'interpr\u00e9tabilit\u00e9 clinique ou sociologique du mod\u00e8le final. Si une \u00e9chelle composite de bien-\u00eatre est construite \u00e0 partir de sous-dimensions de satisfaction au travail, conserver les sous-\u00e9chelles distinctes offre des leviers d'intervention pr\u00e9cis pour les praticiens, alors que conserver le score global agr\u00e9g\u00e9 permet une communication synth\u00e9tique mais occulte la dynamique fine des facteurs. La d\u00e9cision d'\u00e9viction doit donc \u00eatre guid\u00e9e par l'objectif final du mod\u00e8le : explication m\u00e9canistique fine ou pilotage macroscopique.<\/p>\n

7.2 Proc\u00e9dure de suppression manuelle dans la formule R<\/h3>\n

Une fois l'arbitrage conceptuel op\u00e9r\u00e9, la mise en \u0153uvre de la correction sous R se formalise de fa\u00e7on \u00e9l\u00e9gante et reproductible gr\u00e2ce \u00e0 la fonction g\u00e9n\u00e9rique update()<\/code>. Cette m\u00e9thode permet de re-sp\u00e9cifier un mod\u00e8le lin\u00e9aire sans avoir \u00e0 ressaisir l'int\u00e9gralit\u00e9 des arguments initiaux.<\/p>\n

Supposons un mod\u00e8le empirique initial sp\u00e9cifi\u00e9 comme suit :<\/p>\n

modele_initial <- lm(performance ~ score_partA + score_partB + score_total + age, data = base_rh)<\/code><\/p>\n

La commande alias(modele_initial)<\/code> ayant r\u00e9v\u00e9l\u00e9 que score_total<\/code> est la somme exacte des parties A et B, le mod\u00e9lisateur d\u00e9cide d'\u00e9liminer la variable globale score_total<\/code> afin de pr\u00e9server l'estimation des contributions respectives des sous-composantes. La mise \u00e0 jour s'ex\u00e9cute par :<\/p>\n

modele_corrige <- update(modele_initial, . ~ . - score_total)<\/code><\/p>\n

L'inspection du nouveau sommaire via summary(modele_corrige)<\/code> permet de constater imm\u00e9diatement trois \u00e9l\u00e9ments cruciaux :<\/p>\n