L’analyse de r\u00e9gression lin\u00e9aire constitue depuis plus d’un si\u00e8cle l’un des piliers m\u00e9thodologiques les plus influents des sciences quantitatives, en particulier au sein de la psychologie empirique, de la psychom\u00e9trie et des neurosciences comportementales. Historiquement, l’estimation des param\u00e8tres par la m\u00e9thode des moindres carr\u00e9s ordinaires s’est principalement articul\u00e9e autour de crit\u00e8res d’ad\u00e9quation r\u00e9trospectifs ou intra-\u00e9chantillon, au premier rang desquels figure le coefficient de d\u00e9termination classique. Pourtant, la qu\u00eate d’un ajustement optimal sur les donn\u00e9es observ\u00e9es dissimule fr\u00e9quemment un \u00e9cueil fondamental de l’induction statistique : le surapprentissage ou surajustement, par lequel un mod\u00e8le capture avec une fid\u00e9lit\u00e9 trompeuse le bruit al\u00e9atoire et les singularit\u00e9s idiosyncratiques d’une cohorte sp\u00e9cifique au d\u00e9triment de ses invariants structurels sous-jacents.<\/p>\n
Dans ce contexte \u00e9pist\u00e9mologique o\u00f9 la r\u00e9plicabilit\u00e9 des r\u00e9sultats exp\u00e9rimentaux est devenue une exigence cardinale pour la communaut\u00e9 scientifique, la n\u00e9cessit\u00e9 d’\u00e9valuer la validit\u00e9 pr\u00e9dictive hors \u00e9chantillon s’est impos\u00e9e avec une force renouvel\u00e9e. La statistique PRESS, acronyme de Predicted REsidual Sum of Squares<\/em>, formalis\u00e9e au d\u00e9but des ann\u00e9es 1970 par le statisticien David M. Allen, repr\u00e9sente pr\u00e9cis\u00e9ment l’une des perc\u00e9es th\u00e9oriques et op\u00e9rationnelles les plus remarquables pour surmonter cette aporie. En \u00e9tablissant une passerelle analytique rigoureuse entre la r\u00e9gression param\u00e9trique classique et les paradigmes modernes du r\u00e9\u00e9chantillonnage, la m\u00e9trique PRESS fournit aux chercheurs un indicateur direct de la performance de g\u00e9n\u00e9ralisation d’un mod\u00e8le sans requ\u00e9rir la collecte dispendieuse de nouvelles cohortes empiriques.<\/p>\n Le pr\u00e9sent article propose une analyse approfondie, didactique et exhaustive de la statistique PRESS, explorant ses fondements math\u00e9matiques, son \u00e9quivalence \u00e9l\u00e9gante avec la validation crois\u00e9e par exclusion unitaire, ses propri\u00e9t\u00e9s diagnostiques vis-\u00e0-vis des points influents et son r\u00f4le central dans la s\u00e9lection parcimonieuse de mod\u00e8les pr\u00e9dictifs du comportement humain. \u00c0 travers un examen minutieux de ses d\u00e9rivations alg\u00e9briques et de ses impl\u00e9mentations au sein des environnements de calcul contemporains, nous mettrons en lumi\u00e8re la mani\u00e8re dont cet instrument pr\u00e9serve l’int\u00e9grit\u00e9 de l’inf\u00e9rence statistique face aux d\u00e9fis pos\u00e9s par la mod\u00e9lisation de donn\u00e9es psychologiques complexes et bruit\u00e9es.<\/p>\n L’\u00e9difice de la mod\u00e9lisation statistique repose traditionnellement sur une distinction conceptuelle majeure entre deux objectifs fondamentaux : l’explication causale et la pr\u00e9diction empirique. Dans une perspective strictement explicative, le chercheur en sciences du comportement cherche \u00e0 identifier la structure causale sous-jacente qui r\u00e9git les relations entre des variables psychologiques, testant des hypoth\u00e8ses issues de cadres th\u00e9oriques pr\u00e9existants. Dans ce paradigme h\u00e9rit\u00e9 de l’\u00e9conom\u00e9trie et de la biom\u00e9trie classique, la minimisation de la somme des carr\u00e9s des r\u00e9sidus intra-\u00e9chantillon est souvent interpr\u00e9t\u00e9e comme le reflet d’une capture ad\u00e9quate du ph\u00e9nom\u00e8ne \u00e9tudi\u00e9. Cependant, une telle d\u00e9marche confond fr\u00e9quemment la qualit\u00e9 de l’ajustement aux donn\u00e9es pass\u00e9es avec la capacit\u00e9 du mod\u00e8le \u00e0 anticiper des observations futures.<\/p>\n L’\u00e9valuation des mod\u00e8les uniquement sur les donn\u00e9es d’entra\u00eenement engendre une vuln\u00e9rabilit\u00e9 m\u00e9thodologique critique. Par construction, l’algorithme des moindres carr\u00e9s ordinaires ajuste les coefficients de r\u00e9gression pour minimiser sp\u00e9cifiquement les erreurs commises sur l’\u00e9chantillon disponible. Ce faisant, il incorpore non seulement le signal th\u00e9orique d’int\u00e9r\u00eat, mais \u00e9galement les fluctuations stochastiques propres \u00e0 la cohorte observ\u00e9e. D\u00e8s lors que l’on transpose ce mod\u00e8le optimis\u00e9 localement \u00e0 une population ind\u00e9pendante, sa performance s’effondre syst\u00e9matiquement, un ph\u00e9nom\u00e8ne qualifi\u00e9 de r\u00e9tr\u00e9cissement de la validit\u00e9 ou d’optimisme empirique. En psychom\u00e9trie et en mod\u00e9lisation cognitive, o\u00f9 la variance d’erreur de mesure est notoirement substantielle en raison de la nature latente des construits, l’adoption d’un crit\u00e8re d’\u00e9valuation hors \u00e9chantillon (out-of-sample<\/em>) constitue un imp\u00e9ratif m\u00e9thodologique incontournable pour garantir que les trajectoires mod\u00e9lis\u00e9es poss\u00e8dent une v\u00e9ritable r\u00e9alit\u00e9 psychologique extrapolable.<\/p>\n La statistique PRESS tire son appellation de l’anglais Predicted REsidual Sum of Squares<\/em>, que l’on traduit dans la litt\u00e9rature statistique francophone par la somme des carr\u00e9s des r\u00e9sidus pr\u00e9dits. D\u00e9velopp\u00e9e formellement par le statisticien David M. Allen dans son article s\u00e9minal de 1974 intitul\u00e9 The Relationship Between Variable Selection and Data Augmentation and a Method for Prediction<\/em>, cette m\u00e9trique a \u00e9t\u00e9 con\u00e7ue comme une r\u00e9ponse \u00e9l\u00e9gante et parcimonieuse au dilemme de l’\u00e9valuation pr\u00e9dictive. Contrairement aux r\u00e9sidus ordinaires issus d’un mod\u00e8le calibr\u00e9 sur l’int\u00e9gralit\u00e9 du jeu de donn\u00e9es, les r\u00e9sidus intervenant dans le calcul du PRESS sont g\u00e9n\u00e9r\u00e9s selon un protocole o\u00f9 chaque observation est syst\u00e9matiquement exclue de la phase d’estimation de ses propres param\u00e8tres pr\u00e9dictifs.<\/p>\n D’un point de vue fonctionnel, le PRESS op\u00e8re comme une mesure synth\u00e9tique de l’erreur quadratique moyenne de g\u00e9n\u00e9ralisation. En agr\u00e9geant les d\u00e9viations observ\u00e9es lorsque le mod\u00e8le est contraint de pr\u00e9dire des donn\u00e9es qui lui \u00e9taient invisibles lors de son param\u00e9trage, cette statistique quantifie directement l’instabilit\u00e9 pr\u00e9dictive induite par la configuration g\u00e9om\u00e9trique de l’espace des covariables. Elle ne mesure point la capacit\u00e9 du mod\u00e8le \u00e0 m\u00e9moriser l’information empirique fournie, mais bien son aptitude \u00e0 transf\u00e9rer cette connaissance \u00e0 des cas in\u00e9dits, ce qui en fait un \u00e9talon privil\u00e9gi\u00e9 pour juger de la viabilit\u00e9 pratique des syst\u00e8mes pr\u00e9dictifs dans les sciences de la sant\u00e9 et du comportement.<\/p>\n La psychologie quantitative et les sciences comportementales traversent depuis plus d’une d\u00e9cennie une crise de reproductibilit\u00e9 sans pr\u00e9c\u00e9dent, incitant la communaut\u00e9 des chercheurs \u00e0 r\u00e9examiner en profondeur ses pratiques analytiques. L’un des principaux catalyseurs de cette crise r\u00e9side dans l’utilisation excessive de mod\u00e8les statistiques flexibles appliqu\u00e9s \u00e0 des \u00e9chantillons de taille modeste. Lorsque le nombre de variables pr\u00e9dictives \u2014 telles que les scores de sous-\u00e9chelles de personnalit\u00e9, les biomarqueurs physiologiques ou les indices neurocognitifs \u2014 est \u00e9lev\u00e9 par rapport au nombre d’individus inclus dans l’\u00e9tude, les r\u00e9gressions lin\u00e9aires ordinaires g\u00e9n\u00e8rent un surajustement massif, produisant des coefficients gonfl\u00e9s artificiellement qui s’av\u00e8rent incapables de r\u00e9plication au sein d’autres laboratoires.<\/p>\n Dans ce contexte, la statistique PRESS s’\u00e9rige en garde-fou \u00e9pist\u00e9mologique essentiel. Elle offre une m\u00e9thode rigoureuse pour valider des mod\u00e8les comportementaux lorsque les contraintes de recrutement de patients ou de participants interdisent la constitution d’un \u00e9chantillon de test compl\u00e8tement ind\u00e9pendant. De surcro\u00eet, le PRESS entretient des affinit\u00e9s conceptuelles profondes avec les approches bay\u00e9siennes contemporaines, notamment l’estimation de l’exactitude pr\u00e9dictive a posteriori par validation crois\u00e9e \u00e0 exclusion unitaire (comme le crit\u00e8re PSIS-LOO), tout en demeurant fermement ancr\u00e9 dans le cadre analytique et computationnel des moindres carr\u00e9s fr\u00e9quentistes. Son int\u00e9gration syst\u00e9matique permet ainsi de dissocier les effets robustes des artefacts d’\u00e9chantillonnage, garantissant que les conclusions tir\u00e9es sur le fonctionnement psychique poss\u00e8dent une validit\u00e9 externe tangible.<\/p>\n Pour appr\u00e9hender la m\u00e9canique interne de la statistique PRESS, il convient de poser rigoureusement le cadre du mod\u00e8le de r\u00e9gression lin\u00e9aire standard. Soit un vecteur de r\u00e9ponses observ\u00e9es $Y$<\/span> de dimension $n \\times 1$<\/span> et une matrice de conception $X$<\/span> de dimension $n \\times p$<\/span>, o\u00f9 $n$<\/span> repr\u00e9sente le nombre d’observations et $p$<\/span> le nombre de param\u00e8tres estim\u00e9s, incluant l’ordonn\u00e9e \u00e0 l’origine. L’estimation des moindres carr\u00e9s ordinaires conduit au vecteur de coefficients $\\hat{\\beta} = (X’X)^{-1}X’Y$<\/span>, \u00e0 partir duquel on d\u00e9finit le vecteur des valeurs ajust\u00e9es $\\hat{Y} = X\\hat{\\beta}$<\/span> et le vecteur des r\u00e9sidus ordinaires $e = Y – \\hat{Y}$<\/span>, dont chaque \u00e9l\u00e9ment individuel s’\u00e9crit $e_i = y_i – \\hat{y}_i$<\/span>.<\/p>\n La statistique PRESS ne repose pas sur ces r\u00e9sidus d’ajustement conventionnels, mais sur les r\u00e9sidus supprim\u00e9s, not\u00e9s $e_{(i)} = y_i – \\hat{y}_{(i)}$<\/span>, o\u00f9 $\\hat{y}_{(i)}$<\/span> repr\u00e9sente la pr\u00e9diction attribu\u00e9e \u00e0 la $i$<\/span>-\u00e8me observation par un mod\u00e8le estim\u00e9 \u00e0 partir des $n-1$<\/span> autres observations, apr\u00e8s exclusion d\u00e9lib\u00e9r\u00e9e du couple $(x_i, y_i)$<\/span>. L’\u00e9quation fondamentale de la statistique PRESS s’\u00e9nonce comme la somme quadratique de ces r\u00e9sidus pr\u00e9dictifs :<\/p>\n $$\\text{PRESS} = \\sum_{i=1}^{n} e_{(i)}^2 = \\sum_{i=1}^{n} \\left( y_i – \\hat{y}_{(i)} \\right)^2$$<\/span><\/p>\n L’aspect math\u00e9matique le plus remarquable r\u00e9side dans le fait que cette sommation peut \u00eatre exprim\u00e9e exactement sans r\u00e9estimer le mod\u00e8le $n$<\/span> fois distinctes, en modulant chaque r\u00e9sidu ordinaire $e_i$<\/span> par le levier statistique correspondant $h_{ii}$<\/span> de l’observation :<\/p>\n $$\\text{PRESS} = \\sum_{i=1}^{n} \\left( \\frac{e_i}{1 – h_{ii}} \\right)^2$$<\/span><\/p>\n Cette formulation met en lumi\u00e8re la nature intime de la m\u00e9trique : chaque \u00e9cart r\u00e9siduel brut subit une p\u00e9nalisation quadratique inversement proportionnelle \u00e0 la marge de redondance informationnelle du sujet dans l’espace des pr\u00e9dicteurs, conf\u00e9rant au terme individuel de levier une influence pr\u00e9pond\u00e9rante dans l’estimation de l’erreur globale.<\/p>\n Le levier statistique, universellement d\u00e9sign\u00e9 par $h_{ii}$<\/span>, constitue l’\u00e9l\u00e9ment diagonal de la matrice de projection orthogonale $H$<\/span>, commun\u00e9ment d\u00e9sign\u00e9e sous le terme de matrice chapeau (Hat Matrix<\/em>), d\u00e9finie par l’op\u00e9rateur matriciel :<\/p>\n $$H = X(X’X)^{-1}X’$$<\/span><\/p>\n Cette matrice doit son nom pittoresque \u00e0 sa propri\u00e9t\u00e9 g\u00e9om\u00e9trique fondamentale : lorsqu’elle op\u00e8re sur le vecteur des observations r\u00e9elles $Y$<\/span>, elle projette ce dernier sur le sous-espace vectoriel engendr\u00e9 par les colonnes de $X$<\/span>, coiffant ainsi $Y$<\/span> pour donner le vecteur des valeurs pr\u00e9dites $\\hat{Y} = HY$<\/span>. Les \u00e9l\u00e9ments diagonaux $h_{ii}$<\/span> de cette matrice admettent une interpr\u00e9tation g\u00e9om\u00e9trique et statistique cruciale. Ils mesurent la distance relative entre le profil multidimensionnel des pr\u00e9dicteurs du $i$<\/span>-\u00e8me participant, not\u00e9 $x_i$<\/span>, et le centre de gravit\u00e9 ou centro\u00efde moyen de l’ensemble de l’\u00e9chantillon. Math\u00e9matiquement, $h_{ii}$<\/span> est strictement born\u00e9 entre $1\/n$<\/span> (dans le cas d’un mod\u00e8le avec constante) et $1$, sa somme sur l’ensemble de l’\u00e9chantillon \u00e9tant rigoureusement \u00e9gale au nombre de param\u00e8tres $p$<\/span> du mod\u00e8le ($\\text{tr}(H) = \\sum h_{ii} = p$<\/span>).<\/p>\n Le levier $h_{ii}$<\/span> repr\u00e9sente \u00e9galement la d\u00e9riv\u00e9e partielle de la valeur ajust\u00e9e $\\hat{y}_i$<\/span> par rapport \u00e0 la valeur observ\u00e9e $y_i$<\/span> ($\\partial \\hat{y}_i \/ \\partial y_i = h_{ii}$<\/span>). Par cons\u00e9quent, plus la valeur de $h_{ii}$<\/span> se rapproche de l’unit\u00e9, plus l’observation correspondante attire la droite ou l’hyperplan de r\u00e9gression vers elle-m\u00eame, r\u00e9duisant artificiellement son r\u00e9sidu ordinaire $e_i$<\/span>. Dans le d\u00e9nominateur de la statistique PRESS, le facteur $(1 – h_{ii})$<\/span> agit d\u00e8s lors comme un puissant correcteur g\u00e9om\u00e9trique : si une observation pr\u00e9sente un levier \u00e9lev\u00e9 ($h_{ii} to 1$<\/span>), le diviseur tend vers z\u00e9ro, ce qui d\u00e9multiplie l’ampleur de son r\u00e9sidu supprim\u00e9. Ce m\u00e9canisme compense math\u00e9matiquement la force attractive du point et r\u00e9tablit l’erreur r\u00e9elle que le mod\u00e8le commettrait s’il ne pouvait pas s’appuyer sur cette ancre computationnelle.<\/p>\n La possibilit\u00e9 de calculer rigoureusement le r\u00e9sidu supprim\u00e9 $e_{(i)}$<\/span> \u00e0 partir d’une seule ex\u00e9cution des moindres carr\u00e9s repose sur l’application \u00e9l\u00e9gante du th\u00e9or\u00e8me d’inversion matricielle de Woodbury, \u00e9galement connu sous le nom de formule de Sherman-Morrison. Consid\u00e9rons la matrice de conception r\u00e9duite $X_{(i)}$<\/span>, obtenue en supprimant la $i$<\/span>-\u00e8me ligne de $X$<\/span>. La matrice des covariances correspondante s’exprime par la perturbation de rang un suivante :<\/p>\n $$X_{(i)}’X_{(i)} = X’X – x_i x_i’$$<\/span><\/p>\n En vertu du lemme d’inversion de Woodbury pour une mise \u00e0 jour de rang un, l’inverse de cette matrice perturb\u00e9e s’\u00e9crit de mani\u00e8re analytique ferm\u00e9e :<\/p>\n $$(X_{(i)}’X_{(i)})^{-1} = (X’X)^{-1} + \\frac{(X’X)^{-1} x_i x_i’ (X’X)^{-1}}{1 – x_i'(X’X)^{-1}x_i}$$<\/span><\/p>\n En rappelant que le levier statistique s’exprime scalairement par $h_{ii} = x_i'(X’X)^{-1}x_i$<\/span>, le d\u00e9nominateur de la fraction se simplifie imm\u00e9diatement en $(1 – h_{ii})$<\/span>. En multipliant cette formulation par le vecteur des produits crois\u00e9s $X_{(i)}’Y_{(i)} = X’Y – x_i y_i$<\/span>, nous obtenons l’expression explicite du vecteur des param\u00e8tres r\u00e9estim\u00e9s sans le $i$<\/span>-\u00e8me individu :<\/p>\n $$\\hat{\\beta}_{(i)} = \\hat{\\beta} – \\frac{(X’X)^{-1}x_i e_i}{1 – h_{ii}}$$<\/span><\/p>\n D\u00e8s lors, la pr\u00e9diction attribu\u00e9e \u00e0 ce $i$<\/span>-\u00e8me cas par le mod\u00e8le dont il a \u00e9t\u00e9 exclu s’obtient en projetant son propre vecteur de caract\u00e9ristiques $x_i’$<\/span> sur ces coefficients modifi\u00e9s :<\/p>\n $$\\hat{y}_{(i)} = x_i’\\hat{\\beta}_{(i)} = x_i’\\hat{\\beta} – \\frac{x_i'(X’X)^{-1}x_i e_i}{1 – h_{ii}} = \\hat{y}_i – \\frac{h_{ii} e_i}{1 – h_{ii}}$$<\/span><\/p>\n Il ne reste plus qu’\u00e0 \u00e9valuer la d\u00e9viation pr\u00e9dictive en soustrayant cette valeur de l’observation brute $y_i$<\/span> :<\/p>\n $$e_{(i)} = y_i – \\hat{y}_{(i)} = y_i – \\left( \\hat{y}_i – \\frac{h_{ii} e_i}{1 – h_{ii}} \\right) = (y_i – \\hat{y}_i) + \\frac{h_{ii} e_i}{1 – h_{ii}} = e_i \\left( 1 + \\frac{h_{ii}}{1 – h_{ii}} \\right) = \\frac{e_i}{1 – h_{ii}}$$<\/span><\/p>\n Cette d\u00e9monstration analytique d\u00e9montre irr\u00e9futablement l’\u00e9quivalence stricte entre l’exclusion physique it\u00e9rative de chaque observation et la simple correction matricielle du r\u00e9sidu ordinaire par le compl\u00e9ment de son levier. Ce r\u00e9sultat \u00e9pargne un co\u00fbt computationnel consid\u00e9rable et transforme un algorithme th\u00e9oriquement it\u00e9ratif en une op\u00e9ration matricielle instantan\u00e9e.<\/p>\n Le protocole de validation crois\u00e9e par exclusion unitaire, connu sous l’acronyme anglophone LOOCV (Leave-One-Out Cross-Validation)<\/a> ou historiquement assimil\u00e9 \u00e0 la technique du jackknife introduite par Maurice Quenouille et John Tukey, repr\u00e9sente la forme la plus radicale et exhaustive du r\u00e9\u00e9chantillonnage sans partitionnement arbitraire. Dans un jeu de donn\u00e9es contenant $n$<\/span> sujets, le protocole s\u00e9pare s\u00e9quentiellement les donn\u00e9es en deux blocs asym\u00e9triques : un sous-ensemble d’apprentissage comprenant $n-1$<\/span> observations, et un sous-ensemble de test constitu\u00e9 de l’unique observation temporairement isol\u00e9e. Le mod\u00e8le est enti\u00e8rement param\u00e9tr\u00e9 sur les $n-1$<\/span> cas, puis son \u00e9quation r\u00e9sultante est imm\u00e9diatement appliqu\u00e9e au sujet exclu afin d’enregistrer l’erreur commise sur cette mesure ind\u00e9pendante.<\/p>\n Ce cycle algorithmique est r\u00e9p\u00e9t\u00e9 $n$<\/span> fois cons\u00e9cutives, de sorte que chaque participant de l’\u00e9tude endosse \u00e0 son tour le r\u00f4le d’unique repr\u00e9sentant du jeu d’\u00e9valuation hors \u00e9chantillon. Le principal atout m\u00e9thodologique de la LOOCV r\u00e9side dans la quasi-absence de biais d’estimation de l’erreur de g\u00e9n\u00e9ralisation. Contrairement \u00e0 une validation crois\u00e9e \u00e0 $k$<\/span>-blocs standard (par exemple $k=5$<\/span> ou $k=10$<\/span>), o\u00f9 le mod\u00e8le n’est entra\u00een\u00e9 que sur 80 % ou 90 % de l’effectif total \u2014 ce qui peut induire une sous-estimation pessimiste de la performance globale en raison d’une taille d’\u00e9chantillon tronqu\u00e9e \u2014, la LOOCV exploite une taille de cohorte d’entra\u00eenement virtuellement identique ($n-1$<\/span>) \u00e0 la taille totale de l’\u00e9chantillon initial.<\/p>\n La statistique PRESS n’est pas une simple approximation heuristique de la validation crois\u00e9e par exclusion unitaire ; elle en constitue l’isomorphisme math\u00e9matique parfait dans l’univers de la r\u00e9gression lin\u00e9aire par moindres carr\u00e9s ordinaires. En calculant la somme des carr\u00e9s de l’ensemble des r\u00e9sidus g\u00e9n\u00e9r\u00e9s s\u00e9quentiellement par les $n$<\/span> mod\u00e8les de la proc\u00e9dure LOOCV, on obtient une quantit\u00e9 qui co\u00efncide rigoureusement, au centi\u00e8me d’unit\u00e9 pr\u00e8s, avec la valeur d\u00e9livr\u00e9e par la formule close d’Allen :<\/p>\n $$\\text{CV}_{(n)} = \\sum_{i=1}^{n} (y_i – \\hat{y}_{-i})^2 \\equiv \\sum_{i=1}^{n} \\left(\\frac{e_i}{1 – h_{ii}}\\right)^2 = \\text{PRESS}$$<\/span><\/p>\n Cette identit\u00e9 parfaite repose sur des conditions de r\u00e9gularit\u00e9 \u00e9l\u00e9mentaires mais strictes : le mod\u00e8le doit \u00eatre lin\u00e9aire par rapport \u00e0 ses param\u00e8tres, les coefficients doivent \u00eatre estim\u00e9s par minimisation non pond\u00e9r\u00e9e des erreurs quadratiques, et la matrice d’information $X’X$<\/span> doit \u00eatre inversible au rang plein $p$<\/span>. D\u00e8s lors que ces postulats sont respect\u00e9s, l’\u00e9quivalence est absolue. Dans le cadre de plans d’exp\u00e9rience psychologiques \u00e9quilibr\u00e9s (par exemple des plans factoriels orthogonaux en psychologie cognitive exp\u00e9rimentale), o\u00f9 tous les participants partagent des valeurs de levier identiques $h_{ii} = p\/n$<\/span>, la statistique PRESS devient un multiple scalaire exact de la somme des carr\u00e9s des r\u00e9sidus ordinaires, d\u00e9montrant comment la sym\u00e9trie m\u00e9thodologique stabilise intrins\u00e8quement l’estimation de l’erreur pr\u00e9dictive.<\/p>\n L’existence de cette formule ferm\u00e9e conf\u00e8re \u00e0 la statistique PRESS un avantage computationnel \u00e9crasant face \u00e0 l’impl\u00e9mentation na\u00efve d’une validation crois\u00e9e LOOCV. Si un analyste devait programmer une boucle it\u00e9rative brute pour ex\u00e9cuter une LOOCV sur un jeu de donn\u00e9es psychom\u00e9triques comportant $n$<\/span> sujets et $p$<\/span> pr\u00e9dicteurs, l’ordinateur devrait r\u00e9soudre $n$<\/span> \u00e9quations normales distinctes. Sachant que la r\u00e9solution d’une r\u00e9gression lin\u00e9aire via une inversion matricielle directe ou une d\u00e9composition QR requiert un temps proportionnel \u00e0 $\\mathcal{O}(p^3)$<\/span> ou $\\mathcal{O}(np^2)$<\/span>, la r\u00e9p\u00e9tition de cette t\u00e2che sur $n$<\/span> it\u00e9rations impose une complexit\u00e9 temporelle globale de l’ordre de :<\/p>\n $$\\mathcal{O}(n \\cdot p^3 + n^2 \\cdot p^2)$$<\/span><\/p>\n \u00c0 l’inverse, le calcul matriciel de la statistique PRESS ne r\u00e9clame qu’une unique factorisation initiale de la matrice compl\u00e8te $X$<\/span>, dont le co\u00fbt de factorisation s’\u00e9tablit \u00e0 $\\mathcal{O}(np^2 + p^3)$<\/span>, suivie de l’extraction des composantes diagonales de la matrice chapeau en exploitant la d\u00e9composition en valeurs singuli\u00e8res ou la m\u00e9thode de Cholesky, n\u00e9cessitant $\\mathcal{O}(np^2)$<\/span>. Le calcul du vecteur des $n$<\/span> r\u00e9sidus supprim\u00e9s par simple division vectoris\u00e9e s’effectue ensuite en un temps infinit\u00e9simal de complexit\u00e9 lin\u00e9aire $\\mathcal{O}(n)$<\/span>. L’\u00e9conomie de cycles processeur est colossale, autorisant l’\u00e9valuation pr\u00e9dictive imm\u00e9diate de mod\u00e8les int\u00e9grant des dizaines de milliers de r\u00e9pondants issus de cohortes \u00e9pid\u00e9miologiques en sant\u00e9 mentale sans aucune surcharge d’infrastructure mat\u00e9rielle.<\/p>\n La statistique descriptive \u00e9l\u00e9mentaire consacre une place centrale \u00e0 la somme des carr\u00e9s des erreurs r\u00e9siduelles (SSE, pour Sum of Squared Errors<\/em>), formul\u00e9e par $\\text{SSE} = \\sum e_i^2$<\/span>. Dans la formation m\u00e9thodologique traditionnelle, une r\u00e9duction de la SSE est universellement per\u00e7ue comme la marque d’un progr\u00e8s scientifique, t\u00e9moignant d’une r\u00e9duction de l’ignorance du chercheur vis-\u00e0-vis du ph\u00e9nom\u00e8ne observ\u00e9. Or, cette perception rel\u00e8ve d’une profonde illusion statistique lorsque l’objectif ultime de la recherche d\u00e9passe la simple description taxinomique d’une cohorte fig\u00e9e.<\/p>\n Sur le plan g\u00e9om\u00e9trique, l’ajout d’une quelconque variable pr\u00e9dictive dans une \u00e9quation de r\u00e9gression \u2014 m\u00eame s’il s’agit d’une suite de chiffres purement al\u00e9atoires tir\u00e9e d’un bruit blanc gaussien \u2014 augmente ou, au minimum, maintient strictement constant le sous-espace vectoriel d\u00e9fini par les colonnes de $X$<\/span>. Par cons\u00e9quent, la distance orthogonale entre le vecteur des observations r\u00e9elles $Y$<\/span> et le plan de projection ne peut math\u00e9matiquement jamais cro\u00eetre. La SSE pr\u00e9sente ainsi un comportement obligatoirement monotone et d\u00e9croissant \u00e0 mesure que des pr\u00e9dicteurs sont inject\u00e9s dans le mod\u00e8le :<\/p>\n $$\\text{SSE}(X_1, X_2, dots, X_p, X_{p+1}) le \\text{SSE}(X_1, X_2, dots, X_p)$$<\/span><\/p>\n Cette propri\u00e9t\u00e9 math\u00e9matique m\u00e9canique incite pernicieusement le chercheur \u00e0 complexifier inutilement son mod\u00e8le afin d’afficher des r\u00e9sidus nominaux toujours plus faibles. En r\u00e9compensant aveugl\u00e9ment la complexit\u00e9 algorithmique, l’optimisation exclusive de la SSE d\u00e9truit la validit\u00e9 externe du mod\u00e8le, produisant des \u00e9quations d’une fragilit\u00e9 extr\u00eame qui s’effondrent d\u00e8s qu’elles sont confront\u00e9es \u00e0 des sujets n’ayant pas particip\u00e9 \u00e0 la collecte originale.<\/p>\n Directement d\u00e9riv\u00e9 de la SSE, le coefficient de d\u00e9termination classique $R^2 = 1 – (\\text{SSE} \/ \\text{SST})$<\/span> h\u00e9rite des m\u00eames faiblesses structurales. Il souffre d’une incapacit\u00e9 cong\u00e9nitale \u00e0 d\u00e9tecter le ph\u00e9nom\u00e8ne de surapprentissage, puisqu’il progresse continuellement vers la valeur unitaire \u00e0 mesure que des variables parasites sont incorpor\u00e9es. Face \u00e0 cette d\u00e9faillance \u00e9vidente, Karl Pearson et Robert Fisher ont introduit la notion de coefficient de d\u00e9termination ajust\u00e9, traditionnellement mod\u00e9lis\u00e9 selon l’expression :<\/p>\n $$R^2_{\\text{adj}} = 1 – \\left[ \\frac{\\text{SSE} \/ (n – p – 1)}{\\text{SST} \/ (n – 1)} \\right] = 1 – \\left( \\frac{n – 1}{n – p – 1} \\right) (1 – R^2)$$<\/span><\/p>\n Bien que le $R^2_{\\text{adj}}$<\/span> applique une p\u00e9nalit\u00e9 lin\u00e9aire index\u00e9e sur le ratio entre le nombre de pr\u00e9dicteurs $p$<\/span> et les degr\u00e9s de libert\u00e9 r\u00e9siduels $(n – p – 1)$<\/span>, cette correction demeure souvent trop indulgente dans des situations exp\u00e9rimentales complexes. Cette p\u00e9nalisation lin\u00e9aire uniforme ne prend absolument pas en compte la dispersion spatiale ou g\u00e9om\u00e9trique des pr\u00e9dicteurs au sein de l’espace hypersph\u00e9rique des donn\u00e9es. En particulier, lorsque des mod\u00e8les incorporent des termes polynomiaux d’ordre \u00e9lev\u00e9 ou des interactions factorielles complexes, le $R^2_{\\text{adj}}$<\/span> peut afficher un niveau d’optimisme d\u00e9concertant, certifiant l’excellence apparente d’un mod\u00e8le qui, dans les faits, engendre des pr\u00e9dictions d\u00e9lirantes et explosives aux fronti\u00e8res du domaine d’observation.<\/p>\n Contrairement aux ajustements param\u00e9triques forfaitaires, la statistique PRESS oppose une r\u00e9sistance dynamique et g\u00e9om\u00e9triquement inform\u00e9e \u00e0 l’inflation de la complexit\u00e9. Cette r\u00e9sistance proc\u00e8de de l’amplification quadratique g\u00e9n\u00e9r\u00e9e par le terme de levier au d\u00e9nominateur du r\u00e9sidu supprim\u00e9. Lorsque l’analyste ajoute un nouveau pr\u00e9dicteur dans l’\u00e9quation, deux forces antagonistes s’engagent imm\u00e9diatement dans un arbitrage computationnel :<\/p>\n Si la variable ajout\u00e9e ne contient qu’un signal pr\u00e9dictif faible ou nul, la minime r\u00e9duction de $e_i$<\/span> est imm\u00e9diatement submerg\u00e9e par la dilatation violente du facteur $1 \/ (1 – h_{ii})^2$<\/span>. La statistique PRESS augmente alors de mani\u00e8re substantielle, alertant l’investigateur sur la d\u00e9gradation effective de la robustesse hors \u00e9chantillon du mod\u00e8le. Ce processus op\u00e8re sans qu’il soit n\u00e9cessaire d’introduire des hyperparam\u00e8tres de r\u00e9gularisation arbitraires, consacrant le PRESS comme une impl\u00e9mentation purement probabiliste et structurelle du principe de parcimonie (le rasoir d’Ockham) dans l’\u00e9tude des traits de personnalit\u00e9 et des comportements humains.<\/p>\n Afin de traduire la valeur absolue de la statistique PRESS en une m\u00e9trique d’\u00e9valuation standardis\u00e9e et intuitive, directement comparable aux coefficients de corr\u00e9lation habituels, les m\u00e9thodologistes ont \u00e9labor\u00e9 le coefficient de d\u00e9termination pr\u00e9dictif, universellement d\u00e9sign\u00e9 par le symbole $R^2_{\\text{pred}}$<\/span> ou $R^2_{\\text{PRESS}}$<\/span>. Cette statistique synth\u00e9tique est d\u00e9riv\u00e9e par normalisation du PRESS par rapport \u00e0 la somme totale des carr\u00e9s des \u00e9carts \u00e0 la moyenne (SST, pour Total Sum of Squares<\/em>) :<\/p>\n $$R^2_{\\text{pred}} = 1 – \\frac{\\text{PRESS}}{\\text{SST}} = 1 – \\frac{\\sum_{i=1}^{n} \\left(\\frac{e_i}{1 – h_{ii}}\\right)^2}{\\sum_{i=1}^{n} (y_i – \\bar{y})^2}$$<\/span><\/p>\n Sur le plan des propri\u00e9t\u00e9s th\u00e9oriques, le $R^2_{\\text{pred}}$<\/span> partage avec le $R^2$<\/span> conventionnel une borne sup\u00e9rieure intangible fix\u00e9e \u00e0 $1,0$ (ou 100 % de variance pr\u00e9dictive expliqu\u00e9e dans le cas d’un mod\u00e8le sans aucune erreur d’anticipation). En revanche, sa borne inf\u00e9rieure diverge radicalement : alors que le $R^2$<\/span> \u00e9l\u00e9mentaire est strictement confin\u00e9 \u00e0 l’intervalle $[0, 1]$<\/span>, le $R^2_{\\text{pred}}$<\/span> peut sans contrainte prendre des valeurs n\u00e9gatives ($R^2_{text{pred}} < 0$).<\/p>\n L’\u00e9mergence d’une valeur n\u00e9gative pour le $R^2_{\\text{pred}}$<\/span> constitue une indication diagnostique d’une violence math\u00e9matique sans \u00e9quivoque : elle prouve de mani\u00e8re formelle que le mod\u00e8le \u00e9labor\u00e9 r\u00e9alise des pr\u00e9dictions syst\u00e9matiquement pires que celles que fournirait la simple attribution aveugle de la moyenne globale de l’\u00e9chantillon $\\bar{y}$<\/span> \u00e0 tous les individus futurs. Dans de telles circonstances, l’\u00e9difice des pr\u00e9dicteurs agit comme un amplificateur de bruit stochastique, d\u00e9stabilisant l’anticipation empirique au lieu de l’\u00e9clairer.<\/p>\n L’un des protocoles diagnostiques les plus stimulants et informatifs pour l’analyste consiste \u00e0 op\u00e9rer une analyse conjointe et triangulaire des trois coefficients fondamentaux du mod\u00e8le lin\u00e9aire :<\/p>\n Dans un mod\u00e8le sain, stable et structurellement \u00e9quilibr\u00e9, ces trois indicateurs \u00e9voluent au sein d’une proximit\u00e9 arithm\u00e9tique \u00e9troite. Une r\u00e8gle d’or empirique largement partag\u00e9e stipule que l’\u00e9cart s\u00e9parant le $R^2$<\/span> du $R^2_{\\text{pred}}$<\/span> ne devrait jamais exc\u00e9der un diff\u00e9rentiel de 0,10 \u00e0 0,15 unit\u00e9. L’apparition d’un d\u00e9crochage unilat\u00e9ral du $R^2_{\\text{pred}}$<\/span> \u2014 par exemple, la d\u00e9couverte d’un mod\u00e8le affichant un superbe $R^2 = 0,78$<\/span>, un respectable $R^2_{\\text{adj}} = 0,72$<\/span>, mais s’effondrant \u00e0 un $R^2_{\\text{pred}} = 0,14$<\/span> \u2014 trahit indubitablement une pathologie structurelle majeure. Ce gouffre statistique d\u00e9voile que le pouvoir explicatif vant\u00e9 par l’exp\u00e9rimentateur n’est qu’un artefact caus\u00e9 par quelques configurations sp\u00e9cifiques de pr\u00e9dicteurs ou par un surajustement polymorphe incapable d’op\u00e9rer hors du laboratoire.<\/p>\n Dans le domaine de l’\u00e9valuation psychom\u00e9trique et de l’orientation clinique individualis\u00e9e, o\u00f9 des d\u00e9cisions substantielles engagent l’avenir de patients ou d’\u00e9l\u00e8ves (telles que l’attribution d’un am\u00e9nagement pour trouble des apprentissages ou l’\u00e9valuation du risque suicidaire), le seuil d’acceptabilit\u00e9 statistique ne peut s’aligner sur des crit\u00e8res purement descriptifs. Un mod\u00e8le de r\u00e9gression pr\u00e9sentant un $R^2$<\/span> tr\u00e8s significatif sur le plan inf\u00e9rentiel ($p < 0,001$) mais un$<\/span>R^2_{text{pred}}$ \u00e9tique est intrins\u00e8quement in\u00e9ligible \u00e0 l’utilisation clinique d\u00e9cisionnelle individuelle.<\/p>\n L’utilisation scrupuleuse du $R^2_{\\text{pred}}$<\/span> permet par ailleurs de d\u00e9tecter avec une finesse chirurgicale les artefacts de mesure inh\u00e9rents aux batteries d’\u00e9valuation composite. Consid\u00e9rons une recherche visant \u00e0 pr\u00e9dire le d\u00e9clin cognitif l\u00e9ger chez des sujets \u00e2g\u00e9s \u00e0 l’aide d’une vaste batterie neuropsychologique. L’inclusion it\u00e9rative d’indices sous-dimensionnels fortement corr\u00e9l\u00e9s peut accro\u00eetre l’illusion descriptive du mod\u00e8le. N\u00e9anmoins, en observant l’\u00e9volution du $R^2_{\\text{pred}}$<\/span>, le clinicien observe souvent un plafonnement pr\u00e9coce suivi d’une d\u00e9t\u00e9rioration brutale d\u00e8s lors que l’on introduit des scores redondants. Ce ph\u00e9nom\u00e8ne signale imm\u00e9diatement que la multicolin\u00e9arit\u00e9 sous-jacente est en train de fragiliser la matrice d’inversion, alertant le psychom\u00e8tre sur le fait qu’il est en train de mod\u00e9liser l’erreur sp\u00e9cifique du test au d\u00e9triment du facteur g\u00e9n\u00e9ral sous-jacent.<\/p>\n Au-del\u00e0 de sa vocation globale d’agr\u00e9gation d’erreur pr\u00e9dictive, la machinerie statistique \u00e9labor\u00e9e par Allen fournit un instrument diagnostique individuel exceptionnel \u00e0 travers la d\u00e9composition vectorielle de ses \u00e9l\u00e9ments constituants : les r\u00e9sidus PRESS individuels. Rappelons que ce r\u00e9sidu pr\u00e9dictif s’exprime par la fraction g\u00e9om\u00e9trique :<\/p>\n $$e_{(i)} = \\frac{e_i}{1 – h_{ii}}$$<\/span><\/p>\n Ce r\u00e9sidu supprim\u00e9 individuel pr\u00e9sente des parent\u00e9s directes avec d’autres m\u00e9triques classiques de diagnostic de r\u00e9gression lin\u00e9aire, telles que les r\u00e9sidus studentis\u00e9s en interne (formalis\u00e9s par $r_i = e_i \/ (s \\sqrt{1 – h_{ii}})$<\/span>) et les r\u00e9sidus studentis\u00e9s en externe ou r\u00e9sidus $t$<\/span> supprim\u00e9s (d\u00e9finis par $t_i = e_i \/ (s_{(i)} \\sqrt{1 – h_{ii}})$<\/span>), o\u00f9 $s_{(i)}$<\/span> d\u00e9signe l’\u00e9cart-type de l’erreur estim\u00e9 apr\u00e8s exclusion du $i$<\/span>-\u00e8me sujet. La diff\u00e9rence majeure r\u00e9side dans le fait que le r\u00e9sidu PRESS individuel $e_{(i)}$<\/span> pr\u00e9serve l’\u00e9chelle m\u00e9trique naturelle de la variable d\u00e9pendante $Y$<\/span>, rendant son interpr\u00e9tation imm\u00e9diatement intelligible pour le praticien sans m\u00e9diation de variance standardis\u00e9e.<\/p>\n L’inspection graphique d’un diagramme de dispersion confrontant les valeurs ajust\u00e9es $\\hat{y}_i$<\/span> (ou les identifiants des participants) aux r\u00e9sidus PRESS individuels $e_{(i)}$<\/span> permet d’identifier instantan\u00e9ment les sujets sur lesquels l’architecture pr\u00e9dictive du mod\u00e8le achoppe lourdement. Une observation pr\u00e9sentant un r\u00e9sidu ordinaire modeste dans le mod\u00e8le global peut ainsi r\u00e9v\u00e9ler une erreur pr\u00e9dictive disproportionn\u00e9e une fois que le syst\u00e8me est priv\u00e9 de son appui propre, d\u00e9voilant ainsi sa v\u00e9ritable nature de passager clandestin computationnel.<\/p>\n L’efficacit\u00e9 de la statistique PRESS dans la d\u00e9tection des points influents d\u00e9coule de l’interaction multiplicative entre l’\u00e9cart empirique brut ($e_i$<\/span>) et la marginalit\u00e9 structurelle du sujet dans l’espace multidimensionnel ($h_{ii}$<\/span>). Cette conjonction est formellement li\u00e9e aux m\u00e9triques traditionnelles d’influence fond\u00e9es sur la distance g\u00e9om\u00e9trique, au premier rang desquelles tr\u00f4nent la distance de Cook<\/a> et l’indice DFFITS<\/a>.<\/p>\n En effet, la mesure de Cook $D_i$<\/span>, qui \u00e9value le d\u00e9placement global du vecteur des coefficients $\\hat{\\beta}$<\/span> caus\u00e9 par le retrait du $i$<\/span>-\u00e8me individu, s’exprime analytiquement en fonction directe du r\u00e9sidu ordinaire et du levier :<\/p>\n $$D_i = \\frac{e_i^2}{p \\cdot s^2} \\left[ \\frac{h_{ii}}{(1 – h_{ii})^2} \\right] = \\frac{e_{(i)}^2}{p \\cdot s^2} \\cdot h_{ii}$$<\/span><\/p>\n Cette formulation r\u00e9v\u00e8le une convergence conceptuelle spectaculaire : le d\u00e9placement global des coefficients induit par une observation est strictement \u00e9gal au produit du carr\u00e9 de son r\u00e9sidu PRESS par son levier statistique, le tout modul\u00e9 par la variance standardis\u00e9e du mod\u00e8le. Il en d\u00e9coule qu’un sujet poss\u00e9dant un r\u00e9sidu PRESS massif mais un levier tr\u00e8s faible (une simple d\u00e9viation atypique de la r\u00e9ponse $y$<\/span>) n’aura qu’un impact mod\u00e9r\u00e9 sur l’inclinaison globale de l’hyperplan. En revanche, un point charni\u00e8re qui cumule une valeur r\u00e9siduelle non nulle et un fort levier statistique fera exploser son terme $e_{(i)}^2$<\/span>, signalant que son incorporation d\u00e9forme activement la g\u00e9om\u00e9trie de l’ajustement au d\u00e9triment de l’ensemble de la cohorte.<\/p>\n La recherche clinique en psychiatrie et en psychologie de la sant\u00e9 est constamment confront\u00e9e \u00e0 une profonde h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 d’\u00e9chantillonnage. Il est fr\u00e9quent qu’une cohorte clinique en apparence homog\u00e8ne abrite en r\u00e9alit\u00e9 des sous-populations cliniques non diagnostiqu\u00e9es, caract\u00e9ris\u00e9es par des trajectoires th\u00e9rapeutiques atypiques ou des comorbidit\u00e9s complexes. Dans de tels contextes, l’analyse conventionnelle des r\u00e9sidus ordinaires peut \u00e9chouer lamentablement en raison du ph\u00e9nom\u00e8ne de compression locale, o\u00f9 le mod\u00e8le se contorsionne pour englober ces cas singuliers au prix d’une perte d’ajustement globale diffuse.<\/p>\n L’examen minutieux des contributions individuelles au PRESS global ($\\text{PRESS}_i = e_{(i)}^2$<\/span>) agit comme un r\u00e9v\u00e9lateur statistique d’une puissance in\u00e9gal\u00e9e. D\u00e8s qu’un patient appartient \u00e0 une sous-population atypique dont la relation pr\u00e9dicteur-r\u00e9ponse viole le paradigme lin\u00e9aire de la majorit\u00e9 de l’\u00e9chantillon, le retrait de ce patient entra\u00eene un d\u00e9placement de l’hyperplan qui accentue son erreur d’anticipation de fa\u00e7on spectaculaire. Face \u00e0 ce constat diagnostique, le chercheur dispose d’une base objective pour arbitrer entre plusieurs strat\u00e9gies m\u00e9thodologiques :<\/p>\n Dans la bo\u00eete \u00e0 outils du chercheur quantitatif, la s\u00e9lection des variables pr\u00e9dictives constitue l’une des phases les plus d\u00e9licates et d\u00e9terminantes de l’analyse empirique. La prolif\u00e9ration non r\u00e9gul\u00e9e de covariables engendre une augmentation exponentielle de la variance d’estimation des coefficients, tandis que l’omission de pr\u00e9dicteurs cruciaux plonge le mod\u00e8le dans un biais syst\u00e9matique d’omission. La statistique PRESS apporte une r\u00e8gle de d\u00e9cision m\u00e9thodologique \u00e9l\u00e9gante et op\u00e9rationnelle fond\u00e9e sur un principe de minimisation pure :<\/p>\n $$\\mathcal{M}^* = arg \\min_{\\mathcal{M}_k in \\Omega} \\text{PRESS}(\\mathcal{M}_k)$$<\/span><\/p>\n L’immense avantage de ce crit\u00e8re de s\u00e9lection par rapport aux tests d’hypoth\u00e8ses nuls embo\u00eet\u00e9s (tels que le test $F$<\/span> incr\u00e9mental de variation du $R^2$<\/span>) tient \u00e0 son agnosticisme structural. Le PRESS ne requiert absolument pas que les mod\u00e8les concurrents soient hi\u00e9rarchiquement embo\u00eet\u00e9s. Un investigateur peut ainsi comparer en toute rigueur un mod\u00e8le psychoneuroendocrinien fond\u00e9 sur 5 biomarqueurs sanguins \u00e0 un mod\u00e8le cognitif concurrent fond\u00e9 sur 8 tests attentionnels standardis\u00e9s. Le mod\u00e8le qui affiche la statistique PRESS la plus faible garantit math\u00e9matiquement le compromis biais-variance le plus favorable \u00e0 l’\u00e9gard de la capacit\u00e9 de pr\u00e9diction brute, \u00e9cartant d’embl\u00e9e les configurations instables dop\u00e9es par la redondance factorielle.<\/p>\n Une question th\u00e9orique fondamentale concerne le positionnement de la statistique PRESS par rapport aux crit\u00e8res d’information traditionnels issus de la th\u00e9orie de l’information et de la thermodynamique statistique, au rang desquels dominent le crit\u00e8re d’Akaike (AIC, pour Akaike Information Criterion<\/em>) et le crit\u00e8re bay\u00e9sien de Schwarz (BIC, pour Bayesian Information Criterion<\/em>). Il a \u00e9t\u00e9 formellement d\u00e9montr\u00e9 par le math\u00e9maticien Howell Tong et valid\u00e9 dans les travaux de Peter J. Stone (1977) qu’il existe une convergence asymptotique directe entre le crit\u00e8re AIC et la validation crois\u00e9e unitaire :<\/p>\n $$\\lim_{n to \\infty} \\text{AIC}(\\mathcal{M}) propto n \\ln\\left(\\frac{\\text{PRESS}}{n}\\right)$$<\/span><\/p>\n Cependant, en d\u00e9pit de cette parent\u00e9 asymptotique, des divergences structurelles majeures s\u00e9parent le PRESS de ces indices informationnels en \u00e9chantillon fini :<\/p>\n L’int\u00e9gration de la statistique PRESS au c\u0153ur des proc\u00e9dures computationnelles d’exploration d’espaces de variables offre des alternatives s\u00e9duisantes \u00e0 l’optimisation aveugle du $R^2$<\/span>. La m\u00e9thode reine demeure la r\u00e9gression par sous-ensembles optimaux (Best Subset Selection<\/em>). Dans ce sch\u00e9ma, pour un ensemble initial de $K$<\/span> variables potentielles, l’algorithme g\u00e9n\u00e8re les $2^K$<\/span> combinaisons factorielles possibles, calcule de mani\u00e8re analytique et instantan\u00e9e la statistique PRESS de chaque sous-mod\u00e8le via sa formulation matricielle directe, et identifie la sous-architecture r\u00e9alisant le minimum global.<\/p>\n N\u00e9anmoins, les chercheurs doivent rester particuli\u00e8rement vigilants face aux algorithmes de s\u00e9lection pas-\u00e0-pas (Stepwise<\/em> ascendant ou descendant) guid\u00e9s par la minimisation du PRESS. Bien que l’utilisation du PRESS att\u00e9nue grandement les \u00e9cueils habituels du pas-\u00e0-pas fond\u00e9 sur des valeurs de $p$<\/span> non corrig\u00e9es, le criblage intensif d’un nombre astronomique de pr\u00e9dicteurs concurrents finit par r\u00e9introduire une forme sournoise de surapprentissage m\u00e9ta-mod\u00e9lique : la s\u00e9lection de mod\u00e8les suroptimise alors le PRESS lui-m\u00eame. Dans les protocoles complexes o\u00f9 le ratio de variables explor\u00e9es est tr\u00e8s volumineux, il devient imp\u00e9ratif d’adjoindre une double validation (nested cross-validation<\/em>), sanctuarisant une portion de l’\u00e9chantillon totalement vierge de toute exploration algorithmique pour juger de la validit\u00e9 ultime du mod\u00e8le retenu.<\/p>\n L’application de la statistique PRESS trouve une justification \u00e9thique et clinique particuli\u00e8rement \u00e9clatante dans la mod\u00e9lisation de la r\u00e9ponse th\u00e9rapeutique aux psychoth\u00e9rapies contemporaines (comme les th\u00e9rapies cognitives et comportementales ou les approches bas\u00e9es sur la pleine conscience). Consid\u00e9rons une \u00e9tude clinique multicentrique visant \u00e0 pr\u00e9dire l’amplitude de la r\u00e9duction des sympt\u00f4mes de d\u00e9pression majeure (mesur\u00e9e sur l’\u00e9chelle de Hamilton) apr\u00e8s un protocole de 12 semaines, \u00e0 partir de 15 variables initiales incluant la dur\u00e9e de l’\u00e9pisode, l’alliance th\u00e9rapeutique per\u00e7ue, la flexibilit\u00e9 cognitive et divers indices socio-d\u00e9mographiques, sur une cohorte de 60 patients.<\/p>\n Dans une telle configuration o\u00f9 le nombre de sujets par pr\u00e9dicteur ($n\/p = 4$<\/span>) est dangereusement restreint, une r\u00e9gression ordinaire produit immanquablement un ajustement flatteur, affichant couramment un $R^2$<\/span> approchant 0,65. L’\u00e9valuation de ce mod\u00e8le via la statistique PRESS r\u00e9v\u00e8le fr\u00e9quemment une d\u00e9route pr\u00e9dictive, se traduisant par un $R^2_{\\text{pred}}$<\/span> chutant \u00e0 0,10, voire devenant n\u00e9gatif. En utilisant le PRESS pour \u00e9liminer les variables superflues et instables, l’\u00e9quipe clinique peut identifier un sous-ensemble parcimonieux de 3 variables cl\u00e9s, garantissant un mod\u00e8le qui, bien qu’affichant un $R^2$<\/span> nominal plus bas (0,42), d\u00e9montre un $R^2_{\\text{pred}}$<\/span> solide de 0,36. Ce mod\u00e8le \u00e9lagu\u00e9 assure au corps m\u00e9dical que les r\u00e8gles pr\u00e9dictives d\u00e9riv\u00e9es conservent leur validit\u00e9 lorsqu’elles sont employ\u00e9es pour stratifier de futurs patients entrant dans la fili\u00e8re de soin.<\/p>\n La psychom\u00e9trie moderne est soumise \u00e0 une tension constante entre l’exhaustivit\u00e9 diagnostique, qui exige des questionnaires longs pour saturer les construits latents, et la validit\u00e9 \u00e9cologique, qui r\u00e9clame des instruments ultra-courts afin de minimiser la fatigue cognitive des r\u00e9pondants. Lors du calibrage d’une forme abr\u00e9g\u00e9e d’un instrument psychologique r\u00e9put\u00e9 \u2014 tel qu’un inventaire d’\u00e9valuation du trouble de stress post-traumatique (TSPT) \u2014, le PRESS constitue l’arbitre m\u00e9thodologique optimal.<\/p>\n L’approche consiste \u00e0 r\u00e9gresser le score global composite de la version longue sur diff\u00e9rents sous-ensembles r\u00e9duits d’items candidats. L’analyste observe l’\u00e9volution de la statistique PRESS \u00e0 chaque suppression d’item. Tant que le retrait d’un item ne d\u00e9grade pas le PRESS (ou l’abaisse en \u00e9liminant une variance d’erreur idiosyncratique), l’item est supprim\u00e9 sans pr\u00e9judice pour la fid\u00e9lit\u00e9 pr\u00e9dictive de l’instrument. Ce protocole garantit que la batterie raccourcie retient exclusivement les items dot\u00e9s d’une portance informationnelle maximale, maximisant la validit\u00e9 de crit\u00e8re tout en r\u00e9duisant consid\u00e9rablement la contrainte cognitive impos\u00e9e aux participants.<\/p>\n Les investigations en imagerie par r\u00e9sonance magn\u00e9tique fonctionnelle (IRMf) et en potentiels \u00e9voqu\u00e9s cognitifs (EEG) souffrent intrins\u00e8quement de contraintes de recrutement massives en raison du co\u00fbt unitaire des acquisitions. Il est courant d’observer des protocoles exp\u00e9rimentaux r\u00e9unissant 25 \u00e0 40 participants sur lesquels sont extraits des dizaines de param\u00e8tres de connectivit\u00e9 fonctionnelle ou d’amplitudes d’ondes (telles que la P300 ou la N400) afin de pr\u00e9dire des performances comportementales de m\u00e9morisation de travail ou d’inhibition motrice.<\/p>\n Dans ce sc\u00e9nario classique de p<\/em> approchant n<\/em>, la moyenne globale des leviers $\\bar{h} = p\/n$<\/span> devient dramatiquement \u00e9lev\u00e9e. Les moindres carr\u00e9s ordinaires sont alors dans l’incapacit\u00e9 structurelle de discriminer le signal du bruit : les surfaces de r\u00e9gression se d\u00e9forment pour relier m\u00e9caniquement les points exp\u00e9rimentaux. L’usage de la statistique PRESS permet d’endiguer la prolif\u00e9ration catastrophique des faux positifs dans la litt\u00e9rature neuroscientifique. En r\u00e9v\u00e9lant imm\u00e9diatement l’explosion exponentielle des r\u00e9sidus supprim\u00e9s caus\u00e9e par l’\u00e9troitesse du d\u00e9nominateur $(1 – h_{ii})$<\/span>, le PRESS oblige les investigateurs \u00e0 contraindre math\u00e9matiquement leurs espaces dimensionnels (par exemple en regroupant les canaux en composantes principales pr\u00e9alables) avant toute tentative de mod\u00e9lisation pr\u00e9dictive, \u00e9vitant ainsi la publication de corr\u00e9lations c\u00e9r\u00e9bro-comportementales illusoires.<\/p>\n L’environnement statistique R offre une architecture vectorielle native parfaitement adapt\u00e9e \u00e0 l’extraction et au calcul de la statistique PRESS sans d\u00e9pendre du moindre package tiers. Lorsqu’un mod\u00e8le lin\u00e9aire est estim\u00e9 au moyen de la fonction standard 1. Introduction aux fondements conceptuels de la statistique PRESS<\/h2>\n
1.1 Double finalit\u00e9 de la r\u00e9gression : explication versus pr\u00e9diction<\/h3>\n
1.2 D\u00e9finition formelle de l’acronyme PRESS<\/h3>\n
1.3 Pertinence \u00e9pist\u00e9mologique dans la recherche quantitative en psychologie<\/h3>\n
2. Formulation math\u00e9matique et d\u00e9rivation analytique de la m\u00e9trique<\/h2>\n
2.1 L’\u00e9quation fondamentale de la statistique PRESS<\/h3>\n
2.2 Le r\u00f4le du levier statistique (leverage h_ii) et la matrice chapeau<\/h3>\n
2.3 D\u00e9rivation du r\u00e9sidu supprim\u00e9 sans r\u00e9estimation it\u00e9rative<\/h3>\n
3. M\u00e9canisme op\u00e9rationnel : L’\u00e9quivalence avec la validation crois\u00e9e Leave-One-Out<\/h2>\n
3.1 Le protocole de validation crois\u00e9e jackknife (LOOCV)<\/h3>\n
3.2 L’isomorphisme math\u00e9matique sous les moindres carr\u00e9s ordinaires<\/h3>\n
3.3 Efficience computationnelle et scalabilit\u00e9 algorithmique<\/h3>\n
4. Distinction critique : Ajustement intra-\u00e9chantillon contre capacit\u00e9 de g\u00e9n\u00e9ralisation<\/h2>\n
4.1 L’illusion de la somme des carr\u00e9s des r\u00e9sidus conventionnelle (SSE)<\/h3>\n
4.2 Les insuffisances du coefficient R\u00b2 et du R\u00b2 ajust\u00e9<\/h3>\n
4.3 La p\u00e9nalit\u00e9 intrins\u00e8que de complexit\u00e9 de la statistique PRESS<\/h3>\n
\n
5. D\u00e9rivation du R\u00b2 de pr\u00e9diction : Formule, interpr\u00e9tation et diagnostics<\/h2>\n
5.1 Formulation du coefficient de d\u00e9termination pr\u00e9dictif (R\u00b2_pred)<\/h3>\n
5.2 Comparaison triangulaire : R\u00b2, R\u00b2 ajust\u00e9 et R\u00b2 pr\u00e9dictif<\/h3>\n
\n
5.3 Interpr\u00e9tation pratique en \u00e9valuation psychologique<\/h3>\n
6. Usage diagnostique de la statistique PRESS pour les r\u00e9sidus et points influents<\/h2>\n
6.1 D\u00e9composition des r\u00e9sidus supprim\u00e9s individuels<\/h3>\n
6.2 Interaction synergique entre r\u00e9sidus et levier<\/h3>\n
6.3 Sensibilit\u00e9 aux sous-populations atypiques en psychologie clinique<\/h3>\n
\n
7. S\u00e9lection de mod\u00e8les concurrents : L’arbitrage par le minimum PRESS<\/h2>\n
7.1 R\u00e8gle de d\u00e9cision m\u00e9thodologique<\/h3>\n
7.2 PRESS face aux crit\u00e8res d’information (AIC, BIC, DIC)<\/h3>\n
\n
7.3 Algorithmes de s\u00e9lection automatis\u00e9e guid\u00e9s par le PRESS<\/h3>\n
8. Applications pratiques en sciences comportementales et psychologie<\/h2>\n
8.1 Pr\u00e9diction de l’efficacit\u00e9 th\u00e9rapeutique en psychoth\u00e9rapie<\/h3>\n
8.2 Construction et calibrage de batteries psychom\u00e9triques<\/h3>\n
8.3 \u00c9tudes neurocomportementales \u00e0 petit \u00e9chantillon (N r\u00e9duit, grand p)<\/h3>\n
9. Impl\u00e9mentation computationnelle pas \u00e0 pas sous le logiciel R<\/h2>\n
9.1 Calcul matriciel pur sans biblioth\u00e8ques externes<\/h3>\n
lm()<\/code>, l’objet r\u00e9sultant contient l’ensemble des structures g\u00e9om\u00e9triques n\u00e9cessaires \u00e0 la d\u00e9rivation. La fonction syst\u00e8me