{"id":5103,"date":"2026-09-11T16:59:10","date_gmt":"2026-09-11T16:59:10","guid":{"rendered":"http:\/\/french.arabpsychology.com\/statistics\/introduction-regression-lasso\/"},"modified":"2026-09-11T16:59:13","modified_gmt":"2026-09-11T16:59:13","slug":"introduction-regression-lasso","status":"publish","type":"psych_stat","link":"https:\/\/french.arabpsychology.com\/?psych_stat=introduction-regression-lasso","title":{"rendered":"Introduction \u00e0 la r\u00e9gression Lasso"},"content":{"rendered":"<p>L&rsquo;av\u00e8nement des m\u00e9gadonn\u00e9es et la prolif\u00e9ration de variables explicatives dans les sciences contemporaines ont profond\u00e9ment transform\u00e9 les pratiques de mod\u00e9lisation statistique. Qu&rsquo;il s&rsquo;agisse de d\u00e9chiffrer les bases neurobiologiques de la cognition \u00e0 travers des milliers de voxels d&rsquo;imagerie par r\u00e9sonance magn\u00e9tique fonctionnelle ou d&rsquo;\u00e9valuer les dynamiques complexes de la psychopathologie par le biais d&rsquo;inventaires psychom\u00e9triques exhaustifs, les chercheurs sont constamment confront\u00e9s au d\u00e9fi de la dimensionnalit\u00e9. Dans ce contexte, la m\u00e9thode classique des moindres carr\u00e9s ordinaires, longtemps consid\u00e9r\u00e9e comme le pilier in\u00e9branlable de l&rsquo;analyse lin\u00e9aire, manifeste des faiblesses structurelles majeures caract\u00e9ris\u00e9es par une instabilit\u00e9 num\u00e9rique critique et une incapacit\u00e9 cong\u00e9nitale \u00e0 trier le signal informatif du bruit al\u00e9atoire.<\/p>\n<p>Face aux \u00e9cueils de la multicolin\u00e9arit\u00e9 et du surapprentissage, les techniques d&rsquo;apprentissage statistique supervis\u00e9 ont introduit des m\u00e9canismes sophistiqu\u00e9s de r\u00e9gularisation. Parmi ces innovations, la r\u00e9gression <strong>Lasso<\/strong> (<em>Least Absolute Shrinkage and Selection Operator<\/em>), conceptualis\u00e9e par Robert Tibshirani au milieu des ann\u00e9es 1990, s&rsquo;impose comme une avanc\u00e9e m\u00e9thodologique majeure. En associant une p\u00e9nalit\u00e9 fond\u00e9e sur la norme <span class=\"arabpsy-math-inline\" data-latex=\"L_1\">$L_1$<\/span> \u00e0 la fonction de perte empirique standard, le Lasso ne se contente pas de r\u00e9duire l&rsquo;amplitude des coefficients de r\u00e9gression pour temp\u00e9rer la variance de pr\u00e9diction : il op\u00e8re une s\u00e9lection rigoureuse et parcimonieuse des variables en contraignant un sous-ensemble d&rsquo;estimateurs \u00e0 s&rsquo;annuler exactement.<\/p>\n<p>Ce trait\u00e9 exhaustif explore les dimensions th\u00e9oriques, g\u00e9om\u00e9triques, algorithmiques et appliqu\u00e9es de la r\u00e9gression Lasso, en portant un regard attentif sur les sciences du comportement, la psychom\u00e9trie et les neurosciences cognitives. \u00c0 travers une analyse comparative approfondie avec d&rsquo;autres m\u00e9thodes de r\u00e9gularisation telles que la r\u00e9gression Ridge et le mod\u00e8le composite Elastic Net, nous d\u00e9taillerons les fondements math\u00e9matiques, les proc\u00e9dures d&rsquo;optimisation num\u00e9rique, les protocoles de validation crois\u00e9e et les d\u00e9fis \u00e9mergents de l&rsquo;inf\u00e9rence post-s\u00e9lection, offrant ainsi aux chercheurs une boussole conceptuelle et technique indispensable pour naviguer dans l&rsquo;analyse moderne des donn\u00e9es multidimensionnelles.<\/p>\n<h2>1. Fondements th\u00e9oriques de la r\u00e9gression lin\u00e9aire multiple et ses limites<\/h2>\n<h3>1.1 Le mod\u00e8le lin\u00e9aire classique et la m\u00e9thode des moindres carr\u00e9s ordinaires<\/h3>\n<p>La mod\u00e9lisation lin\u00e9aire multiple repose sur le postulat d&rsquo;une relation structurelle affine reliant une variable d\u00e9pendante continue, not\u00e9e <span class=\"arabpsy-math-inline\" data-latex=\"Y in \\mathbb{R}^n\">$Y in \\mathbb{R}^n$<\/span>, \u00e0 une collection de <span class=\"arabpsy-math-inline\" data-latex=\"p\">$p$<\/span> variables pr\u00e9dictives compil\u00e9es dans une matrice de conception <span class=\"arabpsy-math-inline\" data-latex=\"X in \\mathbb{R}^{n \\times p}\">$X in \\mathbb{R}^{n \\times p}$<\/span>. Sur le plan formel, le mod\u00e8le s&rsquo;exprime sous la forme vectorielle matricielle :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"Y = X\\beta + \\varepsilon\">$$Y = X\\beta + \\varepsilon$$<\/span><\/p>\n<p>o\u00f9 <span class=\"arabpsy-math-inline\" data-latex=\"\\beta in \\mathbb{R}^p\">$\\beta in \\mathbb{R}^p$<\/span> repr\u00e9sente le vecteur inconnu des param\u00e8tres de r\u00e9gression et <span class=\"arabpsy-math-inline\" data-latex=\"\\varepsilon in \\mathbb{R}^n\">$\\varepsilon in \\mathbb{R}^n$<\/span> d\u00e9signe le terme d&rsquo;erreur stochastique inobservable. Dans le paradigme traditionnel, la d\u00e9termination de l&rsquo;estimateur des moindres carr\u00e9s ordinaires (MCO), d\u00e9sign\u00e9 par <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\beta}_{\\text{MCO}}\">$\\hat{\\beta}_{\\text{MCO}}$<\/span>, d\u00e9coule de la minimisation de la somme des carr\u00e9s des r\u00e9sidus (<em>Residual Sum of Squares<\/em>, RSS) :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\text{RSS}(\\beta) = |Y - Xbeta|_2^2 = (Y - X\\beta)^T(Y - X\\beta)\">$$\\text{RSS}(\\beta) = |Y &#8211; Xbeta|_2^2 = (Y &#8211; X\\beta)^T(Y &#8211; X\\beta)$$<\/span><\/p>\n<p>Lorsque la matrice de Gram <span class=\"arabpsy-math-inline\" data-latex=\"X^T X\">$X^T X$<\/span> est de plein rang et strictement inversible, l&rsquo;annulation du gradient de cette fonction quadratique convexe conduit \u00e0 la c\u00e9l\u00e8bre \u00e9quation normale, dont la r\u00e9solution explicite livre la solution ferm\u00e9e :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\hat{\\beta}_{\\text{MCO}} = (X^T X)^{-1} X^T Y\">$$\\hat{\\beta}_{\\text{MCO}} = (X^T X)^{-1} X^T Y$$<\/span><\/p>\n<p>En vertu du <a rel=\"noopener noreferrer\" href=\"https:\/\/en.wikipedia.org\/wiki\/Gauss%E2%80%93Markov_theorem\">th\u00e9or\u00e8me de Gauss-Markov<\/a>, cet estimateur jouit des propri\u00e9t\u00e9s BLUE (<em>Best Linear Unbiased Estimator<\/em>) sous les hypoth\u00e8ses classiques d&rsquo;homosc\u00e9dasticit\u00e9 et d&rsquo;absence d&rsquo;autocorr\u00e9lation spatiale ou temporelle des r\u00e9sidus (<span class=\"arabpsy-math-inline\" data-latex=\"\\mathbb{E}[\\varepsilon] = 0\">$\\mathbb{E}[\\varepsilon] = 0$<\/span> et <span class=\"arabpsy-math-inline\" data-latex=\"\\text{Var}(\\varepsilon) = \\sigma^2 I_n\">$\\text{Var}(\\varepsilon) = \\sigma^2 I_n$<\/span>). L&rsquo;estimateur MCO pr\u00e9sente alors une variance minimale au sein de la classe des estimateurs lin\u00e9aires sans biais, conf\u00e9rant une l\u00e9gitimit\u00e9 math\u00e9matique solide \u00e0 son d\u00e9ploiement s\u00e9culaire en statistique inf\u00e9rentielle.<\/p>\n<h3>1.2 La probl\u00e9matique de la multicolin\u00e9arit\u00e9 dans les donn\u00e9es psychologiques<\/h3>\n<p>Bien que math\u00e9matiquement s\u00e9duisant, le cadre des moindres carr\u00e9s ordinaires s&rsquo;effondre fr\u00e9quemment lorsqu&rsquo;il est confront\u00e9 aux r\u00e9alit\u00e9s empiriques des donn\u00e9es observationnelles, en particulier dans le champ de la psychologie diff\u00e9rentielle et de la psychom\u00e9trie clinique. Dans ces disciplines, les pr\u00e9dicteurs correspondent souvent \u00e0 des scores sous-dimensionnels issus d&rsquo;\u00e9chelles de personnalit\u00e9, \u00e0 des indicateurs de charge cognitive ou \u00e0 des variables socio-\u00e9motionnelles intrins\u00e8quement enchev\u00eatr\u00e9es. Cette d\u00e9pendance structurelle engendre le ph\u00e9nom\u00e8ne de multicolin\u00e9arit\u00e9, caract\u00e9ris\u00e9 par une quasi-d\u00e9pendance lin\u00e9aire entre les colonnes de la matrice <span class=\"arabpsy-math-inline\" data-latex=\"X\">$X$<\/span>.<\/p>\n<p>Sur le plan alg\u00e9brique, la multicolin\u00e9arit\u00e9 entra\u00eene une mauvaise condition num\u00e9rique de la matrice <span class=\"arabpsy-math-inline\" data-latex=\"X^T X\">$X^T X$<\/span>, dont les valeurs propres les plus faibles tendent vers z\u00e9ro. Sachant que la matrice de covariance de l&rsquo;estimateur MCO est formul\u00e9e par :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\text{Var}(\\hat{\\beta}_{\\text{MCO}}) = \\sigma^2 (X^T X)^{-1}\">$$\\text{Var}(\\hat{\\beta}_{\\text{MCO}}) = \\sigma^2 (X^T X)^{-1}$$<\/span><\/p>\n<p>l&rsquo;inversion d&rsquo;une matrice mal conditionn\u00e9e provoque un gonflement catastrophique de la variance des coefficients estim\u00e9s. Ce ph\u00e9nom\u00e8ne se traduit par une instabilit\u00e9 num\u00e9rique notoire : une infime fluctuation d&rsquo;\u00e9chantillonnage ou une l\u00e9g\u00e8re perturbation dans les donn\u00e9es peut modifier radicalement le signe, la magnitude et la significativit\u00e9 statistique des param\u00e8tres estim\u00e9s. Pour le clinicien ou le chercheur en sciences cognitives, il devient alors impossible d&rsquo;isoler l&rsquo;effet sp\u00e9cifique de pr\u00e9dicteurs \u00e9troitement intriqu\u00e9s, tels que l&rsquo;anxi\u00e9t\u00e9-trait et la d\u00e9pression subclinique, rendant toute interpr\u00e9tation \u00e9tiologique particuli\u00e8rement p\u00e9rilleuse.<\/p>\n<h3>1.3 Le compromis biais-variance et l&rsquo;\u00e9cueil du surapprentissage<\/h3>\n<p>La d\u00e9gradation des performances pr\u00e9dictives du mod\u00e8le lin\u00e9aire en pr\u00e9sence d&rsquo;une forte dimensionnalit\u00e9 s&rsquo;\u00e9claire \u00e0 travers la d\u00e9composition canonique de l&rsquo;erreur quadratique moyenne (<em>Mean Squared Error<\/em>, MSE). Pour un nouvel individu dot\u00e9 du vecteur de caract\u00e9ristiques <span class=\"arabpsy-math-inline\" data-latex=\"x_0\">$x_0$<\/span> et de la r\u00e9ponse <span class=\"arabpsy-math-inline\" data-latex=\"y_0 = x_0^T\\beta + \\varepsilon_0\">$y_0 = x_0^T\\beta + \\varepsilon_0$<\/span>, l&rsquo;erreur de pr\u00e9diction attendue se partitionne rigoureusement en trois composantes orthogonales :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\text{MSE}(\\hat{f}(x_0)) = \\mathbb{E}\\left[(y_0 - \\hat{f}(x_0))^2\\right] = \\left(\\text{Biais}[\\hat{f}(x_0)]\\right)^2 + \\text{Var}(\\hat{f}(x_0)) + \\sigma^2\">$$\\text{MSE}(\\hat{f}(x_0)) = \\mathbb{E}\\left[(y_0 &#8211; \\hat{f}(x_0))^2\\right] = \\left(\\text{Biais}[\\hat{f}(x_0)]\\right)^2 + \\text{Var}(\\hat{f}(x_0)) + \\sigma^2$$<\/span><\/p>\n<p>o\u00f9 <span class=\"arabpsy-math-inline\" data-latex=\"\\sigma^2\">$\\sigma^2$<\/span> repr\u00e9sente le bruit irr\u00e9ductible inh\u00e9rent au processus g\u00e9n\u00e9rateur de donn\u00e9es stochastique. L&rsquo;estimateur MCO impose par construction que <span class=\"arabpsy-math-inline\" data-latex=\"\\text{Biais}[\\hat{f}(x_0)] = 0\">$\\text{Biais}[\\hat{f}(x_0)] = 0$<\/span>. Bien que cette absence de biais soit conceptuellement rassurante, elle s&rsquo;av\u00e8re strat\u00e9giquement contre-productive lorsque <span class=\"arabpsy-math-inline\" data-latex=\"p\">$p$<\/span> est grand par rapport \u00e0 <span class=\"arabpsy-math-inline\" data-latex=\"n\">$n$<\/span>, car la variance globale <span class=\"arabpsy-math-inline\" data-latex=\"\\text{Var}(\\hat{\\beta}_{\\text{MCO}}) = \\sigma^2 \\text{Tr}((X^T X)^{-1})\">$\\text{Var}(\\hat{\\beta}_{\\text{MCO}}) = \\sigma^2 \\text{Tr}((X^T X)^{-1})$<\/span> cro\u00eet proportionnellement au nombre de dimensions int\u00e9gr\u00e9es.<\/p>\n<figure class=\"wpt-preserved-image\"><img fetchpriority=\"high\" decoding=\"async\" src=\"http:\/\/french.arabpsychology.com\/wp-content\/uploads\/2026\/09\/ridge1-1.png\" alt=\"Ridge regression bias-variance tradeoff\" \/><figcaption>Ridge regression bias-variance tradeoff<\/figcaption><\/figure>\n<p>Cette variance excessive conduit in\u00e9vitablement au surapprentissage (<em>overfitting<\/em>) : le mod\u00e8le ajuste les bruits d&rsquo;\u00e9chantillonnage idiosyncrasiques au d\u00e9triment des structures sous-jacentes g\u00e9n\u00e9ralisables, compromettant gravement sa validit\u00e9 externe et la r\u00e9plication des r\u00e9sultats dans des cohortes ind\u00e9pendantes. D&rsquo;un point de vue th\u00e9orique, il devient d\u00e8s lors avantageux d&rsquo;abandonner l&rsquo;exigence dogmatique de non-biais. En autorisant un biais d\u00e9lib\u00e9r\u00e9 et contr\u00f4l\u00e9, les techniques de r\u00e9tr\u00e9cissement (<em>shrinkage<\/em>) parviennent \u00e0 une r\u00e9duction massive de la variance d&rsquo;estimation, induisant ainsi une chute substantielle de l&rsquo;erreur quadratique moyenne totale.<\/p>\n<h2>2. Gen\u00e8se et concept fondamental de la r\u00e9gression Lasso<\/h2>\n<h3>2.1 Origine historique et publication s\u00e9minale de Robert Tibshirani<\/h3>\n<p>L&rsquo;histoire de l&rsquo;apprentissage statistique contemporain a \u00e9t\u00e9 marqu\u00e9e par la parution en 1996 de l&rsquo;article s\u00e9minal de <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1111\/j.2517-6161.1996.tb02080.x\">Robert Tibshirani<\/a>, intitul\u00e9 <em>Regression Shrinkage and Selection via the Lasso<\/em>, publi\u00e9 dans le <em>Journal of the Royal Statistical Society<\/em>. Dans les ann\u00e9es 1990, la communaut\u00e9 statistique faisait face \u00e0 un dilemme m\u00e9thodologique polaris\u00e9 : d&rsquo;un c\u00f4t\u00e9 subsistait la r\u00e9gression Ridge, introduite par Hoerl et Kennard en 1970, qui stabilisait efficacement la variance gr\u00e2ce \u00e0 une p\u00e9nalisation quadratique <span class=\"arabpsy-math-inline\" data-latex=\"L_2\">$L_2$<\/span>, mais conservait irr\u00e9m\u00e9diablement l&rsquo;int\u00e9gralit\u00e9 des variables dans le mod\u00e8le sans en annuler aucune ; de l&rsquo;autre subsistaient les algorithmes heuristiques de s\u00e9lection pas \u00e0 pas (<em>forward<\/em>, <em>backward<\/em>, <em>stepwise<\/em>), reconnus pour leur instabilit\u00e9 discr\u00e8te, leur absence d&rsquo;optimalit\u00e9 globale et la distorsion syst\u00e9matique des distributions de test conventionnelles.<\/p>\n<p>Tibshirani s&rsquo;inspira notamment des travaux de Leo Breiman sur le <em>Non-negative Garrote<\/em> pour concevoir un op\u00e9rateur continu capable de fusionner l&rsquo;\u00e9l\u00e9gance algorithmique de la r\u00e9gularisation et la puissance s\u00e9lective des m\u00e9thodes de sous-ensembles. En rempla\u00e7ant la p\u00e9nalisation quadratique par une contrainte absolue de type <span class=\"arabpsy-math-inline\" data-latex=\"L_1\">$L_1$<\/span>, Tibshirani jeta les fondations d&rsquo;un cadre math\u00e9matique unifi\u00e9, ouvrant une nouvelle \u00e8re pour l&rsquo;exploitation des donn\u00e9es \u00e0 haute dimension qui allaient bient\u00f4t submerger la g\u00e9nomique fonctionnelle, la vision par ordinateur et les neurosciences cognitives.<\/p>\n<h3>2.2 D\u00e9finition et \u00e9tymologie : Least Absolute Shrinkage and Selection Operator<\/h3>\n<p>L&rsquo;acronyme <strong>Lasso<\/strong> condense l&rsquo;essence fonctionnelle de la technique : <em>Least Absolute Shrinkage and Selection Operator<\/em>, que l&rsquo;on traduit en fran\u00e7ais par \u00ab op\u00e9rateur de s\u00e9lection et de r\u00e9tr\u00e9cissement absolu minimal \u00bb. Chaque terme de cette appellation \u00e9claire une dimension math\u00e9matique pr\u00e9cise :<\/p>\n<ul>\n<li><strong>Least Absolute<\/strong> : fait r\u00e9f\u00e9rence \u00e0 l&#8217;emploi de la norme <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span>, soit l&rsquo;addition arithm\u00e9tique des valeurs absolues des param\u00e8tres individuels <span class=\"arabpsy-math-inline\" data-latex=\"\\sum_{j=1}^p |\\beta_j|\">$\\sum_{j=1}^p |\\beta_j|$<\/span>, marquant une rupture avec les m\u00e9triques quadratiques traditionnelles ;<\/li>\n<li><strong>Shrinkage<\/strong> : d\u00e9signe la r\u00e9traction continue des coefficients estim\u00e9s en direction du point d&rsquo;origine z\u00e9ro, amortissant la sensibilit\u00e9 du syst\u00e8me face aux fluctuations stochastiques ;<\/li>\n<li><strong>Selection Operator<\/strong> : met en exergue l&rsquo;aptitude singuli\u00e8re de cette formulation \u00e0 op\u00e9rer une s\u00e9lection automatique et parcimonieuse en attribuant un coefficient strictement nul \u00e0 une fraction substantielle des r\u00e9gresseurs initiaux.<\/li>\n<\/ul>\n<p>Ce double m\u00e9canisme surpasse les limitations des m\u00e9thodes de s\u00e9lection pas \u00e0 pas, lesquelles proc\u00e8dent par sauts combinatoires discontinus, engendrant des mod\u00e8les hypersensibles aux variations locales des jeux de donn\u00e9es d&rsquo;apprentissage.<\/p>\n<h3>2.3 Philosophie de la r\u00e9gularisation en mod\u00e9lisation comportementale<\/h3>\n<p>L&rsquo;adoption de la r\u00e9gularisation Lasso en mod\u00e9lisation computationnelle du comportement r\u00e9pond \u00e0 un imp\u00e9ratif \u00e9pist\u00e9mologique profond r\u00e9sonnant avec le principe de parcimonie, commun\u00e9ment d\u00e9sign\u00e9 sous le nom de rasoir d&rsquo;Ockham : face \u00e0 des explications empiriquement concurrentes, la formulation la plus \u00e9conome en hypoth\u00e8ses doit \u00eatre syst\u00e9matiquement privil\u00e9gi\u00e9e. Dans l&rsquo;exploration du ph\u00e9notype humain, o\u00f9 des batteries de questionnaires complexes mesurent des facettes psychologiques qui se chevauchent largement, la s\u00e9lection parcimonieuse permet de tamiser les descripteurs pertinents pour en extraire un noyau th\u00e9orique condens\u00e9.<\/p>\n<p>Cette approche mat\u00e9rialise une transition paradigmatique majeure : on d\u00e9laisse la mod\u00e9lisation explicative universelle \u2014 souvent illusoire face \u00e0 des syst\u00e8mes biopsychosociaux ouverts et bruit\u00e9s \u2014 au profit d&rsquo;une mod\u00e9lisation pr\u00e9dictive robuste et reproductible. L&rsquo;apprentissage statistique supervis\u00e9 r\u00e9gularis\u00e9 s&rsquo;affranchit ainsi de la qu\u00eate obstin\u00e9e d&rsquo;une valeur <span class=\"arabpsy-math-inline\" data-latex=\"p\">$p$<\/span> nominale pour embrasser la minimisation de l&rsquo;erreur de g\u00e9n\u00e9ralisation sur des populations non observ\u00e9es, assurant une transf\u00e9rabilit\u00e9 clinique p\u00e9renne aux biomarqueurs comportementaux identifi\u00e9s.<\/p>\n<h2>3. Formulation math\u00e9matique et fonction de perte du Lasso<\/h2>\n<h3>3.1 La fonction objectif p\u00e9nalis\u00e9e par la norme L1<\/h3>\n<p>D&rsquo;un point de vue analytique, la r\u00e9gression Lasso se structure comme un probl\u00e8me d&rsquo;optimisation convexe globale non lin\u00e9aire. En fixant une matrice de pr\u00e9dicteurs standardis\u00e9s <span class=\"arabpsy-math-inline\" data-latex=\"X in \\mathbb{R}^{n \\times p}\">$X in \\mathbb{R}^{n \\times p}$<\/span> et un vecteur r\u00e9ponse centr\u00e9 <span class=\"arabpsy-math-inline\" data-latex=\"Y in \\mathbb{R}^n\">$Y in \\mathbb{R}^n$<\/span>, l&rsquo;estimateur Lasso <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\beta}_{\\text{Lasso}}\">$\\hat{\\beta}_{\\text{Lasso}}$<\/span> est d\u00e9fini comme l&rsquo;argument minimisant la fonction de perte empirique augment\u00e9e d&rsquo;un terme p\u00e9nalisateur d\u00e9pendant de la norme de Banach <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span> :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\hat{\\beta}_{\\text{Lasso}} = \\underset{\\beta in \\mathbb{R}^p}{arg\\min} \\left{ \\frac{1}{2n} |Y - Xbeta|_2^2 + \\lambda |beta|_1 \\right}\">$$\\hat{\\beta}_{\\text{Lasso}} = \\underset{\\beta in \\mathbb{R}^p}{arg\\min} \\left{ \\frac{1}{2n} |Y &#8211; Xbeta|_2^2 + \\lambda |beta|_1 \\right}$$<\/span><\/p>\n<p>Dans cette formulation, le terme de fid\u00e9lit\u00e9 aux donn\u00e9es correspond \u00e0 la demi-moyenne de la somme des carr\u00e9s r\u00e9siduels, tandis que le terme de r\u00e9gularisation s&rsquo;explicite par la somme discr\u00e8te des modules :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"|beta|_1 = \\sum_{j=1}^p |\\beta_j|\">$$|beta|_1 = \\sum_{j=1}^p |\\beta_j|$$<\/span><\/p>\n<p>La singularit\u00e9 math\u00e9matique de cette expression r\u00e9side dans la non-d\u00e9rivabilit\u00e9 de la fonction valeur absolue au point z\u00e9ro (<span class=\"arabpsy-math-inline\" data-latex=\"\\frac{d}{d\\beta_j}|\\beta_j|\">$\\frac{d}{d\\beta_j}|\\beta_j|$<\/span> n&rsquo;existe pas en <span class=\"arabpsy-math-inline\" data-latex=\"\\beta_j = 0\">$\\beta_j = 0$<\/span>). Cette propri\u00e9t\u00e9 interdit le recours aux techniques classiques de diff\u00e9rentiation vectorielle directe et aux inversions matricielles ferm\u00e9es. Elle requiert l&rsquo;utilisation d&rsquo;outils analytiques avanc\u00e9s issus de l&rsquo;analyse convexe, tels que le sous-gradient et les conditions de transversalit\u00e9 non lisses.<\/p>\n<h3>3.2 Le r\u00f4le du param\u00e8tre d&rsquo;ajustement lambda<\/h3>\n<p>Le scalaire <span class=\"arabpsy-math-inline\" data-latex=\"\\lambda \\geq 0\">$\\lambda \\geq 0$<\/span> constitue l&rsquo;hyperparam\u00e8tre r\u00e9gissant le niveau d&rsquo;intensit\u00e9 de la p\u00e9nalisation appliqu\u00e9e au syst\u00e8me d&rsquo;\u00e9quations. Il module dynamiquement le point d&rsquo;\u00e9quilibre le long du continuum biais-variance :<\/p>\n<ul>\n<li>Lorsque <span class=\"arabpsy-math-inline\" data-latex=\"lambda to 0\">$lambda to 0$<\/span>, le terme p\u00e9nalisateur s&rsquo;estompe jusqu&rsquo;\u00e0 dispara\u00eetre compl\u00e8tement. La fonction objectif converge vers la formulation classique des moindres carr\u00e9s ordinaires, produisant un mod\u00e8le sans biais structurel mais potentiellement grev\u00e9 d&rsquo;une variance d&rsquo;\u00e9chantillonnage r\u00e9dhibitoire ;<\/li>\n<li>Lorsque <span class=\"arabpsy-math-inline\" data-latex=\"\\lambda to \\infty\">$\\lambda to \\infty$<\/span>, l&rsquo;influence du terme <span class=\"arabpsy-math-inline\" data-latex=\"\\lambda |beta|_1\">$\\lambda |beta|_1$<\/span> devient infiniment pr\u00e9pond\u00e9rante par rapport \u00e0 la variance r\u00e9siduelle. L&rsquo;unique solution minimisatrice consiste \u00e0 \u00e9craser uniform\u00e9ment l&rsquo;ensemble des coefficients, aboutissant au mod\u00e8le nul o\u00f9 <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\beta}_j = 0\">$\\hat{\\beta}_j = 0$<\/span> pour tout <span class=\"arabpsy-math-inline\" data-latex=\"j in {1, dots, p}\">$j in {1, dots, p}$<\/span> ;<\/li>\n<li>Pour des valeurs interm\u00e9diaires rigoureusement calibr\u00e9es de <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span>, la p\u00e9nalit\u00e9 contraint progressivement les trajectoires de coefficients : certains param\u00e8tres s&rsquo;att\u00e9nuent contin\u00fbment tandis que d&rsquo;autres s&rsquo;\u00e9teignent brutalement d\u00e8s que leur contribution marginale \u00e0 la r\u00e9duction de la somme r\u00e9siduelle devient inf\u00e9rieure au co\u00fbt math\u00e9matique induit par la valeur <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span>.<\/li>\n<\/ul>\n<figure class=\"wpt-preserved-image\"><img loading=\"lazy\" decoding=\"async\" src=\"http:\/\/french.arabpsychology.com\/wp-content\/uploads\/2026\/09\/lasso1-1.png\" alt=\"Lasso regression bias-variance tradeoff\" \/><figcaption>Lasso regression bias-variance tradeoff<\/figcaption><\/figure>\n<p>Il existe une borne sup\u00e9rieure critique analytique, not\u00e9e <span class=\"arabpsy-math-inline\" data-latex=\"\\lambda_{\\max} = \\frac{1}{n} \\max_j |X_j^T Y|\">$\\lambda_{\\max} = \\frac{1}{n} \\max_j |X_j^T Y|$<\/span>, au-del\u00e0 de laquelle l&rsquo;orthogonalit\u00e9 du gradient assure qu&rsquo;aucun coefficient ne peut entrer dans le mod\u00e8le, servant d&rsquo;ancrage fondamental pour le calcul des chemins de r\u00e9gularisation algorithmiques.<\/p>\n<h3>3.3 Formulation sous forme de probl\u00e8me d&rsquo;optimisation sous contrainte<\/h3>\n<p>En vertu du th\u00e9or\u00e8me de dualit\u00e9 de Fenchel-Rockafellar et de la th\u00e9orie de l&rsquo;optimisation sous contraintes convexes, la forme lagrangienne p\u00e9nalis\u00e9e du Lasso admet une formulation duale strictement \u00e9quivalente sous la forme d&rsquo;un probl\u00e8me aux limites born\u00e9es :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\min_{\\beta in \\mathbb{R}^p} \\frac{1}{2n} |Y - Xbeta|_2^2 \\quad \\text{sous la contrainte} \\quad |beta|_1 \\leq t\">$$\\min_{\\beta in \\mathbb{R}^p} \\frac{1}{2n} |Y &#8211; Xbeta|_2^2 \\quad \\text{sous la contrainte} \\quad |beta|_1 \\leq t$$<\/span><\/p>\n<p>Il existe une correspondance bijective d\u00e9croissante entre le multiplicateur de Lagrange <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span> et le rayon de confiance <span class=\"arabpsy-math-inline\" data-latex=\"t in \\mathbb{R}^+\">$t in \\mathbb{R}^+$<\/span> : \u00e0 chaque valeur assign\u00e9e \u00e0 <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span> correspond un unique seuil g\u00e9om\u00e9trique <span class=\"arabpsy-math-inline\" data-latex=\"t(lambda)\">$t(lambda)$<\/span>, et r\u00e9ciproquement. Lorsque la contrainte globale <span class=\"arabpsy-math-inline\" data-latex=\"t \\geq |\\hat{\\beta}_{\\text{MCO}}|_1\">$t \\geq |\\hat{\\beta}_{\\text{MCO}}|_1$<\/span>, la fronti\u00e8re g\u00e9om\u00e9trique n&rsquo;est pas active, et la solution Lasso co\u00efncide fid\u00e8lement avec la solution des moindres carr\u00e9s ordinaires.<\/p>\n<p>Inversement, lorsque <span class=\"arabpsy-math-inline\" data-latex=\"t &lt; |\\hat{\\beta}_{\\text{MCO}}|_1\">$t &lt; |\\hat{\\beta}_{\\text{MCO}}|_1$<\/span>, la solution est projet\u00e9e sur le bord du polytope convexe d\u00e9limit\u00e9 par l&#039;in\u00e9galit\u00e9 de contrainte. Dans l&#039;espace param\u00e9trique multidimensionnel des indicateurs psychom\u00e9triques, la valeur <span class=\"arabpsy-math-inline\" data-latex=\"t\">$t$<\/span> peut \u00eatre conceptualis\u00e9e comme un \u00ab budget global \u00bb de pr\u00e9dictibilit\u00e9 allou\u00e9 au syst\u00e8me : les variables se disputent cette ressource m\u00e9trique finie, seules les plus informatives conservant une quote-part non nulle au terme de l&#039;optimisation.<\/p>\n<h2>4. M\u00e9canisme g\u00e9om\u00e9trique et propri\u00e9t\u00e9 de parcimonie<\/h2>\n<h3>4.1 G\u00e9om\u00e9trie de la contrainte L1 versus la sph\u00e8re L2<\/h3>\n<p>La capacit\u00e9 du Lasso \u00e0 annuler rigoureusement des coefficients \u2014 propri\u00e9t\u00e9 qualifi\u00e9e de <em>parcimonie<\/em> ou <em>sparsit\u00e9<\/em> \u2014 s&rsquo;explique de mani\u00e8re transparente par l&rsquo;analyse g\u00e9om\u00e9trique compar\u00e9e des espaces de contrainte dans <span class=\"arabpsy-math-inline\" data-latex=\"\\mathbb{R}^p\">$\\mathbb{R}^p$<\/span>. Consid\u00e9rons un espace bidimensionnel o\u00f9 deux param\u00e8tres <span class=\"arabpsy-math-inline\" data-latex=\"\\beta_1\">$\\beta_1$<\/span> et <span class=\"arabpsy-math-inline\" data-latex=\"\\beta_2\">$\\beta_2$<\/span> doivent \u00eatre estim\u00e9s. Les lignes de niveau de la fonction de perte RSS forment une famille d&rsquo;ellipso\u00efdes concentriques centr\u00e9s sur la solution non contrainte des moindres carr\u00e9s <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\beta}_{\\text{MCO}}\">$\\hat{\\beta}_{\\text{MCO}}$<\/span>. L&rsquo;objectif d&rsquo;optimisation consiste \u00e0 d\u00e9terminer le premier point de tangence g\u00e9om\u00e9trique entre ces ellipso\u00efdes r\u00e9siduels en expansion et la zone de contrainte admissible d\u00e9limit\u00e9e par la norme employ\u00e9e.<\/p>\n<p>Dans la r\u00e9gression Ridge, la contrainte <span class=\"arabpsy-math-inline\" data-latex=\"|beta|_2^2 \\leq t^2\">$|beta|_2^2 \\leq t^2$<\/span> circonscrit une boule euclidienne, qui prend la forme d&rsquo;un disque parfaitement lisse et isotrope dans <span class=\"arabpsy-math-inline\" data-latex=\"\\mathbb{R}^2\">$\\mathbb{R}^2$<\/span> ou d&rsquo;une hypersph\u00e8re continue dans <span class=\"arabpsy-math-inline\" data-latex=\"\\mathbb{R}^p\">$\\mathbb{R}^p$<\/span>. En raison de sa diff\u00e9rentiabilit\u00e9 universelle et de l&rsquo;absence totale de singularit\u00e9s angulaires, la surface de cette sph\u00e8re n&rsquo;a qu&rsquo;une probabilit\u00e9 infinit\u00e9simale de rencontrer l&rsquo;ellipse des r\u00e9sidus exactement sur l&rsquo;un des axes de coordonn\u00e9es. En cons\u00e9quence, les points de tangence se distribuent de mani\u00e8re ubiquitaire sur la p\u00e9riph\u00e9rie circulaire : les coefficients subissent une contraction vers z\u00e9ro mais conservent ind\u00e9finiment des valeurs r\u00e9siduelles non nulles.<\/p>\n<p>\u00c0 l&rsquo;oppos\u00e9, la contrainte Lasso <span class=\"arabpsy-math-inline\" data-latex=\"|beta|_1 \\leq t\">$|beta|_1 \\leq t$<\/span> engendre dans l&rsquo;espace plan un losange r\u00e9gulier dont les pointes sont align\u00e9es sur les axes canoniques du rep\u00e8re cart\u00e9sien, formant un poly\u00e8dre convexe (cross-polytope) en dimension sup\u00e9rieure dot\u00e9 d&rsquo;ar\u00eates planes et de sommets pointus aigus. Ces sommets repr\u00e9sentent des configurations alg\u00e9briques o\u00f9 l&rsquo;un ou plusieurs param\u00e8tres valent identiquement z\u00e9ro.<\/p>\n<h3>4.2 L&rsquo;\u00e9mergence math\u00e9matique de coefficients strictement nuls<\/h3>\n<p>L&rsquo;apparition de solutions structuralement creuses d\u00e9pend directement de l&rsquo;angle form\u00e9 par les singularit\u00e9s de la boule unit\u00e9 <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span>. Comme les courbes de niveau d&rsquo;une fonction quadratique r\u00e9guli\u00e8re progressent de fa\u00e7on convexe autour de leur centre d&rsquo;attraction, les points de contact tangents surviennent majoritairement au niveau des singularit\u00e9s pointues de la fronti\u00e8re <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span> plut\u00f4t que sur ses facettes lisses multidimensionnelles. Math\u00e9matiquement, le sous-diff\u00e9rentiel de la norme <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span> par rapport \u00e0 une coordonn\u00e9e s&rsquo;annulant <span class=\"arabpsy-math-inline\" data-latex=\"\\beta_j = 0\">$\\beta_j = 0$<\/span> couvre un intervalle compact ferm\u00e9 continu :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\partial |\\beta_j| = [-1, 1]\">$$\\partial |\\beta_j| = [-1, 1]$$<\/span><\/p>\n<p>Pour qu&rsquo;un coefficient quitte la valeur z\u00e9ro et s&rsquo;active dans la configuration optimale, le gradient local de la fonction r\u00e9siduelle associ\u00e9 \u00e0 ce r\u00e9gresseur particulier doit vaincre une barri\u00e8re finie impos\u00e9e par <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span>. Si le produit scalaire partiel <span class=\"arabpsy-math-inline\" data-latex=\"|X_j^T (Y - X\\beta)| \\leq n\\lambda\">$|X_j^T (Y &#8211; X\\beta)| \\leq n\\lambda$<\/span>, la condition d&rsquo;optimalit\u00e9 du premier ordre stipule que le param\u00e8tre reste verrouill\u00e9 \u00e0 z\u00e9ro. Ce ph\u00e9nom\u00e8ne de coin conf\u00e8re au Lasso sa nature d&rsquo;op\u00e9rateur de seuillage non lin\u00e9aire continu, r\u00e9alisant l&rsquo;\u00e9lagage direct des axes param\u00e9triques orthogonaux superflus.<\/p>\n<h3>4.3 Interpr\u00e9tabilit\u00e9 des mod\u00e8les r\u00e9sultants en sciences humaines<\/h3>\n<p>Dans le domaine des sciences humaines et de la psychologie diff\u00e9rentielle, la parcimonie g\u00e9om\u00e9trique induite par la norme <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span> transforme la lisibilit\u00e9 des r\u00e9sultats statistiques. Les praticiens sont r\u00e9guli\u00e8rement confront\u00e9s \u00e0 des matrices d&rsquo;inventaires compos\u00e9es de centaines d&rsquo;items manifestes con\u00e7us pour capturer des entit\u00e9s latentes telles que l&rsquo;intelligence \u00e9motionnelle, le n\u00e9vrosisme ou la flexibilit\u00e9 cognitive. Face \u00e0 de tels faisceaux d&rsquo;observations, l&rsquo;interpr\u00e9tation d&rsquo;un vecteur dense de moindres carr\u00e9s satur\u00e9 de coefficients r\u00e9siduels microscopiques (par exemple <span class=\"arabpsy-math-inline\" data-latex=\"\\beta = 0{,}0034\">$\\beta = 0{,}0034$<\/span>) s&rsquo;av\u00e8re cognitivement fastidieuse et scientifiquement peu d\u00e9fendable.<\/p>\n<p>Le Lasso filtre le bruit de fond m\u00e9thodologique g\u00e9n\u00e9r\u00e9 par les redondances de formulation dans les questionnaires d&rsquo;auto-\u00e9valuation et met en \u00e9vidence les pr\u00e9dicteurs au poids clinique pr\u00e9dominant. En produisant un mod\u00e8le clair, la m\u00e9thode fournit une cartographie comportementale intelligible o\u00f9 seuls les signaux pr\u00e9dictifs dominants subsistent, ce qui renforce l&rsquo;op\u00e9rationnalisation des concepts psychom\u00e9triques et optimise la formulation d&rsquo;interventions cibl\u00e9es sur des cibles th\u00e9rapeutiques d\u00e9finies.<\/p>\n<h2>5. Comparaison critique : Lasso, Ridge et Elastic Net<\/h2>\n<h3>5.1 R\u00e9gression Ridge : r\u00e9gularisation sans s\u00e9lection de variables<\/h3>\n<p>La <a rel=\"noopener noreferrer\" href=\"https:\/\/en.wikipedia.org\/wiki\/Ridge_regression\">r\u00e9gression Ridge<\/a>, formul\u00e9e initialement par Hoerl et Kennard, repose sur l&rsquo;adjonction d&rsquo;une p\u00e9nalit\u00e9 quadratique de norme <span class=\"arabpsy-math-inline\" data-latex=\"L_2\">$L_2$<\/span> appliqu\u00e9e sur les coefficients vectoriels :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\hat{\\beta}_{\\text{Ridge}} = \\underset{\\beta in \\mathbb{R}^p}{arg\\min} \\left{ \\frac{1}{2n} |Y - Xbeta|_2^2 + \\lambda |beta|_2^2 \\right}\">$$\\hat{\\beta}_{\\text{Ridge}} = \\underset{\\beta in \\mathbb{R}^p}{arg\\min} \\left{ \\frac{1}{2n} |Y &#8211; Xbeta|_2^2 + \\lambda |beta|_2^2 \\right}$$<\/span><\/p>\n<p>Sur le plan computationnel, l&rsquo;un des attraits historiques de Ridge r\u00e9side dans l&rsquo;existence d&rsquo;une solution matricielle explicite directe et infiniment diff\u00e9rentiable :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\hat{\\beta}_{\\text{Ridge}} = (X^T X + 2n\\lambda I_p)^{-1} X^T Y\">$$\\hat{\\beta}_{\\text{Ridge}} = (X^T X + 2n\\lambda I_p)^{-1} X^T Y$$<\/span><\/p>\n<p>En injectant une constante positive proportionnelle \u00e0 <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span> le long de la diagonale principale de la matrice de Gram empirique, Ridge r\u00e9tablit son strict conditionnement num\u00e9rique, m\u00eame dans des cas extr\u00eames o\u00f9 <span class=\"arabpsy-math-inline\" data-latex=\"p gg n\">$p gg n$<\/span> ou lorsque la colin\u00e9arit\u00e9 entre colonnes est quasi absolue. Toutefois, cette r\u00e9gularisation sph\u00e9rique r\u00e9partit proportionnellement la p\u00e9nalit\u00e9 sur l&rsquo;int\u00e9gralit\u00e9 des coefficients sans jamais forcer aucun d&rsquo;entre eux \u00e0 s&rsquo;annuler formellement. Lorsque le probl\u00e8me compte plusieurs centaines de pr\u00e9dicteurs interconnect\u00e9s, le mod\u00e8le r\u00e9sultant conserve chaque variable dans son \u00e9quation finale, interdisant toute d\u00e9composition parcimonieuse des structures latentes sous-jacentes.<\/p>\n<h3>5.2 Comportement du Lasso face \u00e0 des variables hautement corr\u00e9l\u00e9es<\/h3>\n<p>En contrepartie de sa capacit\u00e9 de s\u00e9lection, le Lasso pr\u00e9sente un comportement singulier en pr\u00e9sence de multicolin\u00e9arit\u00e9 extr\u00eame. Lorsque deux ou plusieurs pr\u00e9dicteurs affichent un coefficient de corr\u00e9lation bivari\u00e9e avoisinant l&rsquo;unit\u00e9 (par exemple <span class=\"arabpsy-math-inline\" data-latex=\"r &gt; 0{,}90\">$r &gt; 0{,}90$<\/span>), la convexit\u00e9 stricte de la fonction de perte combin\u00e9e \u00e0 la g\u00e9om\u00e9trie de la norme <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span> fait d\u00e9faut. Le Lasso tend alors \u00e0 s\u00e9lectionner arbitrairement l&rsquo;une des variables colin\u00e9aires dans le mod\u00e8le tout en \u00e9crasant les autres \u00e0 z\u00e9ro de mani\u00e8re abrupte, selon de microscopiques fluctuations al\u00e9atoires dans les donn\u00e9es d&rsquo;apprentissage.<\/p>\n<p>En psychom\u00e9trie, cette instabilit\u00e9 de s\u00e9lection pose un probl\u00e8me d&rsquo;interpr\u00e9tabilit\u00e9 : deux formulations alternatives d&rsquo;un m\u00eame item d&rsquo;anxi\u00e9t\u00e9 peuvent voir leur sort diverger radicalement d&rsquo;un sous-\u00e9chantillon d&rsquo;\u00e9talonnage \u00e0 l&rsquo;autre, l&rsquo;une \u00e9tant retenue comme d\u00e9terminant majeur et l&rsquo;autre purement \u00e9limin\u00e9e. De surcro\u00eet, lorsque le nombre de pr\u00e9dicteurs <span class=\"arabpsy-math-inline\" data-latex=\"p\">$p$<\/span> exc\u00e8de la taille de la cohorte <span class=\"arabpsy-math-inline\" data-latex=\"n\">$n$<\/span>, le Lasso est th\u00e9oriquement incapable d&rsquo;int\u00e9grer plus de <span class=\"arabpsy-math-inline\" data-latex=\"n\">$n$<\/span> variables dans son ensemble actif, constituant une limitation structurelle majeure lors de l&rsquo;exploitation de donn\u00e9es omiques ou de neuro-imagerie dense.<\/p>\n<h3>5.3 Elastic Net comme solution de compromis hybride<\/h3>\n<p>Pour d\u00e9passer les limites respectives du Lasso et de Ridge, Zou et Hastie ont introduit en 2005 le mod\u00e8le r\u00e9gularis\u00e9 <strong>Elastic Net<\/strong>. Cette architecture hybride int\u00e8gre simultan\u00e9ment les deux normes au sein d&rsquo;une enveloppe de perte convexe unifi\u00e9e :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\hat{\\beta}_{\\text{ElasticNet}} = \\underset{\\beta in \\mathbb{R}^p}{arg\\min} \\left{ \\frac{1}{2n} |Y - Xbeta|_2^2 + \\lambda \\left( \\alpha |beta|_1 + \\frac{1 - \\alpha}{2} |beta|_2^2 \\right) \\right}\">$$\\hat{\\beta}_{\\text{ElasticNet}} = \\underset{\\beta in \\mathbb{R}^p}{arg\\min} \\left{ \\frac{1}{2n} |Y &#8211; Xbeta|_2^2 + \\lambda \\left( \\alpha |beta|_1 + \\frac{1 &#8211; \\alpha}{2} |beta|_2^2 \\right) \\right}$$<\/span><\/p>\n<p>Le param\u00e8tre de m\u00e9lange <span class=\"arabpsy-math-inline\" data-latex=\"\\alpha in [0, 1]\">$\\alpha in [0, 1]$<\/span> module la trajectoire entre l&rsquo;exclusivit\u00e9 Ridge (<span class=\"arabpsy-math-inline\" data-latex=\"\\alpha = 0\">$\\alpha = 0$<\/span>) et la sparsit\u00e9 Lasso (<span class=\"arabpsy-math-inline\" data-latex=\"\\alpha = 1\">$\\alpha = 1$<\/span>). La composante strictement convexe <span class=\"arabpsy-math-inline\" data-latex=\"L_2\">$L_2$<\/span> restaure l&rsquo;effet de regroupement (<em>grouping effect<\/em>) : des r\u00e9gresseurs fortement corr\u00e9l\u00e9s re\u00e7oivent alors des coefficients d&rsquo;amplitudes comparables et franchissent conjointement le seuil de s\u00e9lection. L&rsquo;Elastic Net r\u00e9sout \u00e9galement l&rsquo;\u00e9cueil de la dimensionnalit\u00e9 en autorisant l&rsquo;activation stable de plus de <span class=\"arabpsy-math-inline\" data-latex=\"n\">$n$<\/span> descripteurs lorsque <span class=\"arabpsy-math-inline\" data-latex=\"\\alpha &lt; 1\">$\\alpha &lt; 1$<\/span>, faisant de cette formulation une alternative robuste pour les batteries d&#039;items psychom\u00e9triques entrelac\u00e9s ou les panels de biomarqueurs neuroendocriniens.<\/p>\n<h2>6. Optimisation algorithmique et s\u00e9lection de l&rsquo;hyperparam\u00e8tre lambda<\/h2>\n<h3>6.1 Validation crois\u00e9e k-fold pour le calibrage de lambda<\/h3>\n<p>La performance pr\u00e9dictive et la consistance structurelle du mod\u00e8le Lasso d\u00e9pendent de la valeur assign\u00e9e \u00e0 l&rsquo;hyperparam\u00e8tre de r\u00e9gularisation <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span>. La m\u00e9thode standard pour calibrer cette constante consiste \u00e0 impl\u00e9menter une proc\u00e9dure de <a rel=\"noopener noreferrer\" href=\"https:\/\/en.wikipedia.org\/wiki\/Cross-validation_(statistics)\">validation crois\u00e9e k-fold<\/a>. L&rsquo;\u00e9chantillon initial de taille <span class=\"arabpsy-math-inline\" data-latex=\"n\">$n$<\/span> est partitionn\u00e9 de mani\u00e8re al\u00e9atoire et \u00e9quilibr\u00e9e en <span class=\"arabpsy-math-inline\" data-latex=\"K\">$K$<\/span> blocs disjoints d&rsquo;effectifs approximativement homog\u00e8nes (<span class=\"arabpsy-math-inline\" data-latex=\"K=5\">$K=5$<\/span> ou <span class=\"arabpsy-math-inline\" data-latex=\"K=10\">$K=10$<\/span> dans les applications conventionnelles).<\/p>\n<p>Pour chaque tranche de valeurs \u00e9chantillonn\u00e9e sur une grille logarithmique d\u00e9croissante <span class=\"arabpsy-math-inline\" data-latex=\"[\\lambda_{\\max}, dots, \\lambda_{\\min}]\">$[\\lambda_{\\max}, dots, \\lambda_{\\min}]$<\/span>, le mod\u00e8le est entra\u00een\u00e9 sur <span class=\"arabpsy-math-inline\" data-latex=\"K-1\">$K-1$<\/span> sous-ensembles fusionn\u00e9s, puis son erreur quadratique moyenne de pr\u00e9diction (CV-MSE) est calcul\u00e9e sur le <span class=\"arabpsy-math-inline\" data-latex=\"K\">$K$<\/span>-i\u00e8me volet pr\u00e9serv\u00e9 de toute interaction param\u00e9trique :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\text{CV}_{(K)}(\\lambda) = \\frac{1}{K}\\sum_{k=1}^K \\text{MSE}_k(\\lambda)\">$$\\text{CV}_{(K)}(\\lambda) = \\frac{1}{K}\\sum_{k=1}^K \\text{MSE}_k(\\lambda)$$<\/span><\/p>\n<p>Cette approche pr\u00e9vient les biais de fuite d&rsquo;information (<em>data leakage<\/em>) et offre une estimation non biais\u00e9e du risque empirique de g\u00e9n\u00e9ralisation, assurant un calibrage \u00e9quilibr\u00e9 entre sous-ajustement et surapprentissage.<\/p>\n<h3>6.2 Crit\u00e8res de s\u00e9lection : lambda minimal versus r\u00e8gle du 1-SE<\/h3>\n<p>L&rsquo;examen de la courbe d&rsquo;erreur quadratique moyenne de validation crois\u00e9e en fonction du logarithme n\u00e9p\u00e9rien de <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span> fait appara\u00eetre deux seuils m\u00e9thodologiques concurrents :<\/p>\n<ul>\n<li><strong><span class=\"arabpsy-math-inline\" data-latex=\"\\lambda_{\\min}\">$\\lambda_{\\min}$<\/span><\/strong> : la valeur num\u00e9rique exacte du param\u00e8tre qui minimise rigoureusement l&rsquo;erreur quadratique moyenne globale sur les <span class=\"arabpsy-math-inline\" data-latex=\"K\">$K$<\/span> it\u00e9rations. Bien qu&rsquo;optimale au strict sens de la minimisation de la perte quadratique, elle a tendance \u00e0 int\u00e9grer un nombre trop \u00e9lev\u00e9 de variables fallacieuses pr\u00e9sentant de tr\u00e8s faibles contributions marginales (taux d&rsquo;erreur de Type I accru) ;<\/li>\n<li><strong><span class=\"arabpsy-math-inline\" data-latex=\"\\lambda_{1\\text{-SE}}\">$\\lambda_{1\\text{-SE}}$<\/span><\/strong> : conceptualis\u00e9 par Breiman et Friedman, ce crit\u00e8re d\u00e9signe la valeur la plus parcimonieuse (soit le <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span> le plus \u00e9lev\u00e9) dont l&rsquo;erreur moyenne r\u00e9siduelle ne d\u00e9vie pas de plus d&rsquo;une erreur-type (<em>standard error<\/em>) au-dessus du minimum absolu observ\u00e9 :<br \/>\n    <span class=\"arabpsy-math-display\" data-latex=\"\\text{CV}(\\lambda_{1\\text{-SE}}) \\leq \\text{CV}(\\lambda_{\\min}) + \\text{SE}(\\lambda_{\\min})\">$$\\text{CV}(\\lambda_{1\\text{-SE}}) \\leq \\text{CV}(\\lambda_{\\min}) + \\text{SE}(\\lambda_{\\min})$$<\/span><\/li>\n<\/ul>\n<p>En privil\u00e9giant un mod\u00e8le structurellement plus dense mais statistiquement indistinguable sur le plan de la variance d&rsquo;\u00e9chantillonnage, la r\u00e8gle heuristique dite \u00ab <em>one-standard-error rule<\/em> \u00bb favorise les mod\u00e8les concis et stables, ce qui en fait un filtre performant contre les faux positifs dans les inventaires cliniques exploratoires.<\/p>\n<h3>6.3 Algorithmes de r\u00e9solution num\u00e9rique : descente de coordonn\u00e9es et LARS<\/h3>\n<p>En raison de la non-diff\u00e9rentiabilit\u00e9 locale de la norme <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span>, la r\u00e9solution num\u00e9rique du Lasso a n\u00e9cessit\u00e9 le d\u00e9veloppement de sch\u00e9mas d&rsquo;optimisation d\u00e9di\u00e9s. Deux algorithmes dominent la litt\u00e9rature contemporaine :<\/p>\n<p>La <strong>descente de coordonn\u00e9es cyclique<\/strong> (<em>coordinate descent<\/em>), popularis\u00e9e par Friedman, Hastie et Tibshirani, r\u00e9sout le probl\u00e8me multivari\u00e9 en une succession de sous-probl\u00e8mes unidimensionnels minimis\u00e9s s\u00e9par\u00e9ment. En fixant tous les coefficients sauf le <span class=\"arabpsy-math-inline\" data-latex=\"j\">$j$<\/span>-i\u00e8me \u00e0 leurs valeurs courantes, la mise \u00e0 jour s&rsquo;ex\u00e9cute de mani\u00e8re analytique \u00e0 l&rsquo;aide de l&rsquo;op\u00e9rateur de seuillage doux (<em>soft-thresholding<\/em>) :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\hat{\\beta}_j \\leftarrow \\mathcal{S}\\left( \\frac{1}{n} \\sum_{i=1}^n x_{ij} r_{i}^{(-j)}, \\lambda \\right) = \\text{signe}\\left(z_j\\right)\\max\\left(0, |z_j| - \\lambda\\right)\">$$\\hat{\\beta}_j \\leftarrow \\mathcal{S}\\left( \\frac{1}{n} \\sum_{i=1}^n x_{ij} r_{i}^{(-j)}, \\lambda \\right) = \\text{signe}\\left(z_j\\right)\\max\\left(0, |z_j| &#8211; \\lambda\\right)$$<\/span><\/p>\n<p>o\u00f9 <span class=\"arabpsy-math-inline\" data-latex=\"r_{i}^{(-j)} = y_i - \\sum_{k \\neq j} x_{ik}\\hat{\\beta}_k\">$r_{i}^{(-j)} = y_i &#8211; \\sum_{k \\neq j} x_{ik}\\hat{\\beta}_k$<\/span> constitue le r\u00e9sidu partiel courant et <span class=\"arabpsy-math-inline\" data-latex=\"z_j = \\frac{1}{n} X_j^T r^{(-j)}\">$z_j = \\frac{1}{n} X_j^T r^{(-j)}$<\/span>. Cette m\u00e9thode converge rapidement m\u00eame sur des matrices de donn\u00e9es massives contenant des millions d&rsquo;entr\u00e9es.<\/p>\n<p>L&rsquo;algorithme <strong>LARS<\/strong> (<em>Least Angle Regression<\/em>), formalis\u00e9 par Efron, Hastie, Johnstone et Tibshirani en 2004, exploite la structure g\u00e9om\u00e9trique du probl\u00e8me : il avance dans la direction qui maintient l&rsquo;\u00e9quiangularit\u00e9 avec les corr\u00e9lations r\u00e9siduelles courantes. LARS fournit le trac\u00e9 complet, continu et math\u00e9matiquement exact des sentiers de r\u00e9gularisation (<em>path algorithms<\/em>) pour un co\u00fbt computationnel \u00e9quivalent \u00e0 une unique r\u00e9gression MCO standard sur l&rsquo;ensemble des variables.<\/p>\n<h2>7. Pr\u00e9traitement rigoureux des donn\u00e9es avant l&rsquo;application du Lasso<\/h2>\n<h3>7.1 L&rsquo;imp\u00e9ratif absolu du centrage et de la standardisation<\/h3>\n<p>L&rsquo;utilisation de la r\u00e9gression p\u00e9nalis\u00e9e impose une discipline m\u00e9thodologique stricte en amont de toute phase d&rsquo;optimisation : la normalisation int\u00e9grale des \u00e9chelles de mesure. La fonction objectif du Lasso applique une p\u00e9nalit\u00e9 indiff\u00e9renci\u00e9e <span class=\"arabpsy-math-inline\" data-latex=\"\\lambda \\sum |\\beta_j|\">$\\lambda \\sum |\\beta_j|$<\/span> qui additionne directement des grandeurs num\u00e9riques sans distinction d&rsquo;\u00e9chelle. Par cons\u00e9quent, si une variable pr\u00e9sente une variance native tr\u00e8s \u00e9tendue (par exemple un temps de r\u00e9action consign\u00e9 en millisecondes s&rsquo;\u00e9talant de 200 \u00e0 1500), son coefficient associ\u00e9 sera m\u00e9caniquement minuscule pour compenser l&rsquo;amplitude de <span class=\"arabpsy-math-inline\" data-latex=\"X_j\">$X_j$<\/span>, ce qui la prot\u00e8ge artificiellement de la p\u00e9nalisation <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span>. Inversement, un score psychom\u00e9trique normalis\u00e9 ou un indice binaire mesur\u00e9 sur une plage restreinte subira une troncature injustifi\u00e9e.<\/p>\n<p>Il est donc indispensable de transformer l&rsquo;ensemble des pr\u00e9dicteurs continus par standardisation en scores r\u00e9duits (<span class=\"arabpsy-math-inline\" data-latex=\"z\">$z$<\/span>-scores) :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\tilde{x}_{ij} = \\frac{x_{ij} - \\bar{x}_j}{\\sigma_{x_j}}\">$$\\tilde{x}_{ij} = \\frac{x_{ij} &#8211; \\bar{x}_j}{\\sigma_{x_j}}$$<\/span><\/p>\n<p>Dans cette configuration, toutes les colonnes pr\u00e9sentent une moyenne nulle et une variance empirique unitaire. Parall\u00e8lement, le vecteur de r\u00e9ponse <span class=\"arabpsy-math-inline\" data-latex=\"Y\">$Y$<\/span> est usuellement centr\u00e9 (<span class=\"arabpsy-math-inline\" data-latex=\"\\tilde{y}_i = y_i - \\bar{y}\">$\\tilde{y}_i = y_i &#8211; \\bar{y}$<\/span>), ce qui permet d&rsquo;extraire la constante d&rsquo;ordonn\u00e9e \u00e0 l&rsquo;origine (intercept <span class=\"arabpsy-math-inline\" data-latex=\"\\beta_0\">$\\beta_0$<\/span>) hors de la p\u00e9nalit\u00e9 Lasso : celle-ci se d\u00e9duit imm\u00e9diatement par <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\beta}_0 = \\bar{y}\">$\\hat{\\beta}_0 = \\bar{y}$<\/span> sans subir de distorsion de r\u00e9tr\u00e9cissement.<\/p>\n<h3>7.2 Encodage des pr\u00e9dicteurs qualitatifs et variables cat\u00e9gorielles<\/h3>\n<p>L&rsquo;int\u00e9gration de variables qualitatives et de pr\u00e9dicteurs nominaux au sein du cadre Lasso requiert des pr\u00e9cautions particuli\u00e8res. Lorsqu&rsquo;un facteur cat\u00e9goriel \u00e0 plusieurs niveaux (comme un groupe diagnostique ou une classification socio-d\u00e9mographique) fait l&rsquo;objet d&rsquo;un codage disjonctif complet en variables muettes indicatrices (<em>dummy \/ one-hot encoding<\/em>), le Lasso standard traite chaque variable binaire comme une dimension ind\u00e9pendante.<\/p>\n<p>Cette approche d\u00e9sagr\u00e9g\u00e9e pose deux difficult\u00e9s majeures : d&rsquo;une part, le choix de la modalit\u00e9 de r\u00e9f\u00e9rence introduit une asym\u00e9trie d&rsquo;invariance dans le traitement de la p\u00e9nalit\u00e9 ; d&rsquo;autre part, la p\u00e9nalit\u00e9 Lasso peut \u00e9liminer s\u00e9lectivement certaines modalit\u00e9s tout en conservant d&rsquo;autres au sein d&rsquo;une m\u00eame \u00e9chelle cat\u00e9gorielle, fragmentant la coh\u00e9rence structurelle de la variable sous-jacente. Pour pallier cette anomalie, l&rsquo;utilisation de variantes adapt\u00e9es telles que le <strong>Group Lasso<\/strong> s&rsquo;av\u00e8re indispensable : elle p\u00e9nalise collectivement le bloc de variables indicatrices d\u00e9riv\u00e9 du m\u00eame facteur nominal, garantissant que l&rsquo;ensemble du facteur soit retenu ou exclu de mani\u00e8re coordonn\u00e9e.<\/p>\n<h3>7.3 Gestion des donn\u00e9es manquantes et valeurs aberrantes en psychologie<\/h3>\n<p>Les investigations psychom\u00e9triques et les exp\u00e9rimentations comportementales sont particuli\u00e8rement expos\u00e9es aux distorsions de distribution caus\u00e9es par les valeurs atypiques (<em>outliers<\/em>) et les non-r\u00e9ponses aux protocoles. La fonction de perte standard du Lasso repose sur l&rsquo;erreur quadratique <span class=\"arabpsy-math-inline\" data-latex=\"|Y - Xbeta|_2^2\">$|Y &#8211; Xbeta|_2^2$<\/span>, qui \u00e9l\u00e8ve les \u00e9carts au carr\u00e9 et amplifie ainsi l&rsquo;influence des d\u00e9viations extr\u00eames. Un sujet consignant un score pathologique extr\u00eame ou r\u00e9pondant de mani\u00e8re d\u00e9sordonn\u00e9e peut d\u00e9placer les ellipso\u00efdes de r\u00e9sidus et fausser l&rsquo;entr\u00e9e de variables non pertinentes dans le mod\u00e8le actif.<\/p>\n<p>Face \u00e0 ces distorsions, l&rsquo;utilisation de fonctions de perte composites et robustes \u2014 telle que la perte de Huber coupl\u00e9e \u00e0 la p\u00e9nalit\u00e9 <span class=\"arabpsy-math-inline\" data-latex=\"L_1\">$L_1$<\/span> (r\u00e9gression robuste r\u00e9gularis\u00e9e) \u2014 offre une alternative performante. Par ailleurs, l&rsquo;existence de donn\u00e9es manquantes invalide l&rsquo;application directe des produits matriciels. Les chercheurs doivent donc recourir \u00e0 des protocoles m\u00e9thodologiques stricts bas\u00e9s sur l&rsquo;imputation multiple par \u00e9quations cha\u00een\u00e9es (MICE) ou des mod\u00e8les matriciels r\u00e9gularis\u00e9s, sous peine d&rsquo;alt\u00e9rer la composition factorielle avant la s\u00e9lection des variables.<\/p>\n<h2>8. Applications empiriques du Lasso en recherche psychologique<\/h2>\n<h3>8.1 Purification d&rsquo;\u00e9chelles et r\u00e9duction de dimensions psychom\u00e9triques<\/h3>\n<p>L&rsquo;un des terrains d&rsquo;application les plus fertiles de la r\u00e9gression r\u00e9gularis\u00e9e r\u00e9side dans la rationalisation et l&rsquo;abr\u00e9gement des inventaires psychom\u00e9triques multidimensionnels. Les questionnaires \u00e9valuant les grands traits de la personnalit\u00e9, comme le mod\u00e8le en cinq facteurs (<em>Big Five<\/em>) ou l&rsquo;inventaire de d\u00e9pression de Beck, comportent historiquement une proportion importante d&rsquo;items hautement corr\u00e9l\u00e9s introduits pour maximiser la consistance interne brute (l&rsquo;alpha de Cronbach). Cette surcharge allonge inutilement le temps de passation et induit une fatigue attentionnelle chez les participants, susceptible d&rsquo;alt\u00e9rer la qualit\u00e9 des r\u00e9ponses recueillies.<\/p>\n<p>En employant une strat\u00e9gie Lasso o\u00f9 un crit\u00e8re comportemental externe ou un score diagnostique global sert de variable d\u00e9pendante face \u00e0 l&rsquo;ensemble des items d\u00e9taill\u00e9s, la p\u00e9nalisation <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span> agit comme un filtre d&rsquo;\u00e9lagage psychom\u00e9trique. Elle \u00e9limine les items redondants dont la contribution d&rsquo;information marginale est n\u00e9gligeable compte tenu des autres \u00e9nonc\u00e9s d\u00e9j\u00e0 retenus. On parvient ainsi \u00e0 synth\u00e9tiser des \u00e9chelles ultracourtes qui conservent une validit\u00e9 de crit\u00e8re et une robustesse psychom\u00e9trique quasi identiques \u00e0 celles des batteries originales compl\u00e8tes, illustrant l&rsquo;utilit\u00e9 du Lasso pour optimiser la collecte de donn\u00e9es cliniques.<\/p>\n<h3>8.2 Neurosciences cognitives et analyse de donn\u00e9es de neuroimagerie<\/h3>\n<p>Les investigations men\u00e9es en imagerie c\u00e9r\u00e9brale fonctionnelle (IRMf) ou par magn\u00e9toenc\u00e9phalographie (MEG) illustrent de mani\u00e8re paradigmatique le probl\u00e8me de haute dimensionnalit\u00e9 <span class=\"arabpsy-math-inline\" data-latex=\"p gg n\">$p gg n$<\/span>. Dans une configuration exp\u00e9rimentale standard, l&rsquo;analyste dispose d&rsquo;enregistrements volum\u00e9triques fractionn\u00e9s en un volume ph\u00e9nom\u00e9nal de coordonn\u00e9es tridimensionnelles (typiquement entre 50 000 et 200 000 voxels c\u00e9r\u00e9braux), tandis que la cohorte clinique ne r\u00e9unit couramment que 30 \u00e0 100 participants en raison des contraintes logistiques et financi\u00e8res.<\/p>\n<p>Le traitement de ces donn\u00e9es par les estimateurs classiques des moindres carr\u00e9s est impossible sans r\u00e9duction drastique de dimension. La r\u00e9gression Lasso permet d&rsquo;analyser l&rsquo;activit\u00e9 m\u00e9tabolique ou les flux de d\u00e9soxyh\u00e9moglobine \u00e0 l&rsquo;\u00e9chelle du voxel pour pr\u00e9dire un statut cognitif ou comportemental donn\u00e9. Gr\u00e2ce \u00e0 sa parcimonie, le Lasso isole les quelques grappes de voxels ou les n\u0153uds de connectivit\u00e9 intrins\u00e8que qui pr\u00e9disent les performances amn\u00e9siques ou les d\u00e9ficits ex\u00e9cutifs, filtrant les variations physiologiques non informatives sans requ\u00e9rir de d\u00e9coupage anatomique pr\u00e9alable restrictif.<\/p>\n<h3>8.3 Psychopathologie computationnelle et analyse de r\u00e9seaux de sympt\u00f4mes<\/h3>\n<p>La psychopathologie computationnelle s&rsquo;est r\u00e9cemment affranchie de la perspective n\u00e9o-kraepelinienne \u2014 qui consid\u00e9rait les troubles mentaux comme des entit\u00e9s pathologiques latentes universelles g\u00e9n\u00e9rant des sympt\u00f4mes passifs \u2014 au profit du paradigme dynamique des <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1017\/S003329171600127X\">r\u00e9seaux de sympt\u00f4mes<\/a>. Dans ce mod\u00e8le novateur formalis\u00e9 par Borsboom et al., un trouble tel que l&rsquo;\u00e9pisode d\u00e9pressif majeur est conceptualis\u00e9 comme un syst\u00e8me complexe d&rsquo;interactions causales directes o\u00f9 l&rsquo;insomnie alimente l&rsquo;\u00e9puisement, qui induit \u00e0 son tour l&rsquo;anh\u00e9donie par r\u00e9troaction positive continue.<\/p>\n<p>L&rsquo;estimation des r\u00e9seaux de corr\u00e9lation partielle r\u00e9gularis\u00e9s repose sur l&rsquo;application conjointe de r\u00e9gressions nodales Lasso ou du <em>Graphical Lasso<\/em> (GLasso). En r\u00e9gressant successivement chaque sympt\u00f4me sur l&rsquo;ensemble de tous les autres au moyen d&rsquo;une p\u00e9nalisation <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span>, le syst\u00e8me supprime les associations fallacieuses induites par le conditionnement colin\u00e9aire. Il en \u00e9merge un graphe pond\u00e9r\u00e9 clair (<em>sparse network<\/em>) au sein duquel les ar\u00eates restantes symbolisent des interactions directes authentiques, permettant aux cliniciens d&rsquo;identifier les sympt\u00f4mes ponts et les cibles d&rsquo;intervention prioritaires.<\/p>\n<h2>9. Inf\u00e9rence statistique et d\u00e9fis m\u00e9thodologiques post-s\u00e9lection<\/h2>\n<h3>9.1 L&rsquo;invalidation des tests d&rsquo;hypoth\u00e8ses traditionnels<\/h3>\n<p>L&rsquo;adoption de la r\u00e9gression Lasso engendre une difficult\u00e9 majeure souvent m\u00e9connue des praticiens form\u00e9s aux statistiques inf\u00e9rentielles traditionnelles : l&rsquo;effondrement syst\u00e9matique de la th\u00e9orie classique des tests d&rsquo;hypoth\u00e8ses. Dans le cadre conventionnel de Gauss-Markov, le calcul des valeurs <span class=\"arabpsy-math-inline\" data-latex=\"p\">$p$<\/span> et des intervalles de confiance pour l&rsquo;estimateur <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\beta}_{\\text{MCO}}\">$\\hat{\\beta}_{\\text{MCO}}$<\/span> repose sur sa distribution gaussienne asymptotique non biais\u00e9e centr\u00e9e sur la valeur th\u00e9orique <span class=\"arabpsy-math-inline\" data-latex=\"\\beta^*\">$\\beta^*$<\/span>. Or, le Lasso introduit un double m\u00e9canisme destructeur pour l&rsquo;inf\u00e9rence na\u00efve :<\/p>\n<ul>\n<li>Un biais d\u00e9terministe de contraction vers l&rsquo;origine : pour toute valeur non nulle, <span class=\"arabpsy-math-inline\" data-latex=\"\\mathbb{E}[\\hat{\\beta}_{\\text{Lasso}}] \\neq \\beta^*\">$\\mathbb{E}[\\hat{\\beta}_{\\text{Lasso}}] \\neq \\beta^*$<\/span>, ce qui d\u00e9cale le centre de la loi d&rsquo;\u00e9chantillonnage ;<\/li>\n<li>Un conditionnement stochastique \u00e0 l&rsquo;\u00e9tape de s\u00e9lection : les variables soumises \u00e0 l&rsquo;inf\u00e9rence ont \u00e9t\u00e9 choisies pr\u00e9cis\u00e9ment parce qu&rsquo;elles maximisaient l&rsquo;ajustement empirique sur l&rsquo;\u00e9chantillon observ\u00e9, cr\u00e9ant un ph\u00e9nom\u00e8ne de surajustement adaptatif d\u00e9sign\u00e9 sous le terme d&rsquo;inflation post-s\u00e9lection.<\/li>\n<\/ul>\n<p>Si un analyste applique na\u00efvement un test de Student usuel ou reconstruit les intervalles de confiance sur le sous-mod\u00e8le final s\u00e9lectionn\u00e9 par le Lasso comme s&rsquo;il avait \u00e9t\u00e9 sp\u00e9cifi\u00e9 <em>a priori<\/em>, les valeurs <span class=\"arabpsy-math-inline\" data-latex=\"p\">$p$<\/span> obtenues s&rsquo;av\u00e8rent fallacieuses, conduisant \u00e0 une inflation incontr\u00f4l\u00e9e des faux positifs qui compromet la reproductibilit\u00e9 des conclusions scientifiques.<\/p>\n<h3>9.2 M\u00e9thodes d&rsquo;inf\u00e9rence s\u00e9lective et approches par r\u00e9\u00e9chantillonnage<\/h3>\n<p>Pour restaurer la l\u00e9gitimit\u00e9 des tests d&rsquo;hypoth\u00e8ses \u00e0 la suite d&rsquo;une proc\u00e9dure Lasso, des avanc\u00e9es th\u00e9oriques majeures ont vu le jour dans le champ de l&rsquo;inf\u00e9rence post-s\u00e9lection conditionnelle (<em>selective inference<\/em>), notamment formalis\u00e9e par Lockhart, Taylor, Tibshirani et Tibshirani sous le cadre du <em>Covariance Test<\/em> et de la distribution de poly\u00e8dre de Lee et al. Ces approches math\u00e9matiques ajustent la loi de r\u00e9f\u00e9rence nulle des estimateurs en conditionnant formellement les probabilit\u00e9s sur l&rsquo;\u00e9v\u00e9nement combinatoire de s\u00e9lection :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\mathcal{M} = {j : \\hat{\\beta}_j \\neq 0}\">$$\\mathcal{M} = {j : \\hat{\\beta}_j \\neq 0}$$<\/span><\/p>\n<p>En compl\u00e9ment, la m\u00e9thodologie de s\u00e9lection de stabilit\u00e9 (<em>stability selection<\/em>), introduite par Meinshausen et B\u00fchlmann, contourne les formulations analytiques complexes en combinant la r\u00e9gularisation Lasso avec des techniques intensives de r\u00e9\u00e9chantillonnage de type bootstrap. En perturbant de mani\u00e8re it\u00e9rative les observations et en introduisant des variations al\u00e9atoires dans les p\u00e9nalit\u00e9s appliqu\u00e9es, la m\u00e9thode quantifie la probabilit\u00e9 empirique d&rsquo;entr\u00e9e de chaque variable dans le sous-ensemble actif. Ce m\u00e9canisme permet de contr\u00f4ler rigoureusement le taux d&rsquo;erreur par famille (<em>Family-Wise Error Rate<\/em>, FWER) ou le taux de fausse d\u00e9couverte (<em>False Discovery Rate<\/em>, FDR) sous des hypoth\u00e8ses distributionnelles tr\u00e8s souples.<\/p>\n<h3>9.3 Le Lasso d\u00e9s-biais\u00e9 (Debiased \/ Desparsified Lasso)<\/h3>\n<p>L&rsquo;une des r\u00e9ponses contemporaines les plus abouties pour restaurer l&rsquo;inf\u00e9rence asymptotique en haute dimension r\u00e9side dans la technique du <strong>Lasso d\u00e9s-biais\u00e9<\/strong> (<em>Debiased<\/em> ou <em>Desparsified Lasso<\/em>), conceptualis\u00e9e simultan\u00e9ment par Zhang et Zhang, van de Geer et al., et Javanmard et Montanari. Le principe fondamental consiste \u00e0 corriger l&rsquo;estimateur Lasso p\u00e9nalis\u00e9 par l&rsquo;inversion approch\u00e9e de la matrice de Gram empirique :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\hat{b} = \\hat{\\beta}_{\\text{Lasso}} + \\frac{1}{n} \\hat{\\Theta} X^T (Y - X\\hat{\\beta}_{\\text{Lasso}})\">$$\\hat{b} = \\hat{\\beta}_{\\text{Lasso}} + \\frac{1}{n} \\hat{\\Theta} X^T (Y &#8211; X\\hat{\\beta}_{\\text{Lasso}})$$<\/span><\/p>\n<p>Dans cette formulation, <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\Theta}\">$\\hat{\\Theta}$<\/span> mat\u00e9rialise une approximation d\u00e9tendue de la matrice de pr\u00e9cision globale <span class=\"arabpsy-math-inline\" data-latex=\"(X^T X \/ n)^{-1}\">$(X^T X \/ n)^{-1}$<\/span>, calcul\u00e9e par une s\u00e9quence de r\u00e9gressions Lasso nodales auxiliaires. En combinant judicieusement le terme r\u00e9gularis\u00e9 d&rsquo;origine et une correction proportionnelle au gradient des r\u00e9sidus non projet\u00e9s, on parvient \u00e0 \u00e9liminer int\u00e9gralement le biais de r\u00e9tr\u00e9cissement tout en pr\u00e9servant la stabilit\u00e9 num\u00e9rique. L&rsquo;estimateur corrig\u00e9 <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{b}\">$\\hat{b}$<\/span> suit asymptotiquement une distribution normale multivari\u00e9e centr\u00e9e sur la v\u00e9ritable valeur param\u00e9trique :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\sqrt{n}(\\hat{b} - \\beta^*) \\sim \\mathcal{N}\\left(0, \\sigma^2 \\hat{\\Theta} \\hat{\\Sigma} \\hat{\\Theta}^T\\right)\">$$\\sqrt{n}(\\hat{b} &#8211; \\beta^*) \\sim \\mathcal{N}\\left(0, \\sigma^2 \\hat{\\Theta} \\hat{\\Sigma} \\hat{\\Theta}^T\\right)$$<\/span><\/p>\n<p>Cette avanc\u00e9e m\u00e9thodologique permet d&rsquo;obtenir des intervalles de confiance rigoureux \u00e0 95 % et des valeurs <span class=\"arabpsy-math-inline\" data-latex=\"p\">$p$<\/span> robustes dans des mod\u00e8les comportant plus de variables que d&rsquo;observations.<\/p>\n<h2>10. Mise en \u0153uvre pratique : Analyse de donn\u00e9es avec R et Python<\/h2>\n<h3>10.1 Mise en pratique sous R avec la biblioth\u00e8que glmnet<\/h3>\n<p>L&rsquo;\u00e9cosyst\u00e8me statistique du logiciel libre R fournit une impl\u00e9mentation de r\u00e9f\u00e9rence pour les mod\u00e8les lin\u00e9aires p\u00e9nalis\u00e9s via la biblioth\u00e8que <a rel=\"noopener noreferrer\" href=\"https:\/\/cran.r-project.org\/package=glmnet\">glmnet<\/a>, d\u00e9velopp\u00e9e originellement par Jerome Friedman, Trevor Hastie et Rob Tibshirani. Cette biblioth\u00e8que exploite un c\u0153ur computationnel cod\u00e9 en Fortran qui impl\u00e9mente l&rsquo;algorithme de descente de coordonn\u00e9es par blocs cycliques avec des routines d&rsquo;acc\u00e9l\u00e9ration matricielle.<\/p>\n<p>Sur le plan op\u00e9rationnel, la d\u00e9marche d&rsquo;analyse requiert la s\u00e9paration pr\u00e9alable du jeu de donn\u00e9es en une matrice de pr\u00e9dicteurs <span class=\"arabpsy-math-inline\" data-latex=\"X\">$X$<\/span> \u2014 formul\u00e9e pr\u00e9f\u00e9rentiellement \u00e0 l&rsquo;aide de la syntaxe <code>model.matrix()<\/code> pour g\u00e9rer les contrastes d&rsquo;indicatrices cat\u00e9gorielles \u2014 et un vecteur r\u00e9ponse <span class=\"arabpsy-math-inline\" data-latex=\"Y\">$Y$<\/span>. L&rsquo;ex\u00e9cution de la validation crois\u00e9e s&rsquo;op\u00e8re par l&rsquo;appel \u00e0 la fonction <code>cv.glmnet()<\/code> :<\/p>\n<p>L&rsquo;utilisateur configure l&rsquo;argument <code>alpha = 1<\/code> pour commander explicitement la formulation Lasso pure (tandis qu&rsquo;<code>alpha = 0<\/code> assignerait Ridge). L&rsquo;algorithme standardise automatiquement en interne les colonnes \u00e0 moyenne nulle et variance unitaire, garantissant un traitement sym\u00e9trique de l&rsquo;op\u00e9rateur de seuillage, avant de r\u00e9tablir les coefficients sur leur \u00e9chelle num\u00e9rique d&rsquo;origine lors de l&rsquo;extraction terminale. L&rsquo;ex\u00e9cution de la commande <code>plot()<\/code> sur l&rsquo;objet de validation crois\u00e9e g\u00e9n\u00e8re la trajectoire empirique des erreurs r\u00e9siduelles avec l&rsquo;intervalle de confiance associ\u00e9 en fonction de <span class=\"arabpsy-math-inline\" data-latex=\"log(lambda)\">$log(lambda)$<\/span>, tra\u00e7ant deux lignes pointill\u00e9es marquant pr\u00e9cis\u00e9ment <span class=\"arabpsy-math-inline\" data-latex=\"\\lambda_{\\min}\">$\\lambda_{\\min}$<\/span> et <span class=\"arabpsy-math-inline\" data-latex=\"\\lambda_{1\\text{-SE}}\">$\\lambda_{1\\text{-SE}}$<\/span>. L&rsquo;extraction analytique des coefficients parcimonieux s&rsquo;obtient enfin par la fonction g\u00e9n\u00e9rique <code>coef(cv_fit, s = \"lambda.1se\")<\/code>.<\/p>\n<h3>10.2 Impl\u00e9mentation sous Python avec scikit-learn<\/h3>\n<p>Dans l&rsquo;environnement de programmation Python d\u00e9di\u00e9 \u00e0 la science des donn\u00e9es, la biblioth\u00e8que <a rel=\"noopener noreferrer\" href=\"https:\/\/scikit-learn.org\/\">scikit-learn<\/a> constitue la r\u00e9f\u00e9rence pour le d\u00e9ploiement du Lasso \u00e0 travers ses modules <code>linear_model.Lasso<\/code> et <code>linear_model.LassoCV<\/code>. Afin de respecter les meilleures pratiques m\u00e9thodologiques et de pr\u00e9venir toute contamination des donn\u00e9es (<em>data leakage<\/em>) au cours de la standardisation, l&rsquo;utilisation de la classe <code>Pipeline<\/code> est requise.<\/p>\n<p>Le protocole technique associe le transformateur de normalisation <code>StandardScaler<\/code> et l&rsquo;estimateur p\u00e9nalis\u00e9 <code>LassoCV<\/code> au sein d&rsquo;un m\u00eame flux unifi\u00e9 :<\/p>\n<p>Le module \u00e9value les grilles de r\u00e9gularisation sur des sous-\u00e9chantillons d&rsquo;entra\u00eenement d\u00e9di\u00e9s sans que les m\u00e9triques d&rsquo;\u00e9chelle des blocs de test n&rsquo;interf\u00e8rent dans le centrage des observations. La classe <code>LassoCV<\/code> int\u00e8gre des g\u00e9n\u00e9rateurs d&rsquo;optimisation par d\u00e9faut analysant g\u00e9n\u00e9ralement 100 seuils le long d&rsquo;une \u00e9chelle logarithmique ajust\u00e9e. Une fois l&rsquo;hyperparam\u00e8tre calibr\u00e9, les performances pr\u00e9dictives finales doivent \u00eatre \u00e9valu\u00e9es sur un ensemble de test ind\u00e9pendant (<em>hold-out test set<\/em>) tenu \u00e0 l&rsquo;\u00e9cart durant tout le processus, \u00e0 l&rsquo;aide d&rsquo;indicateurs standardis\u00e9s tels que le coefficient de d\u00e9termination (<span class=\"arabpsy-math-inline\" data-latex=\"R^2\">$R^2$<\/span>) ou la racine de l&rsquo;erreur quadratique moyenne (RMSE).<\/p>\n<h3>10.3 Interpr\u00e9tation des trajectoires de coefficients et diagnostics<\/h3>\n<p>L&rsquo;\u00e9valuation d&rsquo;un mod\u00e8le Lasso implique l&rsquo;inspection visuelle des profils de convergence (<em>coefficient paths<\/em>), qui tracent l&rsquo;\u00e9volution dynamique de la valeur de chaque coefficient <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\beta}_j\">$\\hat{\\beta}_j$<\/span> en fonction de l&rsquo;\u00e9chelle d&rsquo;att\u00e9nuation <span class=\"arabpsy-math-inline\" data-latex=\"-log(lambda)\">$-log(lambda)$<\/span> ou du ratio de norme <span class=\"arabpsy-math-inline\" data-latex=\"L_1\">$L_1$<\/span> :<\/p>\n<p>Cette repr\u00e9sentation fournit une synth\u00e8se qualitative de l&rsquo;ordre d&rsquo;entr\u00e9e des variables explicatives dans le mod\u00e8le. Les r\u00e9gresseurs dot\u00e9s des signaux pr\u00e9dictifs les plus marqu\u00e9s s&rsquo;\u00e9cartent rapidement de l&rsquo;axe z\u00e9ro pour de faibles intensit\u00e9s d&rsquo;ajustement, tandis que les variables secondaires ne s&rsquo;activent que lorsque la p\u00e9nalisation d\u00e9cro\u00eet vers les moindres carr\u00e9s ordinaires. Des croisements de trajectoires prononc\u00e9s ou des inversions de pente brutales trahissent des interactions colin\u00e9aires locales qui m\u00e9ritent une attention particuli\u00e8re.<\/p>\n<p>Le diagnostic post-ajustement requiert \u00e9galement l&rsquo;examen de la distribution des r\u00e9sidus d&rsquo;estimation <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\varepsilon}_i = y_i - \\hat{y}_i\">$\\hat{\\varepsilon}_i = y_i &#8211; \\hat{y}_i$<\/span>. Bien que le Lasso n&rsquo;impose pas formellement la normalit\u00e9 stricte des perturbations pour son ex\u00e9cution num\u00e9rique, une h\u00e9t\u00e9rosc\u00e9dasticit\u00e9 prononc\u00e9e ou une asym\u00e9trie marqu\u00e9e dans les r\u00e9sidus signale la non-prise en compte d&rsquo;effets non lin\u00e9aires sous-jacents, alertant le mod\u00e9lisateur sur les limites structurelles d&rsquo;un cadre lin\u00e9aire r\u00e9gularis\u00e9.<\/p>\n<h2>11. Avantages, limites et pi\u00e8ges courants de la r\u00e9gression Lasso<\/h2>\n<h3>11.1 Forces majeures pour l&rsquo;analyse moderne des comportements<\/h3>\n<p>La r\u00e9gression Lasso s&rsquo;est affirm\u00e9e comme un outil m\u00e9thodologique incontournable pour l&rsquo;analyse des comportements, gr\u00e2ce \u00e0 des atouts th\u00e9oriques et pratiques substantiels face aux limites de la statistique lin\u00e9aire conventionnelle :<\/p>\n<ul>\n<li><strong>Ma\u00eetrise de la haute dimensionnalit\u00e9<\/strong> : capacit\u00e9 \u00e9prouv\u00e9e \u00e0 converger vers une solution math\u00e9matiquement stable lorsque le nombre de variables d\u00e9passe le volume d&rsquo;observations (<span class=\"arabpsy-math-inline\" data-latex=\"p gg n\">$p gg n$<\/span>), l\u00e0 o\u00f9 les moindres carr\u00e9s ordinaires \u00e9chouent par ind\u00e9termination matricielle ;<\/li>\n<li><strong>Parcimonie automatique et lisibilit\u00e9<\/strong> : transformation d&rsquo;un mod\u00e8le complexe comportant des centaines d&rsquo;indicateurs psychologiques en une structure simplifi\u00e9e centr\u00e9e sur un sous-ensemble restreint de pr\u00e9dicteurs dominants ;<\/li>\n<li><strong>Att\u00e9nuation du surapprentissage<\/strong> : optimisation syst\u00e9matique du compromis biais-variance via le r\u00e9tr\u00e9cissement <span class=\"arabpsy-math-inline\" data-latex=\"L_1\">$L_1$<\/span>, conf\u00e9rant aux mod\u00e8les une meilleure validit\u00e9 externe lors de la r\u00e9plication sur des cohortes ind\u00e9pendantes ;<\/li>\n<li><strong>Efficience algorithmique<\/strong> : algorithmes de descente de coordonn\u00e9es permettant d&rsquo;ajuster des mod\u00e8les volumineux en quelques fractions de seconde, facilitant les protocoles intensifs de r\u00e9\u00e9chantillonnage et de validation crois\u00e9e.<\/li>\n<\/ul>\n<h3>11.2 Contraintes structurelles et risques de sous-estimation des effets<\/h3>\n<p>En d\u00e9pit de ses qualit\u00e9s d\u00e9montr\u00e9es, le Lasso pr\u00e9sente des contraintes algorithmiques inh\u00e9rentes qui peuvent fausser l&rsquo;interpr\u00e9tation des donn\u00e9es psychom\u00e9triques si elles sont n\u00e9glig\u00e9es :<\/p>\n<ul>\n<li><strong>Plafond de s\u00e9lection en grande dimension<\/strong> : lorsque <span class=\"arabpsy-math-inline\" data-latex=\"p &gt; n\">$p &gt; n$<\/span>, le Lasso ne peut s\u00e9lectionner au maximum que <span class=\"arabpsy-math-inline\" data-latex=\"n\">$n$<\/span> variables distinctes avant d&rsquo;atteindre la saturation de rang, \u00e9crasant d&rsquo;office les dimensions exc\u00e9dentaires m\u00eame si elles portent une information th\u00e9orique pertinente ;<\/li>\n<li><strong>Biais syst\u00e9matique d&rsquo;att\u00e9nuation<\/strong> : la p\u00e9nalit\u00e9 proportionnelle <span class=\"arabpsy-math-inline\" data-latex=\"\\lambda |\\beta_j|\">$\\lambda |\\beta_j|$<\/span> applique une r\u00e9duction d&rsquo;amplitude uniforme \u00e0 l&rsquo;ensemble des estimateurs. Les coefficients finaux sous-estiment donc syst\u00e9matiquement la magnitude r\u00e9elle des effets par rapport \u00e0 leurs valeurs asymptotiques non contraintes ;<\/li>\n<li><strong>Instabilit\u00e9 face aux r\u00e9seaux colin\u00e9aires<\/strong> : face \u00e0 des pr\u00e9dicteurs tr\u00e8s fortement corr\u00e9l\u00e9s, le Lasso s\u00e9lectionne arbitrairement l&rsquo;une des variables et annule les autres, ce qui peut masquer des structures latentes sous-jacentes d&rsquo;int\u00e9r\u00eat clinique ;<\/li>\n<li><strong>Vuln\u00e9rabilit\u00e9 aux ruptures d&rsquo;\u00e9chelle<\/strong> : en l&rsquo;absence d&rsquo;une standardisation rigoureuse, les coefficients sont p\u00e9nalis\u00e9s de mani\u00e8re disproportionn\u00e9e en fonction de leurs unit\u00e9s de mesure brutes, invalidant toute interpr\u00e9tation comparative.<\/li>\n<\/ul>\n<h3>11.3 Erreurs fr\u00e9quentes commises par les chercheurs<\/h3>\n<p>La d\u00e9mocratisation des outils de r\u00e9gularisation logicielle a favoris\u00e9 la diffusion de plusieurs erreurs m\u00e9thodologiques r\u00e9currentes dans les publications scientifiques :<\/p>\n<p>La m\u00e9prise la plus fr\u00e9quente consiste \u00e0 r\u00e9ajuster une r\u00e9gression des moindres carr\u00e9s ordinaires standard na\u00efve uniquement sur le sous-ensemble de variables s\u00e9lectionn\u00e9es par le Lasso pour en extraire des valeurs <span class=\"arabpsy-math-inline\" data-latex=\"p\">$p$<\/span> et des intervalles de confiance conventionnels. Cette pratique invalide la th\u00e9orie de l&rsquo;\u00e9chantillonnage : le chercheur r\u00e9utilise les m\u00eames donn\u00e9es empiriques pour d\u00e9couvrir la structure du mod\u00e8le puis pour tester ses hypoth\u00e8ses, ce qui engendre un biais de confirmation majeur et produit des tests statistiques artificiellement sur-optimistes.<\/p>\n<p>Une autre d\u00e9rive courante consiste \u00e0 interpr\u00e9ter de mani\u00e8re causale les coefficients retenus par le Lasso. L&rsquo;annulation d&rsquo;un coefficient par la norme <span class=\"arabpsy-math-inline\" data-latex=\"L_1\">$L_1$<\/span> ne signifie pas que la variable associ\u00e9e est d\u00e9pourvue d&rsquo;influence \u00e9tiologique r\u00e9elle sur le ph\u00e9nom\u00e8ne \u00e9tudi\u00e9 : elle indique simplement que, compte tenu des autres r\u00e9gresseurs d\u00e9j\u00e0 int\u00e9gr\u00e9s dans la matrice, son apport additif direct n&rsquo;abaisse pas suffisamment la fonction de perte pour compenser le co\u00fbt math\u00e9matique <span class=\"arabpsy-math-inline\" data-latex=\"lambda\">$lambda$<\/span>. Le Lasso est avant tout un algorithme pr\u00e9dictif parcimonieux, et non un outil de d\u00e9couverte causale en milieu observationnel complexe.<\/p>\n<h2>12. Variantes modernes et extensions avanc\u00e9es du Lasso<\/h2>\n<h3>12.1 Le Lasso adaptatif (Adaptive Lasso) et la propri\u00e9t\u00e9 oracle<\/h3>\n<p>Pour corriger le biais d&rsquo;att\u00e9nuation uniforme et pallier l&rsquo;instabilit\u00e9 de s\u00e9lection du Lasso conventionnel en pr\u00e9sence de variables mod\u00e9r\u00e9ment corr\u00e9l\u00e9es, Hui Zou a introduit en 2006 l&rsquo;<strong>Adaptive Lasso<\/strong>. Cette variante raffine le terme de r\u00e9gularisation en introduisant des poids sp\u00e9cifiques individualis\u00e9s inversement proportionnels \u00e0 la magnitude d&rsquo;une estimation pr\u00e9alable non biais\u00e9e :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\hat{\\beta}_{\\text{AdaLasso}} = \\underset{\\beta in \\mathbb{R}^p}{arg\\min} \\left{ \\frac{1}{2n} |Y - Xbeta|_2^2 + \\lambda \\sum_{j=1}^p w_j |\\beta_j| \\right} \\quad \\text{a\\vec} \\quad w_j = \\frac{1}{|\\hat{\\beta}_{j,\\text{init}}|^\\gamma}\">$$\\hat{\\beta}_{\\text{AdaLasso}} = \\underset{\\beta in \\mathbb{R}^p}{arg\\min} \\left{ \\frac{1}{2n} |Y &#8211; Xbeta|_2^2 + \\lambda \\sum_{j=1}^p w_j |\\beta_j| \\right} \\quad \\text{a\\vec} \\quad w_j = \\frac{1}{|\\hat{\\beta}_{j,\\text{init}}|^\\gamma}$$<\/span><\/p>\n<p>o\u00f9 <span class=\"arabpsy-math-inline\" data-latex=\"\\hat{\\beta}_{\\text{init}}\">$\\hat{\\beta}_{\\text{init}}$<\/span> d\u00e9coule typiquement d&rsquo;une estimation initiale par MCO (si <span class=\"arabpsy-math-inline\" data-latex=\"n gg p\">$n gg p$<\/span>) ou par r\u00e9gression Ridge, et <span class=\"arabpsy-math-inline\" data-latex=\"\\gamma &gt; 0\">$\\gamma &gt; 0$<\/span> constitue un param\u00e8tre d&rsquo;accentuation r\u00e9glable. Gr\u00e2ce \u00e0 cette pond\u00e9ration adaptative, les variables dont l&rsquo;effet initial est fort re\u00e7oivent un poids <span class=\"arabpsy-math-inline\" data-latex=\"w_j\">$w_j$<\/span> tr\u00e8s faible (subissant ainsi une p\u00e9nalit\u00e9 n\u00e9gligeable qui pr\u00e9serve la magnitude r\u00e9elle de leur effet), tandis que les variables mineures voient leur p\u00e9nalit\u00e9 multipli\u00e9e, acc\u00e9l\u00e9rant leur \u00e9crasement \u00e0 z\u00e9ro.<\/p>\n<p>Sur le plan th\u00e9orique, Zou a d\u00e9montr\u00e9 que l&rsquo;Adaptive Lasso jouit de la <em>propri\u00e9t\u00e9 oracle<\/em> formalis\u00e9e par Fan et Li : asymptotiquement, l&rsquo;algorithme identifie le v\u00e9ritable sous-ensemble de pr\u00e9dicteurs non nuls avec une probabilit\u00e9 tendant vers 1 (<span class=\"arabpsy-math-inline\" data-latex=\"\\mathbb{P}(\\mathcal{M}_{\\text{s\u00e9lectionn\u00e9}} = \\mathcal{M}_{\\text{vrai}}) to 1\">$\\mathbb{P}(\\mathcal{M}_{\\text{s\u00e9lectionn\u00e9}} = \\mathcal{M}_{\\text{vrai}}) to 1$<\/span>), et les coefficients des variables retenues convergent vers la distribution normale multivari\u00e9e optimale qui aurait \u00e9t\u00e9 obtenue si le vrai mod\u00e8le avait \u00e9t\u00e9 connu <em>a priori<\/em>.<\/p>\n<h3>12.2 Le Group Lasso et le Sparse Group Lasso en psychom\u00e9trie<\/h3>\n<p>Dans de nombreuses applications psychom\u00e9triques, les variables pr\u00e9dictives pr\u00e9sentent une structure hi\u00e9rarchique ou se regroupent naturellement par domaines conceptuels. C&rsquo;est le cas des batteries d&rsquo;\u00e9valuation o\u00f9 plusieurs items mesurent des facettes distinctes d&rsquo;un m\u00eame trait de personnalit\u00e9, ou des \u00e9tudes g\u00e9n\u00e9tiques agr\u00e9geant des polymorphismes par voies m\u00e9taboliques. Face \u00e0 cette organisation fonctionnelle, le Lasso classique applique une s\u00e9lection au niveau individuel qui d\u00e9structure les blocs de mesure.<\/p>\n<p>Le <strong>Group Lasso<\/strong>, conceptualis\u00e9 par Yuan et Lin, r\u00e9sout cette difficult\u00e9 en d\u00e9finissant la p\u00e9nalit\u00e9 sur des sous-groupes pr\u00e9d\u00e9termin\u00e9s de r\u00e9gresseurs \u00e0 travers une norme mixte <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\/ell_2\">$ell_1\/ell_2$<\/span> :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\min_{\\beta} \\left{ \\frac{1}{2n} |Y - \\sum_{l=1}^L X_{(l)}\\beta_{(l)}|_2^2 + \\lambda \\sum_{l=1}^L \\sqrt{p_l} |\\beta_{(l)}|_2 \\right}\">$$\\min_{\\beta} \\left{ \\frac{1}{2n} |Y &#8211; \\sum_{l=1}^L X_{(l)}\\beta_{(l)}|_2^2 + \\lambda \\sum_{l=1}^L \\sqrt{p_l} |\\beta_{(l)}|_2 \\right}$$<\/span><\/p>\n<p>Ici, chaque vecteur de coefficients <span class=\"arabpsy-math-inline\" data-latex=\"\\beta_{(l)}\">$\\beta_{(l)}$<\/span> correspondant au <span class=\"arabpsy-math-inline\" data-latex=\"l\">$l$<\/span>-i\u00e8me domaine est p\u00e9nalis\u00e9 par sa norme euclidienne composite pond\u00e9r\u00e9e par sa dimension spatiale <span class=\"arabpsy-math-inline\" data-latex=\"\\sqrt{p_l}\">$\\sqrt{p_l}$<\/span>. En cons\u00e9quence, l&rsquo;ensemble des variables d&rsquo;un groupe est soit int\u00e9gr\u00e9 conjointement au mod\u00e8le, soit enti\u00e8rement exclu. L&rsquo;extension ult\u00e9rieure du <strong>Sparse Group Lasso<\/strong> (Simon et al., 2013) r\u00e9unit au sein d&rsquo;une m\u00eame formulation la p\u00e9nalit\u00e9 de groupe et la p\u00e9nalit\u00e9 individuelle <span class=\"arabpsy-math-inline\" data-latex=\"ell_1\">$ell_1$<\/span> : elle op\u00e8re simultan\u00e9ment une s\u00e9lection globale entre les groupes et un \u00e9lagage s\u00e9lectif \u00e0 l&rsquo;int\u00e9rieur des blocs retenus, adaptant la mod\u00e9lisation aux \u00e9chelles psychom\u00e9triques \u00e0 structure embo\u00eet\u00e9e.<\/p>\n<h3>12.3 Int\u00e9gration du Lasso dans la mod\u00e9lisation par \u00e9quations structurelles (regsem)<\/h3>\n<p>L&rsquo;une des avanc\u00e9es m\u00e9thodologiques les plus prometteuses en psychom\u00e9trie contemporaine r\u00e9side dans l&rsquo;hybridation des m\u00e9thodes de r\u00e9gularisation avec la <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1037\/met0000067\">mod\u00e9lisation par \u00e9quations structurelles r\u00e9gularis\u00e9e<\/a> (<em>Regularized Structural Equation Modeling<\/em>, ou <strong>regsem<\/strong>), d\u00e9velopp\u00e9e principalement par Jacobucci, Grimm et McArdle. Les \u00e9quations structurelles classiques (SEM) articulent des structures factorielles confirmatoires rigides souvent confront\u00e9es au probl\u00e8me du surajustement ou \u00e0 des d\u00e9gradations d&rsquo;indices d&rsquo;ajustement dues \u00e0 de multiples saturations crois\u00e9es r\u00e9siduelles ou \u00e0 des corr\u00e9lations r\u00e9siduelles mineures entre items.<\/p>\n<p>En introduisant une fonction de p\u00e9nalit\u00e9 de type Lasso directement dans la fonction d&rsquo;ajustement du maximum de vraisemblance de la matrice de covariance :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"F_{\\text{regsem}}(\\theta) = F_{\\text{ML}}(\\Sigma(\\theta), S) + \\lambda \\sum_{m} |\\theta_m|\">$$F_{\\text{regsem}}(\\theta) = F_{\\text{ML}}(\\Sigma(\\theta), S) + \\lambda \\sum_{m} |\\theta_m|$$<\/span><\/p>\n<p>la m\u00e9thodologie regsem permet d&rsquo;estimer des mod\u00e8les factoriels confirmatoires semi-exploratoires. La p\u00e9nalit\u00e9 <span class=\"arabpsy-math-inline\" data-latex=\"L_1\">$L_1$<\/span> est appliqu\u00e9e s\u00e9lectivement sur les param\u00e8tres secondaires incertains \u2014 tels que les saturations crois\u00e9es mineures ou les covariances d&rsquo;erreurs r\u00e9siduelles \u2014 tout en pr\u00e9servant d&rsquo;\u00e9ventuelles contraintes structurales directes non p\u00e9nalis\u00e9es sur les saturations principales. Cette strat\u00e9gie identifie de mani\u00e8re empirique et continue les \u00e9carts \u00e0 la structure th\u00e9orique sans recourir aux d\u00e9marches heuristiques instables des indices de modification traditionnels (<em>modification indices<\/em>). Elle affine la d\u00e9tection des non-invariances de mesure \u00e0 travers les groupes culturels et pr\u00e9serve la validit\u00e9 conceptuelle des construits psychologiques face aux bruits d&rsquo;\u00e9chantillonnage.<\/p>\n<h2>R\u00e9f\u00e9rences<\/h2>\n<ul>\n<li>Borsboom, D., &amp; Cramer, A. O. (2013). Network analysis: An integrative approach to the structure of psychopathology. <em>Annual Review of Clinical Psychology<\/em>, 9(1), 91\u2013121. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1146\/annurev-clinpsy-050212-185608\">https:\/\/doi.org\/10.1146\/annurev-clinpsy-050212-185608<\/a><\/li>\n<li>Breiman, L. (1995). Better subset selection using the non-negative garrote. <em>Technometrics<\/em>, 37(4), 373\u2013384. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1080\/00401706.1995.10484371\">https:\/\/doi.org\/10.1080\/00401706.1995.10484371<\/a><\/li>\n<li>Efron, B., Hastie, T., Johnstone, I., &amp; Tibshirani, R. (2004). Least angle regression. <em>The Annals of Statistics<\/em>, 32(2), 407\u2013499. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1214\/009053604000000067\">https:\/\/doi.org\/10.1214\/009053604000000067<\/a><\/li>\n<li>Fan, J., &amp; Li, R. (2001). Variable selection via nonconcave penalized likelihood and its oracle properties. <em>Journal of the American Statistical Association<\/em>, 96(456), 1348\u20131360. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1198\/016214501753382273\">https:\/\/doi.org\/10.1198\/016214501753382273<\/a><\/li>\n<li>Friedman, J., Hastie, T., &amp; Tibshirani, R. (2010). Regularization paths for generalized linear models via coordinate descent. <em>Journal of Statistical Software<\/em>, 33(1), 1\u201322. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.18637\/jss.v033.i01\">https:\/\/doi.org\/10.18637\/jss.v033.i01<\/a><\/li>\n<li>Hastie, T., Tibshirani, R., &amp; Wainwright, M. (2015). <em>Statistical learning with sparsity: The Lasso and generalizations<\/em>. CRC Press. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1201\/b18401\">https:\/\/doi.org\/10.1201\/b18401<\/a><\/li>\n<li>Hoerl, A. E., &amp; Kennard, R. W. (1970). Ridge regression: Biased estimation for nonorthogonal problems. <em>Technometrics<\/em>, 12(1), 55\u201367. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1080\/00401706.1970.10488634\">https:\/\/doi.org\/10.1080\/00401706.1970.10488634<\/a><\/li>\n<li>Jacobucci, R., Grimm, K. J., &amp; McArdle, J. J. (2016). Regularized structural equation modeling. <em>Structural Equation Modeling: A Multidisciplinary Journal<\/em>, 23(4), 555\u2013566. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1080\/10705511.2016.1154793\">https:\/\/doi.org\/10.1080\/10705511.2016.1154793<\/a><\/li>\n<li>Javanmard, A., &amp; Montanari, A. (2014). Confidence intervals and hypothesis testing for high-dimensional regression. <em>The Journal of Machine Learning Research<\/em>, 15(1), 2869\u20132909.<\/li>\n<li>Lockhart, R., Taylor, J., Tibshirani, R. J., &amp; Tibshirani, R. (2014). A significance test for the lasso. <em>The Annals of Statistics<\/em>, 42(2), 413\u2013468. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1214\/13-AOS1175\">https:\/\/doi.org\/10.1214\/13-AOS1175<\/a><\/li>\n<li>Meinshausen, N., &amp; B\u00fchlmann, P. (2010). Stability selection. <em>Journal of the Royal Statistical Society: Series B (Statistical Methodology)<\/em>, 72(4), 417\u2013473. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1111\/j.1467-9868.2010.00740.x\">https:\/\/doi.org\/10.1111\/j.1467-9868.2010.00740.x<\/a><\/li>\n<li>Simon, N., Friedman, J., Hastie, T., &amp; Tibshirani, R. (2013). A sparse-group lasso. <em>Journal of Computational and Graphical Statistics<\/em>, 22(2), 231\u2013245. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1080\/10618600.2012.681250\">https:\/\/doi.org\/10.1080\/10618600.2012.681250<\/a><\/li>\n<li>Tibshirani, R. (1996). Regression shrinkage and selection via the Lasso. <em>Journal of the Royal Statistical Society: Series B (Methodological)<\/em>, 58(1), 267\u2013288. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1111\/j.2517-6161.1996.tb02080.x\">https:\/\/doi.org\/10.1111\/j.2517-6161.1996.tb02080.x<\/a><\/li>\n<li>van de Geer, S., B\u00fchlmann, P., Ritov, Y., &amp; Dezeure, R. (2014). On asymptotically optimal confidence regions and tests for high-dimensional models. <em>The Annals of Statistics<\/em>, 42(3), 1166\u20131202. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1214\/14-AOS1221\">https:\/\/doi.org\/10.1214\/14-AOS1221<\/a><\/li>\n<li>Yuan, M., &amp; Lin, Y. (2006). Model selection and estimation in regression with grouped variables. <em>Journal of the Royal Statistical Society: Series B (Statistical Methodology)<\/em>, 68(1), 49\u201367. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1111\/j.1467-9868.2005.00532.x\">https:\/\/doi.org\/10.1111\/j.1467-9868.2005.00532.x<\/a><\/li>\n<li>Zhang, C. H., &amp; Zhang, S. S. (2014). Confidence intervals for low dimensional parameters in high dimensional linear models. <em>Journal of the Royal Statistical Society: Series B (Statistical Methodology)<\/em>, 76(1), 217\u2013242. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1111\/rssb.12026\">https:\/\/doi.org\/10.1111\/rssb.12026<\/a><\/li>\n<li>Zou, H. (2006). The adaptive Lasso and its oracle properties. <em>Journal of the American Statistical Association<\/em>, 101(476), 1418\u20131429. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1198\/016214506000000735\">https:\/\/doi.org\/10.1198\/016214506000000735<\/a><\/li>\n<li>Zou, H., &amp; Hastie, T. (2005). Regularization and variable selection via the Elastic Net. <em>Journal of the Royal Statistical Society: Series B (Statistical Methodology)<\/em>, 67(2), 301\u2013320. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1111\/j.1467-9868.2005.00503.x\">https:\/\/doi.org\/10.1111\/j.1467-9868.2005.00503.x<\/a><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>D\u00e9couvrez les fondements th\u00e9oriques, math\u00e9matiques et m\u00e9thodologiques de la r\u00e9gression Lasso appliqu\u00e9e \u00e0 l&rsquo;analyse de donn\u00e9es psychologiques et comportementales.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","template":"","categories":[1829,2620],"tags":[5999,4787,16,6075,7048,6936],"class_list":["post-5103","psych_stat","type-psych_stat","status-publish","hentry","category-methodologie-statistique","category-psychometrie-et-analyse-de-donnees","tag-apprentissage-statistique","tag-multicolinearite","tag-psychometrie","tag-regression-lasso","tag-regularisation-l1","tag-selection-de-variables"],"_links":{"self":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_stat\/5103","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_stat"}],"about":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/types\/psych_stat"}],"author":[{"embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=5103"}],"version-history":[{"count":0,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_stat\/5103\/revisions"}],"wp:attachment":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=5103"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=5103"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=5103"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}