{"id":4848,"date":"2026-09-11T13:43:23","date_gmt":"2026-09-11T13:43:23","guid":{"rendered":"http:\/\/french.arabpsychology.com\/statistics\/analyse-discriminante-lineaire-dans-r-etape-par-etape\/"},"modified":"2026-09-11T13:43:25","modified_gmt":"2026-09-11T13:43:25","slug":"analyse-discriminante-lineaire-dans-r-etape-par-etape","status":"publish","type":"psych_stat","link":"https:\/\/french.arabpsychology.com\/?psych_stat=analyse-discriminante-lineaire-dans-r-etape-par-etape","title":{"rendered":"Analyse discriminante lin\u00e9aire dans R (\u00e9tape par \u00e9tape)"},"content":{"rendered":"

L’analyse discriminante lin\u00e9aire (souvent abr\u00e9g\u00e9e sous l’acronyme anglophone LDA pour Linear Discriminant Analysis<\/em>) constitue l’un des piliers m\u00e9thodologiques fondamentaux de la statistique multivari\u00e9e et de l’apprentissage automatique supervis\u00e9. D\u00e9velopp\u00e9e originellement dans le contexte de la morphom\u00e9trie et de la taxonomie biologique, cette technique \u00e9l\u00e9gante poursuit un double objectif \u00e0 la fois g\u00e9om\u00e9trique et d\u00e9cisionnel : d’une part, r\u00e9duire la dimensionnalit\u00e9 d’un ensemble de variables explicatives continues en projetant les observations dans un sous-espace vectoriel optimal, et d’autre part, \u00e9tablir des fronti\u00e8res de d\u00e9cision lin\u00e9aires permettant d’affecter avec une pr\u00e9cision quantifiable de nouvelles observations \u00e0 des cat\u00e9gories mutuellement exclusives. Contrairement aux approches purement descriptives, l’analyse discriminante capitalise sur l’\u00e9tiquetage pr\u00e9alable des donn\u00e9es pour guider la projection factorielle, maximisant de ce fait les \u00e9carts perceptibles entre les sous-populations \u00e9tudi\u00e9es.<\/p>\n

Dans le paysage contemporain de la science des donn\u00e9es, o\u00f9 foisonnent des algorithmes hautement param\u00e9triques qualifi\u00e9s de \u00ab bo\u00eetes noires \u00bb, tels que les r\u00e9seaux de neurones profonds ou les for\u00eats al\u00e9atoires, l’analyse discriminante lin\u00e9aire conserve une place pr\u00e9pond\u00e9rante au sein du milieu acad\u00e9mique et industriel. Sa transparence structurelle, son assise probabiliste bay\u00e9sienne rigoureuse et son efficacit\u00e9 computationnelle sur des \u00e9chantillons de taille modeste en font un instrument analytique de premier plan, particuli\u00e8rement pl\u00e9biscit\u00e9 en \u00e9pid\u00e9miologie, en bio-informatique, en \u00e9conom\u00e9trie et en psychom\u00e9trie quantitative. L’environnement statistique GNU R<\/a>, r\u00e9put\u00e9 pour son \u00e9cosyst\u00e8me d’outils d’une puissance in\u00e9gal\u00e9e, offre un cadre programmatique id\u00e9al pour impl\u00e9menter, diagnostiquer et interpr\u00e9ter l’analyse discriminante lin\u00e9aire sous toutes ses coutures math\u00e9matiques.<\/p>\n

Ce trait\u00e9 exhaustif a pour vocation d’exposer de mani\u00e8re m\u00e9thodique, rigoureuse et pas \u00e0 pas l’ensemble des fondements th\u00e9oriques, des pr\u00e9requis diagnostiques, des protocoles de codage et des subtilit\u00e9s d’interpr\u00e9tation inh\u00e9rents \u00e0 la mod\u00e9lisation discriminante lin\u00e9aire sous R. En parcourant chaque \u00e9tape du cycle analytique — depuis la v\u00e9rification de la normalit\u00e9 multivari\u00e9e et de l’homosc\u00e9dasticit\u00e9 matricielle jusqu’\u00e0 la construction d’hyperplans s\u00e9parateurs et la validation crois\u00e9e d’apprentissage —, cet article s’adresse aux chercheurs, analystes de donn\u00e9es et statisticiens d\u00e9sireux de ma\u00eetriser la puissance pr\u00e9dictive et explicative de la m\u00e9thode de Fisher dans un cadre scientifique irr\u00e9prochable.<\/p>\n

1. Fondements th\u00e9oriques et math\u00e9matiques de l’analyse discriminante lin\u00e9aire<\/h2>\n

1.1 Origine et objectifs de la m\u00e9thode de Fisher<\/h3>\n

L’analyse discriminante lin\u00e9aire puise ses racines historiques directes dans les travaux pionniers du statisticien et g\u00e9n\u00e9ticien britannique Sir Ronald Aylmer Fisher<\/a>. En 1936, dans son article s\u00e9minal intitul\u00e9 The Use of Multiple Measurements in Taxonomic Problems<\/em> publi\u00e9 dans les Annals of Eugenics<\/em>, Fisher cherchait \u00e0 r\u00e9soudre un d\u00e9fi taxinomique concret soumis par le botaniste Edgar Anderson : comment diff\u00e9rencier avec exactitude plusieurs esp\u00e8ces sympatriques d’iris (Iris setosa<\/em>, Iris versicolor<\/em> et Iris virginica<\/em>) \u00e0 partir de mesures morphologiques continues portant sur la longueur et la largeur de leurs s\u00e9pales et p\u00e9tales. Face \u00e0 l’insuffisance d’une simple juxtaposition d’analyses de variance univari\u00e9es, Fisher formalisa une approche d’optimisation alg\u00e9brique combinatoire devenue classique.<\/p>\n

Sur le plan conceptuel, il est indispensable de dissocier la d\u00e9marche de Fisher de celle de l’analyse en composantes principales (ACP) introduite par Karl Pearson et Harold Hotelling. Alors que l’ACP op\u00e8re une r\u00e9duction de dimensionnalit\u00e9 strictement non supervis\u00e9e, cherchant les axes d’inertie maximale sans consid\u00e9ration aucune pour une \u00e9ventuelle appartenance de groupe, la LDA constitue une m\u00e9thode supervis\u00e9e. L’objectif fondamental de la m\u00e9thode fisherienne r\u00e9side dans la recherche d’une combinaison lin\u00e9aire des pr\u00e9dicteurs qui maximise le ratio de la variance inter-classes (la dispersion entre les barycentres des groupes) sur la variance intra-classe (la dispersion des individus autour de leur barycentre respectif). En d’autres termes, il s’agit de trouver un axe de projection le long duquel les groupes apparaissent les plus resserr\u00e9s sur eux-m\u00eames tout en \u00e9tant les plus \u00e9loign\u00e9s les uns des autres.<\/p>\n

Au fil des d\u00e9cennies, cette m\u00e9thodologie s’est affranchie de son cadre strictement morphologique pour investir avec succ\u00e8s l’ensemble des sciences quantitatives, et plus particuli\u00e8rement les sciences du comportement, la psychiatrie exp\u00e9rimentale et la neuropsychologie. Dans ces disciplines, o\u00f9 les chercheurs cherchent fr\u00e9quemment \u00e0 discriminer des typologies cliniques distinctes (par exemple, des sous-types d’amn\u00e9sie, des profils de r\u00e9mission sous traitement psychotrope ou des degr\u00e9s de d\u00e9pendance comportementale) sur la base de batteries complexes de tests psychom\u00e9triques standardis\u00e9s, l’analyse discriminante lin\u00e9aire apporte une clart\u00e9 interpr\u00e9tative sans \u00e9quivalent en mat\u00e9rialisant les axes synth\u00e9tiques qui structurent la divergence des profils observ\u00e9s.<\/p>\n

1.2 Formulation math\u00e9matique et g\u00e9om\u00e9trie de l’espace discriminant<\/h3>\n

D’un point de vue analytique, consid\u00e9rons un ensemble de donn\u00e9es constitu\u00e9 de $n$<\/span> observations r\u00e9parties au sein de $K$<\/span> classes distinctes, chaque individu \u00e9tant d\u00e9crit par un vecteur de $p$<\/span> variables quantitatives explicatives not\u00e9 $\\mathbf{x} in \\mathbb{R}^p$<\/span>. Soit $n_k$<\/span> le nombre d’individus appartenant \u00e0 la classe $C_k$<\/span>, de sorte que $\\sum_{k=1}^K n_k = n$<\/span>. La moyenne empirique du vecteur des pr\u00e9dicteurs au sein de la classe $C_k$<\/span> est d\u00e9sign\u00e9e par $boldsymbol{\\mu}_k = \\frac{1}{n_k} \\sum_{i in C_k} \\mathbf{x}_i$<\/span>, tandis que la moyenne g\u00e9n\u00e9rale de l’ensemble de l’\u00e9chantillon est not\u00e9e $boldsymbol{\\mu} = \\frac{1}{n} \\sum_{i=1}^n \\mathbf{x}_i$<\/span>. La dispersion globale des donn\u00e9es se d\u00e9compose rigoureusement, en vertu du th\u00e9or\u00e8me de Huygens, en deux matrices de variance-covariance fondamentales de dimensions $p \\times p$<\/span> : la matrice de dispersion intra-classe, not\u00e9e $\\mathbf{S}_W$<\/span> (pour Within-class scatter matrix<\/em>), et la matrice de dispersion inter-classes, not\u00e9e $\\mathbf{S}_B$<\/span> (pour Between-class scatter matrix<\/em>).<\/p>\n

La matrice de dispersion intra-classe $\\mathbf{S}_W$<\/span> capture la variabilit\u00e9 r\u00e9siduelle interne aux groupes. Elle est d\u00e9finie par la somme des matrices de dispersion de chaque groupe :
\n$$\\mathbf{S}_W = \\sum_{k=1}^K \\sum_{i in C_k} (\\mathbf{x}_i – boldsymbol{\\mu}_k)(\\mathbf{x}_i – boldsymbol{\\mu}_k)^T$$<\/span>
\nParall\u00e8lement, la matrice de dispersion inter-classes $\\mathbf{S}_B$<\/span> mesure l’\u00e9cartement des centres de gravit\u00e9 sp\u00e9cifiques par rapport au centre de gravit\u00e9 global :
\n$$\\mathbf{S}_B = \\sum_{k=1}^K n_k (boldsymbol{\\mu}_k – boldsymbol{\\mu})(boldsymbol{\\mu}_k – boldsymbol{\\mu})^T$$<\/span>
\nL’objectif de Fisher consiste \u00e0 identifier un vecteur unitaire de projection $\\mathbf{w} in \\mathbb{R}^p$<\/span> maximisant le crit\u00e8re scalaire de Rayleigh g\u00e9n\u00e9ralis\u00e9, formalis\u00e9 par le quotient :
\n$$J(\\mathbf{w}) = \\frac{\\mathbf{w}^T \\mathbf{S}_B \\mathbf{w}}{\\mathbf{w}^T \\mathbf{S}_W \\mathbf{w}}$$<\/span><\/p>\n

La r\u00e9solution analytique de ce probl\u00e8me d’optimisation sous contrainte s’op\u00e8re par le calcul diff\u00e9rentiel. En \u00e9galisant le gradient de $J(\\mathbf{w})$<\/span> \u00e0 z\u00e9ro, on d\u00e9montre que les vecteurs discriminants optimaux correspondent aux vecteurs propres de l’op\u00e9rateur $\\mathbf{S}_W^{-1} \\mathbf{S}_B$<\/span>. Il s’agit d\u00e8s lors de r\u00e9soudre le probl\u00e8me aux valeurs propres g\u00e9n\u00e9ralis\u00e9es suivant :
\n$$\\mathbf{S}_W^{-1} \\mathbf{S}_B \\mathbf{w} = \\lambda \\mathbf{w}$$<\/span>
\nDans ce cadre g\u00e9om\u00e9trique, chaque vecteur propre $\\mathbf{w}$<\/span> d\u00e9finit les coefficients d’une fonction canonique discriminante, et la valeur propre associ\u00e9e $lambda$<\/span> quantifie la proportion relative du pouvoir de s\u00e9paration imputable \u00e0 cette dimension. De surcro\u00eet, la m\u00e9trique naturelle qui r\u00e9git l’assignation spatiale au sein de cet espace factoriel n’est point la distance euclidienne canonique, mais la distance de Mahalanobis, laquelle pond\u00e8re chaque distance spatiale par l’inverse de la matrice de covariance commune, neutralisant ainsi les distorsions d’\u00e9chelle et les corr\u00e9lations mutuelles entre les pr\u00e9dicteurs.<\/p>\n

1.3 Distinction entre LDA binaire et LDA multivari\u00e9e \u00e0 classes multiples<\/h3>\n

Lorsque le probl\u00e8me de classification implique strictement deux modalit\u00e9s ($K = 2$<\/span>), l’analyse discriminante lin\u00e9aire pr\u00e9sente des propri\u00e9t\u00e9s math\u00e9matiques remarquables qui l’apparentent \u00e9troitement au mod\u00e8le lin\u00e9aire g\u00e9n\u00e9ral classique. Dans ce sc\u00e9nario binaire, la matrice $\\mathbf{S}_B$<\/span> est de rang 1, car le sous-espace reliant les deux barycentres est une droite d\u00e9finie par le vecteur $(boldsymbol{\\mu}_1 – boldsymbol{\\mu}_2)$<\/span>. Par cons\u00e9quent, le vecteur s\u00e9parateur optimal s’exprime directement sous forme close sans passer par une d\u00e9composition spectrale it\u00e9rative complexe :
\n$$\\mathbf{w} propto \\mathbf{S}_W^{-1} (boldsymbol{\\mu}_1 – boldsymbol{\\mu}_2)$$<\/span>
\nCe r\u00e9sultat \u00e9tablit un pont th\u00e9orique formel avec la r\u00e9gression par moindres carr\u00e9s ordinaires (MCO) : si l’on assigne une variable indicatrice binaire convenablement cod\u00e9e comme variable d\u00e9pendante continue, les coefficients de r\u00e9gression estim\u00e9s sont strictement proportionnels aux poids discriminants obtenus par la LDA de Fisher.<\/p>\n

D\u00e8s lors que le nombre de classes d\u00e9passe deux ($K ge 3$<\/span>), nous basculons dans l’analyse discriminante canonique \u00e0 classes multiples. Puisque la matrice $\\mathbf{S}_B$<\/span> est construite \u00e0 partir des $K$<\/span> centres de gravit\u00e9 de dimension $p$<\/span>, son rang alg\u00e9brique maximal est born\u00e9 par la quantit\u00e9 $min(p, K – 1)$<\/span>. Ainsi, le nombre de fonctions discriminantes lin\u00e9aires non triviales et mutuellement orthogonales ne peut en aucun cas exc\u00e9der le nombre de groupes diminu\u00e9 d’une unit\u00e9, ni le nombre de variables descriptives disponibles. Cette contrainte dimensionnelle conf\u00e8re \u00e0 la LDA une remarquable parcimonie g\u00e9om\u00e9trique : par exemple, un probl\u00e8me comportant trois cat\u00e9gories sera int\u00e9gralement et fid\u00e8lement repr\u00e9sentable dans un plan factoriel bi-dimensionnel form\u00e9 par les deux premi\u00e8res variables canoniques, ind\u00e9pendamment du fait que l’on dispose initialement de dix ou cent pr\u00e9dicteurs continus.<\/p>\n

Sur le plan d\u00e9cisionnel, l’attribution d’un nouvel individu $\\mathbf{x}^*$<\/span> repose sur les principes de la th\u00e9orie bay\u00e9sienne de la d\u00e9cision. En notant $\\pi_k$<\/span> la probabilit\u00e9 a priori<\/em> d’appartenance \u00e0 la classe $C_k$<\/span> (d\u00e9termin\u00e9e empiriquement par la proportion observ\u00e9e $\\frac{n_k}{n}$<\/span> ou impos\u00e9e par la pr\u00e9valence connue dans la population g\u00e9n\u00e9rale) et $f_k(\\mathbf{x})$<\/span> la fonction de densit\u00e9 conditionnelle de la classe, le th\u00e9or\u00e8me de Bayes permet d’\u00e9tablir la probabilit\u00e9 a posteriori<\/em> formelle :
\n$$P(C_k mid \\mathbf{x}^*) = \\frac{\\pi_k f_k(\\mathbf{x}^*)}{\\sum_{j=1}^K \\pi_j f_j(\\mathbf{x}^*)}$$<\/span>
\nLa r\u00e8gle d’affectation optimale de Bayes attribue l’individu $\\mathbf{x}^*$<\/span> \u00e0 la modalit\u00e9 $k$<\/span> pour laquelle cette probabilit\u00e9 conditionnelle a posteriori<\/em> est maximale, ce qui revient \u00e0 minimiser le risque de classement erron\u00e9 sous un sch\u00e9ma de co\u00fbt d’erreur sym\u00e9trique.<\/p>\n

2. Hypoth\u00e8ses statistiques fondamentales et diagnostics pr\u00e9alables<\/h2>\n

2.1 Hypoth\u00e8se de normalit\u00e9 multivari\u00e9e des variables explicatives<\/h3>\n

L’assise probabiliste de l’analyse discriminante lin\u00e9aire repose sur l’hypoth\u00e8se centrale selon laquelle le vecteur al\u00e9atoire des pr\u00e9dicteurs $\\mathbf{X}$<\/span> suit une distribution gaussienne multivari\u00e9e conditionnellement \u00e0 chaque classe $C_k$<\/span>, ce qui s’\u00e9crit formellement $\\mathbf{X} mid C_k \\sim \\mathcal{N}_p(boldsymbol{\\mu}_k, boldsymbol{\\Sigma})$<\/span>. Cette pr\u00e9somption implique non seulement que chaque variable prise isol\u00e9ment pr\u00e9sente une distribution normale unidimensionnelle, mais \u00e9galement que toutes les combinaisons lin\u00e9aires possibles de ces variables demeurent normalement distribu\u00e9es. La violation substantielle de cette hypoth\u00e8se affaiblit le caract\u00e8re optimal de la r\u00e8gle de d\u00e9cision bay\u00e9sienne lin\u00e9aire et alt\u00e8re la fiabilit\u00e9 des probabilit\u00e9s d’appartenance calcul\u00e9es.<\/p>\n

Dans l’environnement de calcul R, l’\u00e9valuation empirique de cette normalit\u00e9 conjointe exige le recours \u00e0 des tests d’hypoth\u00e8se multivari\u00e9s sp\u00e9cifiques impl\u00e9ment\u00e9s dans des packages sp\u00e9cialis\u00e9s tels que MVN<\/a> ou mvdalab<\/code>. Les trois \u00e9preuves statistiques les plus reconnues sont :<\/p>\n