{"id":4877,"date":"2026-09-11T13:59:47","date_gmt":"2026-09-11T13:59:47","guid":{"rendered":"http:\/\/french.arabpsychology.com\/statistics\/analyse-discriminante-quadratique-dans-r-etape-par-etape\/"},"modified":"2026-09-11T13:59:47","modified_gmt":"2026-09-11T13:59:47","slug":"analyse-discriminante-quadratique-dans-r-etape-par-etape","status":"publish","type":"psych_stat","link":"https:\/\/french.arabpsychology.com\/?psych_stat=analyse-discriminante-quadratique-dans-r-etape-par-etape","title":{"rendered":"Analyse discriminante quadratique dans R (\u00e9tape par \u00e9tape)"},"content":{"rendered":"

Dans le champ de l’apprentissage statistique supervis\u00e9 et de l’\u00e9conom\u00e9trie appliqu\u00e9e, la classification d’observations continues au sein de cat\u00e9gories discr\u00e8tes constitue une probl\u00e9matique fondamentale. Parmi la panoplie d’algorithmes pr\u00e9dictifs \u00e0 disposition des chercheurs, les m\u00e9thodes g\u00e9n\u00e9ratives fond\u00e9es sur le formalisme probabiliste bay\u00e9sien occupent une place singuli\u00e8re. Contrairement aux approches discriminatives directes, telles que la r\u00e9gression logistique polytomique ou les s\u00e9parateurs \u00e0 vaste marge, qui mod\u00e9lisent sans d\u00e9tour la fronti\u00e8re s\u00e9paratrice ou la probabilit\u00e9 conditionnelle d’appartenance, les mod\u00e8les g\u00e9n\u00e9ratifs cherchent \u00e0 appr\u00e9hender la distribution sous-jacente des pr\u00e9dicteurs pour chaque modalit\u00e9 de la variable r\u00e9ponse. Cette perspective th\u00e9orique offre une compr\u00e9hension intime de la topologie des donn\u00e9es multivari\u00e9es et permet d’incorporer de mani\u00e8re transparente des informations a priori<\/em> sur la pr\u00e9valence des classes.<\/p>\n

Au c\u0153ur de cette famille d’algorithmes se trouve l’analyse discriminante, initi\u00e9e dans sa variante lin\u00e9aire par le statisticien Ronald A. Fisher en 1936. Si l’analyse discriminante lin\u00e9aire repose sur le postulat restrictif d’homog\u00e9n\u00e9it\u00e9 des matrices de covariance entre les sous-populations, la r\u00e9alit\u00e9 empirique des donn\u00e9es issues des sciences de la vie, du comportement ou de la finance met fr\u00e9quemment en \u00e9vidence des dispersions et des structures de corr\u00e9lation hautement divergentes selon les groupes consid\u00e9r\u00e9s. Face \u00e0 cette h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 structurelle, l’analyse discriminante quadratique (ADQ), ou Quadratic Discriminant Analysis<\/em> (QDA), s’impose comme une extension naturelle et puissante. En rel\u00e2chant l’hypoth\u00e8se d’homosc\u00e9dasticit\u00e9, l’ADQ conf\u00e8re aux fronti\u00e8res de d\u00e9cision une courbure non lin\u00e9aire de nature quadratique, capable d’\u00e9pouser des topologies complexes sous forme d’ellipso\u00efdes, de parabolo\u00efdes ou d’hyperbolo\u00efdes.<\/p>\n

Cet article propose une exploration int\u00e9grale et m\u00e9thodologique de l’analyse discriminante quadratique sous l’environnement de programmation statistique R. Con\u00e7u selon les standards de rigueur de la recherche quantitative et de l’ing\u00e9nierie des donn\u00e9es, ce guide d\u00e9taille l’ensemble du continuum analytique, depuis les d\u00e9rivations math\u00e9matiques sous-tendant la r\u00e8gle de d\u00e9cision bay\u00e9sienne jusqu’aux diagnostics de validit\u00e9, \u00e0 l’entra\u00eenement algorithmique, \u00e0 l’\u00e9valuation probabiliste et \u00e0 la visualisation spatiale des s\u00e9parations de classes. \u00c0 travers un protocole pas \u00e0 pas, ce travail met en exergue les compromis th\u00e9oriques entre flexibilit\u00e9 et parcimonie param\u00e9trique, fournissant aux praticiens les outils d’une prise de d\u00e9cision \u00e9clair\u00e9e face \u00e0 des architectures de donn\u00e9es multivari\u00e9es complexes.<\/p>\n

1. Introduction th\u00e9orique \u00e0 l’analyse discriminante quadratique (ADQ)<\/h2>\n

1.1 D\u00e9finition et principes fondamentaux de la m\u00e9thode<\/h3>\n

L’analyse discriminante quadratique se d\u00e9finit comme une technique d’apprentissage statistique supervis\u00e9 destin\u00e9e \u00e0 r\u00e9soudre des probl\u00e8mes de classification dans des espaces vectoriels r\u00e9els de dimension continue. Appartenant \u00e0 la cat\u00e9gorie des classifieurs bay\u00e9siens g\u00e9n\u00e9ratifs, elle op\u00e8re en mod\u00e9lisant la densit\u00e9 de probabilit\u00e9 conditionnelle conjointe des pr\u00e9dicteurs pour chaque classe pr\u00e9sente au sein de l’\u00e9chantillon. L’objectif fondamental r\u00e9side dans l’attribution d’un vecteur d’observations multidimensionnel \u00e0 l’une des classes pr\u00e9d\u00e9finies en s’appuyant sur le th\u00e9or\u00e8me de Bayes. Ce th\u00e9or\u00e8me permet de convertir les densit\u00e9s de probabilit\u00e9 conditionnelles de classe, associ\u00e9es \u00e0 des probabilit\u00e9s a priori<\/em> d’occurrence des groupes, en probabilit\u00e9s a posteriori<\/em> d’appartenance.<\/p>\n

Dans un cadre multivari\u00e9 o\u00f9 les pr\u00e9dicteurs sont continus, l’analyse discriminante quadratique postule que les observations de chaque groupe suivent une distribution gaussienne multivari\u00e9e. La sp\u00e9cificit\u00e9 discriminante de l’ADQ r\u00e9side dans le traitement accord\u00e9 \u00e0 la dispersion des donn\u00e9es : contrairement \u00e0 l’analyse discriminante lin\u00e9aire qui impose une dispersion identique \u00e0 l’ensemble des groupes, l’ADQ autorise chaque groupe \u00e0 poss\u00e9der sa propre matrice de variance-covariance. Cette individualisation param\u00e9trique conf\u00e8re \u00e0 l’ADQ la capacit\u00e9 th\u00e9orique de capturer des g\u00e9om\u00e9tries de dispersion divergentes. Lorsqu’une classe pr\u00e9sente une variabilit\u00e9 restreinte tandis qu’une autre manifeste une forte dispersion spatiale ou des corr\u00e9lations crois\u00e9es obliques, le mod\u00e8le g\u00e9n\u00e8re naturellement des surfaces de s\u00e9paration incurv\u00e9es.<\/p>\n

La r\u00e8gle d’affectation finale ob\u00e9it au crit\u00e8re du maximum a posteriori<\/em> (MAP). Une nouvelle observation est assign\u00e9e au groupe pour lequel sa densit\u00e9 conjointe pond\u00e9r\u00e9e par la probabilit\u00e9 pr\u00e9alable est maximale. D\u00e8s lors que l’\u00e9galit\u00e9 des covariances n’est plus requise, les termes quadratiques issus du d\u00e9veloppement des formes quadratiques de Mahalanobis ne s’annulent plus dans l’\u00e9quation de la fronti\u00e8re de d\u00e9cision. Cela donne naissance \u00e0 des hypersurfaces de s\u00e9paration quadratiques, englobant des segments paraboliques, elliptiques ou hyperboliques. L’ADQ r\u00e9sout ainsi avec \u00e9l\u00e9gance la limitation intrins\u00e8que des s\u00e9parateurs lin\u00e9aires, sans exiger le recours \u00e0 des transformations de noyaux complexes ou \u00e0 des architectures de bo\u00eetes noires opaques.<\/p>\n

1.2 Place de l’ADQ dans les sciences comportementales et quantitatives<\/h3>\n

Dans le domaine des sciences comportementales, cognitives et biom\u00e9dicales, les chercheurs sont continuellement confront\u00e9s \u00e0 des profils empiriques dont les variances intra-groupes ne sauraient \u00eatre consid\u00e9r\u00e9es comme homog\u00e8nes. Consid\u00e9rons, par exemple, la segmentation de profils psychom\u00e9triques issue d’\u00e9chelles de personnalit\u00e9 ou d’inventaires cliniques. Les individus composant un groupe t\u00e9moin neurotypique ont tendance \u00e0 pr\u00e9senter des scores resserr\u00e9s autour de la norme soci\u00e9tale, induisant une matrice de variance-covariance caract\u00e9ris\u00e9e par une variance mod\u00e9r\u00e9e et des corr\u00e9lations stables. \u00c0 l’inverse, les cohortes manifestant des psychopathologies s\u00e9v\u00e8res pr\u00e9sentent fr\u00e9quemment une h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 consid\u00e9rable, marqu\u00e9e par une dispersion d\u00e9mesur\u00e9e des sympt\u00f4mes et des corr\u00e9lations atypiques entre dimensions affectives et ex\u00e9cutives. L’analyse discriminante quadratique fournit un cadre conceptuel adapt\u00e9 pour mod\u00e9liser cette h\u00e9t\u00e9rosc\u00e9dasticit\u00e9 fonctionnelle sans distordre la variance empirique des sous-groupes.<\/p>\n

En m\u00e9decine translationnelle et en neuropsychologie clinique, la classification de sous-types pathologiques \u00e0 partir de biomarqueurs neurophysiologiques, d’imagerie fonctionnelle ou d’\u00e9valuations cognitives informatis\u00e9es rel\u00e8ve de dynamiques similaires. Les alt\u00e9rations physiopathologiques n’induisent pas uniquement un d\u00e9calage du centre de gravit\u00e9 des distributions moyennes, mais modifient \u00e9galement la structure des synergies biologiques, ce qui alt\u00e8re la covariance entre signaux. L’incapacit\u00e9 d’un classifieur lin\u00e9aire \u00e0 int\u00e9grer ces distorsions de forme entra\u00eene des taux d’erreur \u00e9lev\u00e9s, en particulier dans les zones de transition o\u00f9 la dispersion du groupe pathologique englobe partiellement le groupe sain. L’ADQ permet de circonscrire pr\u00e9cis\u00e9ment la sous-population \u00e0 faible variance au sein d’une enveloppe de d\u00e9cision ellipso\u00efdale ferm\u00e9e, \u00e9vitant ainsi des faux n\u00e9gatifs pr\u00e9judiciables sur le plan diagnostique.<\/p>\n

Par ailleurs, les \u00e9tudes psychologiques quantitatives mobilisant des m\u00e9thodologies en vie r\u00e9elle ou des \u00e9valuations \u00e9cologiques momentan\u00e9es recueillent des donn\u00e9es \u00e0 haute densit\u00e9 caract\u00e9ris\u00e9es par des sous-groupes structurellement asym\u00e9triques. L’h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 des matrices de covariance refl\u00e8te des diff\u00e9rences r\u00e9elles dans la flexibilit\u00e9 cognitive, la variabilit\u00e9 de l’humeur ou la r\u00e9gulation \u00e9motionnelle des participants. Rejeter arbitrairement cette h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 pour satisfaire aux pr\u00e9requis d’un algorithme lin\u00e9aire constitue une simplification pr\u00e9judiciable \u00e0 la validit\u00e9 \u00e9cologique des conclusions. En conservant l’int\u00e9grit\u00e9 de la structure stochastique propre \u00e0 chaque strate, l’ADQ s’\u00e9rige en outil de cartographie ph\u00e9notypique particuli\u00e8rement robuste au sein des sciences quantitatives modernes.<\/p>\n

1.3 Objectifs p\u00e9dagogiques du tutoriel pas \u00e0 pas<\/h3>\n

Ce guide technique a pour vocation de fournir aux chercheurs, analystes de donn\u00e9es et statisticiens une autonomie compl\u00e8te dans le d\u00e9ploiement op\u00e9rationnel de l’analyse discriminante quadratique au sein de l’\u00e9cosyst\u00e8me statistique du logiciel R<\/a>. Il s’agit de d\u00e9passer l’utilisation rudimentaire des fonctions logicielles pour embrasser l’ensemble du cycle de vie du mod\u00e8le, en ancrant chaque d\u00e9cision d’ing\u00e9nierie dans ses justifications math\u00e9matiques sous-jacentes. Les comp\u00e9tences vis\u00e9es englobent la manipulation experte des structures de donn\u00e9es, la r\u00e9alisation des tests diagnostiques indispensables, l’optimisation des hyperparam\u00e8tres et la formalisation de pr\u00e9dictions calibr\u00e9es.<\/p>\n

Le premier axe p\u00e9dagogique concerne la ma\u00eetrise de la cha\u00eene de traitement compl\u00e8te sous R, depuis l’exploration structurelle des donn\u00e9es brutes jusqu’\u00e0 la mod\u00e9lisation \u00e0 l’aide de la biblioth\u00e8que sp\u00e9cialis\u00e9e MASS<\/a> et des interfaces d’apprentissage supervis\u00e9 comme caret<\/a>. Le lecteur sera guid\u00e9 dans l’impl\u00e9mentation de partitions d’\u00e9chantillonnage stratifi\u00e9es, dans le traitement d’\u00e9ventuels probl\u00e8mes de colin\u00e9arit\u00e9 et dans le param\u00e9trage fin des probabilit\u00e9s a priori<\/em>. La tra\u00e7abilit\u00e9 num\u00e9rique, la reproductibilit\u00e9 des r\u00e9sultats par le contr\u00f4le des g\u00e9n\u00e9rateurs de nombres pseudo-al\u00e9atoires et la documentation des environnements d’ex\u00e9cution feront l’objet d’une attention sp\u00e9cifique.<\/p>\n

Le second axe porte sur la contextualisation et l’interpr\u00e9tation des r\u00e9sultats issus du mod\u00e8le. Il ne s’agit pas uniquement d’extraire un taux de bonne classification globale, mais de diss\u00e9quer la matrice de confusion, de calculer les m\u00e9triques de sensibilit\u00e9, de sp\u00e9cificit\u00e9, de pr\u00e9cision \u00e9quilibr\u00e9e, ainsi que les coefficients d’accord inter-juges de Cohen. L’apprenant acquerra l’aptitude \u00e0 \u00e9valuer le doute de classification en analysant les distributions de probabilit\u00e9s a posteriori<\/em> et l’entropie informationnelle des pr\u00e9dictions. Enfin, une place de choix sera accord\u00e9e \u00e0 la visualisation des fronti\u00e8res quadratiques en deux dimensions et dans les espaces r\u00e9duits, offrant une passerelle intuitive entre abstractions matricielles et r\u00e9alit\u00e9s g\u00e9om\u00e9triques.<\/p>\n

2. Fondements math\u00e9matiques : comparaison structurelle entre LDA et QDA<\/h2>\n

2.1 Formulation probabiliste et r\u00e8gle de Bayes<\/h3>\n

L’assise math\u00e9matique de l’analyse discriminante quadratique repose sur le formalisme probabiliste de la d\u00e9cision bay\u00e9sienne. Soit un vecteur d’observations $x in \\mathbb{R}^p$<\/span> comprenant $p$<\/span> pr\u00e9dicteurs quantitatifs continus, et une variable d\u00e9pendante qualitative $Y$<\/span> pouvant prendre ses modalit\u00e9s dans un ensemble discret de $K$<\/span> classes not\u00e9 ${1, 2, dots, K}$<\/span>. Selon le th\u00e9or\u00e8me de Bayes, la probabilit\u00e9 a posteriori<\/em> qu’une observation sp\u00e9cifique $x$<\/span> appartienne \u00e0 la classe $k$<\/span>, not\u00e9e $P(Y = k mid X = x)$<\/span>, s’exprime par le ratio suivant :<\/p>\n

$$P(Y = k mid X = x) = \\frac{\\pi_k f_k(x)}{\\sum_{j=1}^K \\pi_j f_j(x)}$$<\/span><\/p>\n

Dans cette expression fondamentale, $\\pi_k = P(Y = k)$<\/span> repr\u00e9sente la probabilit\u00e9 a priori<\/em> associ\u00e9e \u00e0 la classe $k$<\/span>, refl\u00e9tant la proportion relative de ce groupe dans la population parente ou une croyance th\u00e9orique \u00e9tablie en amont de l’\u00e9chantillonnage. Le terme $f_k(x) = f(x mid Y = k)$<\/span> d\u00e9signe la fonction de densit\u00e9 de probabilit\u00e9 conditionnelle de la classe $k$<\/span>, mod\u00e9lisant la probabilit\u00e9 d’observer la combinaison pr\u00e9cise de pr\u00e9dicteurs $x$<\/span> sachant que l’individu est issu du groupe $k$<\/span>. Le d\u00e9nominateur assure la normalisation de la probabilit\u00e9 sur l’ensemble exhaustif des classes possibles.<\/p>\n

L’ADQ formule l’hypoth\u00e8se centrale que chaque densit\u00e9 conditionnelle suit une loi normale multivari\u00e9e d’esp\u00e9rance $\\mu_k in \\mathbb{R}^p$<\/span> et de matrice de variance-covariance $\\Sigma_k in \\mathbb{R}^{p \\times p}$<\/span>, suppos\u00e9e sym\u00e9trique et d\u00e9finie positive :<\/p>\n

$$f_k(x) = \\frac{1}{(2\\pi)^{p\/2} |\\Sigma_k|^{1\/2}} \\exp\\left( -\\frac{1}{2} (x – \\mu_k)^T \\Sigma_k^{-1} (x – \\mu_k) \\right)$$<\/span><\/p>\n

L’attribution de l’observation $x$<\/span> s’effectue en maximisant la probabilit\u00e9 conditionnelle $P(Y = k mid X = x)$<\/span>. Dans la mesure o\u00f9 le d\u00e9nominateur de la formule de Bayes est invariant par rapport \u00e0 l’indice de classe $k$<\/span> et que la fonction logarithme n\u00e9p\u00e9rien est une bijection strictement croissante, cette r\u00e8gle revient \u00e0 maximiser la fonction discriminante logarithmique $\\delta_k(x) = \\ln(\\pi_k f_k(x))$<\/span>. En d\u00e9veloppant cette fonction et en \u00e9cartant les termes constants $(p\/2)\\ln(2\\pi)$<\/span>, nous obtenons la fonction discriminante quadratique fondamentale :<\/p>\n

$$\\delta_k(x) = -\\frac{1}{2} \\ln |\\Sigma_k| – \\frac{1}{2} (x – \\mu_k)^T \\Sigma_k^{-1} (x – \\mu_k) + \\ln \\pi_k$$<\/span><\/p>\n

L’assignation algorithmique affecte formellement le vecteur $x$<\/span> \u00e0 la classe $\\hat{C}(x)$<\/span> selon le crit\u00e8re d’optimisation univoque :<\/p>\n

$$\\hat{C}(x) = arg\\max_{k in {1, dots, K}} \\delta_k(x)$$<\/span><\/p>\n

2.2 L’hypoth\u00e8se critique d’homosc\u00e9dasticit\u00e9 vs h\u00e9t\u00e9rosc\u00e9dasticit\u00e9<\/h3>\n

La divergence d’architecture entre l’analyse discriminante lin\u00e9aire (LDA) et l’analyse discriminante quadratique (QDA) r\u00e9side exclusivement dans la restriction impos\u00e9e \u00e0 la structure de dispersion. L’analyse discriminante lin\u00e9aire impose le postulat d’homosc\u00e9dasticit\u00e9 stricte, selon lequel toutes les classes partagent une seule et unique matrice de variance-covariance commune, soit $\\Sigma_k = \\Sigma$<\/span> pour tout $k in {1, dots, K}$<\/span>. En injectant cette \u00e9galit\u00e9 dans l’expression de la fonction discriminante, le terme quadratique d\u00e9velopp\u00e9 $x^T \\Sigma^{-1} x$<\/span> devient g\u00e9n\u00e9rique \u00e0 l’ensemble des classes ; il s’\u00e9limine d\u00e8s lors que l’on calcule la diff\u00e9rence discriminante entre deux classes quelconques $k$<\/span> et $l$<\/span> :<\/p>\n

$$\\delta_k(x) – \\delta_l(x) = x^T \\Sigma^{-1} (\\mu_k – \\mu_l) – \\frac{1}{2}\\mu_k^T \\Sigma^{-1} \\mu_k + \\frac{1}{2}\\mu_l^T \\Sigma^{-1} \\mu_l + \\ln\\left(\\frac{\\pi_k}{\\pi_l}\\right)$$<\/span><\/p>\n

Cette diff\u00e9rence \u00e9tant une fonction affine du vecteur $x$<\/span>, l’\u00e9quation $\\delta_k(x) – \\delta_l(x) = 0$<\/span>, qui d\u00e9limite la fronti\u00e8re s\u00e9parant les r\u00e9gions d’affectation des classes $k$<\/span> et $l$<\/span>, correspond g\u00e9om\u00e9triquement \u00e0 un hyperplan de dimension $p-1$<\/span>. En revanche, d\u00e8s lors que l’on abandonne le postulat d’homog\u00e9n\u00e9it\u00e9 au profit de l’h\u00e9t\u00e9rosc\u00e9dasticit\u00e9, la matrice sp\u00e9cifique $\\Sigma_k$<\/span> demeure attach\u00e9e \u00e0 chaque classe. Le terme quadratique $x^T \\Sigma_k^{-1} x$<\/span> subsiste in\u00e9vitablement lors du calcul de la fronti\u00e8re $\\delta_k(x) – \\delta_l(x) = 0$<\/span> :<\/p>\n

$$-\\frac{1}{2} x^T (\\Sigma_k^{-1} – \\Sigma_l^{-1}) x + x^T (\\Sigma_k^{-1} \\mu_k – \\Sigma_l^{-1} \\mu_l) – \\frac{1}{2} \\left( \\mu_k^T \\Sigma_k^{-1} \\mu_k – \\mu_l^T \\Sigma_l^{-1} \\mu_l \\right) – \\frac{1}{2} \\ln\\left(\\frac{|\\Sigma_k|}{|\\Sigma_l|}\\right) + \\ln\\left(\\frac{\\pi_k}{\\pi_l}\\right) = 0$$<\/span><\/p>\n

Puisque la matrice $(\\Sigma_k^{-1} – \\Sigma_l^{-1})$<\/span> n’est pas nulle, cette \u00e9quation d\u00e9crit une quadrique dans l’espace $\\mathbb{R}^p$<\/span>. Les fronti\u00e8res s\u00e9paratrices qui en r\u00e9sultent cessent d’\u00eatre planes pour adopter des courbures paraboliques, hyperboliques ou coniques. Si une classe poss\u00e8de une variance nettement plus resserr\u00e9e qu’une autre dans toutes les directions orthogonales, la fronti\u00e8re forme une ellipso\u00efde ferm\u00e9e qui isole le groupe compact au milieu de la distribution plus \u00e9tendue du second groupe, configuration qu’aucun s\u00e9parateur lin\u00e9aire ne peut mat\u00e9rialiser fid\u00e8lement.<\/p>\n

2.3 Compromis biais-variance et complexit\u00e9 param\u00e9trique<\/h3>\n

L’\u00e9mancipation g\u00e9om\u00e9trique offerte par l’analyse discriminante quadratique induit un co\u00fbt calculatoire et statistique substantiel r\u00e9gul\u00e9 par le compromis biais-variance. Dans le cadre de la LDA, le mod\u00e8le requiert l’estimation de $K-1$<\/span> probabilit\u00e9s a priori<\/em> ind\u00e9pendantes, de $K$<\/span> vecteurs de moyennes comportant chacun $p$<\/span> \u00e9l\u00e9ments, et d’une unique matrice de covariance commune contenant $p(p+1)\/2$<\/span> \u00e9l\u00e9ments uniques en vertu de sa sym\u00e9trie. Le nombre total de param\u00e8tres scalaires libres s’\u00e9tablit ainsi \u00e0 :<\/p>\n

$$N_{\\text{param, LDA}} = (K – 1) + K \\cdot p + \\frac{p(p+1)}{2}$$<\/span><\/p>\n

Dans l’analyse discriminante quadratique, chaque groupe n\u00e9cessite l’estimation de sa propre matrice de covariance $\\Sigma_k$<\/span>. Le volume param\u00e9trique explose de mani\u00e8re proportionnelle au nombre de classes :<\/p>\n

$$N_{\\text{param, QDA}} = (K – 1) + K \\cdot p + K \\cdot \\frac{p(p+1)}{2}$$<\/span><\/p>\n

Cette prolif\u00e9ration quadratique de param\u00e8tres vis-\u00e0-vis du nombre de pr\u00e9dicteurs $p$<\/span> augmente drastiquement la variance d’estimation du mod\u00e8le. Si la taille de l’\u00e9chantillon $n$<\/span> n’est pas substantiellement sup\u00e9rieure \u00e0 $K \\cdot p(p+1)\/2$<\/span>, les estimateurs empiriques des matrices de covariance deviennent hautement instables. Chaque fluctuation stochastique propre \u00e0 l’\u00e9chantillon d’apprentissage induit une rotation ou une distorsion artificielle des ellipso\u00efdes de covariance, conduisant \u00e0 un risque aigu de surapprentissage (overfitting<\/em>). Dans une telle configuration, l’ADQ pr\u00e9sentera une excellente pr\u00e9cision apparente sur le jeu d’entra\u00eenement, mais \u00e9chouera \u00e0 g\u00e9n\u00e9raliser sur des donn\u00e9es non observ\u00e9es.<\/p>\n

\u00c0 l’inverse, l’analyse discriminante lin\u00e9aire poss\u00e8de un biais de mod\u00e9lisation plus \u00e9lev\u00e9 en raison de son hypoth\u00e8se simplificatrice d’homog\u00e9n\u00e9it\u00e9 des covariances, mais une variance d’estimation remarquablement faible. Le choix m\u00e9thodique entre LDA et QDA ne saurait donc d\u00e9pendre d’une pr\u00e9f\u00e9rence dogmatique pour la flexibilit\u00e9, mais d\u00e9coule d’un arbitrage rationnel guid\u00e9 par le ratio observations\/param\u00e8tres, la confirmation empirique de l’h\u00e9t\u00e9rosc\u00e9dasticit\u00e9 par des tests formels de type Box’s M, et l’\u00e9valuation crois\u00e9e de l’erreur de g\u00e9n\u00e9ralisation.<\/p>\n

3. Hypoth\u00e8ses statistiques sous-jacentes et diagnostics de validit\u00e9<\/h2>\n

3.1 Normalit\u00e9 multivari\u00e9e des pr\u00e9dicteurs<\/h3>\n

La d\u00e9rivation formelle de la r\u00e8gle quadratique de Bayes repose sur l’hypoth\u00e8se que la distribution des variables explicatives conditionnellement \u00e0 chaque classe est rigoureusement conforme \u00e0 une loi gaussienne multidimensionnelle. L’\u00e9valuation de cette propri\u00e9t\u00e9 ne peut se r\u00e9duire \u00e0 des v\u00e9rifications de normalit\u00e9 univari\u00e9e men\u00e9es s\u00e9par\u00e9ment sur chaque pr\u00e9dicteur. En effet, l’existence de distributions marginales normales constitue une condition n\u00e9cessaire mais non suffisante pour garantir la normalit\u00e9 conjointe multivari\u00e9e. Des structures de d\u00e9pendance non lin\u00e9aires peuvent corrompre la g\u00e9om\u00e9trie gaussienne sans alt\u00e9rer les profils univari\u00e9s.<\/p>\n

Pour soumettre cette hypoth\u00e8se \u00e0 une v\u00e9rification empirique rigoureuse, les analystes recourent \u00e0 des tests d’ad\u00e9quation multivari\u00e9s standardis\u00e9s, au premier rang desquels figure le test d’asym\u00e9trie et d’aplatissement de Mardia (Mardia’s Skewness and Kurtosis Test<\/em>). Fond\u00e9 sur les moments statistiques d’ordre 3 et 4 calcul\u00e9s \u00e0 partir des distances de Mahalanobis g\u00e9n\u00e9ralis\u00e9es, le test de Mardia quantifie la distorsion directionnelle et l’\u00e9paisseur des queues de distribution au sein de chaque strate de classe. Le test de Royston ou la statistique de Henze-Zirkler constituent d’autres alternatives robustes pour statuer sur la normalit\u00e9 globale dans les espaces de dimension moyenne.<\/p>\n

Sur le plan de la robustesse op\u00e9rationnelle, il convient de souligner que l’analyse discriminante quadratique manifeste une sensibilit\u00e9 marqu\u00e9e aux \u00e9carts de normalit\u00e9 multivari\u00e9e. Contrairement aux mod\u00e8les discriminatifs qui se dispensent de postuler une loi g\u00e9n\u00e9rative pour les covariables, l’ADQ projette ses fronti\u00e8res de d\u00e9cision en exploitant l’inverse de la matrice de covariance et le d\u00e9terminant de celle-ci. Lorsque les queues de distribution sont significativement plus lourdes que celles d’une loi normale (pr\u00e9sence d’asym\u00e9trie ou de leptocurticit\u00e9 prononc\u00e9e), les ellipso\u00efdes th\u00e9oriques s’\u00e9largissent artificiellement pour accommoder la dispersion p\u00e9riph\u00e9rique, ce qui engendre un d\u00e9placement erratique des zones de recoupement quadratiques.<\/p>\n

3.2 Structure et rang des matrices de covariance<\/h3>\n

La validit\u00e9 calculatoire de l’ADQ d\u00e9pend imp\u00e9rativement du rang alg\u00e9brique et du conditionnement spectral des matrices de covariance intra-classes $\\Sigma_k$<\/span>. L’\u00e9quation de la fonction discriminante requiert l’inversion analytique de chaque matrice $\\Sigma_k$<\/span> ainsi que l’\u00e9valuation de son d\u00e9terminant matriciel $|\\Sigma_k|$<\/span>. Par cons\u00e9quent, chaque matrice $\\Sigma_k$<\/span> doit \u00eatre strictement d\u00e9finie positive, ce qui implique que l’ensemble de ses valeurs propres soit strictement sup\u00e9rieur \u00e0 z\u00e9ro ($\\lambda_i > 0, \\forall i in {1, dots, p}$<\/span>).<\/p>\n

Un risque m\u00e9thodologique majeur survient lorsqu’une matrice est singuli\u00e8re ou pr\u00e9sente un d\u00e9ficit de rang (rank deficiency<\/em>). Ce ph\u00e9nom\u00e8ne \u00e9merge de fa\u00e7on syst\u00e9matique lorsque le nombre d’observations disponibles dans une classe sp\u00e9cifique, not\u00e9 $n_k$<\/span>, est inf\u00e9rieur ou \u00e9gal au nombre de variables pr\u00e9dictives ($n_k le p$<\/span>). Dans cette configuration d’\u00e9chantillon restreint en haute dimension, la matrice de covariance empirique estim\u00e9e est au maximum de rang $n_k – 1$<\/span>, ce qui rend son d\u00e9terminant nul et son inversion impossible. M\u00eame lorsque $n_k > p$<\/span>, une multicolin\u00e9arit\u00e9 quasi-parfaite entre deux ou plusieurs pr\u00e9dicteurs entra\u00eene un conditionnement num\u00e9rique pr\u00e9caire, caract\u00e9ris\u00e9 par un ratio entre la plus grande et la plus petite valeur propre disproportionn\u00e9. Les algorithmes d’inversion matricielle deviennent alors instables, amplifiant consid\u00e9rablement les erreurs d’arrondi num\u00e9rique.<\/p>\n

Le diagnostic pr\u00e9ventif de ces pathologies structurales implique l’inspection attentive du d\u00e9terminant des matrices de corr\u00e9lation par classe, l’\u00e9valuation du facteur d’inflation de la variance (VIF) sur les pr\u00e9dicteurs, et la surveillance des rapports de conditionnement propres \u00e0 chaque op\u00e9rateur de dispersion. L’identification pr\u00e9coce de dimensions redondantes ou d’effectifs insuffisants \u00e9vite l’apparition de messages d’erreur critiques lors de l’ex\u00e9cution de la fonction qda()<\/code> dans l’environnement R.<\/p>\n

3.3 D\u00e9tection et traitement des valeurs aberrantes<\/h3>\n

En vertu de leur formulation statistique fond\u00e9e sur les moments d’ordre 2, la moyenne multivari\u00e9e et la matrice de variance-covariance empiriques constituent des estimateurs \u00e0 point de rupture nul. L’adjonction d’une seule observation aberrante peut d\u00e9vier arbitrairement le vecteur de moyennes et gonfler de fa\u00e7on disproportionn\u00e9e les \u00e9l\u00e9ments de variance et de covariance. En analyse discriminante quadratique, o\u00f9 les matrices de dispersion d\u00e9terminent l’orientation et la courbure des fronti\u00e8res de d\u00e9cision, l’impact des valeurs extr\u00eames multivari\u00e9es est particuli\u00e8rement d\u00e9stabilisateur.<\/p>\n

Pour diagnostiquer ces anomalies au sein de chaque classe $k$<\/span>, le calcul de la distance de Mahalanobis au carr\u00e9 ($D^2$<\/span>) entre chaque vecteur individuel $x_i$<\/span> et le centre de gravit\u00e9 empirique $\\hat{\\mu}_k$<\/span> s’impose comme la r\u00e9f\u00e9rence m\u00e9thodologique :<\/p>\n

$$D_i^2 = (x_i – \\hat{\\mu}_k)^T \\hat{\\Sigma}_k^{-1} (x_i – \\hat{\\mu}_k)$$<\/span><\/p>\n

Sous l’hypoth\u00e8se de normalit\u00e9 multivari\u00e9e, cette statistique quadratique suit asymptotiquement une loi du chi-deux \u00e0 $p$<\/span> degr\u00e9s de libert\u00e9, soit $D^2 \\sim \\chi^2(p)$<\/span>. Une observation dont la distance exc\u00e8de le quantile critique correspondant \u00e0 un seuil d’erreur fix\u00e9 (par exemple le quantile \u00e0 $99.9%$<\/span>, $\\chi^2_{p, 0.999}$<\/span>) doit \u00eatre rigoureusement isol\u00e9e pour examen diagnostique approfondi.<\/p>\n

Les strat\u00e9gies de rem\u00e9diation face aux donn\u00e9es aberrantes identifi\u00e9es reposent sur un arbitrage analytique justifi\u00e9. Si la valeur atypique proc\u00e8de d’une erreur technique d’acquisition ou d’encodage, son exclusion pure et simple est l\u00e9gitime. En revanche, si elle traduit une variabilit\u00e9 r\u00e9elle et l\u00e9gitime de la sous-population \u00e9tudi\u00e9e, l’analyste privil\u00e9giera l’application d’une transformation stabilisatrice de variance (telle que la transformation de Box-Cox multivari\u00e9e) ou le recours \u00e0 des algorithmes de variance-covariance robustes, fond\u00e9s sur l’estimateur du d\u00e9terminant minimum de covariance (MCD). Cette derni\u00e8re approche permet d’estimer les param\u00e8tres de l’ADQ sur un sous-ensemble non corrompu de l’espace d’\u00e9chantillonnage.<\/p>\n

4. \u00c9tape 1 : Pr\u00e9paration de l’environnement de travail et des packages R<\/h2>\n

4.1 Installation et chargement des d\u00e9pendances requises<\/h3>\n

Le d\u00e9ploiement professionnel de l’analyse discriminante quadratique au sein de l’environnement statistique R repose sur un \u00e9cosyst\u00e8me de biblioth\u00e8ques \u00e9prouv\u00e9es. Le pilier algorithmique historique est constitu\u00e9 par le package MASS<\/strong> (Modern Applied Statistics with S<\/em>), \u00e9labor\u00e9 par Venables et Ripley, qui embarque l’impl\u00e9mentation native de la fonction qda()<\/code>. Cette biblioth\u00e8que fournit les routines computationnelles fondamentales reposant sur des factorisations matricielles optimis\u00e9es pour extraire les param\u00e8tres de dispersion et conduire l’inf\u00e9rence pr\u00e9dictive.<\/p>\n

Au-del\u00e0 de la fonction de mod\u00e9lisation de base, la rigueur d’un pipeline d’analyse moderne requiert l’int\u00e9gration de frameworks de gestion du cycle d’apprentissage et de biblioth\u00e8ques graphiques avanc\u00e9es. Le package caret<\/strong> (Classification and REgression Training<\/em>) offre une interface unifi\u00e9e pour le partitionnement stratifi\u00e9, l’ing\u00e9nierie des caract\u00e9ristiques et l’extraction automatis\u00e9e des m\u00e9triques d’\u00e9valuation matricielle. Pour les repr\u00e9sentations visuelles des distributions et des surfaces g\u00e9om\u00e9triques de d\u00e9cision, les biblioth\u00e8ques ggplot2<\/strong>, scales<\/strong> et lattice<\/strong> constituent le standard qualitatif pour g\u00e9n\u00e9rer des figures adapt\u00e9es \u00e0 l’\u00e9dition acad\u00e9mique. Enfin, pour les proc\u00e9dures d’analyse diagnostique et de r\u00e9gularisation compl\u00e9mentaire, les extensions MVN<\/strong> (pour les tests de normalit\u00e9 multivari\u00e9e) et klaR<\/strong> (pour l’analyse discriminante r\u00e9gularis\u00e9e) compl\u00e8tent la panoplie des outils n\u00e9cessaires.<\/p>\n

L’installation et l’initialisation de ces packages s’effectuent via l’interface standard du r\u00e9seau CRAN (Comprehensive R Archive Network<\/em>). Les commandes R suivantes pr\u00e9parent formellement l’espace de travail en assurant la disponibilit\u00e9 des d\u00e9pendances :<\/p>\n

install.packages(c(\"MASS\", \"caret\", \"ggplot2\", \"scales\", \"lattice\", \"MVN\", \"klaR\", \"pROC\"))<\/code><\/p>\n

Une fois l’installation termin\u00e9e, les modules sont incorpor\u00e9s dans la session courante \u00e0 l’aide de la fonction library()<\/code>. Il convient de pr\u00eater une attention rigoureuse \u00e0 l’ordre de chargement des biblioth\u00e8ques afin d’\u00e9viter tout masquage accidentel de fonctions g\u00e9n\u00e9riques, notamment entre les fonctions de manipulation de donn\u00e9es et les routines de mod\u00e9lisation math\u00e9matique.<\/p>\n

4.2 Configuration des param\u00e8tres globaux de session<\/h3>\n

L’int\u00e9grit\u00e9 de la recherche quantitative et la reproductibilit\u00e9 computationnelle constituent des exigences incontournables. D\u00e8s lors qu’un protocole d’analyse statistique implique des sous-\u00e9chantillonnages al\u00e9atoires ou des processus de r\u00e9\u00e9chantillonnage par validation crois\u00e9e, l’initialisation explicite du g\u00e9n\u00e9rateur de nombres pseudo-al\u00e9atoires s’av\u00e8re imp\u00e9rative. Dans l’environnement R, cette standardisation s’op\u00e8re au moyen de la primitive set.seed()<\/code>. En fixant une graine d\u00e9terministe (par exemple, set.seed(12345)<\/code>), l’analyste garantit que la partition des sous-ensembles d’apprentissage et de test demeurera strictement identique lors de chaque ex\u00e9cution ult\u00e9rieure du script.<\/p>\n

Parall\u00e8lement au contr\u00f4le stochastique, la configuration des param\u00e8tres d’affichage de la console et des variables d’environnement optimise la lisibilit\u00e9 des sorties d’analyse. La fonction options()<\/code> permet de moduler le comportement num\u00e9rique par d\u00e9faut de R. Il est recommand\u00e9 de param\u00e9trer le seuil d’\u00e9vitement de la notation scientifique via l’attribut scipen = 999<\/code> et de r\u00e9guler la pr\u00e9cision d\u00e9cimale par digits = 4<\/code> afin d’obtenir des tableaux de m\u00e9triques directement exploitables. De surcro\u00eet, la standardisation de l’encodage textuel en UTF-8 garantit la portabilit\u00e9 sans alt\u00e9ration des libell\u00e9s de classes ou des annotations graphiques int\u00e9grant des caract\u00e8res accentu\u00e9s.<\/p>\n

Enfin, la v\u00e9rification rigoureuse de la version du moteur R et des modules attach\u00e9s, par l’interm\u00e9diaire de la commande sessionInfo()<\/code>, doit clore la phase d’initialisation. Cette documentation garantit la p\u00e9rennit\u00e9 du pipeline analytique face aux potentielles \u00e9volutions des signatures d’API des packages tiers.<\/p>\n

5. \u00c9tape 2 : Chargement, exploration et pr\u00e9traitement des donn\u00e9es<\/h2>\n

5.1 Importation et inspection structurelle du jeu de donn\u00e9es<\/h3>\n

Pour illustrer de fa\u00e7on tangible et didactique les nuances m\u00e9thodologiques de l’analyse discriminante quadratique, l’utilisation d’un jeu de donn\u00e9es canonique disposant de structures de variance multivari\u00e9e distinctes s’impose. Le corpus botanique historique Iris<\/em> de Fisher et Anderson, nativement int\u00e9gr\u00e9 dans l’environnement R via l’objet iris<\/code>, constitue le mod\u00e8le de r\u00e9f\u00e9rence universel. Ce recueil statistique documente 150 sp\u00e9cimens de fleurs r\u00e9parties \u00e9quitablement entre trois esp\u00e8ces distinctes : Iris setosa<\/em>, Iris versicolor<\/em> et Iris virginica<\/em> ($n_k = 50$<\/span> pour chaque classe). Les variables pr\u00e9dictives comprennent quatre mesures biom\u00e9triques continues exprim\u00e9es en centim\u00e8tres : la longueur des s\u00e9pales (Sepal.Length<\/code>), la largeur des s\u00e9pales (Sepal.Width<\/code>), la longueur des p\u00e9tales (Petal.Length<\/code>) et la largeur des p\u00e9tales (Petal.Width<\/code>).<\/p>\n

L’inspection structurelle imm\u00e9diate d\u00e9bute par l’interrogation du sch\u00e9ma conceptuel du tableau de donn\u00e9es \u00e0 l’aide de la primitive str(iris)<\/code>. Cette commande permet de certifier que les quatre variables candidates au statut de pr\u00e9dicteurs sont rigoureusement typ\u00e9es en valeurs num\u00e9riques continues (num<\/code>), tandis que la variable cible Species<\/code> est formellement encod\u00e9e sous forme de variable cat\u00e9gorielle ordonn\u00e9e ou nominale (factor<\/code>). Les dimensions matricielles sont valid\u00e9es par dim(iris)<\/code>, confirmant une matrice d’entr\u00e9e de 150 lignes pour 5 colonnes.<\/p>\n

Un audit pr\u00e9liminaire de la qualit\u00e9 des donn\u00e9es consiste \u00e0 sonder l’\u00e9ventuelle pr\u00e9sence de valeurs manquantes (NA<\/code>) ou aberrantes par encodage non standard. L’ex\u00e9cution de l’expression synth\u00e9tique sum(is.na(iris))<\/code> doit certifier l’exhaustivit\u00e9 des observations. L’existence d’une seule valeur manquante au sein d’un vecteur d’apprentissage entra\u00eene par d\u00e9faut l’exclusion de l’observation correspondante lors de l’application de la fonction qda()<\/code>, ce qui peut compromettre la puissance statistique globale si les omissions sont dispers\u00e9es.<\/p>\n

5.2 Statistiques descriptives univari\u00e9es et bivari\u00e9es<\/h3>\n

L’investigation exploratoire pr\u00e9alable au param\u00e9trage du mod\u00e8le doit imp\u00e9rativement documenter le comportement des moments statistiques conditionnellement \u00e0 chaque modalit\u00e9 de la variable r\u00e9ponse. Cette \u00e9tape \u00e9claire la plausibilit\u00e9 de l’hypoth\u00e8se d’h\u00e9t\u00e9rosc\u00e9dasticit\u00e9 qui justifie formellement le choix de l’ADQ au d\u00e9triment de la LDA. L’agr\u00e9gation des statistiques descriptives s’op\u00e8re avec pr\u00e9cision en exploitant les routines de la biblioth\u00e8que de base ou des fonctions comme aggregate()<\/code>.<\/p>\n

Le calcul des vecteurs de moyennes conditionnelles $\\hat{\\mu}_k$<\/span> et des \u00e9carts-types $s_k$<\/span> met en \u00e9vidence des gradients de variabilit\u00e9 nettement asym\u00e9triques. Pour l’esp\u00e8ce Iris setosa<\/em>, la dispersion des mesures de p\u00e9tales s’av\u00e8re particuli\u00e8rement resserr\u00e9e autour de son barycentre, alors que les esp\u00e8ces versicolor<\/em> et virginica<\/em> exhibent une volatilit\u00e9 structurellement plus large. Cette h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 est davantage mise en relief par le calcul des matrices de corr\u00e9lation de Pearson intra-classes. L’analyse r\u00e9v\u00e8le que l’intensit\u00e9 des liaisons lin\u00e9aires entre dimensions florales varie selon les esp\u00e8ces, ce qui confirme que les matrices de variance-covariance ne sauraient \u00eatre fusionn\u00e9es sans distorsion th\u00e9orique.<\/p>\n

La transcription visuelle de ces disparit\u00e9s mobilise l’\u00e9laboration de diagrammes de densit\u00e9 de noyau univari\u00e9s et de bo\u00eetes \u00e0 moustaches conditionnelles sous ggplot2<\/code>. En superposant les courbes de densit\u00e9 pour chaque groupe, l’analyste d\u00e9tecte imm\u00e9diatement l’\u00e9cartement variable des \u00e9talements gaussiens et la pr\u00e9sence \u00e9ventuelle d’asym\u00e9tries distributionnelles. Les diagrammes de dispersion bivari\u00e9s permettent simultan\u00e9ment de rep\u00e9rer la direction d’\u00e9tirement des nuages de points, pr\u00e9figurant l’orientation des ellipses d’\u00e9quiprobabilit\u00e9 associ\u00e9es \u00e0 chaque matrice $\\Sigma_k$<\/span>.<\/p>\n

5.3 Standardisation et mise \u00e0 l’\u00e9chelle des pr\u00e9dicteurs<\/h3>\n

Sur le plan math\u00e9matique pur, la formulation th\u00e9orique de l’analyse discriminante (qu’elle soit lin\u00e9aire ou quadratique) est formellement invariante par transformation lin\u00e9aire affine non singuli\u00e8re des variables pr\u00e9dictives. Que les variables soient maintenues dans leur \u00e9chelle dimensionnelle d’origine ou centr\u00e9es et r\u00e9duites selon le proc\u00e9d\u00e9 z-score, les surfaces de d\u00e9cision bay\u00e9siennes demeurent g\u00e9om\u00e9triquement identiques dans l’espace multidimensionnel transform\u00e9. Cette propri\u00e9t\u00e9 s\u00e9pare nettement l’ADQ d’algorithmes g\u00e9om\u00e9triques sensibles aux distances brutes, tels que les k-plus proches voisins (k-NN) ou les mod\u00e8les de r\u00e9gression p\u00e9nalis\u00e9e (Lasso, Ridge).<\/p>\n

N\u00e9anmoins, sur le plan de la pr\u00e9cision arithm\u00e9tique et de la stabilit\u00e9 algorithmique sous R, la standardisation des pr\u00e9dicteurs pr\u00e9sente des vertus computationnelles ind\u00e9niables. Lorsque les variables pr\u00e9dictives affichent des \u00e9chelles d’amplitude disparate (par exemple, un dosage biochimique oscillant entre $10^3$<\/span> et $10^5$<\/span> combin\u00e9 \u00e0 un score psychom\u00e9trique compris entre $0$ et $1$), le calcul du d\u00e9terminant matriciel $|\\Sigma_k|$<\/span> peut entra\u00eener des d\u00e9passements de capacit\u00e9 arithm\u00e9tique sup\u00e9rieure (overflow<\/em>) ou inf\u00e9rieure (underflow<\/em>). En ramenant chaque dimension \u00e0 une moyenne unitaire nulle et un \u00e9cart-type de 1, le conditionnement spectral des matrices est optimis\u00e9, minimisant ainsi les impr\u00e9cisions d’arrondi lors des factorisations par d\u00e9composition en valeurs singuli\u00e8res.<\/p>\n

Il convient de respecter scrupuleusement la r\u00e8gle m\u00e9thodologique fondamentale de pr\u00e9vention des fuites d’information (data leakage<\/em>). Les param\u00e8tres de centrage et de r\u00e9duction (la moyenne empirique et l’\u00e9cart-type de r\u00e9f\u00e9rence) doivent \u00eatre d\u00e9riv\u00e9s exclusivement \u00e0 partir du sous-ensemble d\u00e9di\u00e9 \u00e0 l’apprentissage du mod\u00e8le. La mise \u00e0 l’\u00e9chelle des donn\u00e9es de test ult\u00e9rieures doit \u00eatre r\u00e9alis\u00e9e en appliquant strictement ces param\u00e8tres d’apprentissage pr\u00e9alablement fig\u00e9s, sans recalculer les statistiques d’\u00e9chelle sur les observations de validation.<\/p>\n

6. \u00c9tape 3 : Partitionnement des donn\u00e9es pour l’apprentissage et le test<\/h2>\n

6.1 Strat\u00e9gie de partitionnement stratifi\u00e9<\/h3>\n

L’\u00e9valuation rigoureuse de la performance pr\u00e9dictive d’un mod\u00e8le d’apprentissage supervis\u00e9 n\u00e9cessite de scinder le jeu de donn\u00e9es initial en deux sous-ensembles ind\u00e9pendants : une base d’entra\u00eenement consacr\u00e9e \u00e0 l’estimation des param\u00e8tres gaussiens ($\\hat{\\mu}_k$<\/span>, $\\hat{\\Sigma}_k$<\/span>, $\\hat{\\pi}_k$<\/span>), et une base d’\u00e9valuation (ou base de test) pr\u00e9serv\u00e9e de toute interaction avec l’algorithme afin de mesurer sa capacit\u00e9 de g\u00e9n\u00e9ralisation objective. Si un partitionnement purement al\u00e9atoire est concevable pour des \u00e9chantillons de masse critique substantielle, il s’av\u00e8re vuln\u00e9rable face \u00e0 des effectifs d’\u00e9chantillons restreints ou des d\u00e9s\u00e9quilibres structurels de classes.<\/p>\n

La stratification constitue le standard m\u00e9thodologique requis. Cette approche contraint l’algorithme d’\u00e9chantillonnage \u00e0 r\u00e9pliquer scrupuleusement les proportions de chaque classe observ\u00e9es dans le jeu parent au sein de chacun des sous-ensembles g\u00e9n\u00e9r\u00e9s. Dans l’\u00e9cosyst\u00e8me R, cette op\u00e9ration s’ex\u00e9cute de fa\u00e7on d\u00e9terministe et \u00e9l\u00e9gante gr\u00e2ce \u00e0 la fonction createDataPartition()<\/code> issue de la biblioth\u00e8que caret<\/code>. En sp\u00e9cifiant l’argument p = 0.70<\/code>, l’analyste d\u00e9limite une allocation standard attribuant 70 % des individus de chaque strate \u00e0 la phase d’apprentissage et pr\u00e9servant les 30 % r\u00e9siduels pour le banc d’essai ind\u00e9pendant.<\/p>\n

L’argument list = FALSE<\/code> est mobilis\u00e9 afin de contraindre la fonction \u00e0 retourner une matrice d’indices entiers directs, facilitant ainsi l’indexation vectorielle des lignes du jeu de donn\u00e9es source. Cette \u00e9tape permet d’isoler un objet d’entra\u00eenement train_set<\/code> et un objet de test test_set<\/code> parfaitement scell\u00e9s.<\/p>\n

6.2 Validation de l’int\u00e9grit\u00e9 des sous-ensembles g\u00e9n\u00e9r\u00e9s<\/h3>\n

D\u00e8s l’ach\u00e8vement de la phase d’\u00e9chantillonnage, un contr\u00f4le de conformit\u00e9 distributionnelle s’impose imp\u00e9rativement dans le pipeline analytique. L’\u00e9valuation de l’int\u00e9grit\u00e9 statistique des jeux d’entra\u00eenement et de validation commence par l’application combin\u00e9e des primitives table()<\/code> et prop.table()<\/code> sur la variable cible factorielle de chaque partition.<\/p>\n

Cette interrogation empirique permet de v\u00e9rifier que la proportion relative de chaque classe correspond avec exactitude \u00e0 la structure marginale de r\u00e9f\u00e9rence (dans le cas du jeu de donn\u00e9es iris<\/em>, une r\u00e9partition homog\u00e8ne de 33.3 % par modalit\u00e9 au sein de l’apprentissage et du test). Ce contr\u00f4le prot\u00e8ge l’analyste contre l’\u00e9cueil d’une classe sous-repr\u00e9sent\u00e9e ou totalement absente dans l’ensemble de calibration, situation qui emp\u00eacherait l’estimation de sa matrice de dispersion sp\u00e9cifique.<\/p>\n

Il importe de contr\u00f4ler \u00e9galement la non-redondance stricte des identifiants d’\u00e9chantillon entre les deux partitions par le truchement de la fonction ensembliste intersect()<\/code>. Le r\u00e9sultat de cette intersection doit imp\u00e9rativement correspondre \u00e0 un vecteur nul, confirmant l’herm\u00e9ticit\u00e9 absolue du protocole d’\u00e9valuation. Pour les cohortes de petites dimensions, ce contr\u00f4le pr\u00e9vient toute surestimation artificielle des capacit\u00e9s discriminantes de l’ADQ.<\/p>\n

7. \u00c9tape 4 : Ajustement et entra\u00eenement du mod\u00e8le QDA avec la fonction qda()<\/h2>\n

7.1 Syntaxe et sp\u00e9cification de la formule du mod\u00e8le<\/h3>\n

L’ajustement du mod\u00e8le d’analyse discriminante quadratique s’articule sous R autour de la fonction qda()<\/code>, mise \u00e0 disposition par le package MASS<\/code>. Cette routine accepte diff\u00e9rentes interfaces d’entr\u00e9e, la plus expressive \u00e9tant l’interface par formule symbolique. La syntaxe canonique s’\u00e9nonce sous la forme :<\/p>\n

modele_qda <- qda(Species ~ Sepal.Length + Sepal.Width + Petal.Length + Petal.Width, data = train_set)<\/code><\/p>\n

Dans cette formulation, l'op\u00e9rateur tilde (~<\/code>) s\u00e9pare la variable d\u00e9pendante cat\u00e9gorielle situ\u00e9e \u00e0 gauche des variables ind\u00e9pendantes continues dispos\u00e9es \u00e0 droite. L'utilisation d'une \u00e9criture raccourcie par le point symbolique (Species ~ .<\/code>) indique \u00e0 l'interpr\u00e9teur R d'incorporer la totalit\u00e9 des colonnes r\u00e9siduelles de la matrice de donn\u00e9es au rang de pr\u00e9dicteurs multivari\u00e9s.<\/p>\n

L'argument formel prior<\/code> constitue un levier d'optimisation pr\u00e9pond\u00e9rant dans la sp\u00e9cification du mod\u00e8le. Si cet argument n'est pas explicit\u00e9 par l'utilisateur, l'algorithme d\u00e9rive de mani\u00e8re empirique les probabilit\u00e9s a priori<\/em> $\\pi_k$<\/span> \u00e0 partir des proportions relatives des groupes observ\u00e9es au sein du jeu d'apprentissage ($n_k \/ n$<\/span>). Si le praticien dispose de donn\u00e9es \u00e9pid\u00e9miologiques ou d'estimations populationnelles ind\u00e9pendantes documentant la pr\u00e9valence r\u00e9elle des classes, il lui est possible d'attribuer un vecteur probabiliste personnalis\u00e9 sommant \u00e0 1 (par exemple, prior = c(0.10, 0.45, 0.45)<\/code>). Cette configuration pond\u00e8re proportionnellement l'impact des densit\u00e9s multivari\u00e9es en d\u00e9pla\u00e7ant les seuils de coupure bay\u00e9siens vers les classes structurellement majoritaires.<\/p>\n

7.2 Extraction et analyse des param\u00e8tres estim\u00e9s<\/h3>\n

L'interrogation d'un objet issu de la mod\u00e9lisation qda()<\/code> r\u00e9v\u00e8le l'organisation computationnelle des param\u00e8tres estim\u00e9s par l'algorithme. En appelant directement l'instance du mod\u00e8le dans la console (print(modele_qda)<\/code>), R d\u00e9livre une synth\u00e8se structur\u00e9e articul\u00e9e en deux sections fondamentales :<\/p>\n

    \n
  1. Les probabilit\u00e9s a priori<\/em> (Prior probabilities of groups) :<\/strong> R\u00e9capitule les pond\u00e9rations $\\hat{\\pi}_k$<\/span> mobilis\u00e9es pour chaque modalit\u00e9 dans l'\u00e9quation bay\u00e9sienne discriminante.<\/li>\n
  2. Les moyennes de groupe (Group means) :<\/strong> Pr\u00e9sente un tableau \u00e0 double entr\u00e9e dont les lignes correspondent aux classes factorielles et les colonnes aux variables continues pr\u00e9dictives. Chaque cellule expose le centre de gravit\u00e9 empirique estim\u00e9 $\\hat{\\mu}_k$<\/span>, correspondant \u00e0 la moyenne arithm\u00e9tique de la variable au sein du sous-groupe d'entra\u00eenement consid\u00e9r\u00e9.<\/li>\n<\/ol>\n

    Un constat fondamental distingue imm\u00e9diatement les sorties d'une QDA de celles d'une LDA : la fonction qda()<\/code> ne fournit aucun coefficient de projection lin\u00e9aire (les fameux Coefficients of linear discriminants<\/em> ou scaling<\/code>). Cette divergence conceptuelle est coh\u00e9rente avec la th\u00e9orie math\u00e9matique. Dans l'analyse discriminante lin\u00e9aire, les fronti\u00e8res planes permettent de d\u00e9finir un ensemble de sous-espaces de projection canoniques maximisant le ratio de variance inter-classes sur la variance intra-classes (les axes discriminants de Fisher). En analyse quadratique, la non-lin\u00e9arit\u00e9 fondamentale induite par l'h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 des matrices de covariance $\\Sigma_k$<\/span> interdit toute r\u00e9duction lin\u00e9aire \u00e0 un vecteur de pond\u00e9ration unique. Les fronti\u00e8res ne proc\u00e8dent pas d'une projection unidimensionnelle, mais de la r\u00e9solution globale de formes quadratiques matricielles non factorisables sous forme lin\u00e9aire.<\/p>\n

    7.3 Gestion des matrices de covariance singuli\u00e8res<\/h3>\n

    Au cours de l'ajustement de mod\u00e8les QDA sur des jeux de donn\u00e9es empiriques, les praticiens se heurtent couramment \u00e0 une interruption de calcul caract\u00e9ris\u00e9e par l'\u00e9mission du message d'erreur : rank deficiency in group [classe]<\/code>. Ce dysfonctionnement indique que pour la classe concern\u00e9e, la matrice de variance-covariance empirique estim\u00e9e n'est pas de rang plein. Cette situation se produit lorsque les pr\u00e9dicteurs sont parfaitement ou quasi-parfaitement colin\u00e9aires, ou lorsque l'effectif intra-groupe $n_k$<\/span> est insuffisant pour permettre une estimation non singuli\u00e8re des covariances ($n_k le p$<\/span>).<\/p>\n

    Pour parer \u00e0 cette d\u00e9faillance num\u00e9rique, l'impl\u00e9mentation de qda()<\/code> int\u00e8gre un param\u00e8tre de tol\u00e9rance critique : l'argument tol<\/code>. Ce r\u00e9gulateur intervient directement lors de la d\u00e9composition spectrale des donn\u00e9es au sein de chaque groupe. L'algorithme d\u00e9compose la dispersion selon ses valeurs singuli\u00e8res; toute coordonn\u00e9e dont la variance s'av\u00e8re inf\u00e9rieure au produit de tol<\/code> par la plus grande valeur singuli\u00e8re est jug\u00e9e virtuellement nulle et d\u00e9clenche l'arr\u00eat d'urgence du calcul afin de pr\u00e9venir des inversions de matrices erratiques. Par d\u00e9faut, tol = 1.0e-4<\/code>.<\/p>\n

    Lorsque la singularit\u00e9 proc\u00e8de d'une multicolin\u00e9arit\u00e9 empirique prononc\u00e9e entre deux variables corr\u00e9l\u00e9es \u00e0 plus de $0.98$, la m\u00e9thode corrective de r\u00e9f\u00e9rence consiste \u00e0 \u00e9carter l'une des dimensions redondantes en amont de la mod\u00e9lisation. Une alternative consiste \u00e0 projeter l'ensemble des pr\u00e9dicteurs sur leurs composantes principales orthogonales (ACP) pr\u00e9alablement \u00e0 l'ajustement quadratique, garantissant ainsi l'orthogonalit\u00e9 g\u00e9om\u00e9trique stricte des nouveaux axes d'entra\u00eenement.<\/p>\n

    8. \u00c9tape 5 : Pr\u00e9diction et inf\u00e9rence sur de nouvelles observations<\/h2>\n

    8.1 M\u00e9canique interne de la fonction predict()<\/h3>\n

    Une fois le mod\u00e8le calibr\u00e9 sur la partition d'apprentissage, son d\u00e9ploiement op\u00e9rationnel sur le jeu d'essai s'op\u00e8re par l'interm\u00e9diaire de la m\u00e9thode g\u00e9n\u00e9rique predict()<\/code>. L'appel algorithmique standard s'ex\u00e9cute par :<\/p>\n

    predictions <- predict(modele_qda, newdata = test_set)<\/code><\/p>\n

    La fonction predict.qda<\/code> applique l'\u00e9quation de la fonction discriminante quadratique $\\delta_k(x)$<\/span> \u00e0 chaque vecteur de donn\u00e9es contenu dans la matrice newdata<\/code>. Elle proc\u00e8de ensuite au calcul complet des probabilit\u00e9s a posteriori<\/em> bay\u00e9siennes \u00e0 travers la fonction logistique multivari\u00e9e (ou fonction softmax g\u00e9n\u00e9ralis\u00e9e). L'objet r\u00e9sultant predictions<\/code> n'est pas un simple vecteur d'\u00e9tiquettes, mais une structure de type liste ordonn\u00e9e renfermant trois composantes distinctes :<\/p>\n

      \n
    • $class<\/code> : Un vecteur factoriel contenant l'attribution finale de classe pour chaque observation du jeu de test. Cette \u00e9tiquette correspond formellement \u00e0 la modalit\u00e9 maximisant la probabilit\u00e9 a posteriori<\/em> (r\u00e8gle du MAP).<\/li>\n
    • $posterior<\/code> : Une matrice bidimensionnelle de dimensions $N_{\\text{test}} \\times K$<\/span>. Chaque ligne correspond \u00e0 un individu sp\u00e9cifique et chaque colonne \u00e0 une classe. Les valeurs num\u00e9riques traduisent les probabilit\u00e9s a posteriori<\/em> $P(Y = k mid X = x)$<\/span>, born\u00e9es entre 0 et 1, et dont la somme transversale par ligne est strictement \u00e9gale \u00e0 1.<\/li>\n
    • $terms<\/code> : La repr\u00e9sentation symbolique de la formule et des environnements de variables exploit\u00e9s pour structurer la matrice de design.<\/li>\n<\/ul>\n

      L'acc\u00e8s direct \u00e0 la matrice $posterior<\/code> est capital pour les analystes soucieux d'aller au-del\u00e0 de la d\u00e9cision binaire brute, car elle fournit la graduation exacte de la certitude probabiliste attach\u00e9e \u00e0 chaque pr\u00e9diction algorithmique.<\/p>\n

      8.2 Gestion de l'incertitude de classification<\/h3>\n

      L'utilisation de la r\u00e8gle d'affectation majoritaire par d\u00e9faut ($P > 1\/K$<\/span> ou modalit\u00e9 maximisant simplement la probabilit\u00e9) masque fr\u00e9quemment des situations de profonde ind\u00e9termination statistique. Lorsqu'une observation se positionne \u00e0 la fronti\u00e8re imm\u00e9diate s\u00e9parant deux nappes quadratiques, sa probabilit\u00e9 a posteriori<\/em> peut osciller autour de valeurs comp\u00e9titives (par exemple, $0.51$ pour la classe A contre $0.49$ pour la classe B). Dans des contextes d\u00e9cisionnels critiques tels que le diagnostic clinique ou l'approbation d'un protocole d'intervention comportementale, traiter ces cas ambigus de fa\u00e7on identique \u00e0 des classifications certaines ($P = 0.99$<\/span>) constitue un biais m\u00e9thodologique s\u00e9v\u00e8re.<\/p>\n

      L'analyse fine de l'incertitude implique la fixation de seuils de confiance conservateurs. Un analyste peut d\u00e9cr\u00e9ter qu'une observation ne recevra une \u00e9tiquette d'affectation que si sa probabilit\u00e9 d'appartenance exc\u00e8de un seuil critique pr\u00e9\u00e9tabli (par exemple, $P(Y = k mid X = x) ge 0.80$<\/span>), tout cas n'atteignant pas cette certitude \u00e9tant orient\u00e9 vers une cat\u00e9gorie de r\u00e9serve ou soumis \u00e0 un examen expert compl\u00e9mentaire.<\/p>\n

      Sur le plan m\u00e9trologique, l'entropie de Shannon offre une quantification synth\u00e9tique du niveau d'ambigu\u00eft\u00e9 associ\u00e9 \u00e0 chaque observation individuelle $x_i$<\/span> :<\/p>\n

      $$H(x_i) = -\\sum_{k=1}^K P(Y = k mid X = x_i) \\log_2 P(Y = k mid X = x_i)$$<\/span><\/p>\n

      L'entropie atteint son minimum absolu ($H = 0$<\/span>) lorsque le classifieur attribue une probabilit\u00e9 certaine de 1 \u00e0 une classe unique, et atteint son sommet th\u00e9orique ($\\log_2 K$<\/span>) en pr\u00e9sence d'une ind\u00e9termination \u00e9quiprobable maximale. La cartographie de l'entropie sur l'\u00e9chantillon de test permet d'isoler imm\u00e9diatement les sp\u00e9cimens transitionnels ou atypiques au sein de l'espace multivari\u00e9.<\/p>\n

      9. \u00c9tape 6 : \u00c9valuation rigoureuse des performances du mod\u00e8le<\/h2>\n

      9.1 Construction et lecture critique de la matrice de confusion<\/h3>\n

      Le fondement empirique de l'\u00e9valuation des classifieurs supervis\u00e9s r\u00e9side dans la confection m\u00e9thodique d'une matrice de confusion. Cette table crois\u00e9e confronte point par point les assignations pr\u00e9dictives d\u00e9livr\u00e9es par le mod\u00e8le aux \u00e9tiquettes observ\u00e9es au sein du sous-ensemble d'\u00e9valuation ind\u00e9pendant. Sous l'environnement R, la fonction confusionMatrix()<\/code>, fournie par le framework caret<\/code>, constitue l'outil d'analyse par excellence :<\/p>\n

      resultats_eval <- confusionMatrix(data = predictions$class, reference = test_set$<\/span>Species)<\/code><\/p>\n

      La lecture de ce tableau matriciel transcende le calcul de l'exactitude globale. Les cellules diagonales comptabilisent les assignations correctes (les vrais positifs pour chaque classe), tandis que l'ensemble des cases hors-diagonale consigne les erreurs syst\u00e9matiques commises par l'algorithme. L'inspection des erreurs crois\u00e9es permet d'\u00e9lucider la nature des confusions g\u00e9om\u00e9triques. Par exemple, si l'on constate qu'aucun individu de la classe setosa<\/em> n'est confondu avec les autres groupes alors qu'un taux de recoupement substantiel persiste entre versicolor<\/em> et virginica<\/em>, cette observation confirme la compacit\u00e9 et la disjonction spatiale de la premi\u00e8re classe par rapport au continuum dimensionnel partag\u00e9 par les deux suivantes.<\/p>\n

      La matrice de confusion met \u00e9galement en lumi\u00e8re les asym\u00e9tries de classification : l'ADQ peut avoir tendance \u00e0 classer par erreur les individus d'un groupe \u00e0 variance restreinte dans la cat\u00e9gorie d'un groupe \u00e0 vaste dispersion si la surface quadratique enveloppante de ce dernier tend \u00e0 absorber les marges p\u00e9riph\u00e9riques du groupe plus compact.<\/p>\n

      9.2 M\u00e9triques de performance globale et par classe<\/h3>\n

      L'exploitation analytique de la sortie issue de confusionMatrix()<\/code> fournit une batterie de m\u00e9triques standardis\u00e9es pour l'\u00e9valuation acad\u00e9mique des performances pr\u00e9dictives :<\/p>\n

        \n
      • Exactitude globale (Accuracy) :<\/strong> Fraction des pr\u00e9dictions correctes rapport\u00e9e au volume total des observations \u00e9valu\u00e9es. Elle doit imp\u00e9rativement \u00eatre contextualis\u00e9e par son intervalle de confiance \u00e0 $95%$<\/span> et confront\u00e9e au taux de non-information (No Information Rate<\/em> - NIR), correspondant \u00e0 la pr\u00e9valence marginale de la classe la plus repr\u00e9sent\u00e9e. Un classifieur n'est pertinent que si la borne inf\u00e9rieure de son exactitude surpasse significativement le NIR ($ptext{-value} < 0.05$).<\/li>\n
      • Coefficient Kappa de Cohen ($kappa$<\/span>) :<\/strong> Indicateur de concordance statistique qui mesure l'accord au-del\u00e0 de ce qui pourrait \u00eatre attribu\u00e9 au simple hasard probabiliste. Un score $kappa > 0.80$<\/span> refl\u00e8te une performance discriminante quasi-parfaite selon les standards biom\u00e9triques.<\/li>\n
      • Sensibilit\u00e9 (Sensitivity \/ Recall) :<\/strong> Proportion d'individus effectivement issus d'une classe $k$<\/span> qui ont \u00e9t\u00e9 assign\u00e9s correctement \u00e0 celle-ci.<\/li>\n
      • Sp\u00e9cificit\u00e9 (Specificity) :<\/strong> Aptitude du mod\u00e8le \u00e0 exclure de la classe $k$<\/span> les observations appartenant \u00e0 d'autres groupes.<\/li>\n
      • Pr\u00e9cision (Positive Predictive Value) :<\/strong> Probabilit\u00e9 qu'un individu assign\u00e9 \u00e0 la classe $k$<\/span> par le mod\u00e8le appartienne effectivement \u00e0 ce groupe dans la r\u00e9alit\u00e9.<\/li>\n
      • Score F1 (F1-Score) :<\/strong> Moyenne harmonique de la sensibilit\u00e9 et de la pr\u00e9cision, particuli\u00e8rement informative en pr\u00e9sence de distributions marginales d\u00e9s\u00e9quilibr\u00e9es.<\/li>\n<\/ul>\n

        Dans un contexte multivari\u00e9 comprenant $K > 2$<\/span> classes, ces m\u00e9triques sont \u00e9valu\u00e9es individuellement pour chaque groupe selon une d\u00e9composition de type \u00ab une classe contre toutes \u00bb (One-vs-All<\/em>), assurant une vision d\u00e9sagr\u00e9g\u00e9e de l'efficacit\u00e9 pr\u00e9dictive du classifieur quadratique.<\/p>\n

        9.3 Courbes ROC et pr\u00e9cision-rappel multi-classes<\/h3>\n

        Bien que la matrice de confusion d\u00e9livre une photographie ponctuelle des performances pour un seuil de coupure fig\u00e9 (typiquement le maximum a posteriori<\/em>), l'\u00e9valuation compl\u00e8te d'un classifieur probabiliste exige d'analyser son comportement sur le continuum exhaustif des seuils d\u00e9cisionnels possibles. Cette investigation s'incarne dans le tra\u00e7age des courbes ROC (Receiver Operating Characteristic<\/em>) et l'estimation de l'aire sous la courbe (AUC - Area Under the Curve<\/em>).<\/p>\n

        Dans un sc\u00e9nario polytomique o\u00f9 $K > 2$<\/span>, l'extension de l'analyse ROC n\u00e9cessite une formalisation multivari\u00e9e. Deux approches conceptuelles coexistent : la strat\u00e9gie One-vs-Rest<\/em> (qui \u00e9value l'aptitude du mod\u00e8le \u00e0 isoler une classe donn\u00e9e de l'agr\u00e9gat de toutes les autres) et la strat\u00e9gie One-vs-One<\/em> conceptualis\u00e9e par Hand et Till (2001), qui moyenne les AUC obtenues sur chaque paire possible de classes. \u00c0 l'aide de la biblioth\u00e8que R pROC<\/strong>, l'analyste ex\u00e9cute le calcul de l'AUC multiclasse :<\/p>\n

        roc_multiclasse <- multiclass.roc(test_set$Species, predictions$<\/span>posterior)<\/code><\/p>\n

        L'extraction de la valeur d'AUC globale r\u00e9sultante (comprise entre 0.5 pour un classifieur al\u00e9atoire et 1.0 pour une discrimination absolue) permet de quantifier la capacit\u00e9 intrins\u00e8que de s\u00e9paration de l'ADQ, ind\u00e9pendamment du seuil de classification retenu. Parall\u00e8lement, l'\u00e9valuation de la calibration probabiliste via le calcul du score de Brier (qui quantifie l'erreur quadratique moyenne entre les probabilit\u00e9s a posteriori<\/em> vectorielles et les indicatrices d'appartenance r\u00e9elle) valide si les probabilit\u00e9s retourn\u00e9es par l'algorithme refl\u00e8tent des fr\u00e9quences d'occurrence empiriques v\u00e9ridiques.<\/p>\n

        10. \u00c9tape 7 : Visualisation graphique des fronti\u00e8res de d\u00e9cision quadratiques<\/h2>\n

        10.1 G\u00e9n\u00e9ration d'une grille spatiale de pr\u00e9diction bidimensionnelle<\/h3>\n

        La formalisation g\u00e9om\u00e9trique des fronti\u00e8res de d\u00e9cision produites par l'analyse discriminante quadratique requiert une discr\u00e9tisation cart\u00e9sienne de l'espace des pr\u00e9dicteurs. Dans la mesure o\u00f9 les repr\u00e9sentations graphiques bidimensionnelles sont limit\u00e9es \u00e0 deux axes orthogonaux, l'analyste s\u00e9lectionne en amont les deux variables explicatives manifestant le potentiel de discrimination le plus prononc\u00e9 (par exemple, Petal.Length<\/code> et Petal.Width<\/code> au sein du jeu iris<\/em>), ou op\u00e8re une projection pr\u00e9alable sur un plan factoriel.<\/p>\n

        La construction de la trame computationnelle d\u00e9bute par l'extraction des limites d'amplitude empiriques des variables d'int\u00e9r\u00eat, augment\u00e9es d'une marge p\u00e9riph\u00e9rique d'extension (typiquement 5 \u00e0 10 %) pour pr\u00e9venir des effets de troncature visuelle. \u00c0 l'aide de la fonction g\u00e9n\u00e9rique expand.grid()<\/code>, une grille de coordonn\u00e9es cart\u00e9siennes ultra-dense est synth\u00e9tis\u00e9e. En fixant un pas d'incr\u00e9mentation r\u00e9gulier (par exemple, 200 divisions sur chaque axe g\u00e9n\u00e9rant $40,000$ n\u0153uds spatiaux r\u00e9guliers), l'espace continu se mue en une matrice de points g\u00e9om\u00e9triques virtuels.<\/p>\n

        L'\u00e9tape charni\u00e8re consiste \u00e0 soumettre cette grille artificielle \u00e0 la fonction predict()<\/code> en exploitant un mod\u00e8le QDA r\u00e9ajust\u00e9 sur les deux pr\u00e9dicteurs retenus. Pour chaque coordonn\u00e9e de la grille spatiale, l'algorithme calcule la classe d'appartenance pr\u00e9dite ainsi que les probabilit\u00e9s a posteriori<\/em> correspondantes. Les donn\u00e9es r\u00e9sultantes sont agr\u00e9g\u00e9es au sein d'un tableau unifi\u00e9 pr\u00eat pour le rendu graphique vectoriel.<\/p>\n

        10.2 Trac\u00e9 des contours non lin\u00e9aires avec ggplot2<\/h3>\n

        Le trac\u00e9 des surfaces de d\u00e9cision non lin\u00e9aires s'ex\u00e9cute avec fluidit\u00e9 et pr\u00e9cision gr\u00e2ce aux grammaires graphiques du package ggplot2<\/strong>. La technique consiste \u00e0 superposer diff\u00e9rentes couches de donn\u00e9es visuelles pour faire ressortir simultan\u00e9ment les zones d'influence probabiliste, les fronti\u00e8res s\u00e9paratrices et les points exp\u00e9rimentaux r\u00e9els.<\/p>\n

        La premi\u00e8re couche graphique mobilise la g\u00e9om\u00e9trie geom_raster()<\/code> ou geom_tile()<\/code>. En associant la classe pr\u00e9dite sur chaque pixel de la grille spatiale \u00e0 une \u00e9chelle de teintes douces, l'analyste mat\u00e9rialise l'arri\u00e8re-plan topologique de l'espace discrimin\u00e9. Pour souligner formellement la ligne de d\u00e9marcation exacte entre les zones d'attribution, l'incorporation de geom_contour()<\/code> est requise. En ciblant la diff\u00e9rence des probabilit\u00e9s a posteriori<\/em> ou les cotes de probabilit\u00e9s marginales de surface, la fonction de contour trace des lignes continues d\u00e9crivant la courbure quadratique exacte du mod\u00e8le.<\/p>\n

        Sur ce fond spatialis\u00e9 s'agr\u00e8ge la g\u00e9om\u00e9trie geom_point()<\/code>, projetant l'ensemble des observations r\u00e9elles issues de l'\u00e9chantillon d'apprentissage et de test. L'attribution d'une palette de couleurs adapt\u00e9e (telle que la palette Viridis<\/em> ou des teintes de la palette ColorBrewer<\/em>) combin\u00e9e \u00e0 un encodage diff\u00e9renci\u00e9 des formes de points permet de distinguer instantan\u00e9ment les individus correctement class\u00e9s de ceux tombant du mauvais c\u00f4t\u00e9 de la fronti\u00e8re quadratique. Des th\u00e8mes visuels \u00e9pur\u00e9s (theme_bw()<\/code> ou theme_classic()<\/code>) et une typographie formelle finalisent une illustration conforme aux standards des publications internationales.<\/p>\n

        10.3 Visualisation dans des espaces \u00e0 plus de deux dimensions<\/h3>\n

        Lorsque le mod\u00e8le statistique mobilise trois pr\u00e9dicteurs ou davantage, la visualisation plane directe engendre une perte d'information pr\u00e9judiciable en raison de l'\u00e9crasement des dimensions r\u00e9siduelles. Pour circonvenir cette limitation structurelle sans renoncer \u00e0 la lisibilit\u00e9 cart\u00e9sienne, deux m\u00e9thodologies alternatives s'offrent au praticien.<\/p>\n

        La premi\u00e8re approche consiste \u00e0 r\u00e9aliser une analyse en composantes principales (ACP) standardis\u00e9e sur l'espace complet des variables quantitatives, puis \u00e0 ajuster l'analyse discriminante quadratique sur les deux premiers scores factoriels ($PC_1$<\/span> et $PC_2$<\/span>), qui synth\u00e9tisent le pourcentage maximal de variance multivari\u00e9e globale. Si cette solution facilite le rendu des fronti\u00e8res dans un espace bidimensionnel composite, elle pr\u00e9sente l'inconv\u00e9nient de d\u00e9naturer les unit\u00e9s physiques originelles des variables de d\u00e9part.<\/p>\n

        La seconde m\u00e9thodologie exploite le d\u00e9coupage conditionnel par tranches (facetting<\/em>) au moyen de la directive facet_wrap()<\/code> ou facet_grid()<\/code> sous ggplot2<\/code>. L'analyste discr\u00e9tise une troisi\u00e8me variable continue en un nombre restreint de strates ordonn\u00e9es (par exemple, bas, moyen, \u00e9lev\u00e9 \u00e0 travers la fonction cut()<\/code>), puis trace la grille de d\u00e9cision des deux premi\u00e8res variables pour chaque palier de la troisi\u00e8me. Cette d\u00e9composition s\u00e9quentielle illustre visuellement la d\u00e9formation continue de la surface quadratique \u00e0 mesure que l'on progresse le long de l'axe de la troisi\u00e8me variable.<\/p>\n

        Enfin, pour des pr\u00e9sentations num\u00e9riques dynamiques, l'int\u00e9gration du moteur graphique plotly<\/strong> permet de compiler des diagrammes tridimensionnels interactifs au format WebGL, autorisant des rotations spatiales arbitraires autour des ellipso\u00efdes de covariance estim\u00e9s.<\/p>\n

        11. Optimisation, validation crois\u00e9e et analyse discriminante r\u00e9gularis\u00e9e (RDA)<\/h2>\n

        11.1 Validation crois\u00e9e k-fold et Leave-One-Out (LOOCV)<\/h3>\n

        L'estimation de l'erreur de g\u00e9n\u00e9ralisation sur un sous-ensemble de test unique, bien que courante, demeure tributaire des fluctuations stochastiques inh\u00e9rentes au d\u00e9coupage initial de l'\u00e9chantillon. Pour consolider la robustesse de l'inf\u00e9rence et pr\u00e9munir le mod\u00e8le contre un biais d'\u00e9chantillonnage fortuit, les protocoles de validation crois\u00e9e constituent la norme m\u00e9thodologique d'optimisation.<\/p>\n

        L'impl\u00e9mentation native de qda()<\/code> au sein du package MASS<\/code> int\u00e8gre directement l'argument bool\u00e9en CV = TRUE<\/code>, qui d\u00e9clenche l'ex\u00e9cution automatique d'une validation crois\u00e9e avec exclusion unitaire (Leave-One-Out Cross-Validation<\/em> - LOOCV). Dans cette proc\u00e9dure, chaque observation $i$<\/span> est tour \u00e0 tour retir\u00e9e de l'ensemble d'entra\u00eenement, le mod\u00e8le QDA complet est ajust\u00e9 sur les $n-1$<\/span> observations r\u00e9siduelles, puis l'\u00e9tiquette de l'observation exclue est pr\u00e9dite. La moyenne des taux d'erreur unitaire fournit un estimateur sans biais de l'erreur de g\u00e9n\u00e9ralisation r\u00e9elle du mod\u00e8le, particuli\u00e8rement utile sur des cohortes d'effectifs restreints.<\/p>\n

        Pour des jeux de donn\u00e9es plus volumineux, la validation crois\u00e9e r\u00e9p\u00e9t\u00e9e \u00e0 $k$<\/span> blocs (k-fold Cross-Validation<\/em>, par exemple avec $k = 10$<\/span> r\u00e9p\u00e9t\u00e9 5 fois) constitue une alternative pr\u00e9f\u00e9rable pour r\u00e9guler la variance d'estimation du processus d'\u00e9valuation. Ce protocole s'orchestre avec une grande rigueur via la fonction train()<\/code> du package caret<\/code>, combin\u00e9e avec la directive trainControl(method = \"repeatedcv\", number = 10, repeats = 5)<\/code>, garantissant que chaque strate participe \u00e9quitablement aux cycles d'apprentissage et de validation sans surapprentissage latent.<\/p>\n

        11.2 Transition vers l'analyse discriminante r\u00e9gularis\u00e9e<\/h3>\n

        L'analyse discriminante quadratique se trouve vuln\u00e9rable face au compromis biais-variance d\u00e8s lors que le ratio entre la taille d'\u00e9chantillon et le nombre de pr\u00e9dicteurs diminue. L'estimation ind\u00e9pendante de $K$<\/span> matrices de variance-covariance d'ordre $p \\times p$<\/span> engendre une instabilit\u00e9 num\u00e9rique si certains sous-groupes pr\u00e9sentent des effectifs r\u00e9duits. Pour pallier cette faiblesse structurelle sans r\u00e9gresser vers la rigidit\u00e9 lin\u00e9aire de la LDA, Jerome Friedman a conceptualis\u00e9 en 1989 l'analyse discriminante r\u00e9gularis\u00e9e (Regularized Discriminant Analysis<\/em> - RDA).<\/p>\n

        La RDA r\u00e9sout cette tension param\u00e9trique en introduisant deux hyperparam\u00e8tres continus de r\u00e9tr\u00e9cissement (shrinkage<\/em>), not\u00e9s $lambda$<\/span> et $\\gamma$<\/span>, born\u00e9s dans l'intervalle $[0, 1]$<\/span>. Le premier param\u00e8tre, $lambda$<\/span>, contr\u00f4le le continuum de lissage entre les matrices de covariance sp\u00e9cifiques \u00e0 chaque groupe $\\hat{\\Sigma}_k$<\/span> et la matrice de covariance commune pooled $\\hat{\\Sigma}$<\/span> issue de la LDA :<\/p>\n

        $$\\hat{\\Sigma}_k(\\lambda) = (1 - \\lambda)\\hat{\\Sigma}_k + \\lambda \\hat{\\Sigma}$$<\/span><\/p>\n

        Lorsque $lambda = 0$<\/span>, le syst\u00e8me reproduit scrupuleusement l'analyse discriminante quadratique. \u00c0 l'inverse, lorsque $lambda = 1$<\/span>, les matrices fusionnent int\u00e9gralement en une covariance unique, restaurant formellement l'analyse discriminante lin\u00e9aire. Le second param\u00e8tre, $\\gamma$<\/span>, op\u00e8re un r\u00e9tr\u00e9cissement suppl\u00e9mentaire de la matrice r\u00e9sultante vers une matrice scalaire sph\u00e9rique proportionnelle \u00e0 l'identit\u00e9 :<\/p>\n

        $$\\hat{\\Sigma}_k(\\lambda, \\gamma) = (1 - \\gamma)\\hat{\\Sigma}_k(\\lambda) + \\gamma \\left( \\frac{1}{p} \\text{tr}(\\hat{\\Sigma}_k(\\lambda)) \\right) I_p$$<\/span><\/p>\n

        Ce second niveau de r\u00e9gularisation contraint les valeurs propres de la matrice \u00e0 se rapprocher de leur moyenne arithm\u00e9tique, \u00e9liminant ainsi toute singularit\u00e9 matricielle li\u00e9e \u00e0 la multicolin\u00e9arit\u00e9.<\/p>\n

        11.3 R\u00e9glage fin des hyperparam\u00e8tres par recherche sur grille<\/h3>\n

        Le r\u00e9glage optimal des coefficients de r\u00e9gularisation $lambda$<\/span> et $\\gamma$<\/span> ne saurait \u00eatre d\u00e9cr\u00e9t\u00e9 de mani\u00e8re arbitraire par l'analyste ; il proc\u00e8de d'une optimisation computationnelle par recherche sur grille (grid search<\/em>). L'int\u00e9gration op\u00e9rationnelle de la RDA sous R s'appuie sur le couplage fonctionnel entre le package klaR<\/strong> (qui renferme la fonction native rda()<\/code>) et l'infrastructure d'optimisation du package caret<\/strong>.<\/p>\n

        La mise en \u0153uvre consiste \u00e0 param\u00e9trer une grille bidimensionnelle exhaustive d'\u00e9valuation \u00e0 l'aide de la primitive expand.grid()<\/code>. L'analyste segmente les axes des hyperparam\u00e8tres selon un maillage r\u00e9gulier :<\/p>\n

        grille_rda <- expand.grid(gamma = seq(0, 1, by = 0.2), lambda = seq(0, 1, by = 0.2))<\/code><\/p>\n

        Cette grille est inject\u00e9e dans la routine train(..., method = \"rda\", tuneGrid = grille_rda, trControl = trainControl(method = \"cv\", number = 10))<\/code>. Le pipeline R \u00e9value les performances de chaque combinaison param\u00e9trique \u00e0 travers les cycles de validation crois\u00e9e. Le crit\u00e8re d'optimisation privil\u00e9gi\u00e9 repose sur la maximisation de l'exactitude moyenne ou de l'aire sous la courbe ROC multiclasse.<\/p>\n

        \u00c0 l'issue de cette exploration computationnelle, la comparaison objective des performances empiriques d\u00e9livr\u00e9es par la LDA pure ($\\lambda = 1, \\gamma = 0$<\/span>), la QDA standard ($\\lambda = 0, \\gamma = 0$<\/span>) et le mod\u00e8le r\u00e9gularis\u00e9 optimal valide si l'apport d'un compromis interm\u00e9diaire stabilise significativement la variance d'estimation tout en pr\u00e9servant la flexibilit\u00e9 des fronti\u00e8res quadratiques.<\/p>\n

        12. Limites m\u00e9thodologiques, bonnes pratiques et synth\u00e8se comparative<\/h2>\n

        12.1 Vuln\u00e9rabilit\u00e9s intrins\u00e8ques de l'ADQ<\/h3>\n

        En d\u00e9pit de son \u00e9l\u00e9gance math\u00e9matique et de sa puissance pr\u00e9dictive face aux donn\u00e9es h\u00e9t\u00e9rosc\u00e9dastiques, l'analyse discriminante quadratique souffre de limites m\u00e9thodologiques intrins\u00e8ques qu'il convient de formaliser sans complaisance. La premi\u00e8re r\u00e9side dans sa vuln\u00e9rabilit\u00e9 exacerb\u00e9e face au fl\u00e9au de la dimensionnalit\u00e9 (curse of dimensionality<\/em>). Dans la mesure o\u00f9 le volume de param\u00e8tres \u00e0 estimer cro\u00eet proportionnellement au carr\u00e9 du nombre de variables explicatives ($K \\cdot p(p+1)\/2$<\/span>), l'ADQ devient rapidement inapplicable lorsque le nombre de pr\u00e9dicteurs d\u00e9passe quelques dizaines, \u00e0 moins de disposer d'\u00e9chantillons colossaux.<\/p>\n

        La seconde vuln\u00e9rabilit\u00e9 concerne l'impact des classes minoritaires au sein d'\u00e9chantillons d\u00e9s\u00e9quilibr\u00e9s. Si une classe particuli\u00e8re ne rassemble qu'un effectif tr\u00e8s modeste par rapport aux autres strates, la matrice de variance-covariance empirique correspondante sera estim\u00e9e avec une variance d'\u00e9chantillonnage consid\u00e9rable. Les surfaces ellipso\u00efdales associ\u00e9es \u00e0 ce groupe peuvent alors se dilater artificiellement ou, au contraire, se r\u00e9tracter de mani\u00e8re anormale, g\u00e9n\u00e9rant des zones d'erreur d'attribution massives le long des fronti\u00e8res partag\u00e9es avec les classes abondantes.<\/p>\n

        Enfin, sur le plan de l'intelligibilit\u00e9 scientifique, l'analyse discriminante quadratique manque d'interpr\u00e9tabilit\u00e9 directe par rapport \u00e0 des mod\u00e8les additifs ou \u00e0 la r\u00e9gression logistique multivari\u00e9e. Alors que cette derni\u00e8re permet d'isoler l'impact individuel d'un pr\u00e9dicteur \u00e0 travers un odds ratio<\/em> univoque assorti de son intervalle de confiance, l'ADQ int\u00e8gre les variables au sein de formes bilin\u00e9aires quadratiques complexes ($x^T \\Sigma_k^{-1} x$<\/span>). Il devient d\u00e8s lors difficile d'expliquer \u00e0 des d\u00e9cideurs ou \u00e0 un panel de praticiens la contribution isol\u00e9e d'un facteur donn\u00e9 ind\u00e9pendamment de l'ensemble du r\u00e9seau de corr\u00e9lations crois\u00e9es.<\/p>\n

        12.2 Positionnement face aux algorithmes d'apprentissage automatique contemporains<\/h3>\n

        Dans le paysage contemporain de la science des donn\u00e9es, l'ADQ fait face \u00e0 la concurrence directe d'algorithmes non param\u00e9triques tr\u00e8s r\u00e9pandus, tels que les for\u00eats al\u00e9atoires (Random Forests<\/em>), le Gradient Boosting<\/em> (XGBoost, LightGBM) et les machines \u00e0 vecteurs de support (SVM) \u00e0 noyau gaussien RBF. \u00c9tablir une comparaison objective des m\u00e9rites respectifs s'av\u00e8re indispensable pour justifier le choix m\u00e9thodologique de l'analyste.<\/p>\n

        Les for\u00eats al\u00e9atoires et les arbres boost\u00e9s poss\u00e8dent l'avantage incontestable d'une totale agnosticit\u00e9 vis-\u00e0-vis des distributions statistiques sous-jacentes. Ils g\u00e8rent avec fluidit\u00e9 les pr\u00e9dicteurs mixtes (continus et qualitatifs), sont insensibles aux valeurs aberrantes univari\u00e9es et int\u00e8grent nativement des interactions d'ordre \u00e9lev\u00e9 sans requ\u00e9rir d'hypoth\u00e8se de normalit\u00e9 multivari\u00e9e. De leur c\u00f4t\u00e9, les SVM \u00e0 noyau RBF sont capables d'\u00e9pouser des topologies non lin\u00e9aires infiniment plus versatiles que les surfaces purement coniques de l'ADQ, tout en \u00e9vitant le surapprentissage gr\u00e2ce au contr\u00f4le rigoureux de la marge de s\u00e9paration.<\/p>\n

        N\u00e9anmoins, l'analyse discriminante quadratique conserve des atouts structurels majeurs face \u00e0 ces m\u00e9thodologies modernes. Sur le plan computationnel, l'ADQ offre une r\u00e9solution math\u00e9matique analytique directe (en forme ferm\u00e9e) ne r\u00e9clamant aucune descente de gradient it\u00e9rative ni aucun processus de propagation stochastique, ce qui conf\u00e8re \u00e0 son entra\u00eenement une vitesse d'ex\u00e9cution quasi-instantan\u00e9e, m\u00eame sur des matrices de donn\u00e9es denses. De surcro\u00eet, lorsque les postulats th\u00e9oriques de normalit\u00e9 multivari\u00e9e et d'h\u00e9t\u00e9rosc\u00e9dasticit\u00e9 sont raisonnablement satisfaits dans les donn\u00e9es empiriques, l'ADQ surpasse fr\u00e9quemment les algorithmes complexes par sa sup\u00e9riorit\u00e9 asymptotique, en \u00e9vitant l'instabilit\u00e9 li\u00e9e au r\u00e9glage d'une multitude d'hyperparam\u00e8tres heuristiques.<\/p>\n

        12.3 Check-list m\u00e9thodologique pour une application rigoureuse dans R<\/h3>\n

        Afin de garantir l'excellence m\u00e9thodologique, la validit\u00e9 interne et la reproductibilit\u00e9 des inf\u00e9rences conduites au moyen de l'analyse discriminante quadratique sous R, l'analyste veillera \u00e0 suivre scrupuleusement le protocole s\u00e9quentiel d'assurance qualit\u00e9 consign\u00e9 dans la check-list suivante :<\/p>\n