Fonction discriminante vs. Analyse factorielle

Le traitement des données quantitatives complexes pose un défi méthodologique constant dans l’ensemble des sciences contemporaines, qu’il s’agisse de la biomédecine, des sciences du comportement, de l’économétrie ou de l’ingénierie des données. Face à des matrices d’observations comportant des dizaines, voire des centaines de descripteurs continus, les chercheurs sont confrontés à deux impératifs souvent intriqués mais conceptuellement disjoints : résumer l’information en identifiant des dimensions conceptuelles sous-jacentes d’une part, et classifier de façon optimale des unités statistiques au sein de groupes mutuellement exclusifs d’autre part. Cette dualité d’objectifs a historiquement favorisé l’émergence de deux approches multivariées fondamentales : l’analyse factorielle et l’analyse par fonction discriminante.

Bien que ces deux familles méthodologiques partagent un héritage mathématique commun fondé sur l’algèbre linéaire, la géométrie euclidienne multidimensionnelle et la décomposition spectrale des matrices de variance-covariance, leurs fondements épistémologiques divergent radicalement. L’analyse factorielle cherche à sonder la structure interne d’un réseau de variables manifestes pour en extraire des construits inobservables, opérant ainsi dans un cadre non supervisé où aucune variable de réponse externe n’est postulée. À l’opposé, l’analyse discriminante s’ancre dans un paradigme supervisé, orienté vers la modélisation des frontières séparatrices entre des classes prédéfinies à partir d’un ensemble de prédicteurs continus.

La confusion persistante observée dans la littérature scientifique appliquée provient en grande partie de la similarité apparente de leurs représentations algébriques et de leurs sorties logicielles. Des termes tels que « facteurs », « fonctions canoniques », « saturations », « poids » ou « scores » sont fréquemment employés de manière interchangeable dans les comptes rendus empiriques, induisant des erreurs d’interprétation théorique et des inférences erronées. Le présent exposé a pour vocation d’analyser en profondeur les mécanismes mathématiques, les conditions d’application, les divergences épistémologiques et les convergences opératoires de ces deux méthodes capitales de la statistique multivariée.

1. Introduction aux techniques multivariées : Définitions et contextes d’usage

1.1 Origine conceptuelle et rôle dans la modélisation statistique

L’émergence des statistiques multivariées au début du vingtième siècle a marqué une rupture avec le paradigme univarié classique hérité des travaux sur la distribution normale unilatérale. Alors que la recherche empirique se heurtait à des phénomènes dont la complexité intrinsèque ne pouvait être saisie par une variable isolée sans un biais réducteur inacceptable, des statisticiens et psychologues pionniers ont cherché à appréhender les interdépendances globales au sein de systèmes complexes. Dès 1904, Charles Spearman posait les premiers jalons de l’analyse factorielle en tentant d’isoler un facteur général d’intelligence à partir de la matrice de corrélations de multiples tests cognitifs. Quelques décennies plus tard, en 1936, Ronald Aylmer Fisher formalisait le problème de l’analyse discriminante linéaire afin de résoudre une énigme taxonomique botanique concrète : différencier rigoureusement trois espèces d’iris sur la base de mesures morphologiques de leurs sépales et pétales.

Sur le plan définitionnel, la fonction discriminante se conçoit comme une technique statistique supervisée destinée à identifier la combinaison linéaire optimale de variables prédictives quantitatives permettant de discriminer de la manière la plus nette possible deux ou plusieurs populations ou groupes connus a priori. Elle répond à deux finalités complémentaires : une finalité descriptive ou explicative, qui vise à identifier les variables contribuant le plus fortement à la différenciation des groupes, et une finalité décisionnelle ou prédictive, consistant à affecter une nouvelle observation d’origine inconnue au groupe dont elle est statistiquement la plus proche. Le statut des données y est asymétrique : il existe obligatoirement une variable dépendante catégorielle délimitant les groupes et un vecteur de variables indépendantes quantitatives.

En contrepoint, l’analyse factorielle constitue une méthode d’apprentissage non supervisé et de réduction de dimension qui postule l’existence de variables latentes — c’est-à-dire non observables directement — sous-jacentes aux corrélations observées entre un ensemble de variables manifestes. Contrairement aux approches prédictives, l’analyse factorielle traite l’ensemble des variables sur un pied d’égalité, sans distinction entre variables dépendantes et indépendantes. Son rôle fondamental est d’expliquer la covariance observée avec un nombre minimal de facteurs communs, isolant ainsi la variance partagée de la variance unique et du bruit de mesure. Dans la recherche scientifique, clarifier cette distinction est indispensable : appliquer une analyse factorielle là où des groupes théoriques doivent être différenciés mène à ignorer la structure catégorielle sous-jacente, tandis qu’appliquer une fonction discriminante sur un ensemble homogène sans variable de classe conduit à des partitions artificielles dépourvues de validité théorique.

1.2 Pourquoi ces deux approches sont-elles fréquemment confondues ?

La confusion récurrente entre analyse factorielle et fonction discriminante au sein de la communauté des chercheurs appliqués n’est pas fortuite ; elle s’explique par une homologie formelle manifeste dans les opérations mathématiques sous-jacentes. Dans les deux cas, le chercheur manipule un ensemble de prédicteurs continus mesurés sur une population d’individus et cherche à condenser cet espace à $p$ dimensions en un sous-espace vectoriel de dimension $m$, avec $m < p$. Dans les deux approches, cette condensation s'opère par l'intermédiaire de combinaisons linéaires des variables initiales. Une fonction discriminante canonique s'écrit formellement comme une somme pondérée des descripteurs, tout comme un facteur théorique s'exprime ou se projette sous la forme d'une somme pondérée des variables manifestes.

Au-delà de cette structure linéaire partagée, l’appareil calculatoire de ces deux méthodologies mobilise les mêmes outils fondamentaux de l’algèbre linéaire, plus particulièrement la décomposition spectrale et la résolution de problèmes aux valeurs propres et vecteurs propres. Dans l’analyse factorielle, l’extraction repose sur la diagonalisation de la matrice de corrélation ou de covariance, ou sur une décomposition en valeurs singulières. Dans l’analyse discriminante, la recherche des coefficients canoniques passe par la résolution d’un problème aux valeurs propres généralisées impliquant le produit de l’inverse de la matrice de covariance intra-groupe par la matrice de covariance inter-groupe. Cette similarité mathématique produit des sorties logicielles qui présentent une ressemblance troublante pour le praticien non spécialiste : des tables affichant des coefficients, des pourcentages de variance associés à des axes ordonnés, et des représentations graphiques bidimensionnelles projetant les individus dans un espace réduit.

Cette ressemblance superficielle masque pourtant un abîme conceptuel. Dans le cas de l’analyse factorielle, les coefficients obtenus (les saturations factorielles) quantifient la corrélation ou la dépendance structurelle entre une variable manifeste et un construit théorique abstrait. Dans le cadre de l’analyse discriminante, les coefficients (coefficients canoniques standardisés) indiquent la contribution relative d’une variable à la séparation maximale de classes concrètes et empiriquement observables. Confondre une projection destinée à maximiser la variance partagée globale avec une projection conçue pour maximiser l’écartement de centroïdes de groupes distincts constitue une erreur méthodologique sévère, conduisant à des interprétations substantiellement fausses de la dynamique des données.

1.3 Objectifs scientifiques et cadre comparatif de l’analyse

Face à un corpus de données empiriques, le choix de la méthode d’analyse ne doit pas résulter d’une préférence stylistique ou d’une habitude logicielle, mais d’une articulation logique entre la question de recherche, la nature des hypothèses formulées et les propriétés distributionnelles des variables. Le cadre scientifique de cette comparaison exige d’évaluer scrupuleusement la structure de causalité implicite postulée par le chercheur. Si l’on suppose qu’une entité non mesurée gouverne l’apparition de comportements ou de symptômes mesurables, la théorie de la mesure impose le recours à la modélisation par variables latentes de l’analyse factorielle. Si l’on cherche au contraire à établir si des indicateurs physiologiques permettent de classer de manière fiable des sujets entre « malades » et « sains », l’orientation décisionnelle impose l’analyse discriminante.

Ce comparatif rigoureux requiert également de confronter les exigences distributionnelles imposées par chaque technique. L’analyse discriminante paramétrique classique repose sur des hypothèses strictes de normalité multivariée au sein de chaque groupe et d’homogénéité des matrices de covariance (homoscédasticité multivariée), sous peine de biaiser lourdement les taux d’erreur de classification. L’analyse factorielle, quant à elle, impose des conditions d’échantillonnage spécifiques, des distributions linéaires entre variables et, selon la méthode d’extraction adoptée (comme le maximum de vraisemblance), la normalité multivariée pour autoriser les tests d’adéquation globale.

Afin de guider rationnellement les praticiens, ce travail établit une grille d’évaluation systématique reposant sur plusieurs axes analytiques : la fonction mathématique de perte optimisée, la topologie de l’espace géométrique généré, la robustesse statistique face aux violations des postulats, la puissance diagnostique et l’interprétabilité théorique des structures obtenues. L’enjeu est de doter le chercheur d’une grille de lecture univoque permettant de déterminer avec précision quelle technique déploie une validité scientifique maximale en fonction des contraintes de l’étude menée.

2. La fonction discriminante : Fondements, mécanique et modélisation

2.1 Cadre mathématique et formulation de Fisher

L’analyse discriminante linéaire (souvent désignée par l’acronyme anglais LDA) repose sur un principe géométrique et variationnel élégant formulé par Ronald Fisher. L’objectif mathématique central est de projeter un ensemble d’observations multidimensionnelles $\mathbf{x} in \mathbb{R}^p$ sur un axe unidimensionnel défini par un vecteur directeur $\mathbf{w}$, de manière à ce que les projections des différents groupes soient aussi distinctes que possible tout en conservant une dispersion minimale au sein de chaque groupe. Pour formaliser ce principe dans le cas de deux groupes, on définit la matrice de dispersion inter-groupes (ou matrice de sommes de carrés et produits croisés inter-groupes) notée $\mathbf{S}_B$, et la matrice de dispersion intra-groupe notée $\mathbf{S}_W$.

La matrice de covariance intra-groupe $\mathbf{S}_W$ synthétise la variabilité des individus autour du centroïde de leur groupe respectif, calculée par la somme pondérée des matrices de covariance empiriques de chaque classe :

$$\mathbf{S}_W = \sum_{k=1}^K \sum_{i in C_k} (\mathbf{x}_i – \bar{\mathbf{x}}_k)(\mathbf{x}_i – \bar{\mathbf{x}}_k)^T$$

où $\bar{\mathbf{x}}_k$ représente le vecteur moyen du groupe $C_k$. À l’inverse, la matrice $\mathbf{S}_B$ capture la dispersion des moyennes de groupes autour du centroïde global $\bar{\mathbf{x}}$ :

$$\mathbf{S}_B = \sum_{k=1}^K n_k (\bar{\mathbf{x}}_k – \bar{\mathbf{x}})(\bar{\mathbf{x}}_k – \bar{\mathbf{x}})^T$$

où $n_k$ désigne l’effectif de la classe $k$. Le critère d’optimisation de Fisher consiste alors à maximiser le quotient de Rayleigh suivant :

$$J(\mathbf{w}) = \frac{\mathbf{w}^T \mathbf{S}_B \mathbf{w}}{\mathbf{w}^T \mathbf{S}_W \mathbf{w}}$$

La dérivation de cette fonction par rapport au vecteur $\mathbf{w}$ et son annulation conduisent directement à l’équation aux valeurs propres généralisées :

$$\mathbf{S}_W^{-1} \mathbf{S}_B \mathbf{w} = \lambda \mathbf{w}$$

Les vecteurs propres associés aux plus grandes valeurs propres fournissent les coefficients des fonctions discriminantes successives. La dimension maximale du sous-espace discriminant est strictement bornée par le rang de la matrice $\mathbf{S}_B$, qui est au maximum égal à $min(K – 1, p)$, où $K$ est le nombre de classes et $p$ le nombre de variables prédictives. Dans un scénario à deux groupes ($K=2$), il n’existe donc qu’une unique fonction discriminante canonique.

Lorsque l’on étend cette perspective géométrique au paradigme probabiliste bayésien, l’affectation d’un individu repose sur le calcul de la probabilité a posteriori d’appartenir à la classe $C_k$ conditionnellement aux observations $\mathbf{x}$, notée $P(C_k mid \mathbf{x})$. Selon le théorème de Bayes :

$$P(C_k mid \mathbf{x}) = \frac{f(\mathbf{x} mid C_k) P(C_k)}{\sum_{j=1}^K f(\mathbf{x} mid C_j) P(C_j)}$$

En postulant que la densité conditionnelle $f(\mathbf{x} mid C_k)$ suit une loi normale multivariée $\mathcal{N}(boldsymbol{\mu}_k, boldsymbol{\Sigma}_k)$, la règle de décision dépend de la structure des matrices de covariance. Si l’on suppose l’égalité des matrices de covariance ($boldsymbol{\Sigma}_k = boldsymbol{\Sigma}$ pour tout $k$), les termes quadratiques en $\mathbf{x}$ s’annulent lors du calcul du logarithme du rapport de vraisemblance, débouchant sur une frontière de décision linéaire (LDA). Si cette hypothèse est rejetée et que chaque groupe possède sa propre matrice de covariance $boldsymbol{\Sigma}_k$, la frontière devient une surface quadratique, ce qui correspond à l’analyse discriminante quadratique (QDA), géométriquement plus flexible mais requérant l’estimation d’un nombre considérablement plus élevé de paramètres ($K \times p(p+1)/2$).

2.2 Hypothèses sous-jacentes et conditions de validité

La validité statistique et la fiabilité inférentielle de la fonction discriminante linéaire reposent sur un ensemble d’hypothèses distributionnelles rigoureuses qu’il convient de tester systématiquement avant toute exploitation des modèles. La première condition fondamentale est la normalité multivariée des prédicteurs continus au sein de chaque groupe considéré isolément. Bien que le théorème central limite confère une relative robustesse à l’estimation des moyennes dans les échantillons volumineux, des asymétries prononcées ou des kurtosis extrêmes peuvent distordre de façon substantielle l’estimation de la matrice de covariance intra-groupe et gonfler artificiellement les probabilités de mauvais classement.

La seconde exigence, souvent la plus contraignante dans la pratique, réside dans l’homogénéité des matrices de variance-covariance entre les différents groupes, couramment appelée homoscédasticité multivariée. Cette hypothèse stipule que la structure de dispersion des variables doit être invariante d’une classe à l’autre ($boldsymbol{\Sigma}_1 = boldsymbol{\Sigma}_2 = dots = boldsymbol{\Sigma}_K$). Sur le plan diagnostique, cette hypothèse s’évalue traditionnellement au moyen du test M de Box. Cependant, ce test s’avère particulièrement sensible aux déviations par rapport à la normalité multivariée, conduisant fréquemment à des rejets erronés de l’hypothèse nulle dans les grands échantillons. En présence d’hétéroscédasticité confirmée, les estimateurs linéaires cessent d’être optimaux, et le recours à l’analyse discriminante quadratique (QDA) ou à des approches non paramétriques devient impératif.

Une attention méticuleuse doit également être portée à l’absence de multicolinéarité parfaite ou quasi-parfaite parmi les variables explicatives. Puisque la détermination des fonctions canoniques implique l’inversion de la matrice $\mathbf{S}_W$, un déterminant proche de zéro génère une instabilité numérique sévère des coefficients de pondération, rendant les poids hautement volatils et impossibles à interpréter. De surcroît, la fonction discriminante est extrêmement vulnérable aux valeurs aberrantes multivariées (outliers), qui exercent un effet de levier disproportionné sur les centroïdes de groupe et la structure des covariances, altérant l’orientation optimale des hyperplans de séparation.

Enfin, le rapport entre la taille de l’échantillon et le nombre de descripteurs conditionne directement la généralisabilité du modèle. Les règles empiriques suggèrent un effectif minimal absolu de 20 observations par prédicteur, la classe la plus petite devant impérativement compter plus d’observations que le nombre de variables ($n_{\min} > p$). Le non-respect de ces ratios favorise le phénomène de surajustement (overfitting), dans lequel le modèle apprend le bruit statistique de l’échantillon d’apprentissage, affichant d’excellentes performances apparentes mais s’effondrant lors de son application à de nouvelles données indépendantes.

2.3 Champs d’application et interprétation des résultats

Les applications empiriques de l’analyse discriminante sont vastes et couvrent des disciplines variées nécessitant des classifications supervisées fondées sur des biomarqueurs ou des métriques quantitatives. En bio-informatique et en médecine translationnelle, la méthode est intensément exploitée pour établir des signatures diagnostiques ou pronostiques à partir de profils d’expression génique ou de panels protéomiques, permettant par exemple de distinguer des sous-types tumoraux agressifs de lésions bénignes. Dans le secteur bancaire et financier, l’analyse discriminante a constitué la pierre angulaire de l’évaluation du risque de crédit, immortalisée par le score Z d’Edward Altman conçu pour prédire la défaillance d’entreprises à partir de ratios financiers standards tels que la rentabilité des actifs ou le ratio d’endettement global.

L’exploitation analytique des résultats d’une fonction discriminante requiert une distinction rigoureuse entre plusieurs indicateurs synthétiques. L’examen des coefficients canoniques standardisés informe sur le rôle unique de chaque prédicteur dans la construction de la fonction, de manière analogue aux coefficients de régression multiple régularisés. Toutefois, en présence d’intercorrélations entre prédicteurs, ces coefficients peuvent s’avérer trompeurs en raison d’effets de suppression. Il est dès lors préférable de se référer à la matrice de structure (ou coefficients de structure), qui regroupe les corrélations bivariées simples entre chaque variable et la fonction discriminante considérée. Les variables affichant des corrélations de structure supérieures en valeur absolue à $0{,}30$ ou $0{,}40$ sont habituellement considérées comme les marqueurs substantiels de la dimension discriminante.

Sur le plan global, la significativité statistique de la séparation entre les groupes est quantifiée par le test du $Lambda$ (Lambda) de Wilks, dont la valeur varie entre 0 et 1 :

$$\Lambda = \frac{|\mathbf{S}_W|}{|\mathbf{S}_W + \mathbf{S}_B|} = \prod_{i=1}^m \frac{1}{1 + \lambda_i}$$

Une valeur proche de 0 indique que la variabilité inter-groupes prédomine largement sur la variabilité intra-groupe, signalant une discrimination hautement significative, validée par une approximation du test $F$ de Rao.

Enfin, la performance décisionnelle de l’algorithme est sanctionnée par l’analyse de la matrice de confusion, dressant le bilan des vrais positifs, faux positifs, vrais négatifs et faux négatifs. Les taux d’exactitude globale (accuracy) doivent systématiquement être pondérés par l’examen de la sensibilité et de la spécificité clinique ou financière. L’indice Kappa de Cohen vient compléter cette évaluation en mesurant l’accord au-delà du simple hasard, particulièrement lorsque la répartition des classes est déséquilibrée dans la cohorte d’étude. Pour prémunir le modèle contre tout optimisme trompeur, une validation croisée (par exemple par validation croisée à $k$ blocs ou par la méthode de Jackknife) doit systématiquement être mise en œuvre.

3. L’analyse factorielle : Modélisation des variables latentes et réduction

3.1 Cadre théorique et équations structurelles de base

L’analyse factorielle s’inscrit dans une tradition épistémologique différente de celle des méthodes de classification. Elle part du postulat fondamental formulé par la théorie de la mesure selon lequel les covariations observées entre de multiples indicateurs empiriques manifestes sont générées par l’action d’un nombre restreint de variables inobservées, dénommées facteurs latents ou construits théoriques. Contrairement aux approches purement inductives de condensation géométrique, l’analyse factorielle commune repose sur un modèle génératif linéaire explicite. Elle décompose le score standardisé de chaque individu sur une variable manifeste en deux parties distinctes : la variance commune, expliquée par l’influence partagée des facteurs latents, et la variance unique, propre à la variable considérée.

Cette distinction théorique constitue le point de divergence absolu entre l’Analyse en Composantes Principales (ACP) et l’Analyse Factorielle Exploratoire (AFE ou EFA en anglais). Tandis que l’ACP se contente de redistribuer la totalité de la variance observée (variance commune, variance spécifique et variance d’erreur confondues) dans des composantes orthogonales sans formuler d’hypothèse sur la causalité sous-jacente, l’analyse factorielle commune modélise exclusivement la variance commune. Elle soustrait délibérément la variance unique (composée de la spécificité théorique de l’item et du bruit aléatoire de mesure), postulant que seule la variance partagée est porteuse d’une signification conceptuelle globale.

Sur le plan matriciel formel, le modèle factoriel classique pour un vecteur de variables observables standardisées $\mathbf{z}$ de dimension $p$ s’exprime ainsi :

$$\mathbf{z} = \mathbf{\Lambda} \mathbf{f} + \mathbf{u}$$

où $\mathbf{\Lambda}$ désigne la matrice $p \times m$ des saturations factorielles (factor loadings), $\mathbf{f}$ est le vecteur de dimension $m$ des facteurs communs latents ($m ll p$), et $\mathbf{u}$ est le vecteur des facteurs uniques non partagés. En posant les hypothèses standards selon lesquelles les facteurs communs sont standardisés et indépendants des facteurs uniques, la matrice de corrélation théorique des variables manifestes, notée $boldsymbol{\Sigma}$, est décomposée selon la relation structurelle fondamentale :

$$boldsymbol{\Sigma} = \mathbf{\Lambda} \mathbf{\Phi} \mathbf{\Lambda}^T + \mathbf{\Psi}$$

Dans cette formulation, $\mathbf{\Phi}$ représente la matrice de corrélation des facteurs latents (qui se réduit à la matrice identité $\mathbf{I}_m$ si les facteurs sont supposés orthogonaux), et $\mathbf{\Psi}$ est une matrice diagonale contenant les variances uniques (unicités) de chaque indicateur. La quantité $h_j^2 = 1 – \psi_{jj}$ représente la communalité de la variable $j$, c’est-à-dire la proportion de sa variance totale expliquée par l’ensemble des facteurs communs retenus dans le modèle.

3.2 Processus d’extraction et rotation des facteurs

L’estimation des paramètres du modèle factoriel exige d’extraire les facteurs communs à partir de la matrice de données empiriques. Plusieurs techniques d’extraction coexistent dans la pratique statistique. La factorisation par axes principaux (Principal Axis Factoring) procède de manière itérative : elle substitue aux valeurs unitaires de la diagonale de la matrice de corrélation des estimations initiales des communalités (fréquemment le carré du coefficient de corrélation multiple de chaque variable avec toutes les autres), puis diagonalise la matrice réduite jusqu’à convergence numérique. À l’opposé, la méthode du maximum de vraisemblance (Maximum Likelihood), conditionnée à l’hypothèse de normalité multivariée, estime simultanément les saturations et les unicités en maximisant la fonction de log-vraisemblance des données observées. Elle offre l’avantage majeur de fournir des erreurs-types asymptotiques pour chaque saturation et d’autoriser un test d’adéquation globale fondé sur la loi du Chi-deux.

La détermination du nombre optimal de facteurs à retenir constitue une étape névralgique de l’analyse, conditionnant l’ensemble des conclusions substantives. Plusieurs critères de rétention sont documentés dans la littérature spécialisée :

• La règle de Kaiser-Guttman : Elle préconise de conserver uniquement les facteurs dont la valeur propre est strictement supérieure à 1,0. Bien que largement implémentée par défaut dans les logiciels commerciaux, cette règle présente une tendance notoire à la sur-extraction dans les échantillons de taille moyenne à grande.
• Le test d’éboulis de Cattell (Scree test) : Approche graphique reposant sur l’inspection du graphique des valeurs propres ordonnées de manière décroissante, où le point d’inflexion (ou coude) délimite les facteurs majeurs du bruit résiduel constitué par les facteurs mineurs.
• L’analyse parallèle de Horn : Reconnue comme l’étalon-or méthodologique, elle consiste à simuler de multiples jeux de données aléatoires possédant les mêmes dimensions (nombre de sujets et nombre de variables) que l’échantillon d’origine. Les valeurs propres empiriques ne sont retenues que si elles dépassent significativement les valeurs propres moyennes (ou le 95e percentile) générées par le bruit statistique pur.

Une fois le nombre de facteurs fixé, la solution factorielle initiale souffre d’indétermination spatiale : il existe une infinité de bases vectorielles capables de reproduire de manière identique la matrice de corrélation. C’est ici qu’intervient la rotation factorielle, dont l’objet est de transformer la matrice de saturation afin d’atteindre le critère de structure simple formalisé par Louis Leon Thurstone. La structure simple implique que chaque variable présente des saturations élevées sur un unique facteur et proches de zéro sur les autres, facilitant ainsi l’attribution d’un sens conceptuel à chaque axe latent.

Les rotations orthogonales, telles que la célèbre méthode Varimax conçue par Henry Kaiser, contraignent les axes factoriels à conserver un angle de 90 degrés, postulant l’indépendance mutuelle stricte des dimensions latentes. Bien qu’élégante mathématiquement, cette orthogonalité s’avère fréquemment irréaliste en sciences humaines et sociales, où les construits psychologiques ou économiques sont presque invariablement interreliés. Dès lors, les rotations obliques, telles que Promax ou Oblimin direct, autorisent les facteurs à s’intercorréler. Elles produisent deux matrices distinctes de résultats : la matrice de configuration (pattern matrix), qui contient les coefficients de régression directe des variables sur chaque facteur et sert de support privilégié à l’interprétation, et la matrice de structure (structure matrix), représentant les corrélations bivariées simples intégrant la colinéarité entre facteurs.

3.3 Champs d’application et validation des construits

L’analyse factorielle trouve son terrain de prédilection en psychométrie, en sociologie quantitative et en sciences du comportement, où elle constitue l’outil par excellence pour l’élaboration et la validation d’échelles de mesure psychologiques, de batteries de tests d’aptitude cognitive et d’inventaires de personnalité. Le célèbre modèle des Big Five en psychologie de la personnalité repose fondamentalement sur la réduction factorielle d’un vaste lexique de traits de caractère vers cinq grands domaines invariants (Ouverture, Conscienciosité, Extraversion, Agréabilité, Névrosisme). En marketing quantitatif, l’approche permet d’identifier les motivations latentes des consommateurs ou d’évaluer la perception multidimensionnelle de la qualité de service à partir de multiples items d’évaluation d’enquêtes.

Le passage d’une démarche purement exploratoire (AFE) à une démarche confirmatoire (AFC ou CFA) marque la transition vers les modèles de mesure stricts. Dans l’analyse factorielle confirmatoire, le chercheur spécifie a priori la structure théorique : il assigne explicitement chaque indicateur à un facteur déterminé et contraint les saturations croisées à zéro, confrontant ensuite ce modèle restrictif à la matrice empirique. Cette démarche permet d’évaluer la validité de construit selon les critères rigoureux définis par la littérature méthodologique.

La validité convergente exige que les indicateurs supposés mesurer un même construit partagent une part substantielle de variance. Elle s’évalue traditionnellement par la fiabilité composite (Rhô de Jöreskog), qui doit excéder le seuil de $0{,}70$, et par la variance moyenne extraite (AVE), formalisée par Fornell et Larcker, dont la valeur seuil recommandée est de $0{,}50$ :

$$\text{AVE} = \frac{\sum_{i=1}^p \lambda_i^2}{\sum_{i=1}^p \lambda_i^2 + \sum_{i=1}^p \text{Var}(u_i)}$$

La validité discriminante, quant à elle, garantit qu’un construit théorique est empiriquement distinct des autres construits du modèle. Selon le critère classique de Fornell-Larcker, la racine carrée de l’AVE de chaque facteur doit être strictement supérieure aux corrélations inter-factorielles partagées avec les autres dimensions latentes. Enfin, l’évaluation globale des modèles factoriels confirmatoires s’émancipe du simple test de Chi-deux, excessivement dépendant de la taille de l’échantillon, au profit d’un faisceau d’indices d’adéquation (goodness-of-fit indices) : l’erreur quadratique moyenne d’approximation (RMSEA $le 0{,}06$), l’indice d’ajustement comparatif (CFI $ge 0{,}95$), l’indice de Tucker-Lewis (TLI $ge 0{,}95$) et la racine carrée moyenne résiduelle standardisée (SRMR $le 0{,}08$).

4. Différences fondamentales : Tableau comparatif et dimensions d’analyse

4.1 Statut des variables et paradigme d’apprentissage

La césure majeure qui sépare la fonction discriminante de l’analyse factorielle réside dans le statut épistémologique et algorithmique des variables injectées dans le protocole expérimental. L’analyse discriminante relève sans ambiguïté du paradigme de l’apprentissage supervisé. Pour que le calcul matriciel puisse s’amorcer, les données doivent impérativement comporter une variable dépendante qualitative (ou variable de classe), externe et discrète, découpant l’échantillon en deux ou plusieurs groupes mutuellement exclusifs. Le chercheur connaît l’appartenance de chaque individu au sein de cette typologie a priori. Les variables continues jouent dès lors le rôle asymétrique de variables indépendantes prédictives dont l’unique mandat est d’expliquer ou de prédire cette appartenance prédéfinie.

À l’opposé, l’analyse factorielle opère intégralement dans le champ de l’apprentissage non supervisé. Aucune variable dépendante cible n’est requise ni même tolérée dans l’algorithme d’extraction standard. Toutes les variables manifestes sont traitées de manière parfaitement symétrique. L’algorithme n’a aucune information externe sur d’éventuels sous-groupes ou sur des étiquettes de diagnostic. Son ambition est intrinsèque : cartographier les régularités structurelles internes au système de descripteurs sans chercher à maximiser une concordance externe.

Cette divergence induit deux visions méthodologiques inconciliables. L’analyse discriminante est fondamentalement orientée groupe : son but ultime est de séparer des entités existantes en accentuant les contrastes qui les séparent. L’analyse factorielle est orientée structure : son but est d’unifier des descripteurs sous la bannière de concepts abstraits communs, en révélant l’architecture latente de la matrice de données sans altérer la distribution continue des individus. Ignorer cette dichotomie revient à commettre un sophisme catégoriel : modéliser la covariance entre items pour y chercher des groupes, ou contraindre des variables continues à prédire des frontières artificielles alors qu’aucune segmentation externe n’est documentée empiriquement.

4.2 Mécanismes computationnels et critères d’optimisation

Sur le plan mathématique et algorithmique, bien que les deux méthodes fassent appel au calcul matriciel, leurs fonctions de perte et leurs critères d’optimisation poursuivent des trajectoires diamétralement opposées. L’analyse discriminante focalise la totalité de sa puissance de calcul sur le contraste entre deux sources de variabilité bien distinctes : elle cherche à maximiser le ratio de dispersion de la variance inter-classes ($\mathbf{S}_B$) par rapport à la variance intra-classe ($\mathbf{S}_W$). Les axes discriminants résultants constituent des directions de projection qui déforment délibérément l’espace initial pour repousser les centroïdes des groupes aussi loin que possible les uns des autres tout en resserrant les conglomérats d’observations individuelles autour de ces centroïdes.

L’analyse factorielle ignore par nature cette décomposition inter/intra-groupes. Son matériau brut n’est ni $\mathbf{S}_B$ ni $\mathbf{S}_W$, mais la matrice globale de corrélation empirique $\mathbf{R}$ ou de covariance globale $boldsymbol{\Sigma}$. Sa fonction d’optimisation vise à minimiser la différence résiduelle entre la matrice de corrélation empirique observée et la matrice de corrélation théorique reconstituée à partir des paramètres du modèle ($\mathbf{\Sigma} – (\mathbf{\Lambda}\mathbf{\Phi}\mathbf{\Lambda}^T + \mathbf{\Psi})$). Là où le discriminant cherche à étirer l’espace pour amplifier des dissemblances locales entre des groupes, le facteur cherche à résumer l’espace global en minimisant la perte d’information relationnelle entre variables.

Une conséquence immédiate de cette opposition réside dans les contraintes de rang et la détermination du nombre de dimensions retenues. En analyse discriminante linéaire, le nombre maximal de fonctions canoniques extractibles est mathématiquement verrouillé par la formule $min(K – 1, p)$. Pour une étude opposant deux groupes de patients ($K = 2$) à l’aide de cinquante variables biologiques ($p = 50$), il n’existera strictement qu’une seule fonction discriminante, réduisant l’espace décisionnel à une unique ligne droite. En revanche, l’analyse factorielle menée sur ces mêmes cinquante variables autorise théoriquement l’extraction de un à plusieurs dizaines de facteurs latents indépendants, le nombre final étant régi par la théorie du domaine, les éboulis factoriels et l’analyse parallèle de Horn, sans aucune borne imposée par un découpage catégoriel externe.

4.3 Matrice synthétique des contrastes méthodologiques

Afin de synthétiser avec une précision chirurgicale les oppositions structurelles, fonctionnelles et opératoires entre les deux approches, le tableau ci-dessous dresse une comparaison exhaustive des caractéristiques méthodologiques fondamentales.

Dimension d’analyse	Fonction discriminante (LDA / QDA)	Analyse factorielle (AFE / AFC)
Paradigme d’apprentissage	Supervisé (classification / affectation)	Non supervisé (réduction / variables latentes)
Finalité première	Séparation optimale de groupes prédéfinis et prédiction de nouvelles observations	Découverte ou confirmation de dimensions théoriques inobservables
Statut des variables	Asymétrique : 1 variable dépendante qualitative (catégorielle) et $p$ prédicteurs continus	Symétrique : ensemble homogène de variables manifestes continues
Matrice d’entrée optimisée	Quotient matriciel $\mathbf{S}_W^{-1} \mathbf{S}_B$ (dispersion intra-groupe vs inter-groupe)	Matrice de corrélation $\mathbf{R}$ ou de covariance $boldsymbol{\Sigma}$ réduite de ses unicités
Critère mathématique d’optimisation	Maximisation du quotient de Rayleigh (ratio de variance inter / intra)	Minimisation des résidus de corrélation non modélisés (ajustement de $boldsymbol{\Sigma}$)
Nombre maximal de dimensions	Strictement limité par $min(K – 1, p)$ où $K$ est le nombre de groupes	Libre, déterminé par la théorie, l’analyse parallèle et les critères d’extraction
Signification des coefficients	Poids canoniques discriminants : contribution marginale à la séparation inter-classes	Saturations factorielles : corrélation de la variable avec le construit latent sous-jacent
Nature de la variance traitée	Variance entre les groupes (entre centroïdes de classes)	Variance commune partagée uniquement (exclusion de la variance unique et d’erreur)
Indétermination et rotation	Pas de rotation spatiale ; les fonctions canoniques sont ordonnées par $lambda$ décroissants	Indétermination résolue par rotation spatiale orthogonale (Varimax) ou oblique (Promax)
Métriques d’évaluation globale	Lambda de Wilks, taux d’exactitude (accuracy), sensibilité, spécificité, Kappa de Cohen	Pourcentage de variance commune expliquée, RMSEA, CFI, TLI, SRMR, test du $\chi^2$

Ce tableau met en exergue l’incompatibilité des fonctions de perte sous-jacentes. Alors que l’utilisateur de l’analyse discriminante évalue son modèle par sa capacité à ne pas commettre d’erreurs de reclassement (mesurée par la matrice de confusion et l’indice de Wilks), l’analyste factoriel évalue la qualité de son modèle par l’adéquation formelle entre un patron de covariation théorique et la réalité des données d’échantillonnage, matérialisée par des indices de résidus et de parcimonie.

5. Similitudes structurelles et points de convergence

5.1 Algèbre linéaire et fondements matriciels partagés

En dépit de leurs orientations téléologiques divergentes, la fonction discriminante et l’analyse factorielle procèdent d’un socle d’algèbre matricielle remarquablement unifié. Dans les deux cas, le traitement statistique s’incarne dans la transformation d’un espace vectoriel d’origine à $p$ dimensions vers un sous-espace de projection à $m$ dimensions au moyen d’un système de combinaisons linéaires orthogonales au départ. Si l’on désigne par $\mathbf{X}$ la matrice des données centrées de dimension $n \times p$, toute nouvelle coordonnée synthétique $y_{ik}$ (qu’elle soit score factoriel ou score discriminant canonique) s’obtient par le produit scalaire d’un vecteur d’observations individuelles par un vecteur de coefficients de pondération :

$$y_{ik} = w_1 x_{i1} + w_2 x_{i2} + dots + w_p x_{ip} = \mathbf{w}_k^T \mathbf{x}_i$$

L’extraction de ces vecteurs de projection $\mathbf{w}_k$ s’organise autour de l’élucidation de problèmes d’équations caractéristiques. En analyse factorielle par axes principaux, on résout le système :

$$(\mathbf{R}^* – \lambda \mathbf{I}) \mathbf{v} = \mathbf{0}$$

où $\mathbf{R}^*$ est la matrice de corrélation réduite de sa diagonale d’unicité, alors qu’en analyse discriminante linéaire, on résout le problème spectral généralisé :

$$(\mathbf{S}_B – \lambda \mathbf{S}_W) \mathbf{w} = \mathbf{0} \quad iff \quad (\mathbf{S}_W^{-1} \mathbf{S}_B – \lambda \mathbf{I}) \mathbf{w} = \mathbf{0}$$

Dans les deux architectures de calcul, les valeurs propres obtenues ($\lambda_1 ge \lambda_2 ge dots$) représentent une mesure directe de la quantité optimisée. En analyse factorielle, $\lambda_k$ correspond à la quantité de variance capturée par le facteur latent considéré. En analyse discriminante, $\lambda_k$ reflète directement le ratio de la dispersion inter-classes sur la dispersion intra-classe attribuable à la fonction canonique correspondante. De surcroît, les axes initiaux extraits bénéficient dans les deux démarches d’une orthogonalité stricte imposée par les propriétés spectrales des matrices symétriques réelles sous-jacentes (bien que l’analyse factorielle s’autorise ultérieurement à relâcher cette contrainte par le truchement de rotations obliques). Cette fraternité mathématique explique pourquoi les mêmes routines computationnelles de diagonalisation numérique sont mobilisées au cœur des moteurs algorithmiques.

5.2 Complémentarité opérationnelle dans les pipelines d’analyse

Loin de s’exclure mutuellement, la fonction discriminante et l’analyse factorielle démontrent une synergie méthodologique puissante lorsqu’elles sont intégrées de façon séquentielle au sein de pipelines de modélisation avancés. L’un des écueils majeurs de l’analyse discriminante linéaire réside dans son extrême vulnérabilité face à la colinéarité élevée entre les descripteurs prédictifs, condition qui provoque l’instabilité, voire l’impossibilité de l’inversion de la matrice intra-groupe $\mathbf{S}_W$ requise pour le calcul de $\mathbf{S}_W^{-1} \mathbf{S}_B$.

Pour contourner ce verrou algorithmique, les statisticiens recourent fréquemment à une procédure en deux temps dite d’orthogonalisation factorielle préalable :

1. On soumet l’ensemble massif de variables manifestes colinéaires à une analyse factorielle (ou à une analyse en composantes principales) afin de condenser les intercorrélations en un nombre restreint de construits latents décorrélés.
2. On extrait pour chaque individu de l’échantillon son vecteur de scores factoriels standardisés.
3. Ces scores factoriels, par construction mutuellement orthogonaux (dans le cadre d’une extraction ou d’une rotation orthogonale type Varimax), sont alors injectés en tant que nouveaux prédicteurs continus dans l’analyse discriminante linéaire.

Ce protocole élimine intégralement tout risque de singularité matricielle liée à la multicolinéarité, stabilise les coefficients discriminants et allège considérablement le fardeau de la dimensionnalité, prévenant ainsi les dérives d’overfitting. Une application typique de ce schéma s’observe dans les études d’imagerie cérébrale fonctionnelle ou de transcriptomique, où des milliers de signaux fortement corrélés sont condensés en quelques facteurs de co-expression avant que ces derniers ne soient utilisés pour discriminer des cohortes de patients porteurs d’affections neurodégénératives face à des témoins sains.

De surcroît, les deux méthodes se complètent dans la validation croisée théorique des typologies. Lorsqu’une classification par fonction discriminante a permis d’isoler des groupes sur la base de scores canoniques, l’application concomitante d’une analyse factorielle confirmatoire sur les mêmes individus permet de tester si l’appartenance à ces classes modulaires s’explique par des variations quantitatives d’intensité sur des traits latents universels ou par des réorganisations qualitatives plus profondes de la structure de mesure. Cette double approche ancre solidement la robustesse des inférences scientifiques tant sur le versant de la prédiction externe que sur celui de l’élucidation théorique interne.

6. Critères de sélection : Quelle méthode appliquer selon le problème posé ?

6.1 Selon l’objectif de recherche et la structure des données

L’arbitrage méthodologique entre fonction discriminante et analyse factorielle doit s’opérer en stricte conformité avec la nature de la question scientifique directrice et la topologie du jeu de données disponible. L’analyse discriminante constitue le choix univoque et exclusif dès lors que la problématique implique la prédiction supervisée, le diagnostic différentiel ou la vérification empirique d’un clivage catégoriel préétabli. Si le chercheur dispose d’un critère d’assignation nominal (par exemple : entreprise solvable vs entreprise faillie ; rémission pathologique vs rechute clinique ; typologie d’espèces biologiques distinctes) et s’interroge sur la capacité d’une batterie de variables continues à modéliser ce clivage, l’analyse discriminante répond précisément à cette demande.

Inversement, le recours à l’analyse factorielle s’impose avec une force impérative lorsque la problématique est d’ordre psychométrique, ontologique ou réductionniste. Si l’interrogation centrale peut être formulée ainsi : « Quelles sont les dimensions fondamentales non observables qui structurent ce corpus d’indicateurs empiriques ? », toute tentative d’appliquer un algorithme discriminant constituerait une aberration conceptuelle faute d’étiquette de groupe théoriquement justifiable. Créer artificiellement des groupes par discrétisation arbitraire d’une variable continue (comme une scission par la médiane sur un score d’anxiété) pour forcer l’usage d’une fonction discriminante est une pratique formellement déconseillée : elle détruit une part colossale de l’information statistique, réduit la puissance des tests et induit des biais d’échantillonnage substantiels.

L’architecture de l’échantillon dicte également des contraintes de faisabilité incontournables. L’analyse discriminante exige une parité relative ou à tout le moins un équilibre d’effectifs entre les classes étudiées. En présence de classes hautement asymétriques (par exemple 98 % d’individus sains pour 2 % d’individus malades), les règles de décision géométriques de la LDA dérivent massivement vers la classe majoritaire, rendant l’affectation triviale et inefficace à moins de recalibrer les probabilités a priori bayésiennes ou d’appliquer des coûts de mauvais classement asymétriques. L’analyse factorielle s’affranchit de cette contrainte catégorielle, mais elle demeure inféodée à la taille absolue de l’échantillon global : des tailles d’échantillon inférieures à 200 ou 300 observations sont fréquemment jugées précaires pour stabiliser une matrice de saturation factorielle à plus de dix indicateurs.

6.2 Alternatives et extensions contemporaines

L’analyse discriminante et l’analyse factorielle traditionnelles ne constituent pas les uniques recours face aux problématiques de séparation ou de modélisation latente ; elles s’inscrivent dans un écosystème étendu d’alternatives modernes dotées de degrés de liberté accrus.

Face à la fonction discriminante linéaire, la régression logistique multinomiale représente l’alternative paramétrique la plus fréquente et la plus robuste. Alors que la LDA requiert la normalité multivariée des variables explicatives au sein de chaque groupe ainsi que l’égalité stricte des matrices de covariance, la régression logistique ne formule aucun postulat quant à la distribution des prédicteurs. Elle tolère sans artifice méthodologique l’inclusion de variables prédictives catégorielles, binaires ou hautement asymétriques, et fournit des rapports de cotes (odds ratios) d’une interprétabilité clinique ou économique immédiate. Si la LDA conserve une supériorité théorique en termes d’efficacité asymptotique (puissance statistique légèrement supérieure) lorsque toutes ses hypothèses de normalité sont parfaitement respectées, la régression logistique la supplante largement en termes de robustesse dans les jeux de données observationnels imparfaits du monde réel.

Sur le front de l’apprentissage automatique moderne, les méthodes non linéaires offrent un prolongement naturel à la fonction discriminante lorsque les frontières séparatrices dépassent les plans ou les quadriques classiques. Les machines à vecteurs de support (Support Vector Machines – SVM) à noyau radial et les algorithmes ensemblistes tels que les forêts aléatoires (Random Forests) ou le gradient boosting permettent de capturer des interactions de variables d’ordre arbitrairement complexe et de contourner totalement les contraintes d’homoscédasticité, bien que cette flexibilité s’accompagne d’une opacité accrue dans l’interprétation des poids prédictifs directs.

En ce qui concerne l’analyse factorielle, son prolongement méthodologique le plus achevé réside dans la modélisation par équations structurelles (Structural Equation Modeling – SEM). Alors que l’analyse factorielle confirmatoire se restreint à valider un modèle de mesure reliant des indicateurs à des construits latents, la SEM intègre simultanément ce modèle de mesure avec un modèle structurel reliant les variables latentes entre elles au moyen de régressions multiples simultanées. Cette méthodologie autorise le test rigoureux de chaînes de causalité complexes, d’effets de médiation et de modération tout en purgeant chaque relation des biais d’atténuation causés par l’erreur de mesure non systématique.

7. Foire aux questions (FAQ)

7.1 Peut-on utiliser l’analyse factorielle pour prédire l’appartenance à un groupe ?

L’analyse factorielle ne peut pas, par elle-même et de manière directe, prédire l’appartenance d’une observation à un groupe catégoriel. Cette impossibilité découle de sa conception algorithmique fondamentale : elle opère selon un mode d’apprentissage non supervisé qui ignore totalement toute variable de résultat, d’étiquette ou de classe externe. L’analyse factorielle condense la variance partagée entre variables manifestes mais n’a aucun mécanisme d’optimisation calibré pour tracer une frontière de décision ou minimiser des erreurs d’affectation taxonomique.

Toutefois, une exploitation indirecte est parfaitement envisageable au sein d’un protocole en deux étapes. Le chercheur peut déployer une analyse factorielle pour réduire un volumineux ensemble de variables corrélées en un nombre restreint de facteurs latents, calculer les scores factoriels individuels de chaque unité statistique, puis injecter ces scores factoriels en tant que variables indépendantes dans un modèle de classification supervisé tel qu’une régression logistique, une analyse discriminante de Fisher ou un arbre de décision. Il convient néanmoins d’attirer l’attention sur un écueil méthodologique récurrent : les facteurs extraits par l’analyse factorielle capturent les dimensions de plus forte variance globale dans l’ensemble des données, sans aucune garantie que ces dimensions particulières coïncident avec les axes qui séparent précisément les groupes d’intérêt.

7.2 Quelle est la principale différence d’interprétation entre un score factoriel et un score discriminant ?

La distinction entre ces deux métriques réside dans la signification théorique et l’orientation géométrique de l’espace de projection. Un score factoriel représente le positionnement relatif d’un individu le long d’un axe latent abstrait, censé matérialiser l’intensité ou la quantité d’un construit théorique sous-jacent possédé par cet individu (comme un niveau d’intelligence fluide, d’anxiété générale ou de conservatisme politique). Ces scores sont le plus couramment normalisés pour présenter une moyenne de zéro et un écart-type de un à travers l’ensemble de la population totale analysée.

À l’inverse, un score discriminant correspond à la projection de l’individu sur la fonction canonique optimale séparant des classes préétablies. Sa valeur exprime à quel point l’individu présente les caractéristiques typiques de l’un ou l’autre groupe d’appartenance. Les coefficients de pondération servant à calculer ce score ont été calibrés non pas pour capturer une intensité psychométrique continue universelle, mais pour maximiser la distance de Mahalanobis séparant les centroïdes de groupes donnés. En résumé, le score factoriel mesure « combien » d’un trait latent un individu possède, tandis que le score discriminant mesure « à quel groupe » un profil d’indicateurs l’apparente statistiquement le plus.

7.3 Comment choisir entre une analyse discriminante et une régression logistique ?

Le choix entre l’analyse discriminante linéaire (LDA) et la régression logistique binaire ou multinomiale s’articule autour de l’évaluation scrupuleuse des propriétés distributionnelles des variables prédictives et de la structure de l’échantillon :

• Optez pour l’analyse discriminante linéaire si : Toutes vos variables prédictives sont rigoureusement continues, qu’elles vérifient de manière satisfaisante l’hypothèse de normalité multivariée au sein de chaque groupe, et que les matrices de variance-covariance entre groupes sont approximativement homogènes (homoscédasticité validée). Dans ces conditions idéales, la LDA démontre une efficacité statistique et une puissance d’estimation supérieures à la régression logistique, particulièrement dans les échantillons de taille restreinte.
• Optez pour la régression logistique si : Votre modèle comporte des variables explicatives qualitatives, ordinales, catégoriques ou binaires (dummies), ou si les descripteurs continus violent sévèrement la normalité multivariée (distributions bimodales, asymétries majeures, valeurs extrêmes). La régression logistique est également recommandée dès lors que l’égalité des matrices de covariance est violée, car elle demeure robuste sans nécessiter l’explosion paramétrique caractéristique d’une fonction discriminante quadratique (QDA).

Sur de très grands échantillons de variables continues bien distribuées, il a été empiriquement démontré que les deux approches convergent et produisent des surfaces de décision et des taux de reclassement quasi identiques.

8. Conclusion équilibrée et recommandations méthodologiques

8.1 Synthèse des forces et limites comparées

L’analyse comparative approfondie menée tout au long de cet article confirme que la fonction discriminante et l’analyse factorielle constituent deux instruments d’exception de la statistique multivariée, dont l’efficacité dépend de l’adéquation entre l’outil choisi et l’objectif de modélisation poursuivi. La fonction discriminante brille par son élégance analytique et sa puissance décisionnelle dans les contextes supervisés. En fournissant des frontières d’affectation optimales fondées sur le critère variationnel de Fisher et la théorie bayésienne de la décision, elle permet d’identifier sans ambiguïté les prédicteurs les plus discriminants et de classer de nouveaux individus avec une quantification rigoureuse des probabilités d’erreur. Néanmoins, sa rigidité distributionnelle — au premier rang de laquelle figurent les hypothèses de normalité multivariée et d’homoscédasticité — restreint sa portabilité dans les contextes de données observationnelles hétérogènes.

De son côté, l’analyse factorielle s’impose comme une méthodologie irremplaçable pour la recherche théorique et fondamentale, offrant aux sciences humaines, sociales et médicales la possibilité de formaliser et de tester des concepts abstraits inaccessibles à la mesure directe. En isolant la variance commune de l’erreur de mesure, elle protège les chercheurs contre l’illusion de considérer des indicateurs imparfaits comme des vérités absolues. Son talon d’Achille réside cependant dans l’indétermination inhérente aux modèles factoriels, la part d’arbitraire qui peut s’immiscer dans le choix des méthodes d’extraction ou de rotation, et son incapacité intrinsèque à opérer des prédictions catégorielles directes sans le secours de modèles prédictifs complémentaires.

8.2 Bonnes pratiques pour la recherche appliquée

Pour garantir une intégrité méthodologique absolue et une reproductibilité optimale des conclusions scientifiques, les analystes de données et les chercheurs appliqués se doivent d’adopter un ensemble de bonnes pratiques systématisées :

1. Clarification épistémologique préalable : Avant d’exécuter la moindre ligne de code ou de manipuler des progiciels statistiques, formulez explicitement la question de recherche fondamentale. La démarche relève-t-elle de la découverte de structures conceptuelles latentes (analyse factorielle) ou de la séparation et prédiction d’états empiriques avérés (fonction discriminante) ? Bannissez toute tentation d’automatisation aveugle dictée par les routines logicielles.
2. Diagnostic distributionnel systématique : Procédez à une inspection rigoureuse de la qualité des données. Évaluez la normalité univariée et multivariée par des tests formels et des graphiques quantile-quantile. Pour l’analyse discriminante, testez systématiquement l’homogénéité des matrices de covariance au moyen du test M de Box tout en gardant à l’esprit sa susceptibilité aux déviations de distribution. En analyse factorielle, validez l’adéquation de la matrice de corrélation par le test de sphéricité de Bartlett et l’indice KMO (Kaiser-Meyer-Olkin), en vous assurant que ce dernier dépasse minimalement le seuil de $0{,}70$.
3. Prévention du surajustement par validation croisée : Ne reportez jamais des taux de succès de classification calculés uniquement sur l’échantillon d’apprentissage. Recourez impérativement à des protocoles rigoureux de validation croisée ($k$-fold, Leave-One-Out) ou scindez vos données en sous-ensembles indépendants d’entraînement et de test pour évaluer l’exactitude réelle de généralisation d’une fonction discriminante.
4. Transparence dans les choix algorithmiques : Dans les comptes rendus d’analyse factorielle, documentez rigoureusement chaque étape : méthode d’extraction privilégiée, critères empiriques ayant justifié le nombre de facteurs conservés (en favorisant l’analyse parallèle de Horn), type de rotation appliqué (orthogonale ou oblique) et justification théorique sous-jacente. Publiez systématiquement la matrice de corrélation initiale et la matrice des saturations factorielles finales pour assurer la transparence et l’évaluation critique des modèles proposés.

Références

Altman, E. I. (1968). Financial ratios, discriminant analysis and the prediction of corporate bankruptcy. The Journal of Finance, 23(4), 589-609. https://doi.org/10.1111/j.1540-6261.1968.tb00843.x

Box, G. E. P. (1949). A general distribution theory for a class of likelihood criteria. Biometrika, 36(3/4), 317-346. https://doi.org/10.2307/2332671

Cattell, R. B. (1966). The scree test for the number of factors. Multivariate Behavioral Research, 1(2), 245-276. https://doi.org/10.1207/s15327906mbr0102_10

Fisher, R. A. (1936). The use of multiple measurements in taxonomic problems. Annals of Eugenics, 7(2), 179-188. https://doi.org/10.1111/j.1469-1809.1936.tb02137.x

Fornell, C., & Larcker, D. F. (1981). Evaluating structural equation models with unobservable variables and measurement error. Journal of Marketing Research, 18(1), 39-50. https://doi.org/10.1177/002224378101800104

Hair, J. F., Black, W. C., Babin, B. J., & Anderson, R. E. (2018). Multivariate data analysis (8th ed.). Cengage Learning.

Horn, J. L. (1965). A rationale and test for the number of factors in factor analysis. Psychometrika, 30(2), 179-185. https://doi.org/10.1007/BF02289447

Hotelling, H. (1933). Analysis of a complex of statistical variables into principal components. Journal of Educational Psychology, 24(6), 417-441. https://doi.org/10.1037/h0071325

Jöreskog, K. G. (1969). A general approach to confirmatory maximum likelihood factor analysis. Psychometrika, 34(2), 183-202. https://doi.org/10.1007/BF02289343

Kaiser, H. F. (1958). The varimax criterion for analytic rotation in factor analysis. Psychometrika, 23(3), 187-200. https://doi.org/10.1007/BF02289233

Spearman, C. (1904). « General Intelligence, » objectively determined and measured. The American Journal of Psychology, 15(2), 201-292. https://doi.org/10.2307/1412107

Tabachnick, B. G., & Fidell, L. S. (2019). Using multivariate statistics (7th ed.). Pearson.

Thurstone, L. L. (1947). Multiple-factor analysis: A development and expansion of The vectors of mind. University of Chicago Press.