L’analyse par arbres de classification et de régression constitue une méthode non paramétrique d’apprentissage statistique révolutionnaire, offrant une modélisation intuitive des interactions complexes et des non-linéarités inhérentes aux données psychologiques et comportementales. En substituant aux équations linéaires classiques une démarche algorithmique de segmentation récursive, cette approche permet aux chercheurs et cliniciens de visualiser des trajectoires décisionnelles transparentes et cliniquement interprétables.
Arbre de classification et de régression (CART)
1. Définition concise
L’analyse par arbres de classification et de régression (communément désignée par l’acronyme CART, pour Classification and Regression Trees) est une méthodologie statistique d’apprentissage supervisé non paramétrique fondée sur le partitionnement binaire récursif de l’espace des variables prédictives. Elle segmente un échantillon hétérogène en sous-groupes mutuellement exclusifs et de plus en plus homogènes au regard d’une variable réponse donnée, qu’elle soit catégorielle (classification) ou continue (régression).
Dans le domaine des sciences psychologiques, l’approche CART permet d’identifier des configurations de facteurs de risque, des profils diagnostiques ou des trajectoires d’intervention sans formuler d’hypothèses a priori sur la normalité de la distribution des scores, l’homoscédasticité ou la linéarité des relations. L’algorithme opère par divisions successives en sélectionnant à chaque étape la variable prédictive et le seuil numérique qui maximisent la réduction d’impureté au sein des sous-nœuds résultants, produisant ainsi une structure arborescente décisionnelle facile à interpréter.
Contrairement aux modèles de régression multiple traditionnels qui estiment des effets additifs moyens à travers l’ensemble de la population, la méthode CART excelle dans la découverte d’interactions d’ordre supérieur et de relations conditionnelles, ce qui en fait un outil de choix pour la psychologie différentielle, la neuropsychologie et la psychiatrie computationnelle.
2. Étymologie et origine linguistique
L’expression découle directement du cadre formalisé en langue anglaise par les statisticiens Leo Breiman, Jerome Friedman, Richard Olshen et Charles Stone dans leur monographie séminale de 1984 intitulée Classification and Regression Trees. Le terme « arbre » (du latin arbor) fait référence à la structure hiérarchique de données en théorie des graphes et en informatique, composée d’une racine, de branches internes et de feuilles terminales, bien que représentée graphiquement inversée, la racine figurant au sommet.
Le vocable « classification » provient du latin classique classis, désignant une division ou un ordre de citoyens, combiné au suffixe verbal -facere (faire), traduisant l’action de ranger des entités dans des catégories discrètes. Le terme « régression », quant à lui, fut introduit dans le lexique statistique par Francis Galton à la fin du XIXe siècle à travers son observation de la « régression vers la médiocrité » (ou régression vers la moyenne) chez les descendants de parents aux traits extrêmes.
L’intégration de cette expression dans les sciences humaines et de la santé francophones s’est opérée au tournant des années 1990 et 2000, au moment où la psychométrie et l’épidémiologie clinique ont cherché des alternatives interprétables aux modèles linéaires généralisés et aux premières architectures de réseaux de neurones, alors qualifiées de boîtes noires opaques.
3. Prononciation et forme grammaticale
Sur le plan morphosyntaxique, l’expression « arbre de classification et de régression » est un syntagme nominal masculin singulier (au pluriel : « arbres de classification et de régression »). Dans le milieu académique francophone, l’acronyme anglophone CART est très largement employé comme substantif ou adjectif invariable, se prononçant phonétiquement /kaʁt/ en français standard, ou parfois désigné sous l’appellation d’« analyse CART ».
Dans la littérature spécialisée de langue française, on rencontre également les termes équivalents de « partitionnement récursif binaire », d’« arbre de décision statistique » ou de « segmentation arborescente ». Le terme peut être utilisé pour désigner à la fois l’algorithme générique conçu par Breiman et ses collaborateurs, la structure de données graphique obtenue après ajustement, ou la stratégie analytique globale appliquée à un jeu de données psychométriques.
4. Explication conceptuelle détaillée
Le principe fondamental de l’analyse CART repose sur la décomposition d’un problème complexe de prédiction en une suite de décisions binaires hiérarchisées, divisant itérativement l’espace multidimensionnel des prédicteurs en hyper-rectangles disjoints. Le processus s’amorce au niveau du « nœud racine », qui contient la totalité des participants ou observations de l’échantillon d’étude. L’algorithme examine exhaustivement l’ensemble des variables indépendantes disponibles — qu’elles soient quantitatives continues, ordinales ou catégorielles nominales — ainsi que l’ensemble des points de coupure possibles pour chacune d’elles.
À chaque étape de partitionnement, l’objectif consiste à identifier la scission optimale qui génère deux « nœuds enfants » présentant la plus grande pureté interne relative à la variable d’intérêt. Pour une tâche de classification (par exemple, déterminer la présence ou l’absence d’un trouble dépressif caractérisé), la pureté reflète la prédominance d’une seule classe diagnostique au sein du nœud. Pour une tâche de régression (par exemple, prédire le score continu à une échelle de bien-être subjectif ou un temps de réaction cognitif), la pureté se traduit par la minimisation de la variance intra-nœud.
Cette procédure est dite récursive parce que la même opération de recherche exhaustive et de scission s’applique indépendamment à chaque nœud enfant nouvellement créé, sans considérer les embranchements parallèles. Ce partitionnement se poursuit jusqu’à l’atteinte d’un critère d’arrêt préalablement défini, tel qu’un effectif minimal d’observations par nœud ou une diminution insuffisante de l’impureté globale. L’arbre ainsi développé au maximum est souvent surajusté (surapprentissage), capturant le bruit aléatoire propre à l’échantillon d’étalonnage au détriment de la validité écologique.
Pour remédier à cette vulnérabilité, l’architecture CART introduit une étape fondamentale : l’élagage par coût-complexité (cost-complexity pruning). Cette opération consiste à retrancher méthodiquement les branches inférieures les moins informatives en pondérant le gain de précision empirique par une pénalité liée au nombre total de nœuds terminaux. La sélection de l’arbre final optimal s’effectue généralement par validation croisée à k-blocs, garantissant que le modèle final conserve un pouvoir de généralisation robuste sur de nouvelles cohortes de patients ou de participants.
Chaque nœud terminal (ou « feuille ») fournit finalement une estimation concrète : la probabilité a posteriori d’appartenir à chaque classe diagnostique (en classification) ou la moyenne numérique attendue de la variable dépendante (en régression), assortie du profil précis de prédicteurs ayant conduit à ce résultat clinique particulier.
5. Évolution historique
La genèse des arbres de décision en sciences sociales remonte aux travaux pionniers de James Morgan et John Sonquist au début des années 1960 au sein de l’Institute for Social Research de l’Université du Michigan. En 1963, ils développent le programme AID (Automatic Interaction Detection), conçu explicitement pour repérer des interactions statistiques entre variables sociologiques et psychologiques sans imposer la structure rigide des régressions paramétriques.
Bien qu’innovant, le programme AID souffrait de limites techniques majeures, notamment une propension marquée au surapprentissage et une absence de critères rigoureux pour stopper la croissance de l’arbre. Durant les décennies 1970 et 1980, plusieurs équipes de chercheurs ont tenté d’affiner ces concepts. En informatique, Ross Quinlan a introduit l’algorithme ID3 en 1986, suivi plus tard de C4.5, axés sur la théorie de l’information et le gain d’entropie dans le champ de l’intelligence artificielle symbolique naissante.
C’est en 1984 que Leo Breiman, Jerome Friedman, Richard Olshen et Charles Stone publient l’ouvrage de référence qui établit définitivement les fondements mathématiques rigoureux de CART. Leur contribution majeure réside dans l’introduction du partitionnement strictement binaire, de l’indice d’impureté de Gini, et surtout de la procédure mathématique d’élagage par coût-complexité couplée à la validation croisée, résolvant élégamment le dilemme du surapprentissage.
Dans les décennies 1990 et 2000, le modèle CART est devenu l’ossature algorithmique de méthodes d’ensemble encore plus puissantes, notamment le bagging et les célèbres forêts d’arbres décisionnels développées par Breiman en 2001, ainsi que les techniques de boosting introduites par Freund et Schapire. Aujourd’hui, en psychologie computationnelle et en psychiatrie de précision, CART demeure un paradigme incontournable en raison de son parfait équilibre entre puissance explicative non linéaire et transparence clinique intégrale.
6. Fondements théoriques
Sur le plan épistémologique et méthodologique, l’analyse CART s’inscrit au carrefour de la théorie statistique de la décision, de l’apprentissage automatique et de la psychométrie différentielle. Elle rejette le paradigme dominant des modèles linéaires généralisés selon lequel les variables exercent des effets additifs constants et indépendants sur l’ensemble du continuum psychologique.
Le fondement théorique sous-jacent repose sur l’équifinalité et la multifinalité, deux concepts cruciaux en psychologie du développement et en psychopathologie. L’équifinalité stipule que différentes combinaisons de précurseurs étiologiques peuvent aboutir à une issue clinique identique : un arbre CART modélise ce phénomène en attribuant une étiquette diagnostique similaire à plusieurs feuilles terminales distinctes issues de branches divergentes. Inversement, la multifinalité indique qu’un même facteur initial peut conduire à des états mentaux opposés en fonction des variables modératrices contextuelles rencontrées le long du chemin décisionnel.
Mathématiquement, le modèle minimise une fonction de perte globale intégrant un paramètre de régularisation. Pour la classification, la mesure d’hétérogénéité dominante est l’indice d’impureté de Gini, défini par la formule mathématique :
Gini(t) = 1 – Σ [p(k|t)]²
où p(k|t) représente la proportion d’observations appartenant à la catégorie clinique k présente au sein du nœud t. Lorsque toutes les observations d’un nœud partagent le même diagnostic, l’indice vaut zéro, attestant d’une pureté parfaite. Pour la régression, l’impureté correspond à la somme des carrés des écarts à la moyenne intra-nœud (erreur quadratique locale).
Sur le plan computationnel, l’algorithme est glouton (greedy algorithm) : il effectue à chaque embranchement le choix localement optimal qui maximise le gain d’impureté immédiat, sans anticiper si une scission sous-optimale à l’étape présente permettrait d’obtenir un gain globalement supérieur aux étapes ultérieures. C’est précisément l’étape ultérieure d’élagage global qui compense cette myopie structurelle.
7. Composantes clés, types et dimensions
La mise en œuvre et l’interprétation d’une architecture CART font intervenir plusieurs concepts structurels indispensables :
- Nœud racine (Root Node) : Point de départ sommital de l’arbre, englobant la cohorte d’étude intégrale avant toute subdivision analytique.
- Nœuds internes ou décisionnels (Internal Nodes) : Points d’embranchement intermédiaires où s’applique une règle logique unaire portant sur une variable prédictive spécifique assortie d’un seuil critique (par exemple : « Score d’impulsivité > 18,5 »).
- Branches : Segments vectoriels connectant deux nœuds successifs, représentant l’orientation issue du test conditionnel (généralement vrai ou faux / supérieur ou inférieur).
- Nœuds terminaux ou feuilles (Leaf Nodes) : Extrémités ultimes de l’arborescence ne subissant plus aucune division, renfermant la décision catégorielle finale ou la valeur numérique moyenne estimée.
- Arbres de classification : Variante employée lorsque la variable dépendante est qualitative discrète (par exemple : diagnostic de schizophrénie vs trouble bipolaire, ou réponse favorable vs résistance à une psychothérapie).
- Arbres de régression : Variante appliquée lorsque l’issue psychologique est continue (par exemple : score de dépression post-traitement, quotient intellectuel global ou latence de réponse mnésique).
- Élagage par coût-complexité (Pruning) : Algorithme d’optimisation mathématique réduisant la taille de l’arbre pour éliminer les scissions redondantes ou instables et maximiser la validité externe.
8. Exemples et cas illustratifs
Considérons une étude clinique multicentrique en psychiatrie d’urgence cherchant à évaluer le risque de récidive de passage à l’acte suicidaire dans les 6 mois chez des adolescents hospitalisés. Les prédicteurs incluent l’intensité de l’idéation suicidaire mesurée par la BDI-II de Beck, le niveau de soutien familial perçu, l’antécédent de traumatisme infantile, le degré d’impulsivité motrice et la présence d’une comorbidité liée à l’usage de substances psychoactives.
Dans une régression logistique conventionnelle, ces facteurs se verraient attribuer des rapports de cotes (odds ratios) moyens additifs. L’analyse CART, en revanche, génère un organigramme limpide :
Le nœud racine procède d’abord à une dichotomisation sur l’idéation suicidaire sévère. Chez les adolescents présentant un score inférieur à ce seuil critique, l’algorithme isole une sous-population quasi exempte de risque de récidive, sauf si une consommation sévère de substances y est adjointe. Pour les adolescents au-dessus du seuil d’idéation, la scission suivante ne porte pas sur les substances, mais sur le soutien familial : en présence d’un soutien familial élevé, le taux de récidive demeure modéré ; en cas d’absence de soutien familial couplée à une impulsivité motrice élevée, l’arbre aboutit à une feuille terminale où 84 % des patients récidivent.
Un autre exemple illustratif en psychologie du travail concerne la prédiction de l’épuisement professionnel (burnout). L’arbre de régression peut démontrer qu’une charge de travail élevée n’entraîne pas directement un score d’épuisement émotionnel accru, à moins que le niveau d’autonomie décisionnelle perçue ne soit inférieur à un seuil spécifique, illustrant parfaitement une interaction dynamique et non compensatoire entre variables organisationnelles.
9. Mesure et évaluation
L’évaluation psychométrique et statistique de la qualité d’un arbre CART repose sur des indices d’adéquation et d’ajustement rigoureux, distincts selon la nature de la variable cible :
Pour les arbres de classification, l’exactitude globale (accuracy) est souvent trompeuse lorsque les prévalences cliniques sont déséquilibrées. Les chercheurs recourent alors à la matrice de confusion pour dériver la sensibilité diagnostique, la spécificité, la valeur prédictive positive et la valeur prédictive négative. L’évaluation de l’aire sous la courbe ROC (AUC-ROC) ainsi que le coefficient kappa de Cohen constituent des métriques préférentielles pour quantifier la fidélité de la discrimination entre classes pathologiques.
Pour les arbres de régression, la métrique maîtresse est l’erreur quadratique moyenne (RMSE pour Root Mean Squared Error) ou l’erreur absolue moyenne (MAE), associées au coefficient de détermination ajusté (R²). Ce dernier chiffre la proportion de variance de la variable psychologique expliquée par la typologie des feuilles terminales.
Dans les deux configurations, l’impératif psychométrique central réside dans la validation croisée (notamment la méthode de validation croisée à dix blocs). Cette technique sépare itérativement les données en sous-échantillons d’apprentissage et de validation pour vérifier que la structure des branches et les seuils discriminants ne constituent pas des artéfacts d’échantillonnage mais des régularités reproductibles.
10. Applications et portée pratique
L’utilité pratique de l’algorithme CART est particulièrement féconde en psychologie clinique et en santé mentale intégrative. Dans les services de triage psychiatrique et de crise, où les praticiens doivent prendre des décisions rapides et standardisées sous pression temporelle, les arbres CART fournissent des arbres de décision clinique formalisés sous forme de logigrammes simples ne nécessitant aucun calcul informatique immédiat au chevet du patient.
En psychologie scolaire et de l’éducation, CART permet de concevoir des systèmes d’alerte précoce pour repérer les élèves à risque de décrochage scolaire ou de phobie de l’école. En analysant conjointement les absences scolaires, les scores aux évaluations cognitives, l’anxiété de performance et le climat familial, l’algorithme détermine les seuils concrets déclenchant l’allocation de ressources de soutien psycho-éducatif individualisé.
En psychologie organisationnelle et des ressources humaines, l’approche permet d’explorer les motifs de départ volontaire des employés ou d’identifier les combinaisons de compétences psychosociales qui prédisent un leadership efficace en période de restructuration. Enfin, en neuropsychologie, les arbres facilitent le diagnostic différentiel entre le déclin cognitif lié au vieillissement normal, le trouble neurocognitif léger (MCI) et la maladie d’Alzheimer débutante, en séquençant de manière hiérarchique les épreuves psychométriques mnésiques et exécutives les plus discriminantes.
11. Recherche et données empiriques
La littérature scientifique récente témoigne d’un déploiement massif de l’analyse CART pour surmonter les limites de l’approche nosologique classique fondée sur les manuels diagnostiques standards tels que le DSM-5. Les recherches en psychopathologie développementale ont largement validé l’aptitude de CART à révéler des phénotypes cliniques occultés par les analyses de variance usuelles.
Des études empiriques menées dans le champ de la dépression majeure ont illustré que les prédicteurs de non-réponse aux antidépresseurs sérotoninergiques interagissent selon une hiérarchie stricte : la présence d’une anhédonie précoce couplée à une inflammation périphérique élevée bloque l’effet bénéfique du traitement, indépendamment de la sévérité initiale du score global de dépression. De tels résultats empiriques soutiennent la transition contemporaine vers la psychiatrie personnalisée et stratifiée.
D’autres travaux longitudinaux consacrés au trouble de stress post-traumatique (TSPT) chez des vétérans ou des victimes d’agressions ont utilisé CART pour isoler les marqueurs de résilience psychologique. Ces investigations démontrent régulièrement que le sentiment d’auto-efficacité n’exerce son effet tampon sur le stress que si les niveaux de dissociation péri-traumatique demeurent en deçà d’un seuil critique prédéfini, confirmant ainsi l’existence de fenêtres d’intervention non linéaires hautement spécifiques.
12. Considérations culturelles et transculturelles
La validité transculturelle des modèles décisionnels dérivés par CART exige une vigilance méthodologique aiguë. L’étalonnage des seuils décisionnels sur des populations occidentales, instruites, industrialisées, riches et démocratiques (échantillons dits WEIRD) produit des règles de partitionnement qui peuvent s’avérer inadaptées ou biaisées lorsqu’elles sont transposées à d’autres aires géoculturelles.
Par exemple, l’expression somatique de la détresse psychologique versus sa verbalisation émotionnelle varie profondément selon les contextes culturels. Un arbre de classification du risque dépressif élaboré aux États-Unis pourrait placer en premier seuil discriminant un item d’évaluation verbale de tristesse ou de culpabilité existentielle, alors qu’en contexte d’Asie de l’Est ou d’Afrique subsaharienne, des plaintes somatiques spécifiques (telles que l’oppression thoracique ou les céphalées de tension) constituent souvent les indicateurs de premier niveau les plus sensibles.
De surcroît, le sens psychologique des variables médiatrices, comme l’autonomie individuelle ou le soutien parental, est modulé par le degré d’individualisme ou de collectivisme sociétal. L’analyse CART transculturelle nécessite donc une ré-estimation systématique de la structure de l’arbre au sein de chaque groupe culturel, ou l’inclusion explicite de variables contextuelles macrosociales au sein du vivier de prédicteurs initiaux afin de tester leur potentiel d’interaction modératrice.
13. Critiques, débats et limites
En dépit de son élégance clinique et conceptuelle, la méthode CART fait l’objet de réserves statistiques substantielles. La première critique majeure concerne l’instabilité structurelle des arbres individuels face aux fluctuations d’échantillonnage (problème de forte variance). Une modification mineure apportée aux données empiriques d’entrée (comme l’ajout ou le retrait de quelques observations) peut modifier la variable choisie pour la scission initiale à la racine, bouleversant radicalement l’architecture entière des branches subséquentes.
La deuxième limite réside dans le biais de sélection inhérent aux prédicteurs présentant de nombreuses modalités ou un spectre continu étendu. L’algorithme CART ayant pour règle d’explorer chaque scission binaire possible, les variables offrant un grand nombre de seuils potentiels disposent d’un avantage combinatoire purement mécanique pour être sélectionnées préférentiellement par rapport à des variables binaires (comme le sexe biologique), même lorsque leur valeur informative réelle n’est pas supérieure.
Une troisième controverse théorique touche à l’approximation rectangulaire de relations continues obliques. Parce que CART ne découpe l’espace que par des plans orthogonaux parallèles aux axes des variables (une seule variable testée par scission), il peine à modéliser des corrélations linéaires continues simples. Pour approximer une ligne diagonale, CART doit générer une succession inefficace de marches en escalier (« effet d’escalier »), ce qui alourdit artificiellement l’arbre et nuit à sa parcimonie.
Enfin, la recherche effrénée d’interprétabilité conduit parfois à une confiance excessive des cliniciens dans des règles déterministes strictes : classer un individu de part et d’autre d’un seuil clinique rigide (par exemple un score psychométrique de 19,9 versus 20,1) peut masquer l’incertitude inhérente à l’erreur de mesure psychométrique standard.
14. Termes associés et distinctions
Pour appréhender la place précise de CART au sein de la boîte à outils méthodologique du psychologue, il convient de le distinguer des notions connexes suivantes :
- Forêts d’arbres décisionnels (Random Forests) : Méthode d’ensemble combinant des centaines d’arbres CART générés sur des sous-échantillons aléatoires avec tirage avec remise (bootstrap). Elles offrent une précision prédictive considérablement supérieure et suppriment l’instabilité de CART, mais sacrifient la transparence graphique directe d’un arbre unique.
- Régression logistique : Modèle paramétrique estimant la probabilité d’un événement binaire par une somme pondérée linéaire. Contrairement à CART, elle impose la linéarité du logit et ne détecte les interactions que si le chercheur les spécifie explicitement dans l’équation.
- Algorithmes CHAID (Chi-square Automatic Interaction Detection) : Méthode d’arbre concurrente reposant sur des tests de Chi-deux d’indépendance pour réaliser des partitions multiples (non strictement binaires) sur des variables catégorielles.
- Algorithme C4.5 / C5.0 : Développé en intelligence artificielle, cet algorithme utilise le ratio de gain d’entropie au lieu de l’indice de Gini et permet des embranchements multivoques, mais est historiquement plus centré sur des variables discrètes.
- Partitionnement récursif basé sur un modèle (MOB – Model-based Recursive Partitioning) : Extension contemporaine greffant des modèles paramétriques (comme des modèles de mesure psychométriques de la théorie des réponses aux items) au sein de chaque feuille terminale d’un arbre décisionnel.
15. Résumé et points clés à retenir
L’analyse par arbres de classification et de régression (CART) est une technique statistique d’apprentissage supervisé non paramétrique qui divise récursivement un échantillon clinique ou expérimental en sous-groupes homogènes au moyen de scissions binaires optimales.
Son attrait majeur pour la recherche et la pratique psychologiques repose sur sa capacité naturelle à identifier des interactions d’ordre élevé, des relations non linéaires et des processus d’équifinalité, sans formuler de postulats restrictifs sur la distribution sous-jacente des variables observées.
Grâce à son mécanisme d’élagage par coût-complexité régulé par validation croisée, CART tempère le risque de surapprentissage et délivre des logigrammes décisionnels transparents, parfaitement adaptés à l’évaluation diagnostique, à la stratification des risques psychopathologiques et à la décision clinique individualisée.
Néanmoins, les utilisateurs doivent demeurer conscients de la sensibilité de l’arbre unique à la variance de l’échantillon et au biais de sélection des prédicteurs continus, ce qui justifie souvent une confrontation rigoureuse avec des méthodes d’ensemble ou des réplications indépendantes avant toute généralisation clinique.
Références
- Breiman, L., Friedman, J., Olshen, R., & Stone, C. (1984). Classification and Regression Trees. Wadsworth International Group.
- Lemon, S. C., Roy, J., Clark, M. A., Friedmann, P. D., & Rakowski, W. (2003). Classification and regression tree analysis in public health: Methodological review and comparison with logistic regression. Annals of Behavioral Medicine, 26(3), 172–181. https://doi.org/10.1207/S15324796ABM2603_02
- McArdle, J. J. (2012). Exploratory data analysis using recursive partitioning: CART and related methods in psychological research. In APA Handbook of Research Methods in Psychology (Vol. 3, pp. 493–514). American Psychological Association.
- Strobl, C., Malley, J., & Tutz, G. (2009). An introduction to recursive partitioning: Rationale, application, and characteristics of classification and regression trees, bagging, and random forests. Psychological Methods, 14(4), 323–348. https://doi.org/10.1037/a0016973