Dans le champ de la mod\u00e9lisation statistique et de l’apprentissage automatique appliqu\u00e9, l’un des d\u00e9fis fondamentaux r\u00e9side dans la recherche d’un \u00e9quilibre rigoureux entre la fid\u00e9lit\u00e9 de l’ajustement empirique et la parcimonie architecturale des mod\u00e8les pr\u00e9dictifs. Face \u00e0 un ensemble complexe de donn\u00e9es observationnelles ou exp\u00e9rimentales, un analyste peut ais\u00e9ment multiplier les variables explicatives pour maximiser le coefficient de d\u00e9termination ou minimiser l’erreur quadratique sur l’\u00e9chantillon d’apprentissage. Toutefois, cette d\u00e9marche na\u00efve expose irr\u00e9m\u00e9diablement le praticien au fl\u00e9au du surapprentissage, alt\u00e9rant drastiquement les capacit\u00e9s de g\u00e9n\u00e9ralisation du mod\u00e8le face \u00e0 de nouvelles donn\u00e9es issues de la population cible. C’est pr\u00e9cis\u00e9ment pour formaliser cet arbitrage math\u00e9matique que les crit\u00e8res d’information ont \u00e9t\u00e9 introduits, red\u00e9finissant en profondeur les paradigmes de la s\u00e9lection de mod\u00e8les.<\/p>\n
Le crit\u00e8re d’information d’Akaike, universellement d\u00e9sign\u00e9 par l’acronyme AIC (Akaike Information Criterion<\/em>), constitue l’une des contributions m\u00e9thodologiques les plus influentes de la statistique moderne. \u00c9labor\u00e9 par le statisticien japonais Hirotugu Akaike au d\u00e9but des ann\u00e9es 1970, ce crit\u00e8re op\u00e8re une synth\u00e8se pionni\u00e8re entre la th\u00e9orie de l’information d\u00e9velopp\u00e9e par Claude Shannon et le principe d’estimation par maximum de vraisemblance de Ronald Fisher. En mesurant la quantit\u00e9 relative d’information perdue lorsqu’un mod\u00e8le statistique donn\u00e9 est employ\u00e9 pour approcher le v\u00e9ritable processus g\u00e9n\u00e9rateur sous-jacent, l’AIC p\u00e9nalise intrins\u00e8quement l’inflation param\u00e9trique tout en valorisant l’ad\u00e9quation aux donn\u00e9es observ\u00e9es.<\/p>\n Dans l’\u00e9cosyst\u00e8me contemporain du calcul scientifique, le langage de programmation Python<\/a> s’est impos\u00e9 comme l’environnement d’\u00e9lection pour le d\u00e9ploiement de protocoles statistiques avanc\u00e9s. Gr\u00e2ce \u00e0 des biblioth\u00e8ques hautement optimis\u00e9es telles que Statsmodels<\/a>, NumPy<\/a>, Pandas<\/a> et Scikit-learn<\/a>, le calcul, l’interpr\u00e9tation et l’automatisation de la s\u00e9lection de mod\u00e8les par l’AIC atteignent une efficience computationnelle remarquable. Ce guide exhaustif explore l’ensemble des fondements th\u00e9oriques, des d\u00e9compositions math\u00e9matiques, des pi\u00e8ges d’impl\u00e9mentation et des strat\u00e9gies programmatiques n\u00e9cessaires pour ma\u00eetriser l’estimation de l’AIC appliqu\u00e9e aux mod\u00e8les de r\u00e9gression en Python.<\/p>\n L’inf\u00e9rence statistique contemporaine h\u00e9rite directement d’une tradition philosophique s\u00e9culaire connue sous le nom de rasoir d’Ockham. Ce principe heuristique stipule que, parmi plusieurs hypoth\u00e8ses concurrentes capables d’expliquer un m\u00eame ph\u00e9nom\u00e8ne avec une efficacit\u00e9 comparable, la plus simple doit syst\u00e9matiquement \u00eatre privil\u00e9gi\u00e9e. Transpos\u00e9 \u00e0 l’analyse quantitative, le rasoir d’Ockham postule qu’un mod\u00e8le de r\u00e9gression ne doit int\u00e9grer que les param\u00e8tres strictement indispensables \u00e0 la capture du signal sous-jacent, rejetant les termes superflus susceptibles de mod\u00e9liser le bruit stochastique propre \u00e0 l’\u00e9chantillon recueilli.<\/p>\n Sur le plan historique, le tournant conceptuel majeur survient en 1973 lors du Second International Symposium on Information Theory<\/em>, lorsque Hirotugu Akaike pr\u00e9sente sa communication inaugurale. Akaike parvient \u00e0 \u00e9tablir une passerelle formelle entre la th\u00e9orie de l’information et la statistique param\u00e9trique classique. Il d\u00e9montre que la maximisation de l’esp\u00e9rance de la log-vraisemblance d’un mod\u00e8le estim\u00e9 \u00e9quivaut \u00e0 la minimisation de l’entropie relative entre la distribution th\u00e9orique inconnue de la r\u00e9alit\u00e9 et la distribution approch\u00e9e propos\u00e9e par le mod\u00e8le statistique.<\/p>\n Cet \u00e9quilibre optimal entre complexit\u00e9 param\u00e9trique et ad\u00e9quation empirique se r\u00e9v\u00e8le capital pour l’analyse des donn\u00e9es exp\u00e9rimentales et observationnelles. Dans les contextes exp\u00e9rimentaux, o\u00f9 les variables sont m\u00e9thodologiquement contr\u00f4l\u00e9es, l’AIC permet de v\u00e9rifier si l’adjonction de termes d’interaction ou de polyn\u00f4mes d’ordre sup\u00e9rieur apporte une valeur informationnelle r\u00e9elle. En recherche observationnelle, o\u00f9 la collin\u00e9arit\u00e9 et les covariables parasites abondent, le crit\u00e8re prot\u00e8ge les chercheurs contre l’illusion de performance induite par des architectures surparam\u00e9tr\u00e9es.<\/p>\n L’expression math\u00e9matique canonique du crit\u00e8re d’information d’Akaike s’\u00e9nonce selon une formulation d’une grande \u00e9l\u00e9gance :<\/p>\n AIC = 2K – 2ln(L)<\/strong><\/p>\n Dans cette \u00e9quation fondamentale, le terme L<\/strong> repr\u00e9sente la valeur maximale de la fonction de vraisemblance associ\u00e9e au mod\u00e8le ajust\u00e9 sur les donn\u00e9es d’observation. En cons\u00e9quence, ln(L)<\/strong> d\u00e9signe la log-vraisemblance maximis\u00e9e, qui quantifie la probabilit\u00e9 conjointe des donn\u00e9es empiriques conditionnellement aux estimateurs des param\u00e8tres obtenus par la m\u00e9thode du maximum de vraisemblance. Un ajustement plus \u00e9troit du mod\u00e8le aux observations empiriques se traduit par une valeur de log-vraisemblance plus \u00e9lev\u00e9e, ce qui engendre une diminution du terme -2ln(L)<\/strong>. Dans la convention de l’AIC, un score plus faible traduit une performance informationnelle sup\u00e9rieure.<\/p>\n Le second composant, 2K<\/strong>, agit directement comme une p\u00e9nalit\u00e9 structurelle proportionnelle au nombre de param\u00e8tres libres estim\u00e9s, not\u00e9 K<\/strong>. D\u00e8s lors qu’un r\u00e9gresseur suppl\u00e9mentaire est incorpor\u00e9 au mod\u00e8le, K<\/strong> augmente d’une unit\u00e9, ce qui p\u00e9nalise m\u00e9caniquement le score de deux unit\u00e9s (+2). Pour que l’adjonction d’une variable explicative am\u00e9liore l’AIC global, elle doit imp\u00e9rativement entra\u00eener une augmentation de la log-vraisemblance sup\u00e9rieure \u00e0 une unit\u00e9, compensant ainsi le co\u00fbt marginal impos\u00e9 par la p\u00e9nalit\u00e9.<\/p>\n Le comportement asymptotique de cette formulation repose sur l’hypoth\u00e8se selon laquelle la taille de l’\u00e9chantillon n<\/strong> tend vers l’infini, garantissant que l’estimateur du maximum de vraisemblance converge en loi vers une distribution normale multivari\u00e9e centr\u00e9e sur les vrais param\u00e8tres. Cette convergence asymptotique valide rigoureusement le facteur correctif multiplicatif 2 appliqu\u00e9 \u00e0 K<\/strong>.<\/p>\n Le compromis entre biais et variance constitue l’axe directeur de la th\u00e9orie de l’apprentissage statistique. Un mod\u00e8le satur\u00e9 en r\u00e9gresseurs poss\u00e8de une flexibilit\u00e9 fonctionnelle consid\u00e9rable lui permettant d’\u00e9pouser les moindres fluctuations de l’\u00e9chantillon, r\u00e9duisant ainsi son biais d’estimation th\u00e9orique \u00e0 un niveau n\u00e9gligeable. Cependant, cette souplesse exacerb\u00e9e entra\u00eene une inflation dramatique de la variance des estimateurs : de l\u00e9g\u00e8res variations dans les donn\u00e9es d’entra\u00eenement induisent des modifications massives des coefficients r\u00e9gressifs, pr\u00e9cipitant le mod\u00e8le dans un surapprentissage s\u00e9v\u00e8re et destructeur pour sa validit\u00e9 externe.<\/p>\n \u00c0 l’oppos\u00e9, un mod\u00e8le excessivement parcimonieux, ignorant des pr\u00e9dicteurs fondamentaux du syst\u00e8me \u00e9tudi\u00e9, souffrira d’un biais syst\u00e9matique \u00e9lev\u00e9 par omission de variables cl\u00e9s. Bien que sa variance d’\u00e9chantillonnage soit tr\u00e8s restreinte en raison de sa rigidit\u00e9 structurelle, le mod\u00e8le sous-ajuste la r\u00e9alit\u00e9 et s’av\u00e8re incapable d’extraire la structure causale ou pr\u00e9dictive des donn\u00e9es, perdant ainsi le signal empirique fondamental.<\/p>\n L’AIC aborde ce dilemme sous l’angle de la divergence de Kullback-Leibler (KL), qui mesure la distance informationnelle entre la densit\u00e9 de probabilit\u00e9 inconnue de la nature, not\u00e9e f(x)<\/strong>, et la densit\u00e9 de probabilit\u00e9 approch\u00e9e g\u00e9n\u00e9r\u00e9e par le mod\u00e8le param\u00e9trique, not\u00e9e g(x|\u03b8)<\/strong>. Akaike a d\u00e9montr\u00e9 qu’il est rigoureusement impossible de calculer la valeur exacte de la divergence de Kullback-Leibler sans conna\u00eetre f(x)<\/strong>. En revanche, le statisticien a prouv\u00e9 de fa\u00e7on spectaculaire que l’AIC fournit un estimateur sans biais de l’esp\u00e9rance relative de cette divergence informationnelle. Minimiser l’AIC \u00e9quivaut ainsi math\u00e9matiquement \u00e0 s\u00e9lectionner le mod\u00e8le qui minimise la perte informationnelle attendue lors de la projection de la r\u00e9alit\u00e9 sur l’espace des mod\u00e8les admissibles.<\/p>\n La d\u00e9termination exacte de la grandeur K<\/strong> repr\u00e9sente une source fr\u00e9quente d’erreurs m\u00e9thodologiques chez les analystes d\u00e9butants. Dans le cadre d’un mod\u00e8le de r\u00e9gression lin\u00e9aire gaussienne estim\u00e9 par moindres carr\u00e9s ordinaires ou par maximum de vraisemblance, K<\/strong> ne correspond pas simplement au nombre de covariables ind\u00e9pendantes, mais englobe l’int\u00e9gralit\u00e9 des param\u00e8tres libres estim\u00e9s au cours du processus d’optimisation num\u00e9rique.<\/p>\n En premier lieu, l’ordonn\u00e9e \u00e0 l’origine (ou constante du mod\u00e8le) constitue un param\u00e8tre libre \u00e0 part enti\u00e8re, sauf dans les configurations tr\u00e8s sp\u00e9cifiques de r\u00e9gression contrainte passant imp\u00e9rativement par l’origine. En second lieu, l’estimation d’une r\u00e9gression lin\u00e9aire sous l’hypoth\u00e8se d’erreurs ind\u00e9pendantes et identiquement distribu\u00e9es selon une loi normale requiert l’estimation du param\u00e8tre d’\u00e9chelle, \u00e0 savoir la variance r\u00e9siduelle \u03c3\u00b2<\/strong> (ou son \u00e9cart-type associ\u00e9). Par cons\u00e9quent, pour une r\u00e9gression lin\u00e9aire simple comportant un unique pr\u00e9dicteur continu X<\/strong>, la structure param\u00e9trique comprend la pente \u03b2\u2081<\/strong>, l’intercept \u03b2\u2080<\/strong> et la variance r\u00e9siduelle \u03c3\u00b2<\/strong>, fixant la valeur exacte de K \u00e0 3<\/strong>.<\/p>\n Pour un mod\u00e8le de r\u00e9gression lin\u00e9aire multiple int\u00e9grant p<\/strong> pr\u00e9dicteurs distincts, le nombre de param\u00e8tres s’\u00e9l\u00e8ve donc syst\u00e9matiquement \u00e0 K = p + 2<\/strong> (p pentes + 1 constante + 1 variance). D\u00e8s lors que l’analyste introduit des termes d’interaction ou des composantes polynomiales quadratiques ou cubiques, chaque transformation non lin\u00e9aire correspond \u00e0 un degr\u00e9 de libert\u00e9 param\u00e9trique suppl\u00e9mentaire qui s’additionne arithm\u00e9tiquement \u00e0 K<\/strong>. Une comptabilisation rigoureuse de K<\/strong> conditionne l’exactitude de la p\u00e9nalisation appliqu\u00e9e au mod\u00e8le.<\/p>\n Sous l’hypoth\u00e8se de normalit\u00e9 des r\u00e9sidus stochastiques, la fonction de vraisemblance conjointe L<\/strong> d’un \u00e9chantillon constitu\u00e9 de n<\/strong> observations ind\u00e9pendantes correspond au produit multiplicatif des densit\u00e9s de probabilit\u00e9 marginales associ\u00e9es \u00e0 chaque observation empirique. Pour contourner les instabilit\u00e9s de sous-d\u00e9passement num\u00e9rique (numerical underflow<\/em>) caus\u00e9es par la multiplication de probabilit\u00e9s infinit\u00e9simales, le passage au logarithme n\u00e9p\u00e9rien transforme le produit en une sommation analytique stable :<\/p>\n ln(L) = – (n \/ 2) * ln(2\u03c0) – (n \/ 2) * ln(\u03c3\u00b2) – (1 \/ (2\u03c3\u00b2)) * \u03a3 (y\u1d62 – \u0177\u1d62)\u00b2<\/strong><\/p>\n Dans cette formulation rigoureuse, le terme \u03a3 (y\u1d62 – \u0177\u1d62)\u00b2<\/strong> correspond pr\u00e9cis\u00e9ment \u00e0 la somme des carr\u00e9s des erreurs r\u00e9siduelles (not\u00e9e SSR<\/strong> pour Sum of Squared Residuals<\/em>). Lorsque la variance r\u00e9siduelle \u03c3\u00b2<\/strong> est remplac\u00e9e par son estimateur du maximum de vraisemblance \u03c3\u0302\u00b2 = SSR \/ n<\/strong>, le dernier terme de l’\u00e9quation se simplifie \u00e9l\u00e9gamment pour devenir constant et \u00e9gal \u00e0 -n \/ 2<\/strong>. La log-vraisemblance maximis\u00e9e devient alors une fonction strictement d\u00e9pendante de la taille d’\u00e9chantillon n<\/strong> et de la variance de l’erreur r\u00e9siduelle.<\/p>\n Il appara\u00eet crucial de souligner que la log-vraisemblance pr\u00e9sente une sensibilit\u00e9 extr\u00eame aux transformations d’\u00e9chelle op\u00e9r\u00e9es sur la variable d\u00e9pendante Y<\/strong>. Toute modification de l’unit\u00e9 de mesure, telle qu’une transformation logarithmique, racine carr\u00e9e ou standardisation z-score, modifie substantiellement la m\u00e9trique sous-jacente et d\u00e9place la valeur absolue de la log-vraisemblance, rendant caduque toute comparaison directe de scores sans ajustement jacobien pr\u00e9alable.<\/p>\n Bien que l’AIC canonique offre des propri\u00e9t\u00e9s asymptotiques exceptionnelles lorsque la taille de l’\u00e9chantillon n<\/strong> tend vers l’infini, des travaux fondamentaux conduits par Clifford Hurvich et Chih-Ling Tsai en 1989 ont r\u00e9v\u00e9l\u00e9 que le crit\u00e8re souffre d’un biais syst\u00e9matique s\u00e9v\u00e8re d’optimisme en pr\u00e9sence d’\u00e9chantillons de taille modeste. Lorsque le nombre de param\u00e8tres K<\/strong> devient non n\u00e9gligeable par rapport au nombre d’observations n<\/strong>, l’AIC sous-estime drastiquement la p\u00e9nalit\u00e9 requise, favorisant de mani\u00e8re erron\u00e9e des mod\u00e8les surparam\u00e9tr\u00e9s.<\/p>\n Pour rem\u00e9dier \u00e0 cette d\u00e9faillance empirique, Hurvich et Tsai ont formul\u00e9 le crit\u00e8re d’information d’Akaike corrig\u00e9, universellement d\u00e9sign\u00e9 par l’acronyme AICc<\/strong> :<\/p>\n AICc = AIC + [2K(K + 1)] \/ (n – K – 1)<\/strong><\/p>\n Le terme correctif additionnel [2K(K + 1)] \/ (n – K – 1)<\/strong> augmente de fa\u00e7on exponentielle \u00e0 mesure que le ratio n \/ K<\/strong> se d\u00e9grade. En r\u00e8gle g\u00e9n\u00e9rale, la litt\u00e9rature m\u00e9thodologique pr\u00e9conise l’utilisation syst\u00e9matique de l’AICc d\u00e8s lors que le ratio n \/ K est inf\u00e9rieur \u00e0 40<\/strong>. Lorsque la taille d’\u00e9chantillon n<\/strong> s’accro\u00eet et devient tr\u00e8s volumineuse devant K<\/strong>, le d\u00e9nominateur tend vers l’infini, annulant de facto le terme correctif : l’AICc converge alors de mani\u00e8re fluide et asymptotique vers l’AIC original. En vertu de cette convergence, l’emploi syst\u00e9matique de l’AICc est recommand\u00e9 par les m\u00e9thodologues les plus stricts, puisqu’il ne pr\u00e9sente aucun inconv\u00e9nient en grand \u00e9chantillon tout en \u00e9vitant des s\u00e9lections aberrantes en petit \u00e9chantillon.<\/p>\n Pour d\u00e9ployer des analyses statistiques fiables et reproductibles en Python, l’\u00e9cosyst\u00e8me open source fournit une infrastructure sp\u00e9cialis\u00e9e hautement mature. La biblioth\u00e8que Statsmodels<\/a> occupe une place h\u00e9g\u00e9monique pour l’inf\u00e9rence formelle, l’\u00e9conom\u00e9trie et l’estimation des mod\u00e8les lin\u00e9aires et lin\u00e9aires g\u00e9n\u00e9ralis\u00e9s. Contrairement aux biblioth\u00e8ques orient\u00e9es purement vers le machine learning pr\u00e9dictif, Statsmodels structure ses sorties logicielles autour de la significativit\u00e9 statistique, fournissant nativement les d\u00e9viations standards, les intervalles de confiance, les valeurs de log-vraisemblance et les crit\u00e8res d’information AIC et BIC.<\/p>\n L’architecture de manipulation de donn\u00e9es s’appuie ind\u00e9fectiblement sur Pandas<\/a>, qui offre les structures de donn\u00e9es bidimensionnelles (DataFrames) adapt\u00e9es \u00e0 l’alignement strict des s\u00e9ries temporelles ou transversales. Les routines matricielles sous-jacentes, indispensables au calcul des formes quadratiques et des projections orthogonales, sont d\u00e9volues \u00e0 NumPy<\/a>. Enfin, les v\u00e9rifications visuelles des distributions et des r\u00e9sidus exploitent conjointement les modules graphiques Matplotlib et Seaborn.<\/p>\n La reproductibilit\u00e9 exp\u00e9rimentale imposant une gestion m\u00e9ticuleuse des versions de d\u00e9pendances, il convient d’ex\u00e9cuter les d\u00e9clarations d’importation dans un environnement virtuel d\u00e9di\u00e9 (utilisant Les biblioth\u00e8ques ma\u00eetresses doivent \u00eatre import\u00e9es selon les conventions idiomatiques standardis\u00e9es : Afin d’illustrer la mod\u00e9lisation de mani\u00e8re concr\u00e8te et rigoureuse tout au long de ce guide, consid\u00e9rons une cohorte observationnelle issue de la psychom\u00e9trie quantitative. L’objectif scientifique consiste \u00e0 \u00e9lucider les d\u00e9terminants du niveau de stress professionnel ressenti chez des cadres d’entreprises de haute technologie. L’\u00e9chantillon comprend des mesures objectives et subjectives : la charge de travail hebdomadaire d\u00e9clar\u00e9e (en heures), l’anciennet\u00e9 organisationnelle (en ann\u00e9es), l’indice d’autonomie d\u00e9cisionnelle per\u00e7ue, et l’\u00e9puisement \u00e9motionnel mesur\u00e9 via une \u00e9chelle valid\u00e9e.<\/p>\n Le traitement des valeurs manquantes repr\u00e9sente la phase la plus d\u00e9licate du pr\u00e9traitement avant tout calcul d’AIC. Si des donn\u00e9es manquent de mani\u00e8re al\u00e9atoire (m\u00e9canisme Missing Completely at Random<\/em> – MCAR), l’application inconsid\u00e9r\u00e9e d’une suppression par observation incompl\u00e8te (listwise deletion<\/em>) par le biais de fonctions automatis\u00e9es peut modifier arbitrairement la taille de l’\u00e9chantillon n<\/strong> d’un mod\u00e8le \u00e0 l’autre en fonction des r\u00e9gresseurs inclus. Pour pr\u00e9server l’int\u00e9grit\u00e9 comparative des mod\u00e8les, les observations pr\u00e9sentant des donn\u00e9es manquantes doivent \u00eatre trait\u00e9es pr\u00e9alablement \u00e0 l’estimation, soit par une imputation statistique valide (telle que l’imputation multiple par \u00e9quations cha\u00een\u00e9es), soit par la fixation rigide d’un sous-\u00e9chantillon d’analyse commun et complet.<\/p>\n La d\u00e9cision relative \u00e0 la standardisation des variables ind\u00e9pendantes (transformation z-score) doit \u00eatre guid\u00e9e par l’interpr\u00e9tabilit\u00e9 des coefficients. Bien que la standardisation des pr\u00e9dicteurs continus n’affecte en rien la valeur finale de la log-vraisemblance maximis\u00e9e ni la valeur de l’AIC d’un mod\u00e8le de r\u00e9gression lin\u00e9aire ordinaire, elle s’av\u00e8re hautement b\u00e9n\u00e9fique pour stabiliser les algorithmes d’inversion matricielle en pr\u00e9sence de fortes disparit\u00e9s d’\u00e9chelles de mesure et pour \u00e9valuer les tailles d’effet relatives.<\/p>\n Avant d’engager toute s\u00e9lection comp\u00e9titive de mod\u00e8les via l’AIC, un audit exploratoire m\u00e9ticuleux de la structure de corr\u00e9lation s’av\u00e8re indispensable. L’examen de la matrice de corr\u00e9lation lin\u00e9aire de Pearson entre l’ensemble des pr\u00e9dicteurs continus permet de cartographier pr\u00e9cocement les risques de multicolin\u00e9arit\u00e9. Lorsque deux variables explicatives pr\u00e9sentent un coefficient de corr\u00e9lation bilat\u00e9rale tr\u00e8s \u00e9lev\u00e9 (par exemple |r| > 0.80), leur incorporation simultan\u00e9e dans un mod\u00e8le risque de disperser la variance sans apporter de gain substantiel en log-vraisemblance.<\/p>\n Cette approche descriptive doit \u00eatre compl\u00e9t\u00e9e par l’inspection des distributions marginales. L’analyse des histogrammes et des trac\u00e9s de densit\u00e9 met en lumi\u00e8re les asym\u00e9tries prononc\u00e9es (skewness<\/em>) ou l’aplatissement anormal (kurtosis<\/em>), sugg\u00e9rant parfois la pertinence de transformations pr\u00e9liminaires des covariables avant r\u00e9gression. La lin\u00e9arit\u00e9 des relations bivari\u00e9es entre chaque pr\u00e9dicteur potentiel et la variable cible doit \u00e9galement \u00eatre examin\u00e9e au moyen de diagrammes de dispersion agr\u00e9ment\u00e9s de lissages non param\u00e9triques de type LOWESS (Locally Weighted Scatterplot Smoothing<\/em>).<\/p>\n Cet examen pr\u00e9liminaire pose les jalons th\u00e9oriques indispensables : l’AIC ne doit jamais \u00eatre utilis\u00e9 de fa\u00e7on totalement aveugle pour compenser des incoh\u00e9rences fondamentales dans la structure des donn\u00e9es ou pour masquer des violations s\u00e9v\u00e8res des hypoth\u00e8ses de distribution sous-jacentes.<\/p>\n La mise en \u0153uvre de la r\u00e9gression lin\u00e9aire sous l’environnement Statsmodels repose principalement sur la classe Pour garantir la validit\u00e9 de la formulation, l’appel \u00e0 la fonction L’ex\u00e9cution de la m\u00e9thode 1. Fondements th\u00e9oriques du crit\u00e8re d’information d’Akaike (AIC)<\/h2>\n
1.1 Origine \u00e9pist\u00e9mologique et principe de parcimonie<\/h3>\n
1.2 Formulation math\u00e9matique fondamentale<\/h3>\n
1.3 L’AIC face au compromis biais-variance<\/h3>\n
2. D\u00e9composition des variables de calcul : Param\u00e8tres K et Log-vraisemblance<\/h2>\n
2.1 Identification et d\u00e9compte exact du param\u00e8tre K<\/h3>\n
2.2 Calcul et signification de la log-vraisemblance<\/h3>\n
2.3 Correction pour petits \u00e9chantillons : Le crit\u00e8re AICc<\/h3>\n
3. Configuration de l’environnement Python pour la mod\u00e9lisation statistique<\/h2>\n
3.1 S\u00e9lection et importation des biblioth\u00e8ques scientifiques<\/h3>\n
venv<\/code> ou conda<\/code>) :<\/p>\nimport numpy as np<\/code>, import pandas as pd<\/code>, import statsmodels.api as sm<\/code>, et import statsmodels.formula.api as smf<\/code>. Cette distinction entre l’interface classique par matrices et l’interface par formules savamment inspir\u00e9e du langage R conditionnera les m\u00e9thodes d’acc\u00e8s aux estimateurs et aux m\u00e9triques associ\u00e9es.<\/p>\n3.2 Gestion et pr\u00e9traitement d’un jeu de donn\u00e9es psychom\u00e9triques<\/h3>\n
3.3 Inspection exploratoire des corr\u00e9lations pr\u00e9alables<\/h3>\n
4. Estimation de la r\u00e9gression lin\u00e9aire simple et extraction de l’AIC avec statsmodels<\/h2>\n
4.1 Ajustement du mod\u00e8le via la m\u00e9thode OLS<\/h3>\n
statsmodels.regression.linear_model.OLS<\/code> (Ordinary Least Squares<\/em>). L’une des singularit\u00e9s structurelles de cette biblioth\u00e8que, qui la distingue de Scikit-learn, r\u00e9side dans l’absence d’adjonction implicite de l’ordonn\u00e9e \u00e0 l’origine dans la matrice de conception. Si l’utilisateur omet d’incorporer explicitement une colonne unitaire dans sa matrice de r\u00e9gresseurs, Statsmodels ajustera une r\u00e9gression contrainte passant obligatoirement par l’origine vectorielle (0,0), ce qui fausserait gravement la log-vraisemblance et rendrait le calcul de l’AIC invalide.<\/p>\nsm.add_constant(X)<\/code> est strictement obligatoire sur le vecteur ou la matrice des covariables. Une fois la variable endog\u00e8ne Y<\/strong> et la matrice exog\u00e8ne enrichie X<\/strong> d\u00e9finies, l’instanciation de la classe sm.OLS(Y, X)<\/code> produit un objet de mod\u00e8le non encore r\u00e9solu. L’estimation param\u00e9trique effective est d\u00e9clench\u00e9e par l’invocation de la m\u00e9thode .fit()<\/code>.<\/p>\n.fit()<\/code> mobilise des algorithmes d’alg\u00e8bre lin\u00e9aire optimis\u00e9s (g\u00e9n\u00e9ralement fond\u00e9s sur la d\u00e9composition QR ou la d\u00e9composition en valeurs singuli\u00e8res SVD) pour calculer les coefficients minimisant la somme des carr\u00e9s r\u00e9siduels. L’appel ult\u00e9rieur \u00e0 model_fit.summary()<\/code> g\u00e9n\u00e8re une table r\u00e9capitulative exhaustive de standards acad\u00e9miques, affichant simultan\u00e9ment les tests de Student sur les coefficients, le test F global, les tests de normalit\u00e9 de Jarque-Bera, le test d’autocorr\u00e9lation de Durbin-Watson, ainsi que les scores d’information AIC et BIC.<\/p>\n4.2 Extraction programmatique directe de l’attribut aic<\/h3>\n