L’\u00e9valuation formelle et la s\u00e9lection raisonn\u00e9e de mod\u00e8les constituent le c\u0153ur battant de la mod\u00e9lisation statistique moderne, de la psychom\u00e9trie contemporaine et de la science des donn\u00e9es computationnelle. Lorsqu’un chercheur ou un analyste est confront\u00e9 \u00e0 un ph\u00e9nom\u00e8ne complexe, la tentation naturelle consiste \u00e0 enrichir continuellement la sp\u00e9cification math\u00e9matique en y incorporant de nouveaux pr\u00e9dicteurs, des interactions d’ordre sup\u00e9rieur ou des transformations polynomiales. Cette d\u00e9marche, bien qu’am\u00e9liorant presque m\u00e9caniquement l’ajustement du mod\u00e8le aux donn\u00e9es d’observation, engendre un p\u00e9ril m\u00e9thodologique majeur : le surapprentissage. Un mod\u00e8le excessivement complexe perd sa capacit\u00e9 d’extrapolation, capturant le bruit stochastique propre \u00e0 l’\u00e9chantillon au d\u00e9triment du signal g\u00e9n\u00e9rateur sous-jacent.<\/p>\n
Pour naviguer entre les \u00e9cueils jumeaux du sous-ajustement et de la sur-param\u00e9trisation, l’inf\u00e9rence statistique s’est dot\u00e9e d’outils rigoureux fond\u00e9s sur la th\u00e9orie de l’information et le paradigme bay\u00e9sien. Parmi ces instruments, le crit\u00e8re d’information bay\u00e9sien, d\u00e9sign\u00e9 sous l’acronyme anglais BIC pour Bayesian Information Criterion<\/em> ou parfois nomm\u00e9 crit\u00e8re de Schwarz, occupe une place pr\u00e9\u00e9minente. Con\u00e7u pour arbitrer de mani\u00e8re formelle et math\u00e9matiquement consistante le compromis inh\u00e9rent entre l’ajustement empirique et la complexit\u00e9 structurelle, le BIC attribue une p\u00e9nalit\u00e9 s\u00e9v\u00e8re \u00e0 la prolif\u00e9ration des degr\u00e9s de libert\u00e9, gradu\u00e9e en fonction de la taille de l’\u00e9chantillon consid\u00e9r\u00e9.<\/p>\n Dans l’\u00e9cosyst\u00e8me open source contemporain, le langage de programmation Python s’est impos\u00e9 comme le vecteur privil\u00e9gi\u00e9 de l’analyse statistique avanc\u00e9e et de l’apprentissage automatique. N\u00e9anmoins, l’estimation et l’exploitation judicieuse du BIC requi\u00e8rent une compr\u00e9hension aigu\u00eb de ses fondements analytiques et de ses impl\u00e9mentations au sein des biblioth\u00e8ques telles que NumPy, Pandas, Statsmodels et Scikit-Learn. Cet article propose une exploration exhaustive de la m\u00e9thode de calcul du BIC en Python. \u00c0 travers un cheminement m\u00e9thodique reliant fondements th\u00e9oriques, d\u00e9rivations alg\u00e9briques, impl\u00e9mentations manuelles et industrielles, nous mettrons en lumi\u00e8re les m\u00e9canismes qui font du BIC un levier incontournable de la recherche reproductible.<\/p>\n Le crit\u00e8re d’information bay\u00e9sien a \u00e9t\u00e9 formul\u00e9 pour la premi\u00e8re fois en 1978 par le math\u00e9maticien et statisticien Gideon Schwarz<\/a> au sein d’une publication s\u00e9minale intitul\u00e9e Estimating the Dimension of a Model<\/em>. L’objectif fondamental poursuivi par Schwarz s’inscrivait dans le prolongement de la th\u00e9orie de la d\u00e9cision bay\u00e9sienne. Il cherchait \u00e0 \u00e9tablir une r\u00e8gle d’\u00e9valuation asymptotiquement rigoureuse permettant d’identifier le mod\u00e8le pr\u00e9sentant la plus grande probabilit\u00e9 a posteriori<\/em> parmi une collection finie de structures param\u00e9triques concurrentes, conditionnellement aux donn\u00e9es empiriques observ\u00e9es.<\/p>\n Contrairement aux m\u00e9thodes purement fr\u00e9quentistes d’ajustement qui focalisent l’attention sur la seule d\u00e9viance ou sur la variance r\u00e9siduelle, la construction du BIC \u00e9mane d’une approximation par la m\u00e9thode de Laplace de l’int\u00e9grale de vraisemblance marginale. Dans l’espace bay\u00e9sien, la vraisemblance marginale, ou \u00e9vidence empirique, repr\u00e9sente la probabilit\u00e9 totale d’observer l’\u00e9chantillon lorsque l’on int\u00e8gre l’ensemble du domaine de variation des param\u00e8tres pond\u00e9r\u00e9s par leurs lois a priori<\/em>. Schwarz a d\u00e9montr\u00e9 que, sous des hypoth\u00e8ses r\u00e9guli\u00e8res de distribution et lorsque la taille de l’\u00e9chantillon devient infiniment grande, le logarithme de cette \u00e9vidence marginale converge vers une quantit\u00e9 tractable qui ne d\u00e9pend plus des densit\u00e9s a priori<\/em> sp\u00e9cifiques, pourvu que celles-ci soient raisonnablement lisses et non informatives.<\/p>\n Ainsi, le BIC s’\u00e9rige en un estimateur op\u00e9rationnel et d\u00e9terministe qui classe formellement les architectures de mod\u00e8les. Il introduit une distinction conceptuelle nette entre la qualit\u00e9 d’ajustement r\u00e9trospectif aux donn\u00e9es d’observation et la g\u00e9n\u00e9ralisabilit\u00e9 du mod\u00e8le. Un mod\u00e8le dot\u00e9 d’un ajustement nominal exceptionnel mais obtenu au d\u00e9triment d’une inflation d\u00e9mesur\u00e9e de param\u00e8tres sera inexorablement d\u00e9class\u00e9 par la m\u00e9trique de Schwarz. Cette derni\u00e8re isole la v\u00e9ritable structure g\u00e9n\u00e9ratrice des donn\u00e9es en neutralisant la variance d’\u00e9chantillonnage.<\/p>\n Dans les sciences du comportement, l’\u00e9conom\u00e9trie et particuli\u00e8rement la psychom\u00e9trie contemporaine, l’identification formelle de structures non observables constitue un imp\u00e9ratif de premier ordre. Le recours au BIC s’av\u00e8re indispensable lors de l’application de la mod\u00e9lisation par \u00e9quations structurelles<\/a> et de l’analyse factorielle confirmatoire. Ces m\u00e9thodologies cherchent \u00e0 d\u00e9terminer le nombre de traits latents ou de dimensions psychologiques n\u00e9cessaires et suffisants pour rendre compte des covariances mesur\u00e9es entre une pluralit\u00e9 d’indicateurs manifestes, tels que les items d’une \u00e9chelle d’\u00e9valuation clinique ou cognitive.<\/p>\n Dans ce cadre analytique, le chercheur \u00e9met souvent plusieurs hypoth\u00e8ses concurrentes concernant l’organisation factorielle des scores : une structure unidimensionnelle stricte peut \u00eatre confront\u00e9e \u00e0 des architectures multidimensionnelles comprenant des facteurs corr\u00e9l\u00e9s, orthogonaux ou encore des mod\u00e8les bifactoriels hi\u00e9rarchiques. Le BIC offre alors un m\u00e9canisme d’arbitrage objectif. En p\u00e9nalisant drastiquement l’adjonction de saturations factorielles ou de covariances r\u00e9siduelles redondantes, il prot\u00e8ge l’investigateur contre l’illusion de d\u00e9couvrir des construits psychologiques fictifs qui ne refl\u00e9teraient que des corr\u00e9lations fortuites inh\u00e9rentes \u00e0 l’\u00e9chantillon recueilli.<\/p>\n De surcro\u00eet, la validation d’instruments de mesure psychom\u00e9triques repose sur la stabilit\u00e9 trans-\u00e9chantillonnale des param\u00e8tres estim\u00e9s. Un outil de diagnostic clinique dont la structure factorielle a \u00e9t\u00e9 sur-ajust\u00e9e sur une cohorte initiale \u00e9chouera immanquablement l’\u00e9preuve de la r\u00e9plication sur de nouvelles populations de patients. L’objectivation math\u00e9matique fournie par le crit\u00e8re de Schwarz pr\u00e9serve la validit\u00e9 de construit en certifiant que les dimensions psychologiques retenues capturent la variance substantielle du comportement humain plut\u00f4t que ses fluctuations transitoires.<\/p>\n Le crit\u00e8re d’information bay\u00e9sien constitue la traduction math\u00e9matique la plus rigoureuse du principe de parcimonie<\/a>, traditionnellement incarn\u00e9 dans la pens\u00e9e philosophique et scientifique par le rasoir d’Ockham. Ce pr\u00e9cepte stipule que les entit\u00e9s ou les hypoth\u00e8ses explicatives ne doivent pas \u00eatre multipli\u00e9es au-del\u00e0 de la stricte n\u00e9cessit\u00e9 empirique. En mod\u00e9lisation pr\u00e9dictive et explicative, ce principe postule qu’entre deux formulations pr\u00e9sentant un pouvoir d’explication quasi \u00e9quivalent, la plus sobre doit syst\u00e9matiquement \u00eatre pr\u00e9f\u00e9r\u00e9e.<\/p>\n Sur le plan purement statistique, la prolif\u00e9ration aveugle des pr\u00e9dicteurs libres entra\u00eene des cons\u00e9quences d\u00e9l\u00e9t\u00e8res bien connues sur la r\u00e9plication scientifique et la robustesse pr\u00e9dictive. L’introduction progressive de variables exog\u00e8nes au sein d’une \u00e9quation r\u00e9gulatrice augmente de fa\u00e7on continue le coefficient de d\u00e9termination brut, donnant l’illusion trompeuse d’une convergence vers une explication parfaite du ph\u00e9nom\u00e8ne. En r\u00e9alit\u00e9, cette inflation artificielle masque une \u00e9l\u00e9vation dramatique de la variance des estimateurs : les coefficients de r\u00e9gression deviennent excessivement sensibles aux moindres perturbations des donn\u00e9es, d\u00e9t\u00e9riorant la capacit\u00e9 du mod\u00e8le \u00e0 produire des pr\u00e9dictions stables hors-\u00e9chantillon.<\/p>\n Le BIC r\u00e9sout cette tension fondamentale par la mise en \u0153uvre d’une p\u00e9nalisation explicite et croissante. En imputant un co\u00fbt marginal s\u00e9v\u00e8re \u00e0 chaque param\u00e8tre libre suppl\u00e9mentaire, il force le mod\u00e9lisateur \u00e0 n’inclure que les variables dont la contribution \u00e0 l’accroissement de la vraisemblance outrepasse sans ambigu\u00eft\u00e9 le co\u00fbt de complexit\u00e9 impos\u00e9. Ce m\u00e9canisme r\u00e9alise une optimisation fonctionnelle de la balance classique entre le biais d’omission \u2014 qui d\u00e9coule de mod\u00e8les trop simplistes ignorant des dynamiques r\u00e9elles \u2014 et la variance d’estimation \u2014 issue d’architectures satur\u00e9es dont la variance d’\u00e9chantillonnage d\u00e9truit l’interpr\u00e9tabilit\u00e9 causale.<\/p>\n L’expression analytique standard du crit\u00e8re d’information bay\u00e9sien repose sur la th\u00e9orie de la vraisemblance maximale d\u00e9velopp\u00e9e au sein du cadre asymptotique bay\u00e9sien. Pour un \u00e9chantillon donn\u00e9 compos\u00e9 de n<\/em> observations ind\u00e9pendantes et identiquement distribu\u00e9es, et pour un mod\u00e8le param\u00e9trique caract\u00e9ris\u00e9 par un vecteur de param\u00e8tres de dimension k<\/em>, le BIC s’\u00e9nonce selon l’\u00e9quation canonique suivante :<\/p>\n BIC = -2 × ln(L) + k × ln(n)<\/strong><\/p>\n Dans cette formulation, le terme L<\/strong> d\u00e9signe la valeur maximale de la fonction de vraisemblance associ\u00e9e au mod\u00e8le ajust\u00e9 sur les donn\u00e9es. Par cons\u00e9quent, l’expression ln(L)<\/strong> repr\u00e9sente la log-vraisemblance maximale atteinte par le vecteur de param\u00e8tres optimis\u00e9. Le premier membre de l’\u00e9quation, -2 × ln(L)<\/strong>, quantifie la d\u00e9viance brute ou l’inad\u00e9quation empirique du mod\u00e8le : plus la log-vraisemblance est \u00e9lev\u00e9e, plus le mod\u00e8le attribue une forte probabilit\u00e9 conjointe aux observations recueillies, et plus ce premier terme s’abaisse. Une valeur minimale de cette composante correspond donc \u00e0 une ad\u00e9quation optimale aux donn\u00e9es observ\u00e9es.<\/p>\n Le second terme, k × ln(n)<\/strong>, constitue la composante de p\u00e9nalit\u00e9 structurelle. Il s’agit d’un terme strictement positif d\u00e9termin\u00e9 par le produit de la dimensionnalit\u00e9 k<\/em> du mod\u00e8le \u2014 c’est-\u00e0-dire le d\u00e9compte total des param\u00e8tres libres estim\u00e9s au cours du processus d’ajustement \u2014 par le logarithme n\u00e9p\u00e9rien de la taille de l’\u00e9chantillon n<\/em>. Cette d\u00e9pendance fonctionnelle envers ln(n)<\/em> conf\u00e8re au BIC des propri\u00e9t\u00e9s asymptotiques exceptionnelles : lorsque la taille de la cohorte tend vers l’infini, la probabilit\u00e9 que le BIC s\u00e9lectionne le mod\u00e8le g\u00e9n\u00e9rateur r\u00e9el parmi un ensemble de candidats finis converge vers 1, pourvu que la v\u00e9ritable structure appartienne \u00e0 la famille des mod\u00e8les test\u00e9s. Cette caract\u00e9ristique fondamentale porte le nom de consistance statistique<\/em>.<\/p>\n Dans le domaine privil\u00e9gi\u00e9 de la mod\u00e9lisation par r\u00e9gression lin\u00e9aire ordinaire (OLS), o\u00f9 les r\u00e9sidus sont postul\u00e9s ind\u00e9pendants, homosc\u00e9dastiques et distribu\u00e9s selon une loi normale d’esp\u00e9rance nulle et de variance inconnue σ2<\/sup>, la fonction de log-vraisemblance maximale peut \u00eatre r\u00e9exprim\u00e9e directement en fonction de la somme des carr\u00e9s des r\u00e9sidus (RSS, pour Residual Sum of Squares<\/em>). En injectant l’estimateur de la variance r\u00e9siduelle au maximum de vraisemblance, σ2<\/sup>ML<\/sub> = RSS \/ n, dans la densit\u00e9 de probabilit\u00e9 gaussienne multidimensionnelle, la log-vraisemblance maximale prend la forme :<\/p>\n ln(L) = – (n \/ 2) × ln(2 × π) – (n \/ 2) × ln(RSS \/ n) – n \/ 2<\/strong><\/p>\n En substituant cette d\u00e9rivation dans l’\u00e9quation originelle de Schwarz et en multipliant par -2, l’expression du BIC se transforme alg\u00e9briquement :<\/p>\n BIC = n × ln(RSS \/ n) + k × ln(n) + n × [1 + ln(2 × π)]<\/strong><\/p>\n Dans de nombreux contextes appliqu\u00e9s et au sein de certains manuels d’\u00e9conom\u00e9trie, la constante additive n × [1 + ln(2 × π)]<\/em> est omise lors de la comparaison de mod\u00e8les concurrents portant sur un \u00e9chantillon identique et de taille n<\/em> strictement constante, car elle n’alt\u00e8re en rien l’ordonnancement relatif des scores. La formule simplifi\u00e9e s’\u00e9crit alors couramment :<\/p>\n BIC = n × ln(RSS \/ n) + k × ln(n)<\/strong><\/p>\n Il importe toutefois de souligner que l’inclusion ou l’exclusion de cette constante d\u00e9pend \u00e9troitement des biblioth\u00e8ques logicielles mobilis\u00e9es. Une rigueur m\u00e9thodologique absolue exige de comprendre la formulation exacte sous-jacente au moteur de calcul utilis\u00e9 afin d’\u00e9viter d’agr\u00e9ger des scores non comparables.<\/p>\n Pour ma\u00eetriser pleinement la programmation du BIC sous Python, il est indispensable de diss\u00e9quer sans ambigu\u00eft\u00e9 les entit\u00e9s alg\u00e9briques composant ces relations. La somme des carr\u00e9s des r\u00e9sidus, not\u00e9e RSS<\/strong>, mat\u00e9rialise l’\u00e9cart quadratique total entre le vecteur des observations r\u00e9elles de la variable d\u00e9pendante y<\/em> et le vecteur des pr\u00e9dictions ajust\u00e9es y_chapeau<\/em> g\u00e9n\u00e9r\u00e9 par l’hyperplan de r\u00e9gression :<\/p>\n RSS = ∑ (yi<\/sub> – y_chapeaui<\/sub>)2<\/sup><\/strong><\/p>\n Cette grandeur op\u00e8re comme l’indicateur fondamental de la d\u00e9viance non expliqu\u00e9e par le mod\u00e8le. La variable k<\/strong> incarne le nombre exact de param\u00e8tres libres dont l’estimation est requise pour sp\u00e9cifier enti\u00e8rement la distribution conditionnelle des donn\u00e9es. Dans le contexte classique d’une r\u00e9gression lin\u00e9aire comportant p<\/em> variables explicatives distinctes, le param\u00e8tre k<\/em> int\u00e8gre syst\u00e9matiquement :<\/p>\n Par cons\u00e9quent, pour une r\u00e9gression lin\u00e9aire multiple dot\u00e9e de p<\/em> r\u00e9gresseurs et d’une constante, la dimensionnalit\u00e9 globale s’\u00e9tablit \u00e0 k = p + 2<\/em> lorsque l’approche se conforme rigoureusement \u00e0 la maximisation de vraisemblance, ou k = p + 1<\/em> si la variance de l’erreur r\u00e9siduelle est trait\u00e9e comme un param\u00e8tre de nuisance non comptabilis\u00e9 dans la p\u00e9nalit\u00e9 par certaines conventions logicielles. Enfin, le symbole n<\/strong> repr\u00e9sente l’effectif effectif de l’\u00e9chantillon exploit\u00e9 lors de l’estimation, c’est-\u00e0-dire le nombre de lignes exemptes de valeurs manquantes sur lesquelles l’optimisation math\u00e9matique est op\u00e9r\u00e9e.<\/p>\n L’impl\u00e9mentation op\u00e9rationnelle du calcul du BIC n\u00e9cessite la mise en place d’un environnement Python moderne, stable et d\u00e9di\u00e9 \u00e0 l’analyse de donn\u00e9es scientifiques. Les quatre piliers computationnels indispensables \u00e0 nos d\u00e9veloppements sont NumPy<\/a> pour les op\u00e9rations matricielles vectoris\u00e9es, Pandas<\/a> pour la manipulation structur\u00e9e des donn\u00e9es tabulaires, Statsmodels<\/a> pour l’estimation \u00e9conom\u00e9trique formelle par le maximum de vraisemblance et la r\u00e9gression OLS, et enfin Scikit-Learn<\/a> pour les applications pr\u00e9dictives et l’apprentissage supervis\u00e9.<\/p>\n Dans un terminal syst\u00e8me ou au sein d’un environnement virtuel isol\u00e9 configur\u00e9 via des outils tels que venv<\/em> ou conda<\/em>, le d\u00e9ploiement de ces d\u00e9pendances s’op\u00e8re par l’interm\u00e9diaire du gestionnaire de paquets standard de Python. L’utilisateur doit s’assurer que les biblioth\u00e8ques install\u00e9es correspondent aux versions majeures r\u00e9centes afin de pr\u00e9venir les ruptures de r\u00e9trocompatibilit\u00e9 ou les d\u00e9pr\u00e9ciations d’attributs au sein des classes de mod\u00e9lisation.<\/p>\n L’importation cibl\u00e9e des modules de mod\u00e9lisation doit \u00eatre ordonn\u00e9e m\u00e9thodiquement d\u00e8s l’entame du script. On importera ainsi numpy<\/em> sous son alias universel np<\/em>, pandas<\/em> sous l’alias pd<\/em>, l’API g\u00e9n\u00e9rique de statsmodels.api<\/em> sous le nom sm<\/em>, ainsi que la classe LinearRegression<\/em> extraite du sous-module sklearn.linear_model<\/em>. Ce socle technique garantit un acc\u00e8s direct tant aux structures matricielles de bas niveau qu’aux abstractions de haut niveau d\u00e9di\u00e9es \u00e0 l’inf\u00e9rence.<\/p>\n La validit\u00e9 des calculs du BIC d\u00e9pend directement de l’int\u00e9grit\u00e9 structurelle des tableaux de donn\u00e9es manipul\u00e9s. Lors de l’ingestion d’un fichier de donn\u00e9es au format tabulaire, il est primordial de structurer distinctement la variable cible univari\u00e9e d’une part, et la matrice d’exp\u00e9rience regroupant les covariables explicatives d’autre part, en exploitant les conteneurs bidimensionnels DataFrame<\/em> de la biblioth\u00e8que Pandas.<\/p>\n Avant d’engager la moindre phase d’estimation, deux v\u00e9rifications m\u00e9thodologiques majeures s’imposent :<\/p>\n La reproductibilit\u00e9 constitue le standard d’excellence de la recherche scientifique et de l’ing\u00e9nierie quantitative. Lors de l’\u00e9criture de scripts de s\u00e9lection de mod\u00e8les en Python, la variabilit\u00e9 stochastique doit \u00eatre rigoureusement canalis\u00e9e. Si l’exp\u00e9rimentation int\u00e8gre des \u00e9tapes d’\u00e9chantillonnage al\u00e9atoire, de partitionnement entre jeu d’entra\u00eenement et jeu de test ou des proc\u00e9dures de sous-\u00e9chantillonnage (bootstrapping<\/em>), il est imp\u00e9ratif de fixer de mani\u00e8re explicite les graines des g\u00e9n\u00e9rateurs pseudo-al\u00e9atoires \u00e0 l’aide de l’instruction d\u00e9di\u00e9e de NumPy ou du param\u00e8tre random_state<\/em> des classes Scikit-Learn.<\/p>\n Par ailleurs, l’analyste doit instaurer une tra\u00e7abilit\u00e9 permanente de la taille r\u00e9elle de l’\u00e9chantillon n<\/em> mobilis\u00e9 \u00e0 chaque it\u00e9ration. Il est fr\u00e9quent que des lignes soient \u00e9limin\u00e9es silencieusement lors de transformations math\u00e9matiques (telles que le calcul de diff\u00e9rences premi\u00e8res en s\u00e9ries temporelles ou le calcul de logarithmes sur des valeurs nulles ou n\u00e9gatives). Le script Python doit syst\u00e9matiquement consigner la dimension finale de la matrice d’exp\u00e9rience avant tout calcul du BIC.<\/p>\n Enfin, une rigueur absolue s’applique au typage des donn\u00e9es : toutes les variables quantitatives doivent \u00eatre explicitement converties en r\u00e9els \u00e0 virgule flottante double pr\u00e9cision (float64<\/em>), et les variables qualitatives cat\u00e9gorielles doivent \u00eatre cod\u00e9es de fa\u00e7on univoque via des variables indicatrices binaires (ou one-hot encoding<\/em>) en \u00e9vitant le pi\u00e8ge de la colin\u00e9arit\u00e9 parfaite, dit pi\u00e8ge de la variable muette (dummy variable trap<\/em>), en supprimant syst\u00e9matiquement une modalit\u00e9 de r\u00e9f\u00e9rence.<\/p>\n Pour assimiler intimement la m\u00e9canique interne du BIC sans d\u00e9pendre d’abstractions logicielles opaques, il est hautement formateur de programmer sa r\u00e9solution sous la forme d’un algorithme matriciel vectoris\u00e9 utilisant uniquement la biblioth\u00e8que NumPy. Soit une matrice d’exp\u00e9rience X<\/strong> de dimensions (n, p+1)<\/em> contenant les vecteurs colonnes des r\u00e9gresseurs augment\u00e9s d’une premi\u00e8re colonne compos\u00e9e exclusivement de valeurs unitaires pour capter l’ordonn\u00e9e \u00e0 l’origine, et soit y<\/strong> le vecteur colonne des observations d\u00e9pendantes de dimensions (n, 1)<\/em>.<\/p>\n La r\u00e9solution analytique des \u00e9quations normales des moindres carr\u00e9s ordinaires s’obtient par l’op\u00e9ration matricielle ferm\u00e9e :<\/p>\n β = (XT<\/sup>X)-1<\/sup>XT<\/sup>y<\/strong><\/p>\n Sous NumPy, ce calcul s’ex\u00e9cute avec une remarquable efficacit\u00e9 gr\u00e2ce \u00e0 la fonction de r\u00e9solution de syst\u00e8mes lin\u00e9aires np.linalg.solve<\/em> ou par l’op\u00e9rateur de multiplication matricielle combin\u00e9 \u00e0 l’inversion. Une fois le vecteur des estimateurs de coefficients β d\u00e9termin\u00e9, le vecteur des valeurs pr\u00e9dites s’obtient simplement par le produit matriciel y_chapeau = X × β<\/strong>. Le vecteur des erreurs r\u00e9siduelles e<\/strong> s’en d\u00e9duit par simple soustraction vectorielle : e = y – y_chapeau<\/strong>.<\/p>\n \u00c0 partir de ce vecteur d’erreurs, la somme des carr\u00e9s des r\u00e9sidus (RSS) s’obtient en calculant le produit scalaire du vecteur e<\/strong> avec lui-m\u00eame, op\u00e9ration math\u00e9matiquement \u00e9quivalente \u00e0 la sommation de chaque r\u00e9sidu \u00e9lev\u00e9 au carr\u00e9 : RSS = np.sum(e ** 2)<\/strong>. Enfin, la variance r\u00e9siduelle empirique maximale s’\u00e9value en divisant ce r\u00e9sultat par la taille totale de l’\u00e9chantillon n<\/em>.<\/p>\n La conception d’une fonction Python modulaire d\u00e9di\u00e9e au calcul manuel du BIC requiert une \u00e9criture rigoureuse, int\u00e9grant la gestion des cas limites et la v\u00e9rification des types d’entr\u00e9e. La fonction doit accepter comme arguments minimaux le vecteur des variables observ\u00e9es, la matrice des pr\u00e9dicteurs et un param\u00e8tre bool\u00e9en sp\u00e9cifiant si une constante doit \u00eatre automatiquement inject\u00e9e dans la structure matricielle.<\/p>\n L’architecture interne de la fonction commence par \u00e9valuer les dimensions scalaires des donn\u00e9es : la variable n<\/em> est initialis\u00e9e \u00e0 la longueur du vecteur cible, tandis que la variable p<\/em> refl\u00e8te le nombre de colonnes de la matrice des variables pr\u00e9dictives. Si l’interception n’est pas incluse dans les colonnes d’origine et que l’option d’ajout automatique de constante est activ\u00e9e, la matrice est \u00e9tendue par une colonne de uns via la m\u00e9thode np.column_stack<\/em>, ce qui incr\u00e9mente m\u00e9caniquement le nombre de param\u00e8tres de r\u00e9gression.<\/p>\n Dans le corps de la routine, le nombre total de param\u00e8tres libres k<\/em> doit \u00eatre d\u00e9termin\u00e9 avec lucidit\u00e9. Si l’on applique la convention gaussienne int\u00e9grale bas\u00e9e sur la vraisemblance maximale, k<\/em> sera d\u00e9fini comme la somme du nombre de colonnes de la matrice d’exp\u00e9rience \u00e9tendue et de l’unit\u00e9 repr\u00e9sentative de la variance de l’erreur. La formule canonique n * np.log(RSS \/ n) + k * np.log(n)<\/strong> est ensuite calcul\u00e9e. La fonction int\u00e8gre des garde-fous programmatiques : lev\u00e9e d’exceptions si la dimension de l’\u00e9chantillon est inf\u00e9rieure ou \u00e9gale au nombre de param\u00e8tres (ce qui entra\u00eenerait une r\u00e9gression sous-d\u00e9termin\u00e9e math\u00e9matiquement impossible), ou si la valeur de la somme des r\u00e9sidus est num\u00e9riquement nulle, signalant un ajustement artificiellement parfait.<\/p>\n Afin d’attester de la validit\u00e9 math\u00e9matique et de la fid\u00e9lit\u00e9 de notre script manuel, une proc\u00e9dure d’\u00e9valuation unitaire doit \u00eatre conduite sur un jeu de donn\u00e9es synth\u00e9tique dont les propri\u00e9t\u00e9s structurelles sont parfaitement ma\u00eetris\u00e9es. \u00c0 cette fin, nous pouvons concevoir un mod\u00e8le g\u00e9n\u00e9rateur lin\u00e9aire simple comprenant deux r\u00e9gresseurs ind\u00e9pendants tir\u00e9s d’une loi normale centr\u00e9e r\u00e9duite, auxquels s’ajoute un terme d’erreur stochastique gaussien \u00e0 variance unitaire.<\/p>\n En g\u00e9n\u00e9rant par exemple un \u00e9chantillon synth\u00e9tique de n = 500<\/em> observations, notre impl\u00e9mentation manuelle NumPy calcule avec une pr\u00e9cision d’ordre machine la somme des carr\u00e9s des r\u00e9sidus et produit le score BIC correspondant. Nous pouvons parall\u00e8lement ex\u00e9cuter le calcul analytique pas \u00e0 pas en d\u00e9composant s\u00e9par\u00e9ment le logarithme de la vraisemblance gaussienne compl\u00e8te et la p\u00e9nalit\u00e9 de Schwarz.<\/p>\n Cette validation crois\u00e9e permet de constater la concordance exacte des grandeurs calcul\u00e9es et de v\u00e9rifier empiriquement la sensibilit\u00e9 du BIC aux variations de la taille d’\u00e9chantillon. En simulant des accroissements successifs de n<\/em> (passant de 50 \u00e0 500, puis \u00e0 5000 observations) tout en conservant le m\u00eame ratio de RSS par observation, nous observons de mani\u00e8re tangible l’accentuation progressive de la p\u00e9nalit\u00e9 induite par le terme ln(n)<\/em>, confirmant de mani\u00e8re irr\u00e9futable que la rigueur de s\u00e9lection impos\u00e9e aux param\u00e8tres libres s’accro\u00eet continuellement \u00e0 mesure que la puissance statistique de l’\u00e9chantillon s’\u00e9tend.<\/p>\n Bien que la programmation vectorielle manuelle permette une compr\u00e9hension fine des m\u00e9canismes computationnels sous-jacents, la pratique professionnelle courante privil\u00e9gie l’usage de biblioth\u00e8ques \u00e9prouv\u00e9es garantissant une robustesse num\u00e9rique optimale face aux probl\u00e8mes de conditionnement matriciel. Au sein de l’\u00e9cosyst\u00e8me Python, la biblioth\u00e8que Statsmodels<\/a> constitue la r\u00e9f\u00e9rence acad\u00e9mique par excellence pour l’analyse statistique formelle.<\/p>\n L’ajustement d’un mod\u00e8le de r\u00e9gression lin\u00e9aire par la m\u00e9thode des moindres carr\u00e9s ordinaires s’effectue au moyen de la classe OLS<\/em> disponible dans le module statsmodels.api<\/em>. Une particularit\u00e9 m\u00e9thodologique fondamentale de cette biblioth\u00e8que r\u00e9side dans le fait qu’elle n’inclut pas d’ordonn\u00e9e \u00e0 l’origine par d\u00e9faut dans la matrice des variables explicatives. L’analyste doit donc imp\u00e9rativement recourir \u00e0 la fonction sm.add_constant()<\/em> appliqu\u00e9e sur le tableau des pr\u00e9dicteurs avant de proc\u00e9der \u00e0 l’instanciation du mod\u00e8le. L’omission de cette \u00e9tape forcerait la droite ou l’hyperplan de r\u00e9gression \u00e0 passer obligatoirement par l’origine du rep\u00e8re cart\u00e9sien, ce qui d\u00e9truirait l’hypoth\u00e8se de centrage des r\u00e9sidus et biaiserait l’estimation du BIC de mani\u00e8re substantielle.<\/p>\n Une fois le mod\u00e8le instanci\u00e9 avec la variable endog\u00e8ne et la matrice d’exp\u00e9rience augment\u00e9e de sa constante, l’appel \u00e0 la m\u00e9thode .fit()<\/em> ex\u00e9cute les calculs d’inversion matricielle, d’estimation des coefficients par les moindres carr\u00e9s, de calcul de la d\u00e9viance et d’\u00e9valuation de la matrice de variance-covariance des param\u00e8tres. L’objet retourn\u00e9, appartenant \u00e0 la classe RegressionResultsWrapper<\/em>, encapsule l’ensemble des grandeurs inf\u00e9rentielles du mod\u00e8le.<\/p>\n L’architecture orient\u00e9e objet de Statsmodels simplifie l’extraction programmatique des m\u00e9triques de diagnostic. L’\u00e9valuation du crit\u00e8re d’information bay\u00e9sien est imm\u00e9diatement accessible par l’interm\u00e9diaire de la propri\u00e9t\u00e9 .bic<\/em> port\u00e9e par l’objet de r\u00e9sultats issu de l’ajustement. L’acc\u00e8s \u00e0 cette valeur s’effectue sans aucun recalcul superflu, la m\u00e9trique \u00e9tant calcul\u00e9e et mise en cache d\u00e8s la finalisation de l’ajustement :<\/p>\n L’extraction s’obtient simplement par l’interrogation de l’attribut resultats.bic<\/em>. Parall\u00e8lement, l’utilisateur a acc\u00e8s \u00e0 la log-vraisemblance maximale calcul\u00e9e par l’algorithme via l’attribut resultats.llf<\/em> (pour Log-Likelihood Function<\/em>), ainsi qu’au nombre total de degr\u00e9s de libert\u00e9 consomm\u00e9s par le mod\u00e8le via la propri\u00e9t\u00e9 resultats.df_model<\/em>.<\/p>\n Il importe de comprendre la convention exacte adopt\u00e9e par Statsmodels pour le calcul de son attribut .bic<\/em>. L’algorithme se fonde sur l’\u00e9valuation analytique compl\u00e8te de la log-vraisemblance gaussienne de l’\u00e9chantillon, incluant syst\u00e9matiquement la constante – (n \/ 2) * ln(2 * π)<\/em> ainsi que l’estimation de la variance r\u00e9siduelle comme param\u00e8tre libre additionnel. Ainsi, pour un mod\u00e8le lin\u00e9aire int\u00e9grant p<\/em> pentes et une ordonnance \u00e0 l’origine, la dimension de param\u00e9trisation k<\/em> prise en compte dans le terme de p\u00e9nalit\u00e9 k * ln(n)<\/em> correspond rigoureusement \u00e0 p + 2<\/em>. Cette convention interne, parfaitement coh\u00e9rente avec la d\u00e9rivation asymptotique de Schwarz, explique pourquoi les valeurs brutes retourn\u00e9es par Statsmodels diff\u00e8rent d’une constante scalaire de celles issues de formules simplifi\u00e9es n’int\u00e9grant pas les termes d’\u00e9chelle de la loi normale.<\/p>\n La m\u00e9thode .summary()<\/em> de l’objet de r\u00e9sultats de Statsmodels produit un rapport textuel synth\u00e9tique de haute valeur acad\u00e9mique. Au sein du premier bloc tabulaire de ce rapport, aux c\u00f4t\u00e9s de la date d’ex\u00e9cution, de la m\u00e9thode d’estimation et du nombre d’observations, figurent les valeurs appari\u00e9es du crit\u00e8re d’Akaike (AIC) et du crit\u00e8re bay\u00e9sien (BIC).<\/p>\n L’interpr\u00e9tation conjointe de ces indicateurs n\u00e9cessite de les confronter au coefficient de d\u00e9termination ajust\u00e9 (Adj. R-squared<\/em>) et \u00e0 la statistique globale de Fisher (F-statistic<\/em>) :<\/p>\n Bien que Statsmodels soit la biblioth\u00e8que de pr\u00e9dilection pour l’inf\u00e9rence formelle, la majorit\u00e9 des pipelines contemporains de machine learning s’articulent autour de l’\u00e9cosyst\u00e8me Scikit-Learn. Cette biblioth\u00e8que privil\u00e9gie la modularit\u00e9 orient\u00e9e vers la pr\u00e9diction plut\u00f4t que l’inf\u00e9rence descriptive. De fait, la classe LinearRegression<\/em>, localis\u00e9e dans le sous-module sklearn.linear_model<\/em>, est con\u00e7ue pour optimiser les poids synaptiques par minimisation des moindres carr\u00e9s ordinaires sans produire d’embl\u00e9e d’attributs de d\u00e9viance d’ordre bay\u00e9sien.<\/p>\n L’ajustement du mod\u00e8le s’op\u00e8re de mani\u00e8re directe : l’objet estimateur est instanci\u00e9 avec le param\u00e8tre fit_intercept=True<\/em>, garantissant que l’hyperplan de pr\u00e9diction dispose d’un terme constant libre. L’ajustement est ensuite ex\u00e9cut\u00e9 par l’invocation de la m\u00e9thode .fit(X, y)<\/em>. \u00c0 l’issue de cette optimisation, les coefficients de r\u00e9gression associ\u00e9s aux variables pr\u00e9dictives sont stock\u00e9s dans le tableau unidimensionnel coef_<\/em>, tandis que la valeur de l’ordonn\u00e9e \u00e0 l’origine est consign\u00e9e dans le scalaire intercept_<\/em>.<\/p>\n Une fois l’entra\u00eenement achev\u00e9, l’estimation des observations s’effectue par la m\u00e9thode .predict(X)<\/em>. Cependant, l’analyste constate rapidement une limitation majeure : l’objet LinearRegression<\/em> de Scikit-Learn ne poss\u00e8de nativement aucun attribut bic_<\/em> ni aucune m\u00e9thode directe permettant d’extraire la log-vraisemblance maximale ou le crit\u00e8re de Schwarz. Il incombe donc au praticien de reconstruire algorithmiquement ces grandeurs post-ajustement.<\/p>\n La reconstruction du BIC en aval d’un entra\u00eenement op\u00e9r\u00e9 sous Scikit-Learn implique la mise en \u0153uvre d’une s\u00e9quence de calculs math\u00e9matiques rigoureux exploitant les sorties de l’estimateur. La premi\u00e8re \u00e9tape consiste \u00e0 g\u00e9n\u00e9rer le vecteur complet des pr\u00e9dictions sur l’ensemble des donn\u00e9es d’entra\u00eenement, puis \u00e0 calculer l’erreur r\u00e9siduelle \u00e9l\u00e9ment par \u00e9l\u00e9ment en soustrayant ces valeurs pr\u00e9dites du vecteur r\u00e9el y<\/em>.<\/p>\n \u00c0 partir de ce vecteur d’\u00e9carts, la somme des carr\u00e9s des r\u00e9sidus (RSS) est obtenue par la sommation quadratique classique via la commande NumPy np.sum((y – y_pred) ** 2)<\/em>. L’\u00e9tape critique ult\u00e9rieure r\u00e9side dans le d\u00e9nombrement scrupuleux des degr\u00e9s de libert\u00e9 k<\/em>. L’analyste doit inspecter dynamiquement la taille du tableau model.coef_<\/em>. Si l’estimateur a \u00e9t\u00e9 configur\u00e9 avec le param\u00e8tre d’interception activ\u00e9, il convient d’ajouter une unit\u00e9 pour la constante. Si l’on souhaite se conformer rigoureusement \u00e0 la d\u00e9finition formelle de la vraisemblance maximale gaussienne, il est indispensable d’ajouter une unit\u00e9 suppl\u00e9mentaire pour int\u00e9grer le param\u00e8tre de variance de l’erreur r\u00e9siduelle :<\/p>\n k = len(model.coef_) + (1 if model.fit_intercept else 0) + 1<\/strong><\/p>\n En r\u00e9cup\u00e9rant la taille de l’\u00e9chantillon n<\/em> \u00e0 partir de la premi\u00e8re dimension du tableau X<\/em> (via X.shape[0]<\/em>), l’analyste dispose de l’ensemble des variables pour \u00e9valuer la log-vraisemblance maximale analytique :<\/p>\n llf = -0.5 * n * np.log(2 * np.pi) – 0.5 * n * np.log(rss \/ n) – 0.5 * n<\/strong><\/p>\n L’application finale de l’\u00e9quation bic = -2 * llf + k * np.log(n)<\/strong> d\u00e9livre alors une mesure du BIC parfaitement conforme aux standards th\u00e9oriques les plus stricts.<\/p>\n Lorsque l’on confronte la mesure du BIC reconstitu\u00e9e \u00e0 partir des sorties de Scikit-Learn \u00e0 celle d\u00e9livr\u00e9e nativement par l’attribut .bic<\/em> de Statsmodels sur un jeu de donn\u00e9es rigoureusement identique, une exigence de concordance num\u00e9rique absolue s’impose. Des disparit\u00e9s d’affichage sont fr\u00e9quemment observ\u00e9es dans la litt\u00e9rature en ligne, suscitant de nombreuses interrogations chez les praticiens. Ces \u00e9carts ne rel\u00e8vent pas d’erreurs de calcul, mais de variations subtiles dans les conventions adopt\u00e9es pour formaliser la vraisemblance.<\/p>\n Si la reconstruction Scikit-Learn int\u00e8gre fid\u00e8lement :<\/p>\n l’\u00e9cart entre les deux valeurs calcul\u00e9es devient strictement nul, \u00e0 la pr\u00e9cision machine pr\u00e8s (de l’ordre de 10-12<\/sup>). En revanche, si l’on utilise la formulation simplifi\u00e9e n * ln(RSS \/ n) + k * ln(n)<\/em> au sein de la fonction d\u00e9di\u00e9e \u00e0 Scikit-Learn, on observera un d\u00e9calage scalaire syst\u00e9matique d’une magnitude \u00e9gale \u00e0 n * [1 + ln(2 * π)]<\/em> par rapport \u00e0 Statsmodels. Ce constat met en lumi\u00e8re une r\u00e8gle d’or fondamentale : lors d’une \u00e9tude comparative, l’analyste ne doit jamais m\u00e9langer des m\u00e9triques BIC issues de modules diff\u00e9rents sans s’\u00eatre pr\u00e9alablement assur\u00e9 de l’identit\u00e9 exacte de leurs formulations math\u00e9matiques internes.<\/p>\n Pour illustrer la puissance discriminante du BIC dans une situation de s\u00e9lection concr\u00e8te, \u00e9laborons un sc\u00e9nario empirique complet. Consid\u00e9rons l’\u00e9tude d’un processus biom\u00e9dical ou \u00e9conomique o\u00f9 l’on cherche \u00e0 expliquer une variable quantitative continue, not\u00e9e Y<\/em>, mesur\u00e9e sur une cohorte de n = 1000<\/em> individus. L’analyste dispose d’un panel de dix covariables potentielles, num\u00e9rot\u00e9es de X1<\/em> \u00e0 X10<\/em>. Dans la r\u00e9alit\u00e9 sous-jacente \u2014 connue du concepteur de l’exp\u00e9rience synth\u00e9tique mais inconnue de l’exp\u00e9rimentateur th\u00e9orique \u2014, seules les variables X1<\/em>, X2<\/em> et X3<\/em> exercent une influence causale r\u00e9elle sur le ph\u00e9nom\u00e8ne, les autres variables n’\u00e9tant que des bruits gaussiens non corr\u00e9l\u00e9s.<\/p>\n Face \u00e0 ce recueil de donn\u00e9es, trois mod\u00e8les concurrents sont formalis\u00e9s :<\/p>\n Pour orchestrer cette comparaison de mani\u00e8re automatis\u00e9e et reproductible sous Python, nous structurons un script complet exploitant Pandas et Statsmodels. Le flux de travail commence par la g\u00e9n\u00e9ration contr\u00f4l\u00e9e des variables par l’interm\u00e9diaire du g\u00e9n\u00e9rateur stochastique de NumPy. La variable r\u00e9ponse est construite comme une combinaison lin\u00e9aire de X1<\/em>, X2<\/em> et X3<\/em> assortie d’une erreur gaussienne, tandis que les variables parasites sont adjointes \u00e0 la matrice.<\/p>\n Le script organise les sp\u00e9cifications concurrentes sous la forme d’un dictionnaire Python associant \u00e0 chaque label de mod\u00e8le la liste correspondante de ses pr\u00e9dicteurs. Une boucle it\u00e9rative parcourt cette collection, extrait le sous-ensemble de donn\u00e9es appropri\u00e9, injecte syst\u00e9matiquement la constante via sm.add_constant<\/em>, et ajuste l’estimateur OLS<\/em> de Statsmodels. \u00c0 chaque it\u00e9ration, le script consigne dans une structure tabulaire interm\u00e9diaire la valeur du BIC, celle de l’AIC, le R-carr\u00e9 brut, le R-carr\u00e9 ajust\u00e9 ainsi que la log-vraisemblance maximale atteinte.<\/p>\n \u00c0 l’issue des ajustements, les indicateurs sont synth\u00e9tis\u00e9s dans un DataFrame<\/em> Pandas r\u00e9capitulatif. Ce tableau fait l’objet d’un tri ascendant selon la colonne du crit\u00e8re BIC, pla\u00e7ant imm\u00e9diatement en premi\u00e8re position le mod\u00e8le minimisant formellement cette m\u00e9trique.<\/p>\n L’inspection des r\u00e9sultats g\u00e9n\u00e9r\u00e9s par notre routine d’exp\u00e9rimentation met en lumi\u00e8re la hi\u00e9rarchisation math\u00e9matique op\u00e9r\u00e9e par les diff\u00e9rentes m\u00e9triques. Le mod\u00e8le 1 pr\u00e9sente une somme des carr\u00e9s des r\u00e9sidus tr\u00e8s \u00e9lev\u00e9e en raison de l’absence des pr\u00e9dicteurs majeurs X2<\/em> et X3<\/em>. En cons\u00e9quence, sa log-vraisemblance maximale est tr\u00e8s faible, ce qui produit un score BIC particuli\u00e8rement d\u00e9favorable malgr\u00e9 la grande sobri\u00e9t\u00e9 de son terme de p\u00e9nalit\u00e9.<\/p>\n La confrontation entre le mod\u00e8le 2 et le mod\u00e8le 3 r\u00e9v\u00e8le toute l’efficacit\u00e9 du crit\u00e8re d’information bay\u00e9sien :<\/p>\n En cons\u00e9quence, le score global du BIC du mod\u00e8le 3 s’\u00e9l\u00e8ve fortement par rapport \u00e0 celui du mod\u00e8le 2. Le mod\u00e8le 2 s’impose de mani\u00e8re cat\u00e9gorique comme le mod\u00e8le optimal, minimisant de fa\u00e7on nette le crit\u00e8re bay\u00e9sien. Le BIC a ainsi parfaitement op\u00e9r\u00e9 son r\u00f4le d’arbitre en rejetant simultan\u00e9ment le mod\u00e8le tronqu\u00e9 et le mod\u00e8le encombr\u00e9.<\/p>\n La compr\u00e9hension approfondie du BIC passe in\u00e9vitablement par sa mise en contraste analytique avec l’autre grand standard de la s\u00e9lection statistique : le crit\u00e8re d’information d’Akaike, d\u00e9sign\u00e9 sous l’acronyme AIC<\/a> (pour Akaike Information Criterion<\/em>), introduit par Hirotugu Akaike en 1973. Si les deux crit\u00e8res partagent une architecture alg\u00e9brique analogue articul\u00e9e autour de la d\u00e9viance au maximum de vraisemblance, ils divergent fondamentalement par la structure de leur terme p\u00e9nalisant la complexit\u00e9 :<\/p>\n AIC = -2 × ln(L) + 2 × k<\/strong><\/p>\n BIC = -2 × ln(L) + k × ln(n)<\/strong><\/p>\n L’analyse comparative de ces formulations met en \u00e9vidence une disparit\u00e9 essentielle : alors que la p\u00e9nalit\u00e9 de l’AIC attribue un co\u00fbt fixe invariable \u00e9gal \u00e0 2 unit\u00e9s de d\u00e9viance par param\u00e8tre estim\u00e9 ind\u00e9pendamment du volume de donn\u00e9es, la p\u00e9nalit\u00e9 du BIC module son coefficient multiplicateur par la fonction ln(n)<\/em>. Le point de bascule math\u00e9matique o\u00f9 les deux p\u00e9nalit\u00e9s s’\u00e9galisent strictement s’obtient en r\u00e9solvant l’\u00e9galit\u00e9 ln(n) = 2<\/em>, ce qui correspond \u00e0 un effectif critique de n = e2<\/sup> ≈ 7.39<\/em>.<\/p>\n1. Introduction au crit\u00e8re d’information bay\u00e9sien (BIC)<\/h2>\n
1.1 D\u00e9finition th\u00e9orique et origines du BIC<\/h3>\n
1.2 R\u00f4le du BIC dans la mod\u00e9lisation statistique et psychom\u00e9trique<\/h3>\n
1.3 Principe de parcimonie : compromis entre ajustement et complexit\u00e9<\/h3>\n
2. Fondements math\u00e9matiques et formulation du BIC<\/h2>\n
2.1 Formulation g\u00e9n\u00e9rale bas\u00e9e sur la vraisemblance maximale<\/h3>\n
2.2 Formulation sp\u00e9cifique pour la r\u00e9gression lin\u00e9aire des moindres carr\u00e9s<\/h3>\n
2.3 D\u00e9composition des variables et notation formelle<\/h3>\n
\n
3. Configuration de l’environnement Python pour le calcul statistique<\/h2>\n
3.1 Installation et chargement des biblioth\u00e8ques fondamentales<\/h3>\n
3.2 Pr\u00e9paration et structuration des structures de donn\u00e9es<\/h3>\n
\n
3.3 R\u00e8gles d’or pour une recherche empirique reproductible<\/h3>\n
4. Impl\u00e9mentation manuelle du calcul du BIC en pur Python et NumPy<\/h2>\n
4.1 Extraction vectorielle des m\u00e9triques de r\u00e9gression<\/h3>\n
4.2 \u00c9criture algorithmique de la fonction de calcul du BIC<\/h3>\n
4.3 Validation du script manuel par rapport aux formules th\u00e9oriques<\/h3>\n
5. Calcul automatique du BIC avec la biblioth\u00e8que Statsmodels<\/h2>\n
5.1 Sp\u00e9cification et estimation du mod\u00e8le via statsmodels.api.OLS<\/h3>\n
5.2 Extraction programmatique de l’attribut BIC<\/h3>\n
5.3 Analyse critique du tableau r\u00e9capitulatif complet<\/h3>\n
\n
6. Approche alternative : Calcul du BIC \u00e0 partir de Scikit-Learn<\/h2>\n
6.1 Ajustement avec la classe LinearRegression de Scikit-Learn<\/h3>\n
6.2 Reconstruction algorithmique du BIC post-ajustement<\/h3>\n
6.3 Analyse comparative des r\u00e9sultats Scikit-Learn vs Statsmodels<\/h3>\n
\n
7. \u00c9tude de cas pratique : Comparaison de mod\u00e8les de r\u00e9gression pr\u00e9dictifs<\/h2>\n
7.1 D\u00e9finition du cadre d’exp\u00e9rimentation et hypoth\u00e8ses concurrentes<\/h3>\n
\n
7.2 Script complet de comparaison automatis\u00e9e de plusieurs r\u00e9gressions<\/h3>\n
7.3 S\u00e9lection du mod\u00e8le optimal fond\u00e9e sur le crit\u00e8re minimal<\/h3>\n
\n
8. Analyse comparative rigoureuse : Crit\u00e8re BIC versus Crit\u00e8re AIC<\/h2>\n
8.1 Diff\u00e9rences analytiques dans l’intensit\u00e9 de la p\u00e9nalit\u00e9<\/h3>\n