L’histoire des sciences quantitatives est travers\u00e9e par une controverse fondamentale, \u00e0 la fois philosophique, math\u00e9matique et m\u00e9thodologique, qui divise les praticiens depuis plus de deux si\u00e8cles : l’affrontement entre la statistique fr\u00e9quentiste et la statistique bay\u00e9sienne. Loin de se r\u00e9duire \u00e0 une simple querelle d’\u00e9cole confin\u00e9e aux d\u00e9partements de math\u00e9matiques pures, cette dichotomie fa\u00e7onne de mani\u00e8re d\u00e9terminante la fa\u00e7on dont les chercheurs con\u00e7oivent la preuve exp\u00e9rimentale, interpr\u00e8tent les donn\u00e9es empiriques et prennent des d\u00e9cisions en situation d’incertitude radicale. De la validation r\u00e9glementaire d’une mol\u00e9cule th\u00e9rapeutique innovante par les agences sanitaires internationales jusqu’aux algorithmes d’apprentissage profond guidant les v\u00e9hicules autonomes contemporains, le choix du paradigme statistique engage directement la validit\u00e9, la robustesse et la signification des inf\u00e9rences formul\u00e9es \u00e0 partir du r\u00e9el observ\u00e9.<\/p>\n
Le c\u0153ur de cette divergence r\u00e9side dans la nature m\u00eame accord\u00e9e au concept de probabilit\u00e9. Pour le statisticien fr\u00e9quentiste, la probabilit\u00e9 est une propri\u00e9t\u00e9 objective de la nature, mesurable uniquement par la limite asymptotique de la fr\u00e9quence relative d’un \u00e9v\u00e9nement au cours d’une s\u00e9rie infinie de r\u00e9p\u00e9titions ind\u00e9pendantes et strictement identiques. Pour le penseur bay\u00e9sien, la probabilit\u00e9 repr\u00e9sente au contraire un \u00e9tat de connaissance, une quantification rigoureuse de l’incertitude \u00e9pist\u00e9mique conditionn\u00e9e par l’information disponible \u00e0 un instant donn\u00e9. Cette nuance ontologique apparemment subtile engendre une cascade de cons\u00e9quences th\u00e9oriques et pratiques : l\u00e0 o\u00f9 le fr\u00e9quentiste consid\u00e8re les param\u00e8tres de la nature comme des constantes universelles fixes mais inconnues et les donn\u00e9es comme une r\u00e9alisation al\u00e9atoire parmi une infinit\u00e9 d’\u00e9chantillons virtuels, le bay\u00e9sien traite les donn\u00e9es recueillies comme des grandeurs empiriques fixes et les param\u00e8tres inconnus comme des variables al\u00e9atoires gouvern\u00e9es par des distributions de probabilit\u00e9.<\/p>\n
Dans un contexte contemporain marqu\u00e9 par la crise de la reproductibilit\u00e9 scientifique et l’essor vertigineux des volumes de donn\u00e9es, l’examen impartial de ces deux \u00e9difices conceptuels s’impose avec une acuit\u00e9 renouvel\u00e9e. L’objectif de cette \u00e9tude exhaustive est d’offrir une d\u00e9construction rigoureuse des m\u00e9canismes math\u00e9matiques, des fondements \u00e9pist\u00e9mologiques et des implications appliqu\u00e9es propres \u00e0 chaque \u00e9cole. En d\u00e9passant les anath\u00e8mes historiques et les caricatures mutuelles, nous mettrons en lumi\u00e8re les forces op\u00e9ratoires de l’inf\u00e9rence de Neyman-Pearson et de Fisher, la puissance int\u00e9grative du th\u00e9or\u00e8me de Thomas Bayes et des cha\u00eenes de Markov contemporaines, ainsi que les zones de convergence asymptotique o\u00f9 ces deux g\u00e9ants de la pens\u00e9e math\u00e9matique finissent par se rejoindre.<\/p>\n
L’histoire de l’inf\u00e9rence statistique ne s’est pas \u00e9crite de mani\u00e8re lin\u00e9aire. Elle s’est structur\u00e9e autour de basculements paradigmatiques majeurs qui ont vu s’opposer deux visions du monde. La gen\u00e8se du cadre bay\u00e9sien trouve ses racines dans l’essai posthume du pasteur presbyt\u00e9rien britannique Thomas Bayes<\/a>, pr\u00e9sent\u00e9 en 1763 par Richard Price devant la Royal Society de Londres. Bayes y posait pour la premi\u00e8re fois la question dite de la \u00ab probabilit\u00e9 inverse \u00bb : si l’on ignore la proportion exacte de boules blanches et noires contenues dans une urne ferm\u00e9e mais que l’on observe le r\u00e9sultat d’un nombre d\u00e9termin\u00e9 de tirages, comment peut-on inf\u00e9rer rationnellement la composition sous-jacente de cette urne ? Ind\u00e9pendamment de ces travaux pr\u00e9liminaires, le polymathe fran\u00e7ais Pierre-Simon de Laplace<\/a> a formalis\u00e9 de fa\u00e7on magistrale ce principe dans son M\u00e9moire sur la probabilit\u00e9 des causes par les \u00e9v\u00e9nements<\/em> en 1774, puis dans sa monumentale Th\u00e9orie analytique des probabilit\u00e9s<\/em> en 1812. Laplace a \u00e9rig\u00e9 la probabilit\u00e9 des causes en un instrument d’inf\u00e9rence universel, affirmant que le calcul des probabilit\u00e9s n’\u00e9tait au fond que le bon sens r\u00e9duit au calcul.<\/p>\n Pourtant, au d\u00e9but du vingti\u00e8me si\u00e8cle, cette approche dite \u00ab des probabilit\u00e9s inverses \u00bb a subi une vague de critiques virulentes men\u00e9e par les fondateurs de la statistique moderne. Ronald Aylmer Fisher<\/a>, irrit\u00e9 par ce qu’il percevait comme l’arbitraire ind\u00e9fendable de l’attribution d’une distribution a priori en l’absence de donn\u00e9es, a entrepris de purger l’inf\u00e9rence scientifique de toute composante subjective. Fisher a introduit le concept r\u00e9volutionnaire de vraisemblance et formalis\u00e9 les tests de signification fond\u00e9s sur la valeur p. Dans son sillage, le math\u00e9maticien polonais Jerzy Neyman<\/a> et le statisticien britannique Egon Pearson ont propos\u00e9 une th\u00e9orisation encore plus radicale, \u00e9cartant d\u00e9lib\u00e9r\u00e9ment l’id\u00e9e de mesurer la v\u00e9racit\u00e9 d’une hypoth\u00e8se isol\u00e9e pour lui substituer un cadre d\u00e9cisionnel norm\u00e9 visant \u00e0 contraindre les taux d’erreur sur le long terme par le truchement des hypoth\u00e8ses nulle et alternative.<\/p>\n Cette rivalit\u00e9 historique met en jeu la d\u00e9finition fondamentale de ce qu’est une probabilit\u00e9. D’un c\u00f4t\u00e9, le paradigme fr\u00e9quentiste postule que la probabilit\u00e9 d’un \u00e9v\u00e9nement correspond strictement \u00e0 la limite asymptotique de sa fr\u00e9quence relative d’apparition au sein d’une s\u00e9rie hypoth\u00e9tiquement infinie de r\u00e9alisations ind\u00e9pendantes issues du m\u00eame processus g\u00e9n\u00e9rateur. Il est d\u00e8s lors d\u00e9pourvu de sens probabiliste d’attribuer une probabilit\u00e9 \u00e0 un ph\u00e9nom\u00e8ne unique, non reproductible, tel que l’issue d’une \u00e9lection pr\u00e9sidentielle donn\u00e9e ou la pr\u00e9sence effective de vie sur une exoplan\u00e8te. De l’autre c\u00f4t\u00e9, le paradigme bay\u00e9sien appr\u00e9hende la probabilit\u00e9 sous un angle \u00e9pist\u00e9mique : elle quantifie le degr\u00e9 de certitude ou la force de croyance rationnelle d’un observateur \u00e0 l’\u00e9gard d’une proposition, conditionnellement \u00e0 l’ensemble des donn\u00e9es, des connaissances pr\u00e9alables et des contraintes formelles disponibles.<\/p>\n Cette divergence conceptuelle rejaillit imm\u00e9diatement sur la nature ontologique des param\u00e8tres \u00e9tudi\u00e9s au sein d’un mod\u00e8le math\u00e9matique. Dans l’univers fr\u00e9quentiste, le param\u00e8tre d’int\u00e9r\u00eat \u2014 qu’il s’agisse de la masse d’une particule subatomique, de l’efficacit\u00e9 moyenne d’un vaccin ou de la pente d’une r\u00e9gression lin\u00e9aire \u2014 est une grandeur d\u00e9terministe fixe, universelle mais inconnue. Ce param\u00e8tre n’a rien d’al\u00e9atoire : il est un \u00e9tat de fait immuable du monde mat\u00e9riel. Par cons\u00e9quent, il est rigoureusement absurde dans ce cadre de concevoir une fonction de densit\u00e9 de probabilit\u00e9 sur ce param\u00e8tre. Les seules grandeurs al\u00e9atoires sont les donn\u00e9es qui \u00e9mergent de l’\u00e9chantillonnage exp\u00e9rimental. \u00c0 l’oppos\u00e9, le cadre bay\u00e9sien adopte une position \u00e9pist\u00e9mologique duale : si la valeur r\u00e9elle du param\u00e8tre physique est potentiellement unique dans la r\u00e9alit\u00e9 mat\u00e9rielle, la connaissance imparfaite qu’en a l’exp\u00e9rimentateur constitue une quantit\u00e9 incertaine qui doit \u00eatre mod\u00e9lis\u00e9e comme une variable al\u00e9atoire, r\u00e9gie par une loi de probabilit\u00e9 refl\u00e9tant l’\u00e9tat d’information disponible.<\/p>\n Les divergences entre les deux approches ont aliment\u00e9 des confusions conceptuelles tenaces, qui continuent d’empoisonner la litt\u00e9rature scientifique appliqu\u00e9e et l’enseignement universitaire \u00e9l\u00e9mentaire. La plus pr\u00e9gnante d’entre elles concerne la distinction s\u00e9mantique et logique entre l’intervalle de confiance fr\u00e9quentiste et l’intervalle de cr\u00e9dibilit\u00e9 bay\u00e9sien. Une proportion \u00e9crasante de chercheurs et d’\u00e9tudiants interpr\u00e8te \u00e0 tort un intervalle de confiance fr\u00e9quentiste \u00e0 quatre-vingt-quinze pour cent comme s’il s’agissait d’une affirmation bay\u00e9sienne, croyant \u00e0 tort qu’il existe une probabilit\u00e9 de quatre-vingt-quinze pour cent que le v\u00e9ritable param\u00e8tre inconnu r\u00e9side \u00e0 l’int\u00e9rieur des bornes num\u00e9riques calcul\u00e9es. Cette confusion est une h\u00e9r\u00e9sie th\u00e9orique au regard du formalisme de Neyman : le param\u00e8tre \u00e9tant une constante fixe, il se situe ou ne se situe pas dans l’intervalle r\u00e9alis\u00e9, ce qui r\u00e9duit la probabilit\u00e9 a posteriori \u00e0 z\u00e9ro ou un. La garantie de quatre-vingt-quinze pour cent ne qualifie pas l’intervalle particulier obtenu sur l’\u00e9chantillon unique, mais la proc\u00e9dure math\u00e9matique globale de construction des bornes sous l’hypoth\u00e8se de r\u00e9p\u00e9titions infinies du protocole d’\u00e9chantillonnage.<\/p>\n Cette distorsion interpr\u00e9tative a \u00e9t\u00e9 exacerb\u00e9e par une querelle presque id\u00e9ologique autour de la subjectivit\u00e9 scientifique. Tout au long du vingti\u00e8me si\u00e8cle, les partisans du fr\u00e9quentisme ont rejet\u00e9 les m\u00e9thodes bay\u00e9siennes sous le pr\u00e9texte qu’elles introduiraient un \u00e9l\u00e9ment arbitraire, voire toxique, dans la d\u00e9marche scientifique : la loi de probabilit\u00e9 a priori (prior). Selon cette posture critique, autoriser un exp\u00e9rimentateur \u00e0 quantifier ses croyances avant l’obtention des donn\u00e9es reviendrait \u00e0 ouvrir la porte \u00e0 toutes les manipulations, \u00e0 l’expression d’id\u00e9ologies pr\u00e9con\u00e7ues et \u00e0 la destruction de l’objectivit\u00e9 empirique. En r\u00e9plique, les penseurs bay\u00e9siens ont vigoureusement soulign\u00e9 que l’objectivit\u00e9 revendiqu\u00e9e par les tests d’hypoth\u00e8se fr\u00e9quentistes n’est qu’une illusion rh\u00e9torique. Le choix de l’hypoth\u00e8se nulle, la s\u00e9lection discr\u00e9tionnaire des covariables, la d\u00e9cision d’interrompre un essai clinique \u00e0 un stade pr\u00e9cis et l’adoption dogmatique d’un seuil de significativit\u00e9 de cinq pour cent rel\u00e8vent tous de choix subjectifs profonds, avec l’inconv\u00e9nient majeur de demeurer implicites et dissimul\u00e9s sous des apparats de rigueur formelle.<\/p>\n Le d\u00e9bat n’a rien d’un diff\u00e9rend byzantin d\u00e9connect\u00e9 du terrain : il frappe au c\u0153ur m\u00eame de la crise contemporaine de la r\u00e9plication, qui \u00e9branle des pans entiers de la psychologie exp\u00e9rimentale, de la recherche biom\u00e9dicale et de l’\u00e9conomie empirique. L’incompr\u00e9hension g\u00e9n\u00e9ralis\u00e9e de la valeur p, conjugu\u00e9e \u00e0 la pression acad\u00e9mique de publier des r\u00e9sultats statistiquement significatifs, a favoris\u00e9 l’essor d\u00e9l\u00e9t\u00e8re de pratiques de \u00ab p-hacking \u00bb, de dragage de donn\u00e9es (data dredging) et de formulation d’hypoth\u00e8ses apr\u00e8s la prise de connaissance des r\u00e9sultats (HARKing). Dans ce paysage \u00e9pist\u00e9mologique fractur\u00e9, la communaut\u00e9 scientifique prend conscience que le filtre fr\u00e9quentiste conventionnel a laiss\u00e9 prolif\u00e9rer une masse consid\u00e9rable de faux positifs. L’approche bay\u00e9sienne, en conditionnant rigoureusement l’analyse sur les donn\u00e9es r\u00e9ellement observ\u00e9es et en for\u00e7ant les analystes \u00e0 rendre manifestes leurs hypoth\u00e8ses ant\u00e9rieures par le biais de distributions explicites, offre un cadre th\u00e9orique alternatif pr\u00e9cieux pour refonder la cr\u00e9dibilit\u00e9 de l’inf\u00e9rence empirique.<\/p>\n L’\u00e9difice math\u00e9matique de la statistique fr\u00e9quentiste repose sur une exp\u00e9rience de pens\u00e9e rigoureuse : l’\u00e9chantillonnage r\u00e9p\u00e9t\u00e9. Dans ce cadre, toute s\u00e9rie de donn\u00e9es observ\u00e9es est appr\u00e9hend\u00e9e comme une r\u00e9alisation particuli\u00e8re parmi une infinit\u00e9 d’\u00e9chantillons envisageables qui auraient pu \u00eatre g\u00e9n\u00e9r\u00e9s sous des conditions rigoureusement identiques par le m\u00eame m\u00e9canisme stochastique sous-jacent. Si nous disposons d’un vecteur de donn\u00e9es exp\u00e9rimentales issu d’une population parente, ce vecteur est conceptualis\u00e9 comme une variable al\u00e9atoire multidimensionnelle. L’\u00e9valuation de la performance d’un outil statistique ne s’effectue pas au regard du r\u00e9sultat singulier fourni par l’\u00e9chantillon observ\u00e9, mais en analysant les propri\u00e9t\u00e9s th\u00e9oriques de l’estimateur lorsqu’on projette son application sur une infinit\u00e9 d’exp\u00e9riences reproduites \u00e0 l’identique. C’est l’essence m\u00eame de l’inf\u00e9rence pr\u00e9-exp\u00e9rimentale.<\/p>\n Dans ce paradigme, un estimateur d’un param\u00e8tre fixe est une fonction math\u00e9matique des donn\u00e9es. L’\u00e9valuation de cet estimateur mobilise un ensemble de crit\u00e8res formels fondamentaux, au premier rang desquels figurent le biais, la variance, la consistance et l’efficacit\u00e9 asymptotique. Le biais mesure l’\u00e9cart entre l’esp\u00e9rance math\u00e9matique de l’estimateur sous un \u00e9chantillonnage r\u00e9p\u00e9t\u00e9 et la v\u00e9ritable valeur inconnue du param\u00e8tre. Un estimateur sans biais garantit qu’en moyenne, sur le long terme d’une infinit\u00e9 d’exp\u00e9riences, l’estimation convergera exactement vers la cible r\u00e9elle, m\u00eame si chaque estimation ponctuelle individuelle s’en \u00e9carte in\u00e9vitablement. La recherche de l’estimateur sans biais de variance minimale constitue l’un des piliers de la th\u00e9orie fr\u00e9quentiste, formalis\u00e9e par l’in\u00e9galit\u00e9 de Cram\u00e9r-Rao, qui fixe une borne inf\u00e9rieure th\u00e9orique \u00e0 la variance que peut atteindre un estimateur non biais\u00e9 en fonction de l’information de Fisher contenue dans les donn\u00e9es.<\/p>\n Pour d\u00e9river ces estimateurs optimaux, la statistique fr\u00e9quentiste s’appuie massivement sur le principe du maximum de vraisemblance, conceptualis\u00e9 de fa\u00e7on d\u00e9cisive par Ronald Fisher dans les ann\u00e9es 1920. La fonction de vraisemblance d’un param\u00e8tre inconnu, conditionnellement aux donn\u00e9es observ\u00e9es, mesure la densit\u00e9 de probabilit\u00e9 conjointe que le mod\u00e8le math\u00e9matique assigne \u00e0 ces donn\u00e9es sp\u00e9cifiques en faisant varier la valeur du param\u00e8tre. L’estimateur du maximum de vraisemblance est la valeur du param\u00e8tre qui maximise cette fonction, c’est-\u00e0-dire qui rend l’observation des donn\u00e9es empiriques recueillies la plus plausible possible. Cet estimateur pr\u00e9sente des propri\u00e9t\u00e9s math\u00e9matiques \u00e9l\u00e9gantes : sous de vastes conditions de r\u00e9gularit\u00e9, il est asymptotiquement sans biais, asymptotiquement normal et asymptotiquement efficace, atteignant la borne de Cram\u00e9r-Rao lorsque la taille de l’\u00e9chantillon tend vers l’infini. Il incarne l’arch\u00e9type de la m\u00e9thode fr\u00e9quentiste standard, op\u00e9rant sans n\u00e9cessiter la moindre sp\u00e9cification d’une croyance a priori.<\/p>\n Le dispositif op\u00e9rationnel le plus r\u00e9pandu de l’arsenal fr\u00e9quentiste demeure sans conteste le test d’hypoth\u00e8ses, r\u00e9sultat d’une synth\u00e8se hybride \u2014 et souvent conflictuelle \u2014 entre l’approche du test de signification de Fisher et la th\u00e9orie de la d\u00e9cision de Neyman-Pearson. Dans le formalisme strict de Neyman-Pearson, l’investigateur doit expliciter deux hypoth\u00e8ses mutuellement exclusives : une hypoth\u00e8se nulle, souvent associ\u00e9e \u00e0 l’absence d’effet ou \u00e0 l’\u00e9quivalence entre deux traitements, et une hypoth\u00e8se alternative, d\u00e9crivant la pr\u00e9sence d’un effet ou d’une divergence syst\u00e9matique. Ce cadre ne cherche pas \u00e0 \u00e9tablir si une hypoth\u00e8se est intrins\u00e8quement vraie, mais \u00e0 fixer une r\u00e8gle de d\u00e9cision binaire (rejet ou non-rejet de l’hypoth\u00e8se nulle) de mani\u00e8re \u00e0 borner de fa\u00e7on d\u00e9terministe les erreurs de jugement sur le long terme de la pratique scientifique.<\/p>\n Le contr\u00f4le de l’incertitude d\u00e9cisionnelle s’articule autour de deux grandeurs fondamentales : l’erreur de type I, not\u00e9e alpha, qui correspond au rejet erron\u00e9 de l’hypoth\u00e8se nulle alors qu’elle est en r\u00e9alit\u00e9 vraie, et l’erreur de type II, not\u00e9e b\u00eata, qui caract\u00e9rise le fait de ne pas rejeter l’hypoth\u00e8se nulle alors qu’elle est fausse. La puissance statistique d’un test, \u00e9gale au compl\u00e9ment \u00e0 un de l’erreur b\u00eata, repr\u00e9sente la probabilit\u00e9 de rejeter ad\u00e9quatement l’hypoth\u00e8se nulle sous l’hypoth\u00e8se alternative. Au sein de cette machinerie, la valeur p fisherienne est rigoureusement d\u00e9finie comme la probabilit\u00e9, sous l’hypoth\u00e8se stricte que l’hypoth\u00e8se nulle soit vraie, d’obtenir une statistique de test au moins aussi extr\u00eame que celle effectivement observ\u00e9e dans l’\u00e9chantillon d’\u00e9tude. La valeur p n’indique en aucun cas la probabilit\u00e9 que l’hypoth\u00e8se nulle soit exacte, ni la probabilit\u00e9 que l’effet observ\u00e9 soit le fruit du hasard pur, ces deux formulations constituant des contresens \u00e9pist\u00e9mologiques majeurs.<\/p>\n Cette logique d’\u00e9chantillonnage r\u00e9p\u00e9t\u00e9 d\u00e9termine l’interpr\u00e9tation exacte de l’intervalle de confiance \u00e0 quatre-vingt-quinze pour cent. Lorsque l’exp\u00e9rimentateur extrait un \u00e9chantillon al\u00e9atoire et en calcule les bornes inf\u00e9rieure et sup\u00e9rieure, ces bornes sont elles-m\u00eames des variables al\u00e9atoires qui fluctuent d’un \u00e9chantillon \u00e0 l’autre. L’affirmation selon laquelle l’intervalle poss\u00e8de un coefficient de confiance de quatre-vingt-quinze pour cent signifie rigoureusement que si l’on r\u00e9p\u00e9tait cette m\u00eame exp\u00e9rience un nombre infini de fois en pr\u00e9levant de nouveaux \u00e9chantillons ind\u00e9pendants sous les m\u00eames conditions g\u00e9n\u00e9ratrices et que l’on recalculait chaque fois un nouvel intervalle, exactement quatre-vingt-quinze pour cent de ces intervalles engloberaient en leur sein la valeur fixe et inconnue du param\u00e8tre universel. D\u00e8s lors que l’\u00e9chantillon est pr\u00e9lev\u00e9 et que les valeurs num\u00e9riques num\u00e9riques sont calcul\u00e9es, l’intervalle singulier ne poss\u00e8de plus aucune propri\u00e9t\u00e9 probabiliste intrins\u00e8que : le param\u00e8tre s’y trouve ou ne s’y trouve pas, tout court.<\/p>\n Si la statistique fr\u00e9quentiste s’est impos\u00e9e de fa\u00e7on quasi h\u00e9g\u00e9monique tout au long du vingti\u00e8me si\u00e8cle, c’est en grande partie gr\u00e2ce \u00e0 son immense commodit\u00e9 op\u00e9rationnelle et \u00e0 son ad\u00e9quation parfaite avec les besoins de standardisation de la bureaucratie industrielle et r\u00e9glementaire. Dans le domaine du d\u00e9veloppement pharmaceutique, sous l’\u00e9gide d’institutions comme la Food and Drug Administration<\/a> ou l’Agence europ\u00e9enne des m\u00e9dicaments, les protocoles exp\u00e9rimentaux d’essais cliniques de phase III exigent des r\u00e8gles de d\u00e9cision objectives et reproductibles. Le contr\u00f4le d\u00e9terministe de l’erreur de premi\u00e8re esp\u00e8ce au seuil conventionnel de cinq pour cent et la planification de la puissance \u00e0 quatre-vingts ou quatre-vingt-dix pour cent offrent une grille d’audit uniforme. De plus, sur le plan computationnel, l’estimation fr\u00e9quentiste repose tr\u00e8s fr\u00e9quemment sur des solutions analytiques closes ou sur des algorithmes d’optimisation num\u00e9rique d\u00e9terministes (comme l’algorithme de Newton-Raphson pour la maximisation de la vraisemblance), exempts de la lourdeur algorithmique des int\u00e9grations en haute dimension.<\/p>\n N\u00e9anmoins, cette armature formelle souffre de failles \u00e9pist\u00e9mologiques consid\u00e9rables. La premi\u00e8re r\u00e9side dans son incapacit\u00e9 ontologique \u00e0 r\u00e9pondre \u00e0 la question pr\u00e9cise que se pose tout praticien : \u00ab Au vu des donn\u00e9es que je viens de recueillir, quelle est la probabilit\u00e9 que mon hypoth\u00e8se clinique soit exacte ? \u00bb. En imposant un conditionnement exclusif sur la v\u00e9racit\u00e9 hypoth\u00e9tique de l’hypoth\u00e8se nulle, le cadre fr\u00e9quentiste contraint le chercheur \u00e0 raisonner par l’absurde, dans un jeu de miroirs inductif paradoxal. Comme l’a soulign\u00e9 le psychologue et statisticien Jacob Cohen<\/a> dans son c\u00e9l\u00e8bre article de 1994, The Earth is Round (p < .05)<\/em>, la valeur p est fondamentalement asym\u00e9trique : elle ne permet jamais d’accepter rationnellement l’hypoth\u00e8se nulle, mais uniquement de constater que les donn\u00e9es sont ou non suffisamment discordantes avec elle pour motiver son rejet<\/span>.<\/p>\n La seconde vuln\u00e9rabilit\u00e9 majeure r\u00e9side dans l’extr\u00eame sensibilit\u00e9 du dispositif aux intentions non observ\u00e9es de l’exp\u00e9rimentateur et au sch\u00e9ma d’\u00e9chantillonnage retenu. Deux chercheurs observant la m\u00eame s\u00e9quence exacte de r\u00e9ussites et d’\u00e9checs dans une exp\u00e9rience de Bernoulli obtiendront des valeurs p radicalement diff\u00e9rentes selon que le protocole initialement pr\u00e9vu consistait \u00e0 fixer \u00e0 l’avance le nombre total d’essais ou \u00e0 poursuivre les tests jusqu’\u00e0 obtenir un nombre pr\u00e9d\u00e9fini d’\u00e9checs. Cette d\u00e9pendance de la preuve statistique \u00e0 l’\u00e9gard de donn\u00e9es virtuelles non r\u00e9alis\u00e9es viole ce que la philosophie des sciences nomme le principe de vraisemblance. Cette faille a favoris\u00e9 la prolif\u00e9ration silencieuse du \u00ab p-hacking \u00bb, o\u00f9 l’analyste modifie subrepticement ses r\u00e8gles d’arr\u00eat, proc\u00e8de \u00e0 des analyses de sous-groupes non pr\u00e9vues ou s\u00e9lectionne discr\u00e9tionnairement les valeurs aberrantes pour faire franchir \u00e0 la statistique observ\u00e9e le seuil arbitraire de p < 0,05<\/span>.<\/p>\n L’architecture de la statistique bay\u00e9sienne s’ordonne autour d’une \u00e9l\u00e9gance math\u00e9matique souveraine : le th\u00e9or\u00e8me de Bayes. Dans le cas continu, pour un vecteur de donn\u00e9es observ\u00e9es et un vecteur de param\u00e8tres continus, ce th\u00e9or\u00e8me prend la forme canonique suivante : la distribution de probabilit\u00e9 a posteriori des param\u00e8tres est \u00e9gale au produit de la distribution a priori des param\u00e8tres et de la fonction de vraisemblance des donn\u00e9es, le tout normalis\u00e9 par l’int\u00e9grale de ce produit sur l’espace complet des param\u00e8tres. L’int\u00e9grale du d\u00e9nominateur, souvent d\u00e9sign\u00e9e sous le nom de vraisemblance marginale ou d’\u00e9vidence du mod\u00e8le, agit comme une constante d’\u00e9chelle assurant que l’aire totale sous la courbe de la densit\u00e9 a posteriori soit rigoureusement \u00e9gale \u00e0 un.<\/p>\n Cette \u00e9quation mat\u00e9rialise le cycle fondamental de l’apprentissage rationnel : elle d\u00e9crit comment l’arriv\u00e9e d’une information empirique nouvelle doit modifier l’\u00e9tat d’incertitude initial d’un observateur. La distribution a priori (prior) synth\u00e9tise l’ensemble des connaissances, des contraintes th\u00e9oriques, des donn\u00e9es ant\u00e9rieures ou des incertitudes existant avant la collecte de la nouvelle mesure. La fonction de vraisemblance r\u00e9git le pouvoir d’attraction des donn\u00e9es observ\u00e9es : elle indique dans quelle mesure diff\u00e9rentes configurations des param\u00e8tres auraient pu engendrer l’\u00e9chantillon constat\u00e9. La distribution a posteriori (posterior) repr\u00e9sente la synth\u00e8se probabiliste actualis\u00e9e, combinant l’h\u00e9ritage a priori et le choc empirique de l’observation. Ce m\u00e9canisme est intrins\u00e8quement s\u00e9quentiel : la distribution a posteriori obtenue apr\u00e8s une premi\u00e8re exp\u00e9rience devient l’a priori naturel de l’exp\u00e9rience suivante, instaurant une continuit\u00e9 cumulative du savoir scientifique.<\/p>\n La formulation de la distribution a priori rev\u00eat une dimension cardinale et requiert une typologie rigoureuse. On distingue tout d’abord les a priori informatifs, qui injectent des informations empiriques solides issues d’exp\u00e9rimentations pass\u00e9es ou de lois physiques bien \u00e9tablies, permettant de contraindre l’estimation dans des zones r\u00e9alistes. Viennent ensuite les a priori faiblement informatifs (ou r\u00e9gularisateurs), qui n’ont pas vocation \u00e0 exprimer une certitude aigu\u00eb, mais \u00e0 exclure les valeurs biologiquement ou physiquement impossibles, jouant un r\u00f4le de garde-fou contre les instabilit\u00e9s num\u00e9riques. On emploie \u00e9galement des a priori non informatifs ou objectifs, tels que le prior uniforme ou le prior de Harold Jeffreys<\/a> \u2014 ce dernier pr\u00e9sentant la propri\u00e9t\u00e9 remarquable d’\u00eatre invariant par reparam\u00e9trisation gr\u00e2ce \u00e0 l’utilisation de la racine carr\u00e9e du d\u00e9terminant de la matrice d’information de Fisher. Enfin, sur le plan purement math\u00e9matique, l’usage des a priori dits conjugu\u00e9s a longtemps domin\u00e9 l’histoire computationnelle : une famille a priori est dite conjugu\u00e9e \u00e0 une vraisemblance si la distribution a posteriori r\u00e9sultante appartient \u00e0 la m\u00eame famille fonctionnelle de probabilit\u00e9s (comme le couple B\u00eata-Binomial ou le couple Normal-Normal), permettant un calcul analytique imm\u00e9diat sans recours \u00e0 l’int\u00e9gration num\u00e9rique.<\/p>\n Pendant pr\u00e8s de deux si\u00e8cles, la statistique bay\u00e9sienne est demeur\u00e9e entrav\u00e9e dans son d\u00e9ploiement op\u00e9rationnel par un obstacle math\u00e9matique r\u00e9put\u00e9 infranchissable : l’incalculabilit\u00e9 pratique de l’\u00e9vidence marginale au d\u00e9nominateur du th\u00e9or\u00e8me de Bayes. D\u00e8s lors qu’un mod\u00e8le statistique int\u00e8gre un nombre mod\u00e9r\u00e9 de param\u00e8tres \u2014 ne serait-ce qu’une douzaine de r\u00e9gresseurs \u2014, l’int\u00e9grale requise s’\u00e9tend sur un espace \u00e0 plusieurs dimensions. En haute dimension, les m\u00e9thodes d’int\u00e9gration num\u00e9rique classiques par quadratures d\u00e9terministes (r\u00e8gles de Simpson ou de Gauss-Legendre) \u00e9chouent dramatiquement, terrass\u00e9es par le fl\u00e9au de la dimensionnalit\u00e9. En l’absence de lois a priori conjugu\u00e9es simples, le calcul de la distribution a posteriori exacte demeurait purement utopique pour les mod\u00e8les r\u00e9alistes de la science contemporaine.<\/p>\n La lib\u00e9ration computationnelle du paradigme bay\u00e9sien s’est op\u00e9r\u00e9e au tournant des ann\u00e9es 1990 gr\u00e2ce \u00e0 la convergence de la puissance de calcul des microprocesseurs et de l’adaptation d’algorithmes de physique statistique : les m\u00e9thodes de Monte-Carlo par cha\u00eenes de Markov (MCMC). L’intuition de g\u00e9nie sous-tendant le MCMC consiste \u00e0 renoncer \u00e0 calculer analytiquement la distribution a posteriori globale ou son int\u00e9grale de normalisation. Au lieu de cela, on construit une cha\u00eene de Markov ergodique dont la distribution stationnaire unique est pr\u00e9cis\u00e9ment la distribution a posteriori cible. En laissant \u00e9voluer cette cha\u00eene sur un grand nombre d’it\u00e9rations, les \u00e9tats successifs visit\u00e9s par la cha\u00eene constituent un \u00e9chantillon al\u00e9atoire repr\u00e9sentatif de la loi a posteriori. L’algorithme de Metropolis-Hastings et l’\u00e9chantillonneur de Gibbs ont constitu\u00e9 les fers de lance de cette premi\u00e8re r\u00e9volution computationnelle.<\/p>\n Au cours des deux derni\u00e8res d\u00e9cennies, l’inf\u00e9rence bay\u00e9sienne a franchi un nouveau palier d’efficacit\u00e9 avec l’\u00e9mergence des algorithmes de Monte-Carlo Hamiltonien (HMC) et, tout particuli\u00e8rement, du No-U-Turn Sampler (NUTS), popularis\u00e9 par le moteur probabiliste Stan<\/a>, ainsi que par les d\u00e9veloppements r\u00e9cents sous Python avec PyMC<\/a>. En empruntant les \u00e9quations diff\u00e9rentielles de la m\u00e9canique hamiltonienne, ces algorithmes simulent la trajectoire d’une particule fictive se d\u00e9pla\u00e7ant sur la surface d’\u00e9nergie potentielle d\u00e9finie par le logarithme de la distribution a posteriori. Cette dynamique permet \u00e0 l’\u00e9chantillonneur de traverser efficacement des espaces de param\u00e8tres complexes \u00e0 tr\u00e8s haute dimension sans subir les blocages al\u00e9atoires du Metropolis-Hastings traditionnel. Parall\u00e8lement, pour les jeux de donn\u00e9es massifs o\u00f9 m\u00eame le HMC s’av\u00e8re trop co\u00fbteux en temps de calcul, l’inf\u00e9rence variationnelle transforme le probl\u00e8me d’int\u00e9gration en un probl\u00e8me d’optimisation d\u00e9terministe, approximant la distribution cible par une famille de lois analytiques en minimisant la divergence de Kullback-Leibler.<\/p>\n Le premier triomphe m\u00e9thodologique du cadre bay\u00e9sien r\u00e9side dans la clart\u00e9 et l’intelligibilit\u00e9 de ses sorties inf\u00e9rentielles. Contrairement \u00e0 l’intervalle de confiance fr\u00e9quentiste et \u00e0 ses contorsions asymptotiques, l’intervalle de cr\u00e9dibilit\u00e9 bay\u00e9sien offre une interpr\u00e9tation probabiliste directe, fluide et imm\u00e9diatement compr\u00e9hensible. Un intervalle de cr\u00e9dibilit\u00e9 \u00e0 quatre-vingt-quinze pour cent \u2014 qu’il s’agisse d’un intervalle \u00e0 queues \u00e9gales ou d’un intervalle de plus haute densit\u00e9 a posteriori (Highest Density Interval, HDI) \u2014 autorise le chercheur \u00e0 affirmer rigoureusement : \u00ab Conditionnellement aux donn\u00e9es recueillies et au mod\u00e8le sp\u00e9cifi\u00e9, il existe une probabilit\u00e9 de quatre-vingt-quinze pour cent que le v\u00e9ritable param\u00e8tre inconnu soit compris entre ces deux bornes \u00bb. Cette correspondance parfaite entre le formalisme math\u00e9matique et l’intuition cognitive de l’exp\u00e9rimentateur r\u00e9duit drastiquement les risques de contresens lors de la communication des r\u00e9sultats scientifiques.<\/p>\n Le second atout majeur r\u00e9side dans la capacit\u00e9 native du formalisme bay\u00e9sien \u00e0 int\u00e9grer des connaissances pr\u00e9existantes de fa\u00e7on structur\u00e9e et quantitative. En m\u00e9decine translationnelle ou lors d’essais portant sur des pathologies rarissimes o\u00f9 les cohortes de patients se limitent \u00e0 quelques individus, il est absurde de pr\u00e9tendre repartir d’une feuille vierge en ignorant les donn\u00e9es pr\u00e9cliniques accumul\u00e9es, les mod\u00e8les animaux ou les \u00e9tudes observationnelles ant\u00e9rieures. La distribution a priori permet de cristalliser cet acquis historique, transformant le mod\u00e8le statistique en un r\u00e9ceptacle vivant du progr\u00e8s des connaissances, tout en pr\u00e9venant les fluctuations d’\u00e9chantillonnage destructrices propres aux cohortes r\u00e9duites.<\/p>\n Toutefois, cette sophistication m\u00e9thodologique se heurte \u00e0 des contraintes substantielles. Le co\u00fbt computationnel de l’estimation bay\u00e9sienne par MCMC demeure colossal en comparaison de la vitesse fulgurante des approximations fr\u00e9quentistes par maximum de vraisemblance. L’\u00e9chantillonnage de plusieurs cha\u00eenes de Markov sur des mod\u00e8les comprenant des centaines de milliers de param\u00e8tres peut requ\u00e9rir des heures, voire des journ\u00e9es enti\u00e8res de calcul sur des architectures de serveurs d\u00e9di\u00e9es. De surcro\u00eet, le praticien bay\u00e9sien assume la responsabilit\u00e9 intellectuelle lourde de justifier le choix de ses lois a priori. Si ce choix est guid\u00e9 par une complaisance mal ma\u00eetris\u00e9e ou une mauvaise calibration th\u00e9orique, il risque de teinter ind\u00fbment la distribution a posteriori, exposant l’analyste au reproche d’arbitraire ou de biais de confirmation.<\/p>\n Pour appr\u00e9hender l’ab\u00eeme conceptuel qui s\u00e9pare les deux approches, il convient de dresser un bilan syst\u00e9matique de leurs divergences fondamentales. Chaque composante de la d\u00e9marche inf\u00e9rentielle \u2014 de la d\u00e9finition de la probabilit\u00e9 jusqu’au conditionnement math\u00e9matique des \u00e9nonc\u00e9s \u2014 r\u00e9pond \u00e0 une logique interne coh\u00e9rente au sein de son propre paradigme, mais inconciliable avec celle du paradigme rival sur le plan purement logique.<\/p>\n Le tableau comparatif suivant synth\u00e9tise de mani\u00e8re exhaustive et \u00e9quilibr\u00e9e les points de friction structurants qui distinguent la statistique fr\u00e9quentiste de la statistique bay\u00e9sienne :<\/p>\n1.2 Origine des controverses et confusion conceptuelle<\/h3>\n
2. Fondements et m\u00e9canismes de la statistique fr\u00e9quentiste<\/h2>\n
2.1 Le cadre th\u00e9orique de l’\u00e9chantillonnage r\u00e9p\u00e9t\u00e9<\/h3>\n
2.2 Tests de signification et inf\u00e9rence de Neyman-Pearson<\/h3>\n
2.3 Avantages op\u00e9rationnels et limites \u00e9pist\u00e9mologiques<\/h3>\n
3. Fondements et m\u00e9canismes de la statistique bay\u00e9sienne<\/h2>\n
3.1 Le th\u00e9or\u00e8me de Bayes comme moteur d’actualisation de l’information<\/h3>\n
3.2 M\u00e9thodes de calcul et inf\u00e9rence computationnelle moderne<\/h3>\n
3.3 Avantages m\u00e9thodologiques et contraintes computationnelles<\/h3>\n
4. Diff\u00e9rences cl\u00e9s entre approches fr\u00e9quentiste et bay\u00e9sienne<\/h2>\n
4.1 Comparaison dimensionnelle : nature, concepts et m\u00e9triques<\/h3>\n