{"id":4931,"date":"2026-09-11T14:47:52","date_gmt":"2026-09-11T14:47:52","guid":{"rendered":"http:\/\/french.arabpsychology.com\/experiments\/experience-erreur-prediction-recompense-wolfram-schultz\/"},"modified":"2026-09-11T14:47:52","modified_gmt":"2026-09-11T14:47:52","slug":"experience-erreur-prediction-recompense-wolfram-schultz","status":"publish","type":"psych_experiment","link":"https:\/\/french.arabpsychology.com\/?psych_experiment=experience-erreur-prediction-recompense-wolfram-schultz","title":{"rendered":"L&rsquo;exp\u00e9rience de l&rsquo;erreur de pr\u00e9diction de la r\u00e9compense &#8211; Wolfram Schultz"},"content":{"rendered":"<p>Dans l&rsquo;histoire des neurosciences contemporaines, peu de d\u00e9couvertes ont provoqu\u00e9 une onde de choc conceptuelle aussi profonde que celle r\u00e9alis\u00e9e par le neurophysiologiste <a rel=\"noopener noreferrer\" href=\"https:\/\/www.neuroscience.cam.ac.uk\/directory\/profile.php?ws234\">Wolfram Schultz<\/a> et ses collaborateurs \u00e0 la fin du XXe si\u00e8cle. Durant plusieurs d\u00e9cennies, la dopamine a \u00e9t\u00e9 cantonn\u00e9e dans l&rsquo;imaginaire populaire et dans les premiers manuels universitaires au r\u00f4le r\u00e9ducteur de \u00ab mol\u00e9cule du plaisir \u00bb. Cette vision h\u00e9donique, bien que s\u00e9duisante par sa simplicit\u00e9, laissait dans l&rsquo;ombre les m\u00e9canismes computationnels complexes par lesquels un organisme vivant s&rsquo;adapte, apprend de ses r\u00e9ussites et affine continuellement ses pr\u00e9dictions pour survivre dans un environnement dynamique et incertain.<\/p>\n<p>En introduisant une rigueur m\u00e9thodologique sans pr\u00e9c\u00e9dent dans l&rsquo;enregistrement \u00e9lectrophysiologique unitaire chez le primate non humain, Schultz a mis en lumi\u00e8re un ph\u00e9nom\u00e8ne r\u00e9volutionnaire : les neurones dopaminergiques du m\u00e9senc\u00e9phale ne s&rsquo;activent pas proportionnellement \u00e0 la valeur absolue d&rsquo;une r\u00e9compense, mais r\u00e9agissent \u00e0 l&rsquo;\u00e9cart pr\u00e9cis entre ce qui \u00e9tait attendu et ce qui est effectivement survenu. Ce signal biophysique bidirectionnel, d\u00e9sormais universellement d\u00e9sign\u00e9 sous le terme d&rsquo;<strong>erreur de pr\u00e9diction de la r\u00e9compense<\/strong> (ou <em>Reward Prediction Error<\/em>, RPE), a constitu\u00e9 la passerelle empirique tant attendue entre les sciences biologiques du cerveau et les th\u00e9ories math\u00e9matiques de l&rsquo;apprentissage machine.<\/p>\n<p>Le pr\u00e9sent article propose une exploration exhaustive de cette aventure scientifique majeure. En analysant la transition conceptuelle qui a lib\u00e9r\u00e9 la dopamine de son carcan purement h\u00e9donique, en d\u00e9taillant les protocoles exp\u00e9rimentaux d&rsquo;une pr\u00e9cision millim\u00e9trique \u00e9labor\u00e9s \u00e0 Fribourg puis \u00e0 Cambridge, et en d\u00e9cortiquant les \u00e9quations formelles de l&rsquo;apprentissage par diff\u00e9rences temporelles, nous mettrons en \u00e9vidence comment une simple modulation du taux de d\u00e9charge neuronale est devenue le fondement de la neuro\u00e9conomie, de la psychiatrie computationnelle et des architectures les plus avanc\u00e9es de l&rsquo;intelligence artificielle contemporaine.<\/p>\n<h2>1. Introduction historique et fondements th\u00e9oriques des travaux de Wolfram Schultz<\/h2>\n<h3>1.1 Le contexte neurobiologique et behavioriste pr\u00e9curseur<\/h3>\n<p>L&rsquo;\u00e9tude de l&rsquo;apprentissage animal et humain a longtemps \u00e9t\u00e9 domin\u00e9e par deux paradigmes fondateurs issus du b\u00e9haviorisme exp\u00e9rimental : le <a rel=\"noopener noreferrer\" href=\"https:\/\/www.britannica.com\/science\/classical-conditioning\">conditionnement classique pavlovien<\/a>, formalis\u00e9 par Ivan Pavlov au d\u00e9but du XXe si\u00e8cle, et le conditionnement op\u00e9rant ou instrumental d\u00e9velopp\u00e9 par B.F. Skinner. Pavlov avait magistralement d\u00e9montr\u00e9 qu&rsquo;un stimulus initialement neutre (le stimulus conditionnel, ou CS) pouvait, apr\u00e8s avoir \u00e9t\u00e9 appari\u00e9 de mani\u00e8re r\u00e9p\u00e9t\u00e9e \u00e0 un stimulus inconditionnel biologiquement significatif (le stimulus inconditionnel, ou US, tel que de la nourriture), acqu\u00e9rir la capacit\u00e9 d&rsquo;\u00e9vacuer une r\u00e9ponse comportementale conditionn\u00e9e (CR). De son c\u00f4t\u00e9, Skinner mettait l&rsquo;accent sur les cons\u00e9quences d&rsquo;une action motrice, d\u00e9montrant que la probabilit\u00e9 d&rsquo;occurrence d&rsquo;un comportement est directement modul\u00e9e par la nature renfor\u00e7ante ou punitive de ses effets sur l&rsquo;environnement.<\/p>\n<p>N\u00e9anmoins, ces approches b\u00e9havioristes classiques souffraient d&rsquo;une limitation \u00e9pist\u00e9mologique d\u00e9lib\u00e9r\u00e9e : en traitant le cerveau comme une \u00ab bo\u00eete noire \u00bb imp\u00e9n\u00e9trable, elles refusaient d&rsquo;explorer les substrats neurobiologiques qui sous-tendent la formation des associations et l&rsquo;encodage de la valeur. Ce mod\u00e8le purement fonctionnaliste a commenc\u00e9 \u00e0 se fissurer de l&rsquo;int\u00e9rieur gr\u00e2ce aux c\u00e9l\u00e8bres exp\u00e9riences men\u00e9es en 1954 par James Olds et Peter Milner. En implantant des \u00e9lectrodes de stimulation chez le rat, ils ont d\u00e9couvert par s\u00e9rendipit\u00e9 l&rsquo;existence de sites c\u00e9r\u00e9braux d&rsquo;auto-stimulation intracr\u00e2nienne (ICSS), situ\u00e9s notamment le long du faisceau m\u00e9dian du t\u00e9lenc\u00e9phale (MFB). Les animaux pr\u00e9f\u00e9raient s&rsquo;administrer des impulsions \u00e9lectriques dans ces structures plut\u00f4t que de s&rsquo;alimenter ou de boire, r\u00e9v\u00e9lant de mani\u00e8re irr\u00e9futable l&rsquo;existence d&rsquo;un syst\u00e8me c\u00e9r\u00e9bral de r\u00e9compense d\u00e9di\u00e9 et phylog\u00e9n\u00e9tiquement conserv\u00e9.<\/p>\n<p>Au cours des ann\u00e9es 1960 et 1970, l&rsquo;av\u00e8nement des techniques d&rsquo;histochimie par fluorescence, mises au point par l&rsquo;\u00e9cole su\u00e9doise de Falck et Hillarp, a permis de cartographier avec pr\u00e9cision les syst\u00e8mes monoaminergiques centraux. La dopamine, longtemps consid\u00e9r\u00e9e comme un simple pr\u00e9curseur m\u00e9tabolique de la noradr\u00e9naline, a \u00e9t\u00e9 identifi\u00e9e comme un neurotransmetteur autonome hautement concentr\u00e9 au sein de voies anatomiques sp\u00e9cifiques reliant le m\u00e9senc\u00e9phale au prosenc\u00e9phale. D\u00e8s lors, les neurobiologistes ont commenc\u00e9 \u00e0 suspecter que l&rsquo;auto-stimulation d\u00e9couverte par Olds et Milner reposait sur l&rsquo;activation artificielle de ces faisceaux dopaminergiques ascendants, positionnant cette amine biog\u00e8ne au c\u0153ur des circuits c\u00e9r\u00e9braux de la motivation et du plaisir.<\/p>\n<h3>1.2 Le postulat initial : la dopamine comme simple signal d&rsquo;h\u00e9donisme<\/h3>\n<p>Sous l&rsquo;impulsion des d\u00e9couvertes pharmacologiques montrant que les neuroleptiques (antagonistes des r\u00e9cepteurs dopaminergiques) r\u00e9duisaient drastiquement l&rsquo;auto-stimulation \u00e9lectrique et la consommation de solutions sucr\u00e9es chez les rongeurs, le psychologue Roy Wise formula \u00e0 la fin des ann\u00e9es 1970 la tr\u00e8s influente \u00ab hypoth\u00e8se de l&rsquo;anh\u00e9donie \u00bb. Selon cette th\u00e9orie s\u00e9duisante, la lib\u00e9ration de dopamine dans les structures limbiques constituait l&rsquo;\u00e9quivalent neurochimique direct du plaisir sensoriel : bloquer la transmission dopaminergique \u00e9quivalait, selon les termes de Wise, \u00e0 \u00e9teindre la capacit\u00e9 m\u00eame de ressentir la d\u00e9lectation subjective induite par un renfor\u00e7ateur primaire, plongeant l&rsquo;animal dans un \u00e9tat d&rsquo;indiff\u00e9rence affective.<\/p>\n<p>Cette interpr\u00e9tation a toutefois rapidement engendr\u00e9 une profonde confusion conceptuelle entre le plaisir sensoriel ressenti au moment de la consommation (l&rsquo;h\u00e9donisme au sens strict) et la force motivationnelle qui pousse un individu \u00e0 agir pour obtenir un objet gratifiant (l&rsquo;incitation motivationnelle). D\u00e8s le d\u00e9but des ann\u00e9es 1980, une s\u00e9rie d&rsquo;anomalies empiriques est venue \u00e9branler l&rsquo;hypoth\u00e8se de l&rsquo;anh\u00e9donie. Les travaux pionniers de Kent Berridge ont \u0437\u043e\u043a\u0440\u0435\u043c\u0430 d\u00e9montr\u00e9 que des rats pr\u00e9sentant une d\u00e9pl\u00e9tion quasi totale en dopamine du striatum ventral conservaient intactes leurs r\u00e9actions orofaciales de plaisir (les mimiques d&rsquo;ingestion gustative) face \u00e0 une solution de saccharose, tout en \u00e9tant totalement incapables d&rsquo;initier des actions pour se nourrir par eux-m\u00eames.<\/p>\n<p>Parall\u00e8lement, d&rsquo;autres observations indiquaient que les neurones dopaminergiques pouvaient d\u00e9charger en r\u00e9ponse \u00e0 des stimuli aversifs intenses ou \u00e0 des \u00e9v\u00e9nements hautement inattendus mais d\u00e9pourvus de toute valeur h\u00e9donique positive. Ces donn\u00e9es incompatibles avec la th\u00e9orie h\u00e9donique classique exigeaient une refonte paradigmatique totale. Il devenait imp\u00e9ratif de cesser de consid\u00e9rer la dopamine comme un simple thermom\u00e8tre du plaisir \u00e9prouv\u00e9 pour examiner son r\u00f4le dans le traitement de l&rsquo;information pr\u00e9dictive, la plasticit\u00e9 synaptique orient\u00e9e vers le futur et la mise \u00e0 jour dynamique des repr\u00e9sentations internes du monde ext\u00e9rieur.<\/p>\n<h3>1.3 La trajectoire scientifique de Wolfram Schultz dans les ann\u00e9es 1980 et 1990<\/h3>\n<p>C&rsquo;est dans ce paysage intellectuel en pleine mutation que s&rsquo;inscrit la carri\u00e8re scientifique de Wolfram Schultz. M\u00e9decin et neurophysiologiste de formation d&rsquo;origine allemande, Schultz a d\u00e9velopp\u00e9 ses comp\u00e9tences dans l&rsquo;enregistrement de l&rsquo;activit\u00e9 unitaire de neurones isol\u00e9s chez l&rsquo;animal vigile, une m\u00e9thodologie de pointe perfectionn\u00e9e par des figures telles qu&rsquo;Edward Evarts aux \u00c9tats-Unis. Install\u00e9 \u00e0 l&rsquo;Institut de Physiologie de l&rsquo;Universit\u00e9 de Fribourg en Suisse au cours des ann\u00e9es 1980, Schultz a entrepris d&rsquo;analyser syst\u00e9matiquement le fonctionnement \u00e9lectrophysiologique des noyaux dopaminergiques du tronc c\u00e9r\u00e9bral chez le macaque rh\u00e9sus.<\/p>\n<p>\u00c0 cette \u00e9poque, la vision dominante en neurologie clinique consid\u00e9rait principalement la dopamine \u00e0 travers le prisme de la motricit\u00e9, en raison de la d\u00e9g\u00e9n\u00e9rescence massive des neurones de la substance noire observ\u00e9e dans la maladie de Parkinson. Les premi\u00e8res recherches de Schultz visaient donc logiquement \u00e0 d\u00e9terminer si les neurones dopaminergiques d\u00e9chargeaient en corr\u00e9lation \u00e9troite avec les param\u00e8tres cin\u00e9matiques du mouvement, tels que la vitesse, la force ou la direction de la trajectoire d&rsquo;un membre. Les r\u00e9sultats furent d\u00e9concertants : contrairement aux neurones du cortex moteur primaire ou des noyaux gris centraux, les cellules dopaminergiques ne pr\u00e9sentaient qu&rsquo;une relation tr\u00e8s t\u00e9nue, voire totalement absente, avec l&rsquo;ex\u00e9cution motrice pure.<\/p>\n<p>Face \u00e0 cette impasse apparente, Schultz op\u00e9ra une bifurcation m\u00e9thodologique et conceptuelle audacieuse. En observant attentivement le comportement de ses singes au cours de t\u00e2ches instrumentales complexes, il remarqua que les neurones dopaminergiques modulaient intens\u00e9ment leur activit\u00e9 lorsque l&rsquo;animal tendait la main vers une bo\u00eete contenant une friandise cach\u00e9e, mais cessaient de r\u00e9pondre une fois que la t\u00e2che devenait machinale et parfaitement routini\u00e8re. Cette intuition le conduisit \u00e0 abandonner l&rsquo;\u00e9tude de la motricit\u00e9 brute pour concevoir des protocoles exp\u00e9rimentaux sp\u00e9cifiquement d\u00e9di\u00e9s \u00e0 l&rsquo;apprentissage associatif et \u00e0 la r\u00e9compense. Cette transition strat\u00e9gique allait jeter les bases empiriques de ce qui deviendrait l&rsquo;une des plus grandes r\u00e9volutions des neurosciences cognitives modernes.<\/p>\n<h2>2. Le paradigme exp\u00e9rimental original : m\u00e9thodologie et protocole neurophysiologique<\/h2>\n<h3>2.1 Le mod\u00e8le animal et les conditions d&rsquo;exp\u00e9rimentation<\/h3>\n<p>Pour percer les myst\u00e8res du codage neuronal de la r\u00e9compense, Wolfram Schultz fit le choix d\u00e9lib\u00e9r\u00e9 d&rsquo;utiliser le macaque rh\u00e9sus (<em>Macaca mulatta<\/em>). Ce mod\u00e8le animal offrait des avantages consid\u00e9rables sur le plan translationnel : une organisation anatomique des ganglions de la base et du cortex frontal remarquablement similaire \u00e0 celle de l&rsquo;\u00eatre humain, un r\u00e9pertoire comportemental riche et une capacit\u00e9 d&rsquo;apprentissage exceptionnelle pour des t\u00e2ches visuelles et motrices sophistiqu\u00e9es sur de longues p\u00e9riodes temporelles.<\/p>\n<p>L&rsquo;exp\u00e9rimentation reposait sur l&rsquo;implantation chirurgicale st\u00e9r\u00e9otaxique, r\u00e9alis\u00e9e sous anesth\u00e9sie g\u00e9n\u00e9rale profonde et selon des r\u00e8gles \u00e9thiques particuli\u00e8rement rigoureuses, d&rsquo;une chambre d&rsquo;enregistrement m\u00e9tallique fix\u00e9e sur le cr\u00e2ne de l&rsquo;animal. Ce dispositif permettait d&rsquo;introduire quotidiennement, avec une pr\u00e9cision microm\u00e9trique, des micro\u00e9lectrodes de tungst\u00e8ne ou de platine-iridium isol\u00e9es par du verre ou du polyimide pour recueillir les variations de potentiel extracellulaire g\u00e9n\u00e9r\u00e9es par des corps cellulaires individuels au sein des structures profondes du m\u00e9senc\u00e9phale.<\/p>\n<p>Pendant les sessions d&rsquo;enregistrement, l&rsquo;animal \u00e9tait assis confortablement dans une chaise pour primate sp\u00e9cialement con\u00e7ue, la t\u00eate stabilis\u00e9e de mani\u00e8re totalement indolore afin d&rsquo;\u00e9viter tout artefact de mouvement qui compromettrait la stabilit\u00e9 de l&rsquo;enregistrement \u00e9lectrophysiologique unitaire. La d\u00e9livrance des r\u00e9compenses \u00e9tait administr\u00e9e au moyen d&rsquo;une \u00e9lectrovanne ultra-rapide connect\u00e9e \u00e0 une canule buccale, permettant d&rsquo;injecter des volumes calibr\u00e9s au microlitre pr\u00e8s de jus de fruits app\u00e9tents ou de solution de saccharose, tout en contr\u00f4lant scrupuleusement l&rsquo;\u00e9tat d&rsquo;hydratation et le bien-\u00eatre g\u00e9n\u00e9ral de l&rsquo;animal tout au long du protocole.<\/p>\n<h3>2.2 Structure s\u00e9quentielle des t\u00e2ches de conditionnement pavlovien et instrumental<\/h3>\n<p>Le protocole mis au point par Schultz et ses collaborateurs comportait deux grands types de t\u00e2ches : des t\u00e2ches de conditionnement purement pavlovien et des t\u00e2ches instrumentales n\u00e9cessitant une action volontaire. Dans les paradigmes pavloviens, l&rsquo;animal \u00e9tait passif et devait simplement fixer un \u00e9cran sur lequel apparaissaient des stimuli visuels g\u00e9om\u00e9triques arbitraires (tels que des carr\u00e9s, des cercles ou des triangles de diff\u00e9rentes couleurs) ou \u00e9couter des stimuli auditifs purs d&rsquo;une fr\u00e9quence d\u00e9termin\u00e9e.<\/p>\n<p>Chaque essai exp\u00e9rimental d\u00e9butait par la pr\u00e9sentation d&rsquo;un stimulus conditionnel (CS) d&rsquo;une dur\u00e9e br\u00e8ve (typiquement de 500 \u00e0 1000 millisecondes). Un intervalle temporel strictement constant et calibr\u00e9, variant selon les exp\u00e9riences de 1 \u00e0 2,5 secondes, s\u00e9parait la fin ou le d\u00e9but de ce stimulus de l&rsquo;ouverture de l&rsquo;\u00e9lectrovanne d\u00e9livrant la r\u00e9compense liquide (US). L&rsquo;utilisation d&rsquo;un d\u00e9lai temporel fixe et invariable \u00e9tait un param\u00e8tre m\u00e9thodologique crucial, car il permettait au syst\u00e8me nerveux de l&rsquo;animal d&rsquo;encoder non seulement la nature de la r\u00e9compense, mais \u00e9galement le moment pr\u00e9cis de son apparition dans le temps.<\/p>\n<p>Dans les t\u00e2ches instrumentales, l&rsquo;animal devait, d\u00e8s l&rsquo;apparition du stimulus visuel, poser sa main sur un levier ou toucher une cible sur un \u00e9cran tactile pour d\u00e9clencher la d\u00e9livrance ult\u00e9rieure du jus de fruit. Les signaux \u00e9lectriques extracellulaires recueillis par la micro\u00e9lectrode \u00e9taient amplifi\u00e9s, filtr\u00e9s par des circuits \u00e9lectroniques analogiques puis num\u00e9ris\u00e9s \u00e0 haute fr\u00e9quence. Des discriminateurs de hauteur d&rsquo;amplitude ou des algorithmes de tri de formes d&rsquo;ondes (<em>spike sorting<\/em>) permettaient d&rsquo;isoler l&rsquo;activit\u00e9 d&rsquo;un seul et unique neurone avec une r\u00e9solution temporelle inf\u00e9rieure \u00e0 la milliseconde, corr\u00e9lant pr\u00e9cis\u00e9ment chaque potentiel d&rsquo;action aux \u00e9v\u00e9nements sensoriels, moteurs et renfor\u00e7ateurs de la t\u00e2che.<\/p>\n<h3>2.3 Les trois phases temporelles fondamentales du protocole<\/h3>\n<p>L&rsquo;architecture exp\u00e9rimentale con\u00e7ue par Schultz s&rsquo;articulait autour de trois conditions ou phases s\u00e9quentielles fondamentales, dont la comparaison allait r\u00e9v\u00e9ler la nature computationnelle du signal dopaminergique :<\/p>\n<ul>\n<li><strong>La phase initiale (r\u00e9compense non pr\u00e9dite) :<\/strong> L&rsquo;animal n&rsquo;a re\u00e7u aucun entra\u00eenement pr\u00e9alable. De mani\u00e8re totalement al\u00e9atoire et sans aucun stimulus annonciateur dans l&rsquo;environnement, l&rsquo;\u00e9lectrovanne s&rsquo;ouvre et d\u00e9livre une goutte de liquide sucr\u00e9 dans sa bouche. La r\u00e9compense constitue ici une surprise totale, un \u00e9v\u00e9nement biologiquement favorable mais impr\u00e9visible.<\/li>\n<li><strong>La phase d&rsquo;apprentissage stabilis\u00e9 (r\u00e9compense enti\u00e8rement pr\u00e9dite) :<\/strong> L&rsquo;animal est soumis \u00e0 des centaines d&rsquo;essais o\u00f9 le stimulus visuel ou auditif pr\u00e9c\u00e8de syst\u00e9matiquement la d\u00e9livrance du liquide avec un intervalle temporel parfaitement r\u00e9gulier. Au terme de cet entra\u00eenement intensif, l&rsquo;animal a appris l&rsquo;association avec une certitude absolue : le stimulus est devenu un pr\u00e9dicteur infaillible de la r\u00e9compense \u00e0 venir.<\/li>\n<li><strong>La phase de test critique (omission inattendue de la r\u00e9compense) :<\/strong> Apr\u00e8s la phase d&rsquo;apprentissage, le stimulus pr\u00e9dictif est pr\u00e9sent\u00e9 exactement comme d&rsquo;habitude, g\u00e9n\u00e9rant chez l&rsquo;animal l&rsquo;attente certaine du liquide sucr\u00e9. Cependant, \u00e0 l&rsquo;instant pr\u00e9cis o\u00f9 l&rsquo;\u00e9lectrovanne aurait d\u00fb s&rsquo;actionner, aucun liquide n&rsquo;est d\u00e9livr\u00e9. La r\u00e9compense est omise, cr\u00e9ant une violation dramatique de l&rsquo;anticipation temporelle construite par le sujet.<\/li>\n<\/ul>\n<h2>3. Les neurones dopaminergiques et l&rsquo;enregistrement unitaire dans l&rsquo;aire tegmentale ventrale et la substance noire<\/h2>\n<h3>3.1 Identification anatomique et \u00e9lectrophysiologique des structures cibles<\/h3>\n<p>L&rsquo;investigation de Schultz n\u00e9cessitait un ciblage anatomique d&rsquo;une pr\u00e9cision chirurgicale absolue au sein du m\u00e9senc\u00e9phale ventral des primates. Deux structures nucl\u00e9aires adjacentes contenaient l&rsquo;\u00e9crasante majorit\u00e9 des corps cellulaires dopaminergiques c\u00e9r\u00e9braux : la <a rel=\"noopener noreferrer\" href=\"https:\/\/www.ncbi.nlm.nih.gov\/books\/NBK535356\/\">pars compacta de la substantia nigra<\/a> (groupe cellulaire A9 selon la nomenclature classique de Dahlstr\u00f6m et Fuxe) et l&rsquo;<a rel=\"noopener noreferrer\" href=\"https:\/\/www.sciencedirect.com\/topics\/neuroscience\/ventral-tegmental-area\">aire tegmentale ventrale<\/a> de Tsai (groupe cellulaire A10), situ\u00e9e plus m\u00e9dialement.<\/p>\n<p>La substantia nigra pars compacta (SNc) projette massivement vers le striatum dorsal (form\u00e9 par le noyau caud\u00e9 et le putamen), constituant la voie nigrostri\u00e9e impliqu\u00e9e traditionnellement dans la r\u00e9gulation motrice et la formation des habitudes. L&rsquo;aire tegmentale ventrale (VTA), quant \u00e0 elle, donne naissance \u00e0 la voie m\u00e9solimbique (qui innerve le striatum ventral, notamment le noyau accumbens) et \u00e0 la voie m\u00e9socorticale (qui projette vers le cortex pr\u00e9frontal, le cortex orbitofrontal et l&rsquo;amygdale), structures intimement associ\u00e9es au traitement motivationnel et affectif.<\/p>\n<p>Sur le plan \u00e9lectrophysiologique, distinguer un neurone dopaminergique d&rsquo;un interneurone GABAergique ou d&rsquo;un neurone glutamatergique voisin au sein de ces structures denses repr\u00e9sentait un d\u00e9fi technique majeur. Schultz et d&rsquo;autres neurophysiologistes ont \u00e9tabli des crit\u00e8res d&rsquo;identification extracellulaire standardis\u00e9s particuli\u00e8rement fiables : les neurones dopaminergiques se caract\u00e9risent par des potentiels d&rsquo;action atypiquement longs (dur\u00e9e broad-spike sup\u00e9rieure \u00e0 2,0 voire 2,5 millisecondes, avec une composante positive initiale pro\u00e9minente suivie d&rsquo;une onde n\u00e9gative lente) et une fr\u00e9quence de d\u00e9charge basale spontan\u00e9e remarquablement basse, contrastant vivement avec les interneurones GABAergiques qui \u00e9mettent des potentiels d&rsquo;action tr\u00e8s \u00e9troits \u00e0 haute fr\u00e9quence.<\/p>\n<h3>3.2 Modes de d\u00e9charge neuronale : activit\u00e9 tonique versus phasique<\/h3>\n<p>L&rsquo;observation minutieuse de l&rsquo;activit\u00e9 spontan\u00e9e des cellules dopaminergiques a r\u00e9v\u00e9l\u00e9 l&rsquo;existence de deux r\u00e9gimes de fonctionnement biophysique radicalement distincts mais fonctionnellement compl\u00e9mentaires : le mode tonique et le mode phasique.<\/p>\n<p>Le <strong>mode tonique<\/strong> correspond \u00e0 une activit\u00e9 basale d&rsquo;allure stimul\u00e9e par des courants de pacemaker intrins\u00e8ques (notamment des canaux calciques de type L et des canaux cationiques activ\u00e9s par l&rsquo;hyperpolarisation dits canaux HCN). Dans ce r\u00e9gime, le neurone \u00e9met des potentiels d&rsquo;action isol\u00e9s de mani\u00e8re r\u00e9guli\u00e8re ou l\u00e9g\u00e8rement irr\u00e9guli\u00e8re \u00e0 des fr\u00e9quences faibles, oscillant continuellement entre 1 et 5 Hz. Cette d\u00e9charge tonique maintient une concentration basale nanomolaire de dopamine dans les fentes synaptiques et l&rsquo;espace extracellulaire des structures cibles, assurant une hom\u00e9ostasie n\u00e9cessaire \u00e0 la r\u00e9activit\u00e9 normale des circuits moteurs et motivationnels.<\/p>\n<p>Le <strong>mode phasique<\/strong>, \u00e0 l&rsquo;inverse, est d\u00e9clench\u00e9 par des aff\u00e9rences synaptiques excitatrices massives provenant de diverses r\u00e9gions du tronc c\u00e9r\u00e9bral et du prosenc\u00e9phale. Il se manifeste par des bouff\u00e9es de d\u00e9charge (<em>bursts<\/em>) extr\u00eamement br\u00e8ves et intenses, compos\u00e9es de deux \u00e0 six potentiels d&rsquo;action cons\u00e9cutifs \u00e9mis \u00e0 des fr\u00e9quences intra-bouff\u00e9e pouvant atteindre 20 \u00e0 50 Hz, avec une diminution progressive de l&rsquo;amplitude des pointes au sein de la salve. Ces bouff\u00e9es phasiques provoquent une \u00e9l\u00e9vation locale massive, transitoire et micromolaire de la concentration de dopamine dans les territoires d&rsquo;innervation, saturant temporairement les m\u00e9canismes de recapture assur\u00e9s par le transporteur de la dopamine (DAT) et envoyant ainsi un signal discret et hautement synchronis\u00e9 aux structures r\u00e9ceptrices.<\/p>\n<h3>3.3 L&rsquo;homog\u00e9n\u00e9it\u00e9 surprenante de la r\u00e9ponse phasique des neurones dopaminergiques<\/h3>\n<p>L&rsquo;un des r\u00e9sultats les plus spectaculaires rapport\u00e9s par Schultz r\u00e9sidait dans l&rsquo;homog\u00e9n\u00e9it\u00e9 frappante des r\u00e9ponses phasiques enregistr\u00e9es au sein de la population dopaminergique. Qu&rsquo;ils soient situ\u00e9s dans la VTA (A10) ou dans la SNc (A9), entre 70 % et 80 % des neurones dopaminergiques r\u00e9agissaient de fa\u00e7on quasi identique et synchronis\u00e9e lors des \u00e9v\u00e9nements exp\u00e9rimentaux li\u00e9s \u00e0 la r\u00e9compense.<\/p>\n<p>Cette synchronisation de population s&rsquo;accompagnait d&rsquo;une invariance remarquable quant \u00e0 la modalit\u00e9 sensorielle des stimuli inducteurs. Que l&rsquo;indice pr\u00e9dictif soit une lumi\u00e8re verte clignotante, l&rsquo;apparition d&rsquo;un polygone sur un moniteur vid\u00e9o ou un son sinuso\u00efdal diffus\u00e9 par un haut-parleur, la d\u00e9charge phasique conservait une morphologie et une latence hautement similaires. Le neurone dopaminergique semblait faire abstraction totale des caract\u00e9ristiques physiques superficielles du stimulus pour n&rsquo;extraire et n&rsquo;encoder qu&rsquo;une seule m\u00e9trique universelle : sa signification motivationnelle et pr\u00e9dictive par rapport \u00e0 la r\u00e9compense.<\/p>\n<p>De surcro\u00eet, la diffusion anatomique extr\u00eamement large et divergente des axones dopaminergiques\u2014un seul neurone de la substance noire pouvant \u00e9mettre des dizaines de milliers de varicosit\u00e9s synaptiques r\u00e9parties sur de vastes volumes du striatum\u2014indiquait que ce signal phasique n&rsquo;\u00e9tait pas achemin\u00e9 vers une colonne corticale isol\u00e9e, mais diffus\u00e9 de fa\u00e7on globale comme un signal de radiodiffusion (<em>broadcast signal<\/em>) destin\u00e9 \u00e0 orchestrer la plasticit\u00e9 d&rsquo;immenses r\u00e9seaux neuronaux distribu\u00e9s.<\/p>\n<h2>4. La dynamique temporelle des signaux dopaminergiques : de la r\u00e9compense brute \u00e0 l&rsquo;indice pr\u00e9dictif<\/h2>\n<h3>4.1 R\u00e9ponse initiale \u00e0 la r\u00e9compense non pr\u00e9dite<\/h3>\n<p>Lorsque le singe, n&rsquo;ayant encore fait l&rsquo;objet d&rsquo;aucun conditionnement pr\u00e9alable, recevait de mani\u00e8re inattendue une goutte de jus de fruit, Schultz et ses coll\u00e8gues enregistr\u00e8rent une r\u00e9action \u00e9lectrophysiologique imm\u00e9diate et st\u00e9r\u00e9otyp\u00e9e : le neurone dopaminergique r\u00e9pondait par une puissante bouff\u00e9e phasique d&rsquo;activit\u00e9.<\/p>\n<p>Cette activation pr\u00e9sentait une latence temporelle tr\u00e8s br\u00e8ve et remarquablement stable, survenant entre 70 et 100 millisecondes apr\u00e8s le contact du liquide avec la cavit\u00e9 buccale de l&rsquo;animal, et se prolongeait pendant une dur\u00e9e comprise entre 100 et 200 millisecondes avant que la cellule ne r\u00e9int\u00e8gre son taux de d\u00e9charge tonique de base. Durant cette courte fen\u00eatre d&rsquo;excitation, la fr\u00e9quence instantan\u00e9e de d\u00e9charge pouvait bondir de 3 Hz \u00e0 plus de 30 ou 40 Hz.<\/p>\n<p>Dans un premier temps, les chercheurs auraient pu l\u00e9gitimement interpr\u00e9ter cette bouff\u00e9e phasique comme la preuve tant recherch\u00e9e du postulat h\u00e9donique classique : le neurone r\u00e9agirait simplement \u00e0 la valeur gustative positive du nutriment sucr\u00e9, codant la pr\u00e9sence sensorielle du renfor\u00e7ateur. Cependant, une analyse plus pouss\u00e9e a r\u00e9v\u00e9l\u00e9 l&rsquo;absence totale de modulation de la d\u00e9charge avant l&rsquo;arriv\u00e9e du liquide, prouvant que le neurone ne manifestait aucune pr\u00e9monition interne. La question cruciale \u00e9tait d\u00e9sormais de savoir ce qu&rsquo;il adviendrait de cette d\u00e9charge d\u00e8s lors que l&rsquo;arriv\u00e9e du sucre deviendrait pr\u00e9visible pour l&rsquo;animal.<\/p>\n<h3>4.2 Le transfert temporel progressif de l&rsquo;activation neuronale<\/h3>\n<p>C&rsquo;est ici que s&rsquo;est produit le tournant conceptuel historique. Au fil des r\u00e9p\u00e9titions de l&rsquo;association temporelle entre le stimulus conditionnel (CS) et la d\u00e9livrance de la r\u00e9compense (US), Schultz a document\u00e9 un ph\u00e9nom\u00e8ne stup\u00e9fiant de migration temporelle de l&rsquo;information neuronale.<\/p>\n<p>Au fur et \u00e0 mesure que l&rsquo;animal apprenait que le stimulus visuel ou auditif annon\u00e7ait immanquablement le jus de fruit avec un d\u00e9lai fixe, la r\u00e9ponse phasique des neurones dopaminergiques a progressivement gliss\u00e9 vers l&rsquo;arri\u00e8re dans le temps :<\/p>\n<ul>\n<li>Elle a commenc\u00e9 \u00e0 \u00e9merger avec vigueur d\u00e8s l&rsquo;instant pr\u00e9cis o\u00f9 le <strong>stimulus pr\u00e9dictif<\/strong> (l&rsquo;indice sensoriel) faisait son apparition.<\/li>\n<li>Simultan\u00e9ment, la d\u00e9charge phasique qui survenait initialement lors de la d\u00e9livrance effective de la <strong>r\u00e9compense liquide s&rsquo;est att\u00e9nu\u00e9e<\/strong> d&rsquo;essai en essai, jusqu&rsquo;\u00e0 s&rsquo;\u00e9teindre totalement une fois le conditionnement parachev\u00e9.<\/li>\n<\/ul>\n<p>Chez un animal parfaitement entra\u00een\u00e9, la consommation physique de la r\u00e9compense app\u00e9tente ne provoquait plus la moindre alt\u00e9ration du taux de d\u00e9charge tonique : le neurone continuait \u00e0 \u00e9mettre paisiblement ses 2 \u00e0 4 potentiels d&rsquo;action par seconde, comme s&rsquo;il \u00e9tait totalement indiff\u00e9rent au fait que le singe soit en train de savourer son nectar pr\u00e9f\u00e9r\u00e9. Cette observation pulv\u00e9risait d\u00e9finitivement l&rsquo;hypoth\u00e8se de la dopamine-plaisir : si la dopamine incarnait la sensation subjective de d\u00e9lectation gustative, son signal ne pouvait en aucun cas dispara\u00eetre au moment m\u00eame o\u00f9 le sujet consommait la substance gratifiante. La d\u00e9charge dopaminergique ne codait pas la r\u00e9compense en tant que telle, mais la survenue d&rsquo;une <em>information nouvelle et inattendue<\/em> sur la disponibilit\u00e9 future de cette r\u00e9compense.<\/p>\n<h3>4.3 La r\u00e9action \u00e0 l&rsquo;omission : la d\u00e9pression d&rsquo;activit\u00e9 en dessous du niveau basal<\/h3>\n<p>La confirmation irr\u00e9futable du caract\u00e8re pr\u00e9dictif et computationnel de ce signal a \u00e9t\u00e9 apport\u00e9e par la troisi\u00e8me condition exp\u00e9rimentale : l&rsquo;omission inopin\u00e9e du renfor\u00e7ateur. Apr\u00e8s que l&rsquo;animal eut solidement appris l&rsquo;association, les exp\u00e9rimentateurs pr\u00e9sentaient le stimulus conditionnel habituel : comme attendu, le neurone dopaminergique r\u00e9pondait par sa vigoureuse bouff\u00e9e phasique \u00e0 l&rsquo;apparition de l&rsquo;indice visuel.<\/p>\n<p>Cependant, \u00e0 l&rsquo;instant temporel exact o\u00f9 l&rsquo;\u00e9lectrovanne aurait d\u00fb d\u00e9livrer la goutte de jus de fruit (par exemple, pr\u00e9cis\u00e9ment 1,5 seconde apr\u00e8s le stimulus), aucune r\u00e9compense n&rsquo;apparaissait. Les enregistrements ont alors r\u00e9v\u00e9l\u00e9 un profil \u00e9lectrophysiologique saisissant : exactement au moment pr\u00e9cis o\u00f9 le liquide \u00e9tait attendu, les potentiels d&rsquo;action du neurone dopaminergique se sont soudainement interrompus, marquant une pause compl\u00e8te de d\u00e9charge (un silence neuronal quasi absolu) pendant une p\u00e9riode de 200 \u00e0 500 millisecondes, faisant chuter l&rsquo;activit\u00e9 bien en dessous de la ligne de base tonique, avant de reprendre lentement son rythme de repos spontan\u00e9.<\/p>\n<p>Cette inhibition transitoire d\u00e9montrait avec \u00e9clat que le cerveau du singe avait encod\u00e9 avec une pr\u00e9cision chronom\u00e9trique aigu\u00eb non seulement la probabilit\u00e9 de survenue de la r\u00e9compense, mais son positionnement temporel exact. L&rsquo;omission de l&rsquo;\u00e9v\u00e9nement positif se traduisait par un signal biphasique et directionnel : une baisse d&rsquo;activit\u00e9 sous le niveau tonique spontan\u00e9. Le neurone ne signalait pas un \u00e9tat statique, mais calculait en temps r\u00e9el une soustraction alg\u00e9brique entre ce que l&rsquo;organisme exp\u00e9rimentait \u00e0 l&rsquo;instant pr\u00e9sent et ce qu&rsquo;il avait anticip\u00e9 sur la base de son exp\u00e9rience pass\u00e9e.<\/p>\n<h2>5. La math\u00e9matisation du ph\u00e9nom\u00e8ne : le mod\u00e8le de Rescorla-Wagner et l&rsquo;apprentissage par renforcement temporel<\/h2>\n<h3>5.1 La convergence historique entre neurophysiologie et informatique th\u00e9orique<\/h3>\n<p>Tandis que Wolfram Schultz accumulait patiemment ses donn\u00e9es \u00e9lectrophysiologiques dans son laboratoire fribourgeois au milieu des ann\u00e9es 1990, des chercheurs issus de l&rsquo;informatique th\u00e9orique et de la psychologie math\u00e9matique travaillaient sur des mod\u00e8les formels d&rsquo;apprentissage automatique dont les \u00e9quations semblaient \u00e9trangement r\u00e9sonner avec les trac\u00e9s d&rsquo;oscilloscopes du physiologiste.<\/p>\n<p>D\u00e8s 1972, les psychologues am\u00e9ricains Robert Rescorla et Allan Wagner avaient r\u00e9volutionn\u00e9 la th\u00e9orie de l&rsquo;apprentissage animal en publiant le c\u00e9l\u00e8bre <a rel=\"noopener noreferrer\" href=\"https:\/\/www.sciencedirect.com\/topics\/psychology\/rescorla-wagner-model\">mod\u00e8le de Rescorla-Wagner<\/a>. Ce mod\u00e8le postulait que l&rsquo;apprentissage associatif ne d\u00e9pendait pas simplement de la contigu\u00eft\u00e9 temporelle entre deux stimuli, mais de la surprise cognitive g\u00e9n\u00e9r\u00e9e par l&rsquo;inattendu. L&rsquo;ajustement de la force associative \u00e9tait proportionnel \u00e0 l&rsquo;\u00e9cart entre la valeur r\u00e9elle du renfor\u00e7ateur obtenu et la somme des valeurs pr\u00e9dites par l&rsquo;ensemble des stimuli pr\u00e9sents lors de l&rsquo;essai. Cependant, le mod\u00e8le de Rescorla-Wagner souffrait d&rsquo;un angle mort math\u00e9matique : il s&rsquo;agissait d&rsquo;un mod\u00e8le discret, essai par essai (<em>trial-by-trial<\/em>), incapable de mod\u00e9liser les dynamiques intra-essais et le passage continu du temps \u00e0 l&rsquo;int\u00e9rieur d&rsquo;un m\u00eame essai exp\u00e9rimental.<\/p>\n<p>Pour combler cette lacune, deux pionniers de l&rsquo;intelligence artificielle, <a rel=\"noopener noreferrer\" href=\"https:\/\/web.stanford.edu\/class\/psych209\/Readings\/SuttonBartoIPBook\/ebook\/the-book.html\">Richard Sutton et Andrew Barto<\/a>, avaient d\u00e9velopp\u00e9 au d\u00e9but des ann\u00e9es 1980 l&rsquo;algorithme des diff\u00e9rences temporelles (<em>Temporal Difference Learning<\/em> ou TD-Learning). Cet algorithme r\u00e9solvait \u00e9l\u00e9gamment le probl\u00e8me de l&rsquo;assignation du cr\u00e9dit temporel en permettant \u00e0 un agent artificiel d&rsquo;actualiser ses pr\u00e9dictions \u00e0 chaque instant en comparant l&rsquo;\u00e9tat courant \u00e0 l&rsquo;\u00e9tat imm\u00e9diatement cons\u00e9cutif.<\/p>\n<p>La rencontre intellectuelle entre Wolfram Schultz et deux th\u00e9oriciens des neurosciences computationnelles, <a rel=\"noopener noreferrer\" href=\"https:\/\/www.gatsby.ucl.ac.uk\/~dayan\/\">Peter Dayan<\/a> et P. Read Montague, fut une v\u00e9ritable \u00e9piphanie scientifique. En d\u00e9couvrant les donn\u00e9es d&rsquo;enregistrement unitaire de Schultz, Dayan et Montague r\u00e9alis\u00e8rent imm\u00e9diatement que la d\u00e9charge phasique des neurones dopaminergiques n&rsquo;\u00e9tait rien d&rsquo;autre que l&rsquo;incarnation biologique vivante du signal d&rsquo;erreur de diff\u00e9rence temporelle th\u00e9oris\u00e9 par Sutton et Barto. Cette synth\u00e8se magistrale fit l&rsquo;objet d&rsquo;une publication s\u00e9minale dans la revue <em>Science<\/em> en 1997, scellant l&rsquo;un des mariages les plus f\u00e9conds de l&rsquo;histoire des sciences cognitives.<\/p>\n<h3>5.2 L&rsquo;\u00e9quation de l&rsquo;erreur de pr\u00e9diction temporelle (TD Error)<\/h3>\n<p>Pour saisir toute la puissance de ce parall\u00e9lisme neuro-computationnel, il convient d&rsquo;expliciter le formalisme math\u00e9matique sous-jacent. Dans le cadre de l&rsquo;apprentissage par diff\u00e9rences temporelles, un agent cherche \u00e0 estimer la valeur attendue d&rsquo;un \u00e9tat \u00e0 un instant <em>t<\/em>, not\u00e9e <em>V(s<sub>t<\/sub>)<\/em>, qui repr\u00e9sente la somme escompt\u00e9e de toutes les r\u00e9compenses futures pond\u00e9r\u00e9es par le temps :<\/p>\n<p>\u00c0 chaque pas de temps infinit\u00e9simal, le syst\u00e8me calcule le signal d&rsquo;erreur temporelle, universellement d\u00e9sign\u00e9 par la lettre grecque delta (<span class=\"arabpsy-math-inline\" data-latex=\"\\delta_t\">$\\delta_t$<\/span>), d\u00e9fini par l&rsquo;\u00e9quation suivante :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"\\delta_t = r_t + \\gamma V(s_{t+1}) - V(s_t)\">$$\\delta_t = r_t + \\gamma V(s_{t+1}) &#8211; V(s_t)$$<\/span><\/p>\n<p>Dans cette formulation \u00e9l\u00e9gante :<\/p>\n<ul>\n<li><strong><span class=\"arabpsy-math-inline\" data-latex=\"r_t\">$r_t$<\/span><\/strong> repr\u00e9sente la magnitude de la r\u00e9compense primaire effectivement re\u00e7ue \u00e0 l&rsquo;instant <em>t<\/em>. Si aucune r\u00e9compense physique n&rsquo;est pr\u00e9sente, ce terme est \u00e9gal \u00e0 z\u00e9ro.<\/li>\n<li><strong><span class=\"arabpsy-math-inline\" data-latex=\"\\gamma\">$\\gamma$<\/span><\/strong> (gamma) d\u00e9signe le facteur d&rsquo;escompte temporel (<em>discount factor<\/em>), un scalaire compris entre 0 et 1 qui d\u00e9value la valeur des r\u00e9compenses futures au fur et \u00e0 mesure qu&rsquo;elles s&rsquo;\u00e9loignent dans le temps, refl\u00e9tant la pr\u00e9f\u00e9rence universelle des organismes pour les gratifications imm\u00e9diates.<\/li>\n<li><strong><span class=\"arabpsy-math-inline\" data-latex=\"V(s_{t+1})\">$V(s_{t+1})$<\/span><\/strong> incarne la valeur pr\u00e9dictive estim\u00e9e du nouvel \u00e9tat dans lequel le syst\u00e8me p\u00e9n\u00e8tre \u00e0 l&rsquo;instant imm\u00e9diatement suivant.<\/li>\n<li><strong><span class=\"arabpsy-math-inline\" data-latex=\"V(s_t)\">$V(s_t)$<\/span><\/strong> constitue l&rsquo;esp\u00e9rance ou la pr\u00e9diction de r\u00e9compense que le syst\u00e8me entretenait initialement sur l&rsquo;\u00e9tat courant.<\/li>\n<\/ul>\n<p>Le terme combin\u00e9 <span class=\"arabpsy-math-inline\" data-latex=\"[r_t + \\gamma V(s_{t+1})]\">$[r_t + \\gamma V(s_{t+1})]$<\/span> repr\u00e9sente la nouvelle estimation r\u00e9vis\u00e9e de la valeur totale, tandis que <span class=\"arabpsy-math-inline\" data-latex=\"V(s_t)\">$V(s_t)$<\/span> repr\u00e9sente l&rsquo;ancienne pr\u00e9diction. L&rsquo;erreur de pr\u00e9diction temporelle <span class=\"arabpsy-math-inline\" data-latex=\"\\delta_t\">$\\delta_t$<\/span> mesure pr\u00e9cis\u00e9ment l&rsquo;\u00e9cart arithm\u00e9tique entre cette r\u00e9alit\u00e9 r\u00e9\u00e9valu\u00e9e et l&rsquo;attente pr\u00e9alable. C&rsquo;est exactement cette quantit\u00e9 <span class=\"arabpsy-math-inline\" data-latex=\"\\delta_t\">$\\delta_t$<\/span> qui contr\u00f4le l&rsquo;amplitude et la polarit\u00e9 de la fr\u00e9quence de d\u00e9charge des neurones dopaminergiques :<\/p>\n<ul>\n<li>Si <span class=\"arabpsy-math-inline\" data-latex=\"\\delta_t &gt; 0\">$\\delta_t > 0$<\/span>, la d\u00e9charge neuronale explose au-dessus de la ligne de base (erreur positive).<\/li>\n<li>Si <span class=\"arabpsy-math-inline\" data-latex=\"\\delta_t = 0\">$\\delta_t = 0$<\/span>, la d\u00e9charge demeure rigoureusement stationnaire \u00e0 son rythme tonique (erreur nulle).<\/li>\n<li>Si $delta_t < 0$, la d\u00e9charge est activement supprim\u00e9e sous la ligne de base (erreur n\u00e9gative).<\/li>\n<\/ul>\n<p>Ce signal <span class=\"arabpsy-math-inline\" data-latex=\"\\delta_t\">$\\delta_t$<\/span> sert ensuite \u00e0 mettre \u00e0 jour la fonction de valeur pour l&rsquo;\u00e9tat ant\u00e9rieur selon une r\u00e8gle d&rsquo;apprentissage lin\u00e9aire simple r\u00e9gie par un taux d&rsquo;apprentissage <span class=\"arabpsy-math-inline\" data-latex=\"\\alpha\">$\\alpha$<\/span> (alpha) :<\/p>\n<p><span class=\"arabpsy-math-display\" data-latex=\"V(s_t) \\leftarrow V(s_t) + \\alpha \\delta_t\">$$V(s_t) \\leftarrow V(s_t) + \\alpha \\delta_t$$<\/span><\/p>\n<h3>5.3 Validit\u00e9 empirique de l&rsquo;isomorphisme neuro-computationnel<\/h3>\n<p>L&rsquo;ad\u00e9quation entre les simulations informatiques g\u00e9n\u00e9r\u00e9es par l&rsquo;algorithme TD et les enregistrements \u00e9lectrophysiologiques r\u00e9els de Schultz s&rsquo;est av\u00e9r\u00e9e stup\u00e9fiante de pr\u00e9cision. Le mod\u00e8le math\u00e9matique reproduisait fid\u00e8lement non seulement le glissement progressif du pic d&rsquo;activation de la d\u00e9livrance du fluide vers l&rsquo;apparition du stimulus pr\u00e9dictif, mais \u00e9galement l&rsquo;exact profil de la pause inhibitrice observ\u00e9e lors des essais avec omission.<\/p>\n<p>De mani\u00e8re encore plus remarquable, le formalisme TD a permis de fournir une explication computationnelle d\u00e9finitive \u00e0 des ph\u00e9nom\u00e8nes comportementaux complexes document\u00e9s depuis longtemps par les psychologues exp\u00e9rimentateurs, au premier rang desquels figure l&rsquo;effet de <strong>blocage de Kamin<\/strong> (<em>blocking effect<\/em>). D\u00e9couvert par Leon Kamin en 1969, ce ph\u00e9nom\u00e8ne montre que si un animal apprend initialement qu&rsquo;un stimulus conditionnel A pr\u00e9dit une r\u00e9compense, et qu&rsquo;on lui pr\u00e9sente ensuite de mani\u00e8re r\u00e9p\u00e9t\u00e9e un stimulus compos\u00e9 de deux indices simultan\u00e9s A et B suivis de la m\u00eame r\u00e9compense, l&rsquo;animal n&rsquo;apprend absolument rien concernant le stimulus B : l&rsquo;apprentissage envers B est \u00ab bloqu\u00e9 \u00bb.<\/p>\n<p>L&rsquo;\u00e9quation de l&rsquo;erreur de pr\u00e9diction r\u00e9sout cette \u00e9nigme avec une clart\u00e9 limpide : d\u00e8s lors que le stimulus A pr\u00e9dit d\u00e9j\u00e0 pleinement et sans ambigu\u00eft\u00e9 l&rsquo;int\u00e9gralit\u00e9 de la r\u00e9compense \u00e0 venir (<span class=\"arabpsy-math-inline\" data-latex=\"V(s_t) = r_t\">$V(s_t) = r_t$<\/span>), le terme d&rsquo;erreur <span class=\"arabpsy-math-inline\" data-latex=\"\\delta\">$\\delta$<\/span> est strictement \u00e9gal \u00e0 z\u00e9ro lors de la d\u00e9livrance du renfor\u00e7ateur. Par cons\u00e9quent, aucune modification synaptique ne peut avoir lieu pour associer le stimulus B \u00e0 la r\u00e9compense, car l&rsquo;apprentissage d\u00e9pend exclusivement de la pr\u00e9sence d&rsquo;une erreur non nulle. Les enregistrements ult\u00e9rieurs r\u00e9alis\u00e9s par Schultz et ses collaborateurs chez des primates soumis au protocole de Kamin ont confirm\u00e9 que la pr\u00e9sentation du stimulus B n&rsquo;\u00e9voquait aucune d\u00e9charge dopaminergique, apportant une validation neurophysiologique d\u00e9finitive \u00e0 la r\u00e8gle de Rescorla-Wagner et au mod\u00e8le de Sutton et Barto.<\/p>\n<h2>6. L&rsquo;erreur de pr\u00e9diction positive versus l&rsquo;erreur de pr\u00e9diction n\u00e9gative : analyse computationnelle<\/h2>\n<h3>6.1 L&rsquo;erreur de pr\u00e9diction positive (Better than expected)<\/h3>\n<p>D&rsquo;un point de vue computationnel, l&rsquo;erreur de pr\u00e9diction positive survient chaque fois que le r\u00e9sultat effectif d&rsquo;un \u00e9v\u00e9nement surpasse qualitativement, quantitativement ou temporellement l&rsquo;anticipation formul\u00e9e par l&rsquo;organisme. Cet \u00e9tat est commun\u00e9ment r\u00e9sum\u00e9 par la maxime : <em>\u00ab Le r\u00e9sultat est meilleur qu&rsquo;attendu \u00bb<\/em>.<\/p>\n<p>Sur le plan biophysique, ce signal se traduit par une brutale transition du mode tonique vers le mode phasique. L&rsquo;influx massif de calcium induit par les trains de potentiels d&rsquo;action \u00e0 haute fr\u00e9quence d\u00e9clenche une exocytose massive de v\u00e9sicules synaptiques contenant la dopamine dans les terminaisons axonales du striatum et du cortex frontal. Ce flux dopaminergique phasique inonde pr\u00e9f\u00e9rentiellement les <a rel=\"noopener noreferrer\" href=\"https:\/\/www.uniprot.org\/uniprotkb\/P21728\/entry\">r\u00e9cepteurs dopaminergiques de type D1<\/a>, des r\u00e9cepteurs m\u00e9tabotropiques coupl\u00e9s aux prot\u00e9ines G d&rsquo;action stimulatrice (G<span class=\"arabpsy-math-inline\" data-latex=\"\\alpha_s\/olf\">$\\alpha_s\/olf$<\/span>), caract\u00e9ris\u00e9s par une faible affinit\u00e9 pour le ligand et n\u00e9cessitant donc de fortes concentrations de neurotransmetteur pour \u00eatre satur\u00e9s.<\/p>\n<p>L&rsquo;activation en cascade de la voie D1 stimule l&rsquo;ad\u00e9nylate cyclase, augmente les taux d&rsquo;ad\u00e9nosine monophosphate cyclique (AMPc) intracellulaire et active la prot\u00e9ine kinase A (PKA). Cette signalisation mol\u00e9culaire induit une <strong>potentialisation \u00e0 long terme (LTP)<\/strong> au niveau des synapses glutamatergiques provenant du cortex c\u00e9r\u00e9bral qui convergent sur les \u00e9pines dendritiques des neurones \u00e9pineux moyens (MSN) du striatum appartenant \u00e0 la \u00ab voie directe \u00bb motrice. Sur le plan comportemental, cette consolidation synaptique renforce de mani\u00e8re s\u00e9lective le programme moteur qui a pr\u00e9c\u00e9d\u00e9 l&rsquo;\u00e9v\u00e9nement gratifiant, augmentant drastiquement la probabilit\u00e9 que l&rsquo;animal r\u00e9it\u00e8re exactement la m\u00eame action face au m\u00eame contexte environnemental \u00e0 l&rsquo;avenir.<\/p>\n<h3>6.2 L&rsquo;erreur de pr\u00e9diction nulle (Fully predicted outcome)<\/h3>\n<p>L&rsquo;erreur de pr\u00e9diction nulle correspond \u00e0 l&rsquo;\u00e9tat de perfection hom\u00e9ostatique et cognitive : l&rsquo;ad\u00e9quation exacte entre l&rsquo;attente g\u00e9n\u00e9r\u00e9e par les mod\u00e8les internes de l&rsquo;organisme et la r\u00e9alit\u00e9 empirique du monde ext\u00e9rieur. C&rsquo;est la situation o\u00f9 <em>\u00ab le r\u00e9sultat est rigoureusement conforme \u00e0 ce qui \u00e9tait attendu \u00bb<\/em>.<\/p>\n<p>Dans cette configuration, l&rsquo;apparition du renfor\u00e7ateur ne produit aucune d\u00e9viation de l&rsquo;activit\u00e9 dopaminergique : la d\u00e9charge demeure inalt\u00e9r\u00e9e \u00e0 son rythme tonique spontan\u00e9 d&rsquo;environ 3 \u00e0 4 Hz. Bien que l&rsquo;animal consomme activement la r\u00e9compense mat\u00e9rielle et que ses r\u00e9cepteurs gustatifs transmettent des signaux sensoriels intenses vers le tronc c\u00e9r\u00e9bral et le cortex insulaire, le syst\u00e8me dopaminergique m\u00e9senc\u00e9phalique reste totalement silencieux sur le plan phasique.<\/p>\n<p>Sur le plan computationnel, <span class=\"arabpsy-math-inline\" data-latex=\"\\delta = 0\">$\\delta = 0$<\/span> signifie que les poids synaptiques encodant les associations ant\u00e9rieures ont atteint leur valeur asymptotique stable. Il n&rsquo;y a plus aucune mise \u00e0 jour n\u00e9cessaire dans les matrices de connectivit\u00e9 corticostriatales : l&rsquo;animal a achev\u00e9 sa phase d&rsquo;acquisition et se trouve d\u00e9sormais dans une phase d&rsquo;exploitation purement ex\u00e9cutive. Cette stabilit\u00e9 pr\u00e9serve les apprentissages consolid\u00e9s de toute interf\u00e9rence r\u00e9troactive inutile, d\u00e9montrant que le cerveau est une machine \u00e9conome qui n&rsquo;engage ses ressources plastiques que face aux anomalies statistiques de son environnement.<\/p>\n<h3>6.3 L&rsquo;erreur de pr\u00e9diction n\u00e9gative (Worse than expected)<\/h3>\n<p>\u00c0 l&rsquo;autre extr\u00e9mit\u00e9 du spectre se situe l&rsquo;erreur de pr\u00e9diction n\u00e9gative, qui sanctionne une d\u00e9ception cognitive : <em>\u00ab Le r\u00e9sultat est pire qu&rsquo;attendu \u00bb<\/em> ou totalement absent. Cette condition correspond \u00e0 la d\u00e9faillance des pr\u00e9dictions internes du sujet face \u00e0 une r\u00e9alit\u00e9 frustrante.<\/p>\n<p>Comme nous l&rsquo;avons soulign\u00e9, ce ph\u00e9nom\u00e8ne se manifeste par une interruption abrupte de l&rsquo;\u00e9mission des potentiels d&rsquo;action toniques, plongeant les terminaisons striatales dans un vide dopaminergique transitoire. Cette chute brutale sous le seuil basal affecte en premier lieu les <a rel=\"noopener noreferrer\" href=\"https:\/\/www.uniprot.org\/uniprotkb\/P14416\/entry\">r\u00e9cepteurs dopaminergiques de type D2<\/a>. Contrairement aux r\u00e9cepteurs D1, les r\u00e9cepteurs D2 poss\u00e8dent une affinit\u00e9 nanomolaire extr\u00eamement \u00e9lev\u00e9e pour la dopamine et sont continuellement stimul\u00e9s par le niveau tonique spontan\u00e9. Ces r\u00e9cepteurs sont coupl\u00e9s \u00e0 des prot\u00e9ines G d&rsquo;action inhibitrice (G<span class=\"arabpsy-math-inline\" data-latex=\"\\alpha_i\/o\">$\\alpha_i\/o$<\/span>), dont la fonction basale est de r\u00e9primer l&rsquo;ad\u00e9nylate cyclase.<\/p>\n<p>La pause dopaminergique l\u00e8ve brutalement cette inhibition tonique sur les neurones \u00e9pineux moyens de la \u00ab voie indirecte \u00bb striatale, provoquant leur d\u00e9sinhibition et favorisant des m\u00e9canismes de <strong>d\u00e9pression \u00e0 long terme (LTD)<\/strong> sur la voie directe ou de plasticit\u00e9 inverse sur la voie indirecte. Sur le plan comportemental, ce silence neuronal agit comme un frein puissant : il fragilise les repr\u00e9sentations motrices associ\u00e9es \u00e0 l&rsquo;indice pr\u00e9dictif d\u00e9faillant, initie le processus d&rsquo;extinction comportementale et conf\u00e8re \u00e0 l&rsquo;organisme la flexibilit\u00e9 cognitive indispensable pour abandonner des strat\u00e9gies devenues obsol\u00e8tes et r\u00e9orienter son exploration vers de nouvelles opportunit\u00e9s de l&rsquo;environnement.<\/p>\n<h2>7. Les circuits neuronaux aff\u00e9rents et eff\u00e9rents sous-tendant le calcul de l&rsquo;erreur de pr\u00e9diction<\/h2>\n<h3>7.1 Les aff\u00e9rences calculatrices : d&rsquo;o\u00f9 provient l&rsquo;information d&rsquo;erreur ?<\/h3>\n<p>L&rsquo;une des questions neuroanatomiques les plus fascinantes soulev\u00e9es par les d\u00e9couvertes de Schultz concerne l&rsquo;origine du calcul arithm\u00e9tique lui-m\u00eame : comment un neurone dopaminergique, aux capacit\u00e9s computationnelles intrins\u00e8ques limit\u00e9es, parvient-il \u00e0 soustraire une pr\u00e9diction complexe d&rsquo;une r\u00e9compense sensorielle imm\u00e9diate ? La r\u00e9ponse r\u00e9side dans un r\u00e9seau distribu\u00e9 d&rsquo;aff\u00e9rences sous-corticales et corticales hautement interconnect\u00e9es.<\/p>\n<p>La source majeure de signalisation n\u00e9gative\u2014responsable de la pause inhibitrice lors des erreurs de pr\u00e9diction n\u00e9gatives\u2014provient de l&rsquo;<a rel=\"noopener noreferrer\" href=\"https:\/\/www.nature.com\/articles\/nrn2056\">hab\u00e9nula lat\u00e9rale (LHb)<\/a>. L&rsquo;hab\u00e9nula lat\u00e9rale est une structure \u00e9pithalamique ancienne dont les neurones projettent massivement, soit directement, soit par l&rsquo;interm\u00e9diaire du noyau tegmental rostrom\u00e9dial (RMTg, ou noyau de tail de la VTA), des axones glutamatergiques excitateurs vers des interneurones GABAergiques qui inhibent directement les cellules dopaminergiques. De mani\u00e8re sym\u00e9trique et oppos\u00e9e \u00e0 la dopamine, les neurones de la LHb s&rsquo;activent vigoureusement lors de l&rsquo;omission d&rsquo;une r\u00e9compense ou de l&rsquo;apparition de stimuli punitifs, fonctionnant comme un centre anti-r\u00e9compense qui coupe activement l&rsquo;activit\u00e9 dopaminergique en cas de d\u00e9ception.<\/p>\n<p>D&rsquo;autres aff\u00e9rences cruciales participent \u00e0 cette \u00e9quation neurobiologique :<\/p>\n<ul>\n<li>Le <strong>striatum ventral (notamment le noyau accumbens)<\/strong> et les compartiments en patchs (striosomes) du striatum dorsal envoient des projections inhibitrices GABAergiques directes sur la SNc et la VTA. Ces projections sont suspect\u00e9es de v\u00e9hiculer le signal de soustraction de l&rsquo;attente : en s&rsquo;activant \u00e0 l&rsquo;instant attendu de la r\u00e9compense, elles compensent exactement l&rsquo;excitation sensorielle montante, annulant la r\u00e9ponse lorsque l&rsquo;issue est totalement pr\u00e9dite.<\/li>\n<li>Le <strong>colliculus sup\u00e9rieur<\/strong> achemine des informations visuelles primaires ultra-rapides vers la VTA via des voies monosynaptiques, expliquant la latence extr\u00eamement br\u00e8ve (moins de 100 ms) avec laquelle la dopamine r\u00e9agit \u00e0 des stimuli sensoriels saillants et inattendus.<\/li>\n<li>Le <strong>cortex orbitofrontal (OFC)<\/strong> et le <strong>cortex pr\u00e9frontal m\u00e9dian<\/strong> projettent vers les neurones dopaminergiques et l&rsquo;hab\u00e9nula, fournissant les repr\u00e9sentations cognitives complexes de la structure de la t\u00e2che, des \u00e9tats cach\u00e9s de l&rsquo;environnement et des r\u00e8gles de transition probabilistes.<\/li>\n<\/ul>\n<h3>7.2 Les cibles eff\u00e9rentes : la diffusion et la r\u00e9ception du signal de renforcement<\/h3>\n<p>Une fois le calcul d&rsquo;erreur accompli dans les corps cellulaires du m\u00e9senc\u00e9phale, le signal sous forme de bouff\u00e9es ou de pauses phasiques est projet\u00e9 le long d&rsquo;axones my\u00e9linis\u00e9s puis largement non my\u00e9linis\u00e9s vers les principales cibles t\u00e9lenc\u00e9phaliques de l&rsquo;enc\u00e9phale.<\/p>\n<p>L&rsquo;innervation dopaminergique se scinde en plusieurs axes fonctionnels majeurs au niveau des syst\u00e8mes eff\u00e9rents :<\/p>\n<ul>\n<li><strong>Le striatum dorsal (putamen et noyau caud\u00e9) :<\/strong> Cible de la voie nigrostri\u00e9e, il re\u00e7oit des signaux de renforcement essentiels pour l&rsquo;apprentissage moteur, la s\u00e9lection s\u00e9quentielle des actions et la transformation de comportements orient\u00e9s vers un but en routines d&rsquo;actions automatis\u00e9es (habitudes).<\/li>\n<li><strong>Le striatum ventral (noyau accumbens &#8211; core et shell) :<\/strong> C\u0153ur de la voie m\u00e9solimbique, il est le lieu d&rsquo;attribution privil\u00e9gi\u00e9 de la valeur d&rsquo;incitation. C&rsquo;est ici que l&rsquo;erreur de pr\u00e9diction transforme de simples stimuli environnementaux en indices attractifs magn\u00e9tiques capables de mobiliser l&rsquo;\u00e9nergie de l&rsquo;organisme.<\/li>\n<li><strong>Le cortex frontal (cortex cingulaire ant\u00e9rieur, cortex pr\u00e9frontal dorsolat\u00e9ral et orbitofrontal) :<\/strong> Cibles de la voie m\u00e9socorticale, ces territoires utilisent le signal dopaminergique pour r\u00e9guler la m\u00e9moire de travail, r\u00e9\u00e9valuer les options de choix strat\u00e9giques et piloter l&rsquo;allocation des ressources attentionnelles.<\/li>\n<\/ul>\n<p>La r\u00e9ception du signal d&rsquo;erreur au niveau cellulaire est r\u00e9gie par la distribution diff\u00e9rentielle des r\u00e9cepteurs dopaminergiques coupl\u00e9s aux prot\u00e9ines G. Alors que les neurones \u00e9pineux moyens de la voie directe striatale expriment majoritairement les r\u00e9cepteurs D1 stimulants, ceux de la voie indirecte expriment les r\u00e9cepteurs D2 inhibiteurs. Cette s\u00e9gr\u00e9gation anatomique permet au signal scalaire d&rsquo;erreur d&rsquo;orchestrer de mani\u00e8re coordonn\u00e9e l&rsquo;acc\u00e9l\u00e9ration d&rsquo;un c\u00f4t\u00e9 (renforcement de l&rsquo;action via D1) et le freinage de l&rsquo;autre (att\u00e9nuation des comportements concurrents via D2).<\/p>\n<h3>7.3 La plasticit\u00e9 synaptique corticostriatale guid\u00e9e par la dopamine<\/h3>\n<p>Le point d&rsquo;ancrage fondamental par lequel l&rsquo;erreur de pr\u00e9diction modifie durablement le fonctionnement de l&rsquo;enc\u00e9phale se situe au niveau de la <strong>synapse tripartite<\/strong> corticostriatale. Sur chaque \u00e9pine dendritique d&rsquo;un neurone \u00e9pineux moyen convergent deux terminaisons synaptiques distinctes : une terminaison glutamatergique provenant du n\u00e9ocortex (qui v\u00e9hicule l&rsquo;information sensorielle ou contextuelle sur l&rsquo;\u00e9tat courant du monde) et une varicosit\u00e9 dopaminergique issue du m\u00e9senc\u00e9phale (qui lib\u00e8re le signal d&rsquo;erreur de pr\u00e9diction).<\/p>\n<p>Cette convergence morphologique constitue le support physique d&rsquo;une forme sophistiqu\u00e9e de plasticit\u00e9 d\u00e9pendante du timing des impulsions (<em>Spike-Timing-Dependent Plasticity<\/em> ou STDP), modul\u00e9e par la dopamine (appel\u00e9e r\u00e8gle \u00e0 trois facteurs). L&rsquo;activation conjointe du glutamate pr\u00e9synaptique et de la d\u00e9polarisation postsynaptique ne suffit pas \u00e0 elle seule pour induire une potentialisation synaptique durable : elle g\u00e9n\u00e8re une simple \u00ab trace d&rsquo;\u00e9ligibilit\u00e9 \u00bb biochimique transitoire dans l&rsquo;\u00e9pine dendritique.<\/p>\n<p>C&rsquo;est l&rsquo;arriv\u00e9e diff\u00e9r\u00e9e, dans une fen\u00eatre temporelle de quelques centaines de millisecondes \u00e0 quelques secondes, de la bouff\u00e9e phasique de dopamine (<span class=\"arabpsy-math-inline\" data-latex=\"RPE &gt; 0\">$RPE > 0$<\/span>) qui convertit cette trace d&rsquo;\u00e9ligibilit\u00e9 en une modification structurelle permanente par l&rsquo;insertion stable de r\u00e9cepteurs glutamatergiques AMPA dans la membrane postsynaptique. Inversement, si une pause dopaminergique ($RPE < 0$) co\u00efncide avec la trace d'\u00e9ligibilit\u00e9, les r\u00e9cepteurs AMPA sont internalis\u00e9s par endocytose, provoquant une d\u00e9pression synaptique durable. Ainsi, un signal chimique m\u00e9senc\u00e9phalique global et non directionnel parvient \u00e0 sculpter avec une pr\u00e9cision chirurgicale les circuits neuronaux synaptiques sp\u00e9cifiques impliqu\u00e9s dans la r\u00e9ussite du comportement adaptatif.<\/p>\n<h2>8. La distinction neurobiologique entre plaisir, d\u00e9sir et apprentissage (Liking vs. Wanting)<\/h2>\n<h3>8.1 La clarification conceptuelle introduite par Berridge et Robinson<\/h3>\n<p>La d\u00e9couverte de Wolfram Schultz d\u00e9montrant que la dopamine s&rsquo;att\u00e9nue lors de la consommation de la r\u00e9compense a trouv\u00e9 son pendant psychologique th\u00e9orique dans les travaux pionniers de <a rel=\"noopener noreferrer\" href=\"https:\/\/sites.lsa.umich.edu\/berridge-lab\/\">Kent Berridge et Terry Robinson<\/a>. Ces chercheurs ont propos\u00e9 une dissociation conceptuelle et anatomique tripartite fondamentale qui a d\u00e9finitivement clarifi\u00e9 la s\u00e9miologie des processus de r\u00e9compense, en distinguant trois composantes psychobiologiques intriqu\u00e9es mais autonomes :<\/p>\n<ul>\n<li><strong>Le \u00ab Liking \u00bb (plaisir h\u00e9donique brut) :<\/strong> L&rsquo;exp\u00e9rience affective imm\u00e9diate et consumatoire de la jouissance sensorielle, ressentie par exemple lors de la d\u00e9gustation d&rsquo;un mets sucr\u00e9 ou de la satisfaction d&rsquo;un besoin physiologique.<\/li>\n<li><strong>Le \u00ab Wanting \u00bb (la saillance incitative ou d\u00e9sir) :<\/strong> La composante motivationnelle implicite qui conf\u00e8re aux repr\u00e9sentations des r\u00e9compenses et aux indices qui les annoncent une force d&rsquo;attraction magn\u00e9tique, transformant une simple information froide en un objectif imp\u00e9rieux qui pousse \u00e0 l&rsquo;action.<\/li>\n<li><strong>Le \u00ab Learning \u00bb (l&rsquo;apprentissage pr\u00e9dictif) :<\/strong> La formation et la mise \u00e0 jour continue des associations cognitives, des contingences instrumentales et des repr\u00e9sentations de valeur bas\u00e9es sur l&rsquo;exp\u00e9rience cumul\u00e9e des erreurs de pr\u00e9diction pass\u00e9es.<\/li>\n<\/ul>\n<p>Dans ce triptyque conceptuel, les d\u00e9couvertes de Schultz s&rsquo;articulent intimement avec les composantes du <em>Learning<\/em> et du <em>Wanting<\/em>, tout en excluant de mani\u00e8re cat\u00e9gorique l&rsquo;attribution du <em>Liking<\/em> direct au neurotransmetteur dopaminergique. La dopamine n&rsquo;est pas la mol\u00e9cule de la jouissance affective, mais le moteur computationnel qui traduit l&rsquo;exp\u00e9rience pour g\u00e9n\u00e9rer le d\u00e9sir et structurer les attentes futures.<\/p>\n<h3>8.2 Les m\u00e9diateurs neurochimiques du plaisir h\u00e9donique<\/h3>\n<p>Si la dopamine ne fabrique pas le plaisir brut, quels sont les r\u00e9seaux neurochimiques responsables de la sensation h\u00e9donique ? Les investigations pharmacologiques et immunohistochimiques approfondies men\u00e9es par l&rsquo;\u00e9quipe de Berridge ont apport\u00e9 une r\u00e9ponse incontestable : le v\u00e9ritable substrat du plaisir r\u00e9side dans les syst\u00e8mes <strong>opio\u00efdes endog\u00e8nes<\/strong> (met-enk\u00e9phaline, b\u00eata-endorphine) agissant sur les r\u00e9cepteurs mu-opio\u00efdes, ainsi que dans les syst\u00e8mes endocannabino\u00efdes (r\u00e9cepteurs CB1).<\/p>\n<p>Ces syst\u00e8mes h\u00e9doniques ne sont pas diss\u00e9min\u00e9s de mani\u00e8re uniforme dans l&rsquo;enc\u00e9phale, mais sont concentr\u00e9s au sein d&rsquo;\u00eelots anatomiques hautement circonscrits d&rsquo;un volume microscopique chez le rongeur (environ un millim\u00e8tre cube), baptis\u00e9s <strong>\u00ab hotspots h\u00e9doniques \u00bb<\/strong>. Ces hotspots sont principalement localis\u00e9s dans :<\/p>\n<ul>\n<li>La partie rostrodorsale de la coque (<em>shell<\/em>) du <strong>noyau accumbens<\/strong>.<\/li>\n<li>La zone post\u00e9rieure du <strong>pallidum ventral<\/strong>.<\/li>\n<li>Certaines r\u00e9gions du <strong>tronc c\u00e9r\u00e9bral<\/strong>, notamment le noyau parabrachial.<\/li>\n<\/ul>\n<p>La micro-injection d&rsquo;agonistes mu-opio\u00efdes directement au sein de ces hotspots h\u00e9doniques d\u00e9cuple les r\u00e9actions faciales objectives de d\u00e9lectation gustative (protusions linguales, l\u00e9chage rythmique des babines) sans alt\u00e9rer la motivation g\u00e9n\u00e9rale. \u00c0 l&rsquo;inverse, des l\u00e9sions neurotoxiques massives \u00e0 la 6-hydroxydopamine (6-OHDA), qui d\u00e9truisent 99 % des axones dopaminergiques ascendants, laissent ces expressions de jouissance h\u00e9donique rigoureusement intactes, bien que l&rsquo;animal meure d&rsquo;aphagie et d&rsquo;adipsie si on ne le nourrit pas par gavage m\u00e9canique en raison de la destruction totale de son syst\u00e8me de motivation motrice (<em>Wanting<\/em>).<\/p>\n<h3>8.3 Le r\u00f4le pr\u00e9cis de l&rsquo;erreur de pr\u00e9diction dans la construction du d\u00e9sir<\/h3>\n<p>Quel est donc le lien organique qui unit l&rsquo;erreur de pr\u00e9diction de la r\u00e9compense calcul\u00e9e par les cellules de Schultz et la pulsion motivationnelle (le d\u00e9sir) formalis\u00e9e par Berridge ? Ce lien r\u00e9side dans le m\u00e9canisme par lequel l&rsquo;erreur de pr\u00e9diction met dynamiquement \u00e0 jour la <strong>valeur de saillance incitative<\/strong> assign\u00e9e aux stimuli conditionn\u00e9s.<\/p>\n<p>Lorsqu&rsquo;un stimulus neutre est initialement associ\u00e9 \u00e0 une r\u00e9compense, l&rsquo;erreur de pr\u00e9diction positive (<span class=\"arabpsy-math-inline\" data-latex=\"\\delta &gt; 0\">$\\delta > 0$<\/span>) d\u00e9livr\u00e9e par la bouff\u00e9e phasique de dopamine ne se borne pas \u00e0 stocker une information abstraite dans la m\u00e9moire associative : elle \u00ab injecte \u00bb litt\u00e9ralement de la saillance incitative dans la trace mn\u00e9sique du stimulus. Par ce processus, l&rsquo;indice pr\u00e9dictif cesse d&rsquo;\u00eatre per\u00e7u comme un simple signal cognitif froid pour devenir un aimant motivationnel (un attracteur de comportements).<\/p>\n<p>C&rsquo;est ce qui explique que, chez un sujet entra\u00een\u00e9, le stimulus conditionnel d\u00e9clenche des comportements compulsifs d&rsquo;approche, d&rsquo;agrippement et de focalisation attentionnelle : l&rsquo;indice prend la coloration affective de la r\u00e9compense elle-m\u00eame. La dopamine sert ainsi de passerelle \u00e9lectrophysiologique et mol\u00e9culaire entre l&rsquo;algorithme d&rsquo;apprentissage associatif et le moteur motivationnel de l&rsquo;action, d\u00e9montrant que l&rsquo;erreur de pr\u00e9diction est la mati\u00e8re premi\u00e8re \u00e0 partir de laquelle le cerveau tisse le r\u00e9seau complexe de ses d\u00e9sirs et de ses volont\u00e9s d&rsquo;agir.<\/p>\n<h2>9. R\u00e9plication, g\u00e9n\u00e9ralisation et limites m\u00e9thodologiques des exp\u00e9riences de Schultz<\/h2>\n<h3>9.1 La r\u00e9plication inter-esp\u00e8ces et translationnelle chez l&rsquo;humain<\/h3>\n<p>Les d\u00e9couvertes initiales de Wolfram Schultz sur les macaques ont \u00e9t\u00e9 soumises \u00e0 un examen critique approfondi au cours des d\u00e9cennies suivantes, conduisant \u00e0 des r\u00e9plications spectaculaires \u00e0 travers une multitude de mod\u00e8les animaux et chez l&rsquo;\u00eatre humain gr\u00e2ce \u00e0 l&rsquo;\u00e9mergence des neurosciences mol\u00e9culaires et de l&rsquo;imagerie c\u00e9r\u00e9brale non invasive.<\/p>\n<p>Avec l&rsquo;av\u00e8nement de l&rsquo;<a rel=\"noopener noreferrer\" href=\"https:\/\/www.nature.com\/articles\/nmeth.1564\">optog\u00e9n\u00e9tique<\/a> chez le rongeur au cours des ann\u00e9es 2000 et 2010, des chercheurs tels que Karl Deisseroth et Adam Kepecs ont apport\u00e9 la preuve causale ultime des th\u00e8ses de Schultz. En ciblant g\u00e9n\u00e9tiquement l&rsquo;expression de canaux ioniques photosensibles (comme la canalrhodopsine-2) exclusivement dans les neurones dopaminergiques de la VTA de souris, ils ont d\u00e9montr\u00e9 qu&rsquo;une illumination laser de quelques millisecondes\u2014mimant artificiellement une bouff\u00e9e phasique dopaminergique exactement au moment o\u00f9 un renfor\u00e7ateur attendu est d\u00e9livr\u00e9\u2014suffit \u00e0 restaurer l&rsquo;apprentissage en brisant exp\u00e9rimentalement le ph\u00e9nom\u00e8ne de blocage de Kamin. Inversement, l&rsquo;inhibition optog\u00e9n\u00e9tique hyperpolarisante (par l&rsquo;halorhodopsine) au moment de la r\u00e9compense induit artificiellement une extinction du comportement comme lors d&rsquo;une v\u00e9ritable omission.<\/p>\n<p>Chez l&rsquo;\u00eatre humain, l&rsquo;av\u00e8nement de l&rsquo;<strong>imagerie par r\u00e9sonance magn\u00e9tique fonctionnelle (IRMf)<\/strong> \u00e9v\u00e9nementielle a permis de sonder ces circuits de mani\u00e8re indirecte. Des \u00e9tudes embl\u00e9matiques (notamment men\u00e9es par John O&rsquo;Doherty et Peter Bossaerts) ont corr\u00e9l\u00e9 les d\u00e9cours temporels des signaux BOLD (<em>Blood-Oxygen-Level Dependent<\/em>) du striatum ventral et du cortex orbitofrontal avec les trajectoires de l&rsquo;erreur de pr\u00e9diction temporelle calcul\u00e9es par des mod\u00e8les algorithmiques TD individuels. Plus exceptionnellement encore, des enregistrements perop\u00e9ratoires de micro\u00e9lectrodes ou de voltamp\u00e9rom\u00e9trie cyclique \u00e0 balayage rapide (FSCV) r\u00e9alis\u00e9s chez des patients atteints de la maladie de Parkinson ou de tremblements essentiels subissant une chirurgie de stimulation c\u00e9r\u00e9brale profonde (DBS) ont confirm\u00e9 l&rsquo;existence de fluctuations rapides de lib\u00e9ration de dopamine dans le striatum humain qui \u00e9pousent rigoureusement les pr\u00e9dictions du mod\u00e8le d&rsquo;erreur de pr\u00e9diction.<\/p>\n<p>Cette conservation phylog\u00e9n\u00e9tique du m\u00e9canisme s&rsquo;\u00e9tend des insectes (comme la mouche du vinaigre <em>Drosophila melanogaster<\/em>, o\u00f9 les neurones \u00e0 octopamine et dopamine jouent des r\u00f4les computationnels analogues) jusqu&rsquo;\u00e0 l&rsquo;homme, prouvant que l&rsquo;erreur de pr\u00e9diction de r\u00e9compense repr\u00e9sente l&rsquo;une des solutions algorithmiques les plus anciennes et universelles s\u00e9lectionn\u00e9es par l&rsquo;\u00e9volution biologique pour r\u00e9guler l&rsquo;adaptation comportementale.<\/p>\n<h3>9.2 L&rsquo;h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 fonctionnelle r\u00e9cemment d\u00e9couverte des neurones dopaminergiques<\/h3>\n<p>Bien que le mod\u00e8le unitaire d&rsquo;un signal dopaminergique global et homog\u00e8ne ait constitu\u00e9 une simplification th\u00e9orique immens\u00e9ment f\u00e9conde, les recherches contemporaines \u00e0 haute r\u00e9solution cellulaire ont r\u00e9v\u00e9l\u00e9 une complexit\u00e9 et une h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 biologique insoup\u00e7onn\u00e9es au sein de la population dopaminergique m\u00e9senc\u00e9phalique.<\/p>\n<p>Des travaux men\u00e9s notamment par le laboratoire de Nao Uchida \u00e0 Harvard ont mis en \u00e9vidence l&rsquo;existence de sous-populations dopaminergiques distinctes le long de gradients spatiaux m\u00e9dio-lat\u00e9raux dans la VTA et la SNc :<\/p>\n<ul>\n<li>Tandis que les neurones situ\u00e9s dans la <strong>VTA ventrom\u00e9diale<\/strong> encodent fid\u00e8lement l&rsquo;erreur de pr\u00e9diction classique pour des r\u00e9compenses app\u00e9titives standard, une sous-population localis\u00e9e dans la <strong>SNc lat\u00e9rale<\/strong> d\u00e9charge vigoureusement en r\u00e9ponse \u00e0 des stimuli aversifs intenses (chocs \u00e9lectriques cutan\u00e9s, souffles d&rsquo;air corn\u00e9ens ou compos\u00e9s amers).<\/li>\n<li>Ces neurones sensibles \u00e0 l&rsquo;aversion projettent s\u00e9lectivement vers la queue du striatum (<em>tail of the striatum<\/em>), formant un sous-circuit sp\u00e9cialis\u00e9 dans le calcul de la saillance physique brute et l&rsquo;\u00e9vitement rapide du danger, ind\u00e9pendant du syst\u00e8me de r\u00e9compense classique.<\/li>\n<\/ul>\n<p>De plus, des d\u00e9bats passionn\u00e9s animent la communaut\u00e9 scientifique sur le r\u00f4le exact de la dopamine dans l&rsquo;encodage de l&rsquo;<a rel=\"noopener noreferrer\" href=\"https:\/\/www.science.org\/doi\/10.1126\/science.1082340\">incertitude pure et du risque<\/a>. Dans des conditions o\u00f9 les r\u00e9compenses sont d\u00e9livr\u00e9es de mani\u00e8re stochastique (avec une probabilit\u00e9 de 50 %), Schultz lui-m\u00eame a observ\u00e9 l&rsquo;\u00e9mergence d&rsquo;une lente \u00e9l\u00e9vation tonique de la dopamine entre l&rsquo;indice et l&rsquo;issue, sugg\u00e9rant que ces neurones codent non seulement l&rsquo;esp\u00e9rance math\u00e9matique de premier ordre, mais \u00e9galement la variance statistique (l&rsquo;incertitude \u00e9pist\u00e9mique), alimentant la curiosit\u00e9 exploratoire des primates.<\/p>\n<h3>9.3 Critiques m\u00e9thodologiques et th\u00e9oriques<\/h3>\n<p>En d\u00e9pit de son statut paradigmatique, la th\u00e9orie de l&rsquo;erreur de pr\u00e9diction dopaminergique a suscit\u00e9 d&rsquo;importantes objections m\u00e9thodologiques et conceptuelles de la part de divers neurobiologistes et th\u00e9oriciens computationnels.<\/p>\n<p>La critique la plus tenace concerne la <strong>saillance attentionnelle<\/strong>. Des chercheurs ont soulign\u00e9 que de nombreux neurones dopaminergiques d\u00e9chargent bri\u00e8vement lors de l&rsquo;apparition soudaine de stimuli sensoriels intenses mais neutres (un flash lumineux vif ou un claquement sonore inattendu), avant m\u00eame que l&rsquo;animal n&rsquo;ait pu en analyser la signification app\u00e9titive ou aversive. Cette r\u00e9activit\u00e9 pr\u00e9coce sugg\u00e8re une composante d&rsquo;orientation attentionnelle non sp\u00e9cifique (saillance de d\u00e9tection) difficile \u00e0 d\u00e9m\u00ealer enti\u00e8rement du calcul de la valeur intrins\u00e8que de r\u00e9compense.<\/p>\n<p>Sur le plan computationnel, une asym\u00e9trie biophysique fondamentale fragilise l&rsquo;hypoth\u00e8se d&rsquo;un encodage sym\u00e9trique parfait de l&rsquo;erreur : alors que l&rsquo;erreur de pr\u00e9diction positive peut s&rsquo;exprimer par des bouff\u00e9es de potentiels d&rsquo;action atteignant 40 \u00e0 50 Hz (soit une augmentation de plusieurs centaines de pour cent par rapport au niveau basal), l&rsquo;erreur de pr\u00e9diction n\u00e9gative est structurellement limit\u00e9e par la faible fr\u00e9quence tonique de base (1 \u00e0 5 Hz). Le neurone ne peut pas descendre en dessous de 0 Hz : la magnitude de l&rsquo;inhibition est donc intrins\u00e8quement comprim\u00e9e, ce qui impose aux circuits r\u00e9cepteurs en aval d&rsquo;utiliser des m\u00e9canismes d&rsquo;int\u00e9gration temporelle asym\u00e9triques pour d\u00e9coder fid\u00e8lement les d\u00e9ceptions massives.<\/p>\n<p>Enfin, l&rsquo;existence d&rsquo;apprentissages associatifs complexes r\u00e9siduels observ\u00e9s chez des souris mutantes g\u00e9n\u00e9tiquement d\u00e9pourvues de synth\u00e8se de dopamine (knockout pour la tyrosine hydroxylase) d\u00e9montre sans ambigu\u00eft\u00e9 que d&rsquo;autres syst\u00e8mes de neurotransmission (notamment la s\u00e9rotonine, la noradr\u00e9naline et l&rsquo;ac\u00e9tylcholine) peuvent prendre en charge des calculs pr\u00e9dictifs compensatoires au sein de voies parall\u00e8les de signalisation.<\/p>\n<h2>10. Applications cliniques : psychopathologie, addictions et dysfonctionnements dopaminergiques<\/h2>\n<h3>10.1 L&rsquo;addiction aux substances : le piratage pharmacologique de l&rsquo;erreur de pr\u00e9diction<\/h3>\n<p>L&rsquo;une des r\u00e9ussites les plus spectaculaires de la th\u00e9orie de l&rsquo;erreur de pr\u00e9diction de Schultz r\u00e9side dans sa capacit\u00e9 \u00e0 offrir un cadre d&rsquo;explication computationnel unifi\u00e9 \u00e0 la physiopathologie des troubles de l&rsquo;usage de substances psychoactives (toxicomanie). Les drogues addictives (coca\u00efne, amph\u00e9tamines, h\u00e9ro\u00efne, nicotine, alcool) poss\u00e8dent toutes la propri\u00e9t\u00e9 pharmacologique commune de stimuler puissamment la lib\u00e9ration de dopamine dans le striatum ventral, soit en bloquant sa recapture (coca\u00efne), soit en for\u00e7ant sa lib\u00e9ration v\u00e9siculaire (amph\u00e9tamine), soit en inhibant les interneurones GABAergiques freinateurs de la VTA (opiac\u00e9s).<\/p>\n<p>Dans un contexte \u00e9cologique naturel, l&rsquo;erreur de pr\u00e9diction agit comme un m\u00e9canisme autor\u00e9gul\u00e9 : au fur et \u00e0 mesure que la r\u00e9compense devient pr\u00e9visible, <span class=\"arabpsy-math-inline\" data-latex=\"\\delta\">$\\delta$<\/span> tend inexorablement vers z\u00e9ro, emp\u00eachant toute sur\u00e9valuation synaptique infinie. En revanche, l&rsquo;action pharmacologique directe d&rsquo;une substance chimique contourne ce frein hom\u00e9ostatique naturel. Chaque prise de drogue injecte un pic artificiel massif de dopamine directement dans la fente synaptique, ind\u00e9pendamment de toute pr\u00e9diction ant\u00e9rieure.<\/p>\n<p>Pour l&rsquo;algorithme computationnel du cerveau, cette lib\u00e9ration non modul\u00e9e g\u00e9n\u00e8re une <strong>illusion math\u00e9matique permanente d&rsquo;erreur de pr\u00e9diction positive<\/strong> : le syst\u00e8me interpr\u00e8te chaque consommation de drogue comme un \u00e9v\u00e9nement qui a \u00e9t\u00e9 \u00ab bien meilleur que pr\u00e9vu \u00bb, m\u00eame apr\u00e8s des centaines de prises r\u00e9p\u00e9t\u00e9es et en d\u00e9pit des cons\u00e9quences destructrices manifestes sur la vie du patient. Il en r\u00e9sulte une hypertrophie synaptique pathologique continue au niveau des voies de renforcement striatales. La valeur de saillance incitative attribu\u00e9e aux stimuli associ\u00e9s \u00e0 la consommation (un emballage, un lieu, une seringue) s&rsquo;accro\u00eet sans fin, conduisant \u00e0 un \u00e9tat de <em>craving<\/em> compulsif d\u00e9vastateur o\u00f9 la volont\u00e9 corticale est litt\u00e9ralement submerg\u00e9e par une pulsion computationnelle programm\u00e9e pour un renfor\u00e7ateur chimiquement inatteignable.<\/p>\n<h3>10.2 Les jeux d&rsquo;argent et l&rsquo;incertitude programm\u00e9e (addictions comportementales)<\/h3>\n<p>Les m\u00eames lois neurophysiologiques s&rsquo;appliquent avec une virulence \u00e9gale aux addictions comportementales sans substance, particuli\u00e8rement dans le contexte des jeux de hasard et d&rsquo;argent (gambling) et de l&rsquo;usage compulsif des interfaces num\u00e9riques.<\/p>\n<p>Dans la th\u00e9orie du conditionnement op\u00e9rant, il est bien \u00e9tabli que les programmes de renforcement \u00e0 <strong>ratio variable<\/strong> (o\u00f9 le gain survient de fa\u00e7on impr\u00e9visible apr\u00e8s un nombre ind\u00e9termin\u00e9 d&rsquo;actions) sont ceux qui engendrent la plus grande r\u00e9sistance \u00e0 l&rsquo;extinction et les taux d&rsquo;engagement les plus fr\u00e9n\u00e9tiques. La th\u00e9orie de l&rsquo;erreur de pr\u00e9diction \u00e9lucide parfaitement ce ph\u00e9nom\u00e8ne : en maintenant le joueur dans un \u00e9tat d&rsquo;incertitude statistique permanente, le syst\u00e8me ne peut jamais stabiliser sa pr\u00e9diction de valeur (<span class=\"arabpsy-math-inline\" data-latex=\"V(s)\">$V(s)$<\/span> reste incertain). Chaque gain inattendu d\u00e9livre une bouff\u00e9e d&rsquo;erreur de pr\u00e9diction positive massive, provoquant un afflux de dopamine sans commune mesure avec celui produit par une gratification r\u00e9guli\u00e8re et garantie.<\/p>\n<p>Ce piratage computationnel est d\u00e9lib\u00e9r\u00e9ment exploit\u00e9 par l&rsquo;industrie des casinos et les concepteurs de machines \u00e0 sous gr\u00e2ce au ph\u00e9nom\u00e8ne neurobiologique du <strong>\u00ab quasi-gain \u00bb (near-miss)<\/strong>. Lorsqu&rsquo;une machine \u00e0 sous aligne deux symboles gagnants sur trois, le cerveau du joueur ne traite pas cet \u00e9v\u00e9nement comme une d\u00e9faite banale, mais enregistre une activation paradoxale de ses neurones dopaminergiques comparable \u00e0 une erreur de pr\u00e9diction positive. Ce signal aberrant renforce le comportement de jeu en cr\u00e9ant l&rsquo;illusion cognitive que la comp\u00e9tence motrice progresse et que le succ\u00e8s est imminent. Les ing\u00e9nieurs du num\u00e9rique contemporain ont transpos\u00e9 ces dynamiques avec un cynisme algorithmique remarquable dans les flux de r\u00e9seaux sociaux modernes, o\u00f9 le balayage compulsif de l&rsquo;\u00e9cran (<em>pull-to-refresh<\/em>) et la d\u00e9livrance erratique de notifications et de \u00ab likes \u00bb fonctionnent selon la cin\u00e9tique exacte d&rsquo;une machine \u00e0 sous dopaminergique portative.<\/p>\n<h3>10.3 La schizophr\u00e9nie et la th\u00e9orie de la saillance aberrante<\/h3>\n<p>La compr\u00e9hension du r\u00f4le pr\u00e9dictif de la dopamine a \u00e9galement m\u00e9tamorphos\u00e9 la nosologie psychiatrique des troubles psychotiques, notamment \u00e0 travers la th\u00e9orie unifi\u00e9e de la <a rel=\"noopener noreferrer\" href=\"https:\/\/ajp.psychiatryonline.org\/doi\/10.1176\/appi.ajp.160.1.13\">saillance aberrante<\/a> formul\u00e9e par le psychiatre Shitij Kapur.<\/p>\n<p>Selon ce mod\u00e8le computationnel, la dysfonction primaire sous-tendant la schizophr\u00e9nie ne r\u00e9side pas dans une hyperactivit\u00e9 dopaminergique continue et diffuse, mais dans une <strong>d\u00e9synchronisation de l&rsquo;\u00e9mission phasique<\/strong> des neurones dopaminergiques m\u00e9sostriataux. En raison d&rsquo;anomalies de r\u00e9gulation corticale pr\u00e9frontale ou de dysfonctionnements interneuronaux, ces cellules \u00e9mettent des d\u00e9charges phasiques chaotiques et d\u00e9contextualis\u00e9es, totalement d\u00e9coupl\u00e9es de la r\u00e9alit\u00e9 des \u00e9v\u00e9nements environnementaux.<\/p>\n<p>Le patient se retrouve ainsi bombard\u00e9 de signaux internes d&rsquo;erreurs de pr\u00e9diction positives \u00e0 l&rsquo;\u00e9gard de stimuli parfaitement anodins et contingents : la couleur du manteau d&rsquo;un passant, le clignotement fortuit d&rsquo;un feu de signalisation ou un bruit m\u00e9tallique anodin dans la rue d\u00e9clenchent une d\u00e9charge phasique signifiant imp\u00e9rieusement : <em>\u00ab Cet \u00e9v\u00e9nement rev\u00eat une importance vitale et inattendue pour toi ! \u00bb<\/em>.<\/p>\n<p>Le cortex pr\u00e9frontal du patient, confront\u00e9 \u00e0 ces alertes dopaminergiques r\u00e9p\u00e9t\u00e9es qu&rsquo;il ne peut ignorer, entreprend une t\u00e2che d&rsquo;int\u00e9gration cognitive herm\u00e9neutique : il \u00e9labore un syst\u00e8me de croyances d\u00e9lirantes (d\u00e9lires de pers\u00e9cution, m\u00e9galomanie ou interpr\u00e9tation parano\u00efaque) pour fournir une explication causale rationnelle \u00e0 ces saillances aberrantes perp\u00e9tuelles. L&rsquo;efficacit\u00e9 clinique remarquable des m\u00e9dicaments antipsychotiques neuroleptiques, qui bloquent les r\u00e9cepteurs dopaminergiques D2, s&rsquo;explique pr\u00e9cis\u00e9ment par leur capacit\u00e9 \u00e0 assourdir pharmacologiquement ces erreurs de pr\u00e9diction parasites, permettant aux repr\u00e9sentations d\u00e9lirantes de perdre progressivement leur charge de pr\u00e9occupation affective et d&rsquo;entrer en r\u00e9mission cognitive.<\/p>\n<h3>10.4 La d\u00e9pression majeure et la maladie de Parkinson<\/h3>\n<p>\u00c0 l&rsquo;autre extr\u00eame pathologique, le d\u00e9ficit quantitatif ou fonctionnel de la signalisation de l&rsquo;erreur de pr\u00e9diction engendre des syndromes neuropsychiatriques invalidants marqu\u00e9s par l&rsquo;extinction de l&rsquo;\u00e9lan vital.<\/p>\n<p>Dans l&rsquo;\u00e9pisode d\u00e9pressif caract\u00e9ris\u00e9, le sympt\u00f4me cardinal qu&rsquo;est l&rsquo;<strong>anh\u00e9donie clinique<\/strong> (la perte de la capacit\u00e9 \u00e0 \u00e9prouver du plaisir ou de l&rsquo;int\u00e9r\u00eat pour les activit\u00e9s habituelles) est aujourd&rsquo;hui r\u00e9interpr\u00e9t\u00e9 comme un <strong>\u00e9moussement de l&rsquo;erreur de pr\u00e9diction positive<\/strong> (<em>blunted RPE<\/em>). Des \u00e9tudes en IRMf ont d\u00e9montr\u00e9 que chez les patients d\u00e9pressifs s\u00e9v\u00e8res, les bouff\u00e9es phasiques striatales en r\u00e9ponse \u00e0 des renfor\u00e7ateurs inattendus sont consid\u00e9rablement aplaties. Le sujet ne parvient plus \u00e0 mettre \u00e0 jour la valeur positive de son environnement : le monde para\u00eet plat, gris et immuable. Cet \u00e9chec computationnel induit un \u00e9tat de r\u00e9signation acquise (<em>learned helplessness<\/em>), le cerveau calculant qu&rsquo;aucune action nouvelle ne poss\u00e8de le potentiel de produire un r\u00e9sultat meilleur que son \u00e9tat de souffrance actuel.<\/p>\n<p>Dans la <strong>maladie de Parkinson<\/strong>, la mort apoptotique progressive des neurones dopaminergiques de la substantia nigra pars compacta engendre non seulement la triade motrice parkinsonienne classique (tremblement de repos, rigidit\u00e9 plastique, akin\u00e9sie), mais \u00e9galement des d\u00e9ficits cognitifs subtils et profonds dans l&rsquo;apprentissage par renforcement. Priv\u00e9s de leurs projections dopaminergiques dorsales, les patients parkinsoniens non trait\u00e9s manifestent une incapacit\u00e9 s\u00e9lective \u00e0 apprendre des cons\u00e9quences positives de leurs actes, tout en conservant une capacit\u00e9 paradoxale \u00e0 apprendre de leurs erreurs punitives. Inversement, lors de l&rsquo;instauration d&rsquo;un traitement substitutif par des agonistes dopaminergiques directs \u00e0 longue dur\u00e9e d&rsquo;action (comme le pramipexole ou le ropinirole), certains patients d\u00e9veloppent des troubles d\u00e9vastateurs du contr\u00f4le des impulsions (hypersexualit\u00e9, jeu pathologique compulsif, achats compulsifs), caus\u00e9s par la sur-stimulation tonique artificielle des r\u00e9cepteurs du striatum ventral qui noie le signal de l&rsquo;erreur de pr\u00e9diction n\u00e9gative sous un bruit de fond dopaminergique continu et ininterrompu.<\/p>\n<h2>11. Implications pour l&rsquo;intelligence artificielle et l&rsquo;apprentissage par renforcement computationnel<\/h2>\n<h3>11.1 La fertilisation crois\u00e9e entre neurosciences et informatique moderne<\/h3>\n<p>L&rsquo;histoire intellectuelle de l&rsquo;erreur de pr\u00e9diction dopaminergique constitue sans conteste l&rsquo;un des exemples les plus \u00e9clatants de dialogue bidirectionnel fructueux entre la biologie de l&rsquo;\u00e9volution et l&rsquo;ing\u00e9nierie informatique moderne.<\/p>\n<p>Lorsque Sutton et Barto ont formul\u00e9 l&rsquo;algorithme des diff\u00e9rences temporelles au d\u00e9but des ann\u00e9es 1980, leur d\u00e9marche \u00e9tait purement math\u00e9matique et computationnelle : ils cherchaient le moyen optimal pour une machine d&rsquo;apprendre \u00e0 r\u00e9soudre des probl\u00e8mes s\u00e9quentiels de contr\u00f4le optimal sans n\u00e9cessiter de mod\u00e8le explicite de la dynamique du monde (m\u00e9thodes <em>model-free<\/em>). La d\u00e9couverte que la s\u00e9lection naturelle avait cod\u00e9 cette formulation algorithmique exacte au c\u0153ur du tronc c\u00e9r\u00e9bral des vert\u00e9br\u00e9s a fourni une validation \u00e9cologique irr\u00e9futable \u00e0 leurs mod\u00e8les d&rsquo;apprentissage machine, galvanisant l&rsquo;ensemble de la communaut\u00e9 de l&rsquo;intelligence artificielle.<\/p>\n<p>Cette convergence a trouv\u00e9 son apog\u00e9e au XXIe si\u00e8cle avec l&rsquo;av\u00e8nement de l&rsquo;<strong>apprentissage par renforcement profond (Deep Reinforcement Learning)<\/strong>. En fusionnant les r\u00e9seaux de neurones artificiels profonds (qui extraient des repr\u00e9sentations sensorielles complexes \u00e0 partir de donn\u00e9es brutes) avec les \u00e9quations d&rsquo;erreurs de pr\u00e9diction temporelle h\u00e9rit\u00e9es de Schultz et Sutton-Barto, les chercheurs de DeepMind ont con\u00e7u l&rsquo;architecture r\u00e9volutionnaire <strong>DQN (Deep Q-Network)<\/strong>. En 2015, cet agent autonome a surpass\u00e9 le niveau d&rsquo;experts humains sur des dizaines de jeux vid\u00e9o r\u00e9tro Atari 2600, en utilisant un unique signal scalaire de renforcement qui modulait l&rsquo;ajustement des poids synaptiques par r\u00e9tropropagation du gradient, de mani\u00e8re formellement analogue \u00e0 la lib\u00e9ration de dopamine dans les synapses corticostriatales.<\/p>\n<p>Cette m\u00eame architecture computationnelle a constitu\u00e9 le moteur fondamental d&rsquo;<strong>AlphaGo<\/strong> en 2016, le premier programme informatique \u00e0 terrasser le champion du monde humain au mill\u00e9naire jeu de Go, d\u00e9montrant que le principe de l&rsquo;erreur de pr\u00e9diction de r\u00e9compense est suffisamment puissant pour g\u00e9n\u00e9rer de l&rsquo;intelligence strat\u00e9gique intuitive au plus haut niveau de complexit\u00e9 combinatoire envisageable.<\/p>\n<h3>11.2 L&rsquo;apprentissage par renforcement distributionnel (Distributional RL)<\/h3>\n<p>L&rsquo;isomorphisme entre le cerveau biologique et les math\u00e9matiques de l&rsquo;IA a franchi une nouvelle \u00e9tape conceptuelle majeure avec la publication en 2020 d&rsquo;une d\u00e9couverte sensationnelle dans la revue <a rel=\"noopener noreferrer\" href=\"https:\/\/www.nature.com\/articles\/s41586-019-1924-6\">Nature<\/a> par l&rsquo;\u00e9quipe de Will Dabney, Matthew Botvinick et Nao Uchida : la d\u00e9couverte de l&rsquo;<strong>apprentissage par renforcement distributionnel<\/strong> dans le syst\u00e8me dopaminergique.<\/p>\n<p>Jusqu&rsquo;alors, la th\u00e9orie classique de Schultz supposait que les neurones dopaminergiques encodaient une simple valeur scalaire moyenne : l&rsquo;\u00e9cart entre la valeur observ\u00e9e et la valeur moyenne attendue de la distribution de r\u00e9compense. Cependant, en 2017, les th\u00e9oriciens de l&rsquo;intelligence artificielle avaient d\u00e9montr\u00e9 qu&rsquo;un agent artificiel apprend de mani\u00e8re infiniment plus robuste et rapide s&rsquo;il ne cherche pas simplement \u00e0 pr\u00e9dire l&rsquo;esp\u00e9rance math\u00e9matique moyenne, mais s&rsquo;il tente d&rsquo;apprendre la <strong>distribution de probabilit\u00e9 compl\u00e8te<\/strong> des r\u00e9compenses potentielles (en tenant compte de la dispersion, de l&rsquo;asym\u00e9trie et des queues de distribution statistiques).<\/p>\n<p>Curieux de v\u00e9rifier si le cerveau biologique avait, une fois de plus, devanc\u00e9 les ing\u00e9nieurs humains, les chercheurs ont enregistr\u00e9 l&rsquo;activit\u00e9 d&rsquo;une multitude de neurones dopaminergiques individuels chez la souris soumise \u00e0 des distributions de r\u00e9compenses de variances variables. Leurs r\u00e9sultats ont confirm\u00e9 l&rsquo;hypoth\u00e8se distributionnelle avec une pr\u00e9cision confondante :<\/p>\n<ul>\n<li>Les neurones dopaminergiques ne partagent pas tous le m\u00eame seuil d&rsquo;inversion \u00e9lectrophysiologique : certaines cellules sont structurellement des \u00ab optimistes computationnels \u00bb (elles poss\u00e8dent un seuil de d\u00e9charge bas et s&rsquo;excitent m\u00eame pour de tr\u00e8s faibles renfor\u00e7ateurs), tandis que d&rsquo;autres sont des \u00ab pessimistes computationnels \u00bb (qui ne d\u00e9chargent que face \u00e0 des r\u00e9compenses gigantesques).<\/li>\n<li>De plus, les pentes de sensibilit\u00e9 aux erreurs positives et n\u00e9gatives varient syst\u00e9matiquement d&rsquo;un neurone \u00e0 l&rsquo;autre.<\/li>\n<\/ul>\n<p>Prise dans son ensemble, cette population de cellules n&rsquo;\u00e9met pas une valeur moyenne unique, mais d\u00e9compose le signal d&rsquo;erreur en une s\u00e9rie de quantiles statistiques discrets, fournissant au striatum une repr\u00e9sentation probabiliste exhaustive de l&rsquo;incertitude future. Cette d\u00e9couverte a prouv\u00e9 que la diversit\u00e9 cellulaire et l&rsquo;h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 biologique, longtemps per\u00e7ues comme du simple \u00ab bruit exp\u00e9rimental \u00bb par les physiologistes, constituaient en r\u00e9alit\u00e9 le code d&rsquo;un calcul distributionnel de tr\u00e8s haute pr\u00e9cision math\u00e9matique.<\/p>\n<h3>11.3 Vers des agents bio-inspir\u00e9s dot\u00e9s de curiosit\u00e9 artificielle<\/h3>\n<p>Le dernier horizon o\u00f9 l&rsquo;erreur de pr\u00e9diction inspire l&rsquo;informatique concerne la r\u00e9solution de l&rsquo;\u00e9pineux <strong>dilemme exploration-exploitation<\/strong>. Un agent purement guid\u00e9 par l&rsquo;erreur de pr\u00e9diction classique de r\u00e9compense extrins\u00e8que peut demeurer pi\u00e9g\u00e9 ind\u00e9finiment dans des optimums locaux, n&rsquo;exploitant que les gratifications qu&rsquo;il conna\u00eet d\u00e9j\u00e0 sans jamais oser s&rsquo;aventurer vers l&rsquo;inconnu.<\/p>\n<p>Pour surmonter cet \u00e9cueil, les concepteurs d&rsquo;agents intelligents s&rsquo;inspirent aujourd&rsquo;hui des travaux neurophysiologiques sur la motivation intrins\u00e8que et l&rsquo;encodage de la surprise sensorielle. En int\u00e9grant une composante d&rsquo;<strong>erreur de pr\u00e9diction \u00e9pist\u00e9mique<\/strong> (ou erreur de pr\u00e9diction de l&rsquo;\u00e9tat du monde) comme signal de pseudo-r\u00e9compense interne, les agents informatiques d\u00e9veloppent une forme bio-inspir\u00e9e de \u00ab curiosit\u00e9 artificielle \u00bb. L&rsquo;agent re\u00e7oit une gratification dopaminergique virtuelle non pas lorsqu&rsquo;il obtient une r\u00e9compense mat\u00e9rielle, mais lorsqu&rsquo;il p\u00e9n\u00e8tre dans un \u00e9tat de son environnement dont il \u00e9tait incapable de pr\u00e9dire la dynamique physique.<\/p>\n<p>Ce m\u00e9canisme permet \u00e0 des r\u00e9seaux de neurones artificiels profonds d&rsquo;explorer m\u00e9thodiquement d&rsquo;immenses espaces d&rsquo;\u00e9tats dans des jeux vid\u00e9o complexes sans aucune fonction de r\u00e9compense externe fournie par les programmeurs, reproduisant l&rsquo;app\u00e9tence exploratoire spontan\u00e9e manifest\u00e9e par les jeunes enfants et les primates dans leur d\u00e9couverte du monde environnant.<\/p>\n<h2>12. Synth\u00e8se \u00e9pist\u00e9mologique et perspectives futures dans l&rsquo;\u00e9tude de l&rsquo;erreur de pr\u00e9diction dopaminergique<\/h2>\n<h3>12.1 L&rsquo;impact paradigmatique des travaux de Wolfram Schultz sur les neurosciences cognitives<\/h3>\n<p>La trajectoire intellectuelle initi\u00e9e par Wolfram Schultz a profond\u00e9ment reconfigur\u00e9 l&rsquo;\u00e9pist\u00e9mologie des sciences du cerveau au cours des quatre derni\u00e8res d\u00e9cennies. Ses travaux ont incarn\u00e9 la transition fondamentale d&rsquo;une neuroanatomie descriptive et localiste\u2014qui se contentait d&rsquo;attribuer des fonctions psychologiques floues \u00e0 des lobes corticaux ou \u00e0 des noyaux sous-corticaux \u00e9tiquet\u00e9s de mani\u00e8re statique\u2014vers une <strong>neurobiologie algorithmique et dynamique<\/strong>, capable de d\u00e9crypter la grammaire math\u00e9matique universelle par laquelle les synapses traitent, int\u00e8grent et transforment l&rsquo;information.<\/p>\n<p>En ancrant formellement la fonction dopaminergique dans les \u00e9quations rigoureuses de l&rsquo;apprentissage par renforcement et de la th\u00e9orie de la d\u00e9cision, Schultz est devenu l&rsquo;un des p\u00e8res fondateurs d&rsquo;une discipline acad\u00e9mique enti\u00e8rement nouvelle : la <strong>neuro\u00e9conomie<\/strong>. Cette science interdisciplinaire s&rsquo;attache \u00e0 mod\u00e9liser la mani\u00e8re dont les organismes vivants \u00e9valuent le risque, pond\u00e8rent les probabilit\u00e9s, escomptent le temps et arbitrent leurs choix \u00e9conomiques en analysant les computations neuronales qui pr\u00e9c\u00e8dent l&rsquo;acte d\u00e9cisionnel.<\/p>\n<p>La port\u00e9e historique de cette r\u00e9volution conceptuelle a \u00e9t\u00e9 universellement consacr\u00e9e en 2017 par l&rsquo;attribution du prestigieux <a rel=\"noopener noreferrer\" href=\"https:\/\/lundbeckfonden.com\/the-brain-prize\/brain-prize-recipients\/the-brain-prize-winners-2017\">Brain Prize<\/a> (consid\u00e9r\u00e9 comme le prix Nobel europ\u00e9en des neurosciences), d\u00e9cern\u00e9 conjointement \u00e0 Wolfram Schultz, Peter Dayan et Ray Dolan, honorant l&rsquo;alliance visionnaire entre l&rsquo;\u00e9lectrophysiologie animale, la mod\u00e9lisation math\u00e9matique et l&rsquo;imagerie c\u00e9r\u00e9brale cognitive.<\/p>\n<h3>12.2 Les fronti\u00e8res actuelles de la recherche en neurobiologie de la d\u00e9cision<\/h3>\n<p>L&rsquo;exploration des dynamiques dopaminergiques se poursuit aujourd&rsquo;hui avec une intensit\u00e9 renouvel\u00e9e, port\u00e9e par des ruptures technologiques d&rsquo;une pr\u00e9cision analytique sans pr\u00e9c\u00e9dent. Le d\u00e9veloppement de <strong>sondes fluorescentes g\u00e9n\u00e9tiquement encod\u00e9es<\/strong> (telles que les biocapteurs dLight ou GRAB-DA) permet d\u00e9sormais d&rsquo;imager, via la photom\u00e9trie de fibre optique ou la microscopie \u00e0 deux photons chez l&rsquo;animal en mouvement libre, les concentrations extracellulaires r\u00e9elles de dopamine avec une r\u00e9solution milliseconde et microm\u00e9trique dans des sous-compartiments synaptiques sp\u00e9cifiques.<\/p>\n<p>L&rsquo;un des d\u00e9fis contemporains majeurs r\u00e9side dans la compr\u00e9hension des <strong>interactions neuromodulatrices crois\u00e9es<\/strong>. La dopamine ne calcule pas l&rsquo;erreur de pr\u00e9diction en vase clos : elle converse en permanence avec d&rsquo;autres r\u00e9seaux monoaminergiques et peptidergiques \u00e0 l&rsquo;action compl\u00e9mentaire :<\/p>\n<ul>\n<li>La <strong>s\u00e9rotonine<\/strong> (produite par les noyaux du raph\u00e9) semble jouer un r\u00f4le d&rsquo;antagoniste computationnel partiel, encodant des signaux d&rsquo;escompte temporel \u00e0 long terme, d&rsquo;inhibition comportementale face aux punitions et d&rsquo;erreur de pr\u00e9diction d&rsquo;\u00e9vitement.<\/li>\n<li>La <strong>noradr\u00e9naline<\/strong> (issue du locus coeruleus) signale l&rsquo;incertitude inattendue (<em>unexpected uncertainty<\/em>) et l&rsquo;inflexion brutale des contextes environnementaux, pilotant la bascule critique entre l&rsquo;exploitation des acquis et l&rsquo;exploration de nouvelles r\u00e8gles.<\/li>\n<li>L&rsquo;<strong>ac\u00e9tylcholine<\/strong> (\u00e9mise par les interneurones striataux g\u00e9ants \u00e0 d\u00e9charge tonique) module localement la lib\u00e9ration axonale de dopamine par une action pr\u00e9synaptique directe sur des r\u00e9cepteurs nicotiniques, d\u00e9connectant localement l&rsquo;\u00e9mission synaptique du corps cellulaire m\u00e9senc\u00e9phalique.<\/li>\n<\/ul>\n<p>Parall\u00e8lement, les th\u00e9oriciens s&rsquo;efforcent d&rsquo;int\u00e9grer l&rsquo;erreur de pr\u00e9diction de r\u00e9compense au sein de cadres m\u00e9tath\u00e9oriques plus vastes, notamment le mod\u00e8le du <strong>cerveau bay\u00e9sien<\/strong> et le <a rel=\"noopener noreferrer\" href=\"https:\/\/www.fil.ion.ucl.ac.uk\/~karl\/\">principe de l&rsquo;\u00e9nergie libre (Free Energy Principle)<\/a> formul\u00e9 par Karl Friston. Dans cette perspective, l&rsquo;erreur de pr\u00e9diction dopaminergique ne constitue qu&rsquo;un cas particulier d&rsquo;un principe hi\u00e9rarchique universel d&rsquo;inf\u00e9rence active o\u00f9 chaque strate corticale s&rsquo;efforce en permanence d&rsquo;annuler les erreurs de pr\u00e9diction ascendantes g\u00e9n\u00e9r\u00e9es par les flux sensoriels pour maintenir l&rsquo;int\u00e9grit\u00e9 hom\u00e9ostatique de l&rsquo;organisme.<\/p>\n<h3>12.3 Conclusions g\u00e9n\u00e9rales sur la nature du cerveau comme machine \u00e0 pr\u00e9dire<\/h3>\n<p>L&rsquo;exp\u00e9rience de l&rsquo;erreur de pr\u00e9diction de la r\u00e9compense de Wolfram Schultz transcende largement le cadre strict de la neurophysiologie animale pour offrir une r\u00e9flexion philosophique et anthropologique profonde sur la condition humaine et la nature m\u00eame de la cognition.<\/p>\n<p>Elle a apport\u00e9 la d\u00e9monstration empirique irr\u00e9futable que le cerveau biologique n&rsquo;est pas un syst\u00e8me r\u00e9actif passif qui subit passivement les stimulations d&rsquo;un monde ext\u00e9rieur pour y r\u00e9pondre par des r\u00e9flexes m\u00e9caniques. Au contraire, le cerveau est une <strong>machine \u00e0 pr\u00e9dire proactive et inf\u00e9rentielle<\/strong>, qui projette continuellement sur la r\u00e9alit\u00e9 des simulations internes pr\u00e9dictives \u00e9labor\u00e9es \u00e0 partir de son histoire pass\u00e9e.<\/p>\n<p>Dans ce ballet cybern\u00e9tique perp\u00e9tuel, la r\u00e9alit\u00e9 sensible brute ne p\u00e9n\u00e8tre dans les sanctuaires de la plasticit\u00e9 c\u00e9r\u00e9brale que dans la stricte mesure o\u00f9 elle contredit nos anticipations. C&rsquo;est paradoxalement <strong>l&rsquo;erreur<\/strong>\u2014la faille de notre pr\u00e9diction, la d\u00e9ception de notre attente ou la surprise de la nouveaut\u00e9\u2014qui constitue le v\u00e9ritable moteur de la conscience, de la survie adaptative et de la transformation de soi. L&rsquo;h\u00e9ritage scientifique p\u00e9renne de Wolfram Schultz nous rappelle avec force que nous n&rsquo;apprenons jamais rien d&rsquo;un univers qui se conforme servilement \u00e0 nos attentes : c&rsquo;est au c\u0153ur de nos faux pas pr\u00e9dictifs que notre cerveau sculpte inlassablement son avenir.<\/p>\n<h2>R\u00e9f\u00e9rences<\/h2>\n<ul>\n<li>Barto, A. G., Sutton, R. S., &amp; Anderson, C. W. (1983). Neuronlike adaptive elements that can solve difficult learning control problems. <em>IEEE Transactions on Systems, Man, and Cybernetics<\/em>, SMC-13(5), 834\u2013846. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1109\/TSMC.1983.6313077\">https:\/\/doi.org\/10.1109\/TSMC.1983.6313077<\/a><\/li>\n<li>Berridge, K. C., &amp; Robinson, T. E. (1998). What is the role of dopamine in reward: Hedonic impact, reward learning, or incentive salience? <em>Brain Research Reviews<\/em>, 28(3), 309\u2013369. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1016\/S0165-0173(98)00019-8\">https:\/\/doi.org\/10.1016\/S0165-0173(98)00019-8<\/a><\/li>\n<li>Dabney, W., Kurth-Nelson, Z., Uchida, N., Starkweather, C. K., Hassabis, D., Munos, R., &amp; Botvinick, M. (2020). A distributional code for value in dopamine-based reinforcement learning. <em>Nature<\/em>, 577(7792), 671\u2013675. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1038\/s41586-019-1924-6\">https:\/\/doi.org\/10.1038\/s41586-019-1924-6<\/a><\/li>\n<li>Friston, K. (2010). The free-energy principle: A unified brain theory? <em>Nature Reviews Neuroscience<\/em>, 11(2), 127\u2013138. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1038\/nrn2787\">https:\/\/doi.org\/10.1038\/nrn2787<\/a><\/li>\n<li>Kamin, L. J. (1969). Predictability, surprise, attention, and conditioning. In B. A. Campbell &amp; R. M. Church (Eds.), <em>Punishment and aversive behavior<\/em> (pp. 279\u2013296). Appleton-Century-Crofts.<\/li>\n<li>Kapur, S. (2003). Psychosis as a state of aberrant salience: A framework linking biology, phenomenology, and pharmacology in schizophrenia. <em>American Journal of Psychiatry<\/em>, 160(1), 13\u201323. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1176\/appi.ajp.160.1.13\">https:\/\/doi.org\/10.1176\/appi.ajp.160.1.13<\/a><\/li>\n<li>Matsumoto, M., &amp; Hikosaka, O. (2007). Lateral habenula as a source of negative reward signals in dopamine neurons. <em>Nature<\/em>, 447(7148), 1111\u20131115. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1038\/nature05860\">https:\/\/doi.org\/10.1038\/nature05860<\/a><\/li>\n<li>Mnih, V., Kavukcuoglu, K., Silver, D., Rusu, A. A., Veness, J., Bellemare, M. G., Graves, A., Riedmiller, M., Fidjeland, A. K., Ostrovski, G., Petersen, S., Beattie, C., Sadik, A., Antonoglou, I., King, H., Kumaran, D., Wierstra, D., Legg, S., &amp; Hassabis, D. (2015). Human-level control through deep reinforcement learning. <em>Nature<\/em>, 518(7540), 529\u2013533. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1038\/nature14236\">https:\/\/doi.org\/10.1038\/nature14236<\/a><\/li>\n<li>Olds, J., &amp; Milner, P. (1954). Positive reinforcement produced by electrical stimulation of septal area and other regions of rat brain. <em>Journal of Comparative and Physiological Psychology<\/em>, 47(6), 419\u2013427. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1037\/h0058775\">https:\/\/doi.org\/10.1037\/h0058775<\/a><\/li>\n<li>Pavlov, I. P. (1927). <em>Conditioned reflexes: An investigation of the physiological activity of the cerebral cortex<\/em> (G. V. Anrep, Trans.). Oxford University Press.<\/li>\n<li>Rescorla, R. A., &amp; Wagner, A. R. (1972). A theory of Pavlovian conditioning: Variations in the effectiveness of reinforcement and nonreinforcement. In A. H. Black &amp; W. F. Prokasy (Eds.), <em>Classical conditioning II: Current research and theory<\/em> (pp. 64\u201399). Appleton-Century-Crofts.<\/li>\n<li>Schultz, W. (1998). Predictive reward signal of dopamine neurons. <em>Journal of Neurophysiology<\/em>, 80(1), 1\u201327. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1152\/jn.1998.80.1.1\">https:\/\/doi.org\/10.1152\/jn.1998.80.1.1<\/a><\/li>\n<li>Schultz, W. (2015). Neuronal reward and decision signals: From theories to data. <em>Physiological Reviews<\/em>, 96(3), 853\u2013907. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1152\/physrev.00023.2015\">https:\/\/doi.org\/10.1152\/physrev.00023.2015<\/a><\/li>\n<li>Schultz, W., Apicella, P., &amp; Ljungberg, T. (1993). Responses of monkey dopamine neurons to reward and conditioned stimuli during successive steps of learning a delayed response task. <em>Journal of Neuroscience<\/em>, 13(3), 900\u2013913. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1523\/JNEUROSCI.13-03-00900.1993\">https:\/\/doi.org\/10.1523\/JNEUROSCI.13-03-00900.1993<\/a><\/li>\n<li>Schultz, W., Dayan, P., &amp; Montague, P. R. (1997). A neural substrate of prediction and reward. <em>Science<\/em>, 275(5306), 1593\u20131599. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1126\/science.275.5306.1593\">https:\/\/doi.org\/10.1126\/science.275.5306.1593<\/a><\/li>\n<li>Steinberg, E. E., Keiflin, R., Boivin, J. R., Witten, I. B., Deisseroth, K., &amp; Janak, P. H. (2013). A causal link between prediction errors, dopamine neurons and learning. <em>Nature Neuroscience<\/em>, 16(7), 966\u2013973. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1038\/nn.3413\">https:\/\/doi.org\/10.1038\/nn.3413<\/a><\/li>\n<li>Sutton, R. S., &amp; Barto, A. G. (2018). <em>Reinforcement learning: An introduction<\/em> (2nd ed.). MIT Press.<\/li>\n<li>Wise, R. A. (1982). Neuroleptics and operant behavior: The anhedonia hypothesis. <em>Behavioral and Brain Sciences<\/em>, 5(1), 39\u201353. <a rel=\"noopener noreferrer\" href=\"https:\/\/doi.org\/10.1017\/S0140525X00010372\">https:\/\/doi.org\/10.1017\/S0140525X00010372<\/a><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Une analyse exhaustive de l&rsquo;exp\u00e9rience de Wolfram Schultz sur l&rsquo;erreur de pr\u00e9diction de la r\u00e9compense et le codage dopaminergique de l&rsquo;apprentissage.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","template":"","categories":[459,647],"tags":[5736,1377,6909,6411,6908],"class_list":["post-4931","psych_experiment","type-psych_experiment","status-publish","hentry","category-neurosciences","category-psychologie-cognitive","tag-apprentissage-par-renforcement","tag-dopamine","tag-erreur-de-prediction","tag-neurobiologie","tag-wolfram-schultz"],"_links":{"self":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_experiment\/4931","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_experiment"}],"about":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/types\/psych_experiment"}],"author":[{"embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4931"}],"version-history":[{"count":0,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_experiment\/4931\/revisions"}],"wp:attachment":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4931"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4931"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4931"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}