{"id":18267,"date":"2026-10-16T17:46:38","date_gmt":"2026-10-16T17:46:38","guid":{"rendered":"http:\/\/french.arabpsychology.com\/theorists\/yoshua-bengio-1964-a-nos-jours\/"},"modified":"2026-10-16T17:46:38","modified_gmt":"2026-10-16T17:46:38","slug":"yoshua-bengio-1964-a-nos-jours","status":"publish","type":"psych_theorist","link":"https:\/\/french.arabpsychology.com\/?psych_theorist=yoshua-bengio-1964-a-nos-jours","title":{"rendered":"Yoshua Bengio – 1964 \u00e0 nos jours"},"content":{"rendered":"

L\u2019histoire des sciences cognitives et du calcul computationnel retiendra le tournant du XXIe si\u00e8cle comme celui de la r\u00e9habilitation triomphale d\u2019une intuition fondamentale : celle que l\u2019intelligence, loin d\u2019\u00eatre une manipulation m\u00e9canique de symboles abstraits dict\u00e9e par des axiomes immuables, \u00e9merge de la plasticit\u00e9 dynamique, de l\u2019adaptation continue et de l\u2019interconnexion massive d\u2019unit\u00e9s \u00e9l\u00e9mentaires d\u2019apprentissage. Au c\u0153ur de cette r\u00e9volution \u00e9pist\u00e9mologique se dresse la figure de Yoshua Bengio<\/a>. N\u00e9 \u00e0 Paris en 1964 et \u00e9tabli au Qu\u00e9bec d\u00e8s son adolescence, Bengio s’est impos\u00e9 non seulement comme l’un des trois p\u00e8res fondateurs de l’apprentissage profond moderne \u2014 aux c\u00f4t\u00e9s de Geoffrey Hinton et de Yann LeCun \u2014, mais \u00e9galement comme la conscience philosophique et \u00e9thique d’un champ disciplinaire dont les implications bouleversent d\u00e9sormais les fondations de la civilisation contemporaine.<\/p>\n

Le parcours intellectuel de Yoshua Bengio ne saurait se r\u00e9duire \u00e0 une succession de perc\u00e9es algorithmiques spectaculaires. Il repr\u00e9sente avant tout une qu\u00eate unifi\u00e9e pour percer le myst\u00e8re de l’apprentissage, qu’il soit biologique ou synth\u00e9tique. D\u00e8s les ann\u00e9es d’isolement th\u00e9orique du \u00ab second hiver de l’intelligence artificielle \u00bb, alors que l’orthodoxie acad\u00e9mique vouait aux g\u00e9monies les architectures connexionnistes au profit d’approches logico-symboliques ou de m\u00e9thodes statistiques purement convexes, Bengio a maintenu avec une rigueur in\u00e9branlable la conviction que les r\u00e9seaux de neurones artificiels recelaient le secret de la d\u00e9couverte autonome de repr\u00e9sentations abstraites. De la r\u00e9solution du fl\u00e9au de la dimensionnalit\u00e9 par les repr\u00e9sentations distribu\u00e9es du langage \u00e0 l’\u00e9lucidation math\u00e9matique de la disparition du gradient temporel, ses contributions ont forg\u00e9 le socle th\u00e9orique sans lequel les mod\u00e8les g\u00e9n\u00e9ratifs et les grands mod\u00e8les de langage contemporains n’auraient jamais vu le jour.<\/p>\n

Pourtant, ce qui singularise irr\u00e9ductiblement Yoshua Bengio dans le paysage scientifique mondial est son refus obstin\u00e9 de dissocier la recherche fondamentale la plus d\u00e9sint\u00e9ress\u00e9e d’une responsabilit\u00e9 morale intransigeante. Fondateur de Mila<\/a> (l’Institut qu\u00e9b\u00e9cois d’intelligence artificielle), laur\u00e9at du prestigieux prix ACM A.M. Turing en 2018, il a d\u00e9lib\u00e9r\u00e9ment choisi de pr\u00e9server son ancrage universitaire, d\u00e9clinant les offres mirobolantes des conglom\u00e9rats technologiques pour sanctuariser un espace de recherche libre, transparent et vou\u00e9 au bien commun. Cet essai approfondi propose une travers\u00e9e exhaustive de sa vie, de ses d\u00e9couvertes s\u00e9minales, de ses dialogues permanents avec la psychologie cognitive et les neurosciences, jusqu’\u00e0 son engagement proph\u00e9tique face aux risques soci\u00e9taux et existentiels pos\u00e9s par l’\u00e9mergence d’une intelligence artificielle g\u00e9n\u00e9rale d\u00e9salign\u00e9e des valeurs d\u00e9mocratiques.<\/p>\n

1. Gen\u00e8se intellectuelle et fondements biographiques (1964-1991)<\/h2>\n

1.1 Origines familiales, formation initiale et influences pr\u00e9coces<\/h3>\n

Yoshua Bengio voit le jour \u00e0 Paris en 1964 au sein d\u2019une famille juive marocaine s\u00e9farade impr\u00e9gn\u00e9e d\u2019une effervescence intellectuelle, artistique et litt\u00e9raire singuli\u00e8re. Son p\u00e8re, Carlo Bengio, pharmacien et dramaturge, et sa m\u00e8re, C\u00e9lia Moreno, artiste et \u00e9crivaine, insufflent tr\u00e8s t\u00f4t dans le foyer familial le culte du doute m\u00e9thodique, de la sensibilit\u00e9 po\u00e9tique et du questionnement humaniste. Cette atmosph\u00e8re pluridisciplinaire forge chez le jeune gar\u00e7on une r\u00e9ceptivit\u00e9 inhabituelle aux questions fondamentales touchant \u00e0 la condition humaine et aux ressorts cach\u00e9s de la cr\u00e9ativit\u00e9. Alors que la famille effectue un s\u00e9jour formateur au Maroc avant d\u2019\u00e9migrer d\u00e9finitivement vers le Qu\u00e9bec en 1977, Yoshua traverse cette transition g\u00e9ographique et culturelle en trouvant un ancrage inalt\u00e9rable dans les sciences exactes.<\/p>\n

Durant son adolescence montr\u00e9alaise, son \u00e9veil scientifique s\u2019acc\u00e9l\u00e8re de mani\u00e8re fulgurante sous l’influence crois\u00e9e des math\u00e9matiques pures et de la physique fondamentale. \u00c9merveill\u00e9 par l’\u00e9l\u00e9gance pr\u00e9dictive des lois physiques et l’\u00e9conomie conceptuelle des th\u00e9or\u00e8mes math\u00e9matiques, Bengio est simultan\u00e9ment taraud\u00e9 par des interrogations d’ordre philosophique : comment un assemblage de mati\u00e8re inanim\u00e9e peut-il engendrer la conscience, le langage et la pens\u00e9e rationnelle ? Inspir\u00e9 par les pionniers de la cybern\u00e9tique<\/a> tels que Norbert Wiener, Warren McCulloch et Walter Pitts, il per\u00e7oit rapidement que la logique formelle binaire s’av\u00e8re trop rigide pour capturer la texture fluide, probabiliste et souvent ambigu\u00eb de la cognition humaine. L’id\u00e9al humaniste h\u00e9rit\u00e9 de ses parents, conjugu\u00e9 \u00e0 cette fascination pour l’\u00e9mergence des facult\u00e9s cognitives, fa\u00e7onne d\u00e8s cette \u00e9poque un imp\u00e9ratif \u00e9thique qui sous-tendra son engagement public quatre d\u00e9cennies plus tard : la technique ne doit jamais constituer une fin en soi, mais un instrument d’\u00e9mancipation intellectuelle subordonn\u00e9 au bien-\u00eatre de la collectivit\u00e9.<\/p>\n

1.2 Parcours acad\u00e9mique \u00e0 l’Universit\u00e9 McGill<\/h3>\n

C\u2019est tout naturellement que Yoshua Bengio s\u2019oriente vers l\u2019Universit\u00e9 McGill, institution phare o\u00f9 il entame des \u00e9tudes de premier cycle en g\u00e9nie \u00e9lectrique. Ce cursus hautement rigoureux lui permet d\u2019acqu\u00e9rir une ma\u00eetrise consomm\u00e9e de la th\u00e9orie des syst\u00e8mes dynamiques, du traitement du signal et de l’optimisation math\u00e9matique. N\u00e9anmoins, l’ing\u00e9nierie appliqu\u00e9e classique lui para\u00eet trop restrictive. Attir\u00e9 par les fondements computationnels de l\u2019esprit, il effectue une r\u00e9orientation m\u00e9thodologique vers l\u2019informatique th\u00e9orique au cours de sa ma\u00eetrise, s’immergeant dans les algorithmes et la th\u00e9orie de la complexit\u00e9.<\/p>\n

Sous la direction conjointe de Renato De Mori, Bengio entreprend des recherches doctorales audacieuses consacr\u00e9es \u00e0 la reconnaissance automatique de la parole. Sa th\u00e8se de doctorat, soutenue en 1991, r\u00e9alise une synth\u00e8se pionni\u00e8re entre les architectures connexionnistes et les mod\u00e8les de Markov cach\u00e9s (HMM). Alors que la communaut\u00e9 scientifique de l’\u00e9poque per\u00e7oit ces deux approches comme mutuellement exclusives, Bengio comprend que l’apprentissage statistique continu propre aux r\u00e9seaux neuronaux artificiels peut revivifier les structures probabilistes temporelles s\u00e9quentielles. Cette p\u00e9riode est le creuset d’une intuition directrice : la plasticit\u00e9 synaptique biologique, r\u00e9gie par des m\u00e9canismes d’adaptation distribu\u00e9e d\u00e9crits par Donald Hebb, offre le mod\u00e8le par excellence pour concevoir des algorithmes num\u00e9riques capables de g\u00e9n\u00e9raliser au-del\u00e0 des exemples m\u00e9moris\u00e9s. Sa th\u00e8se pose les jalons de l’optimisation diff\u00e9rentiable globale de syst\u00e8mes hybrides complexes, pr\u00e9figurant avec une acuit\u00e9 saisissante les architectures d’apprentissage de bout en bout (end-to-end learning<\/em>) qui domineront la discipline vingt-cinq ans plus tard.<\/p>\n

1.3 Stage postdoctoral au MIT et aux Bell Labs<\/h3>\n

Fort de ses travaux doctoraux, Yoshua Bengio quitte Montr\u00e9al pour accomplir un stage postdoctoral d\u2019une port\u00e9e d\u00e9cisive au sein du prestigieux Massachusetts Institute of Technology (MIT). Il y travaille sous le mentorat de Michael I. Jordan<\/a>, l’une des figures les plus \u00e9minentes des sciences cognitives computationnelles et de la statistique bay\u00e9sienne. Cette immersion au MIT \u00e9largit consid\u00e9rablement les horizons conceptuels de Bengio, l’exposant aux th\u00e9ories computationnelles de l’apprentissage moteur, \u00e0 la formalisation g\u00e9om\u00e9trique de l’inf\u00e9rence et aux d\u00e9bats passionn\u00e9s qui animent alors la psychologie cognitive quant \u00e0 la nature de la modularit\u00e9 c\u00e9r\u00e9brale.<\/p>\n

Par la suite, il rejoint les mythiques laboratoires Bell (AT&T Bell Laboratories) \u00e0 Holmdel, dans le New Jersey. Ce centre n\u00e9vralgique de l\u2019innovation technologique rassemble \u00e0 cette \u00e9poque un c\u00e9nacle exceptionnel de pionniers, au premier rang desquels figure Yann LeCun<\/a>. Au contact direct de LeCun, Bengio affine sa compr\u00e9hension des approches statistiques appliqu\u00e9es et des r\u00e9seaux convolutifs pour la reconnaissance visuelle de caract\u00e8res manuscrits. C’est \u00e9galement une p\u00e9riode de confrontation stimulante avec les sciences psychophysiques de la vision et les m\u00e9canismes empiriques de l’apprentissage statistique chez l’\u00eatre humain. Alors que la communaut\u00e9 de l’intelligence artificielle institutionnelle abandonne massivement le paradigme connexionniste pour se replier sur les syst\u00e8mes experts et les repr\u00e9sentations logico-symboliques rigides, Bengio, LeCun et quelques irr\u00e9ductibles scellent une alliance scientifique ind\u00e9fectible. Ils partagent l’intime certitude que l’apprentissage \u00e0 partir de donn\u00e9es brutes par optimisation diff\u00e9rentiable constitue la seule voie d’acc\u00e8s viable vers une intelligence artificielle g\u00e9n\u00e9rale robuste, flexible et capable de rivaliser avec la perception humaine.<\/p>\n

2. Les r\u00e9seaux de neurones artificiels et l’analogie connexionniste avec l’esprit humain<\/h2>\n

2.1 Persistance connexionniste durant le deuxi\u00e8me hiver de l’intelligence artificielle<\/h3>\n

Au d\u00e9but des ann\u00e9es 1990, l’intelligence artificielle traverse ce que les historiens des sciences d\u00e9signent sous le nom de \u00ab deuxi\u00e8me hiver de l’IA \u00bb. D\u00e9\u00e7ues par les promesses d\u00e9mesur\u00e9es des architectures neuromim\u00e9tiques primitives et \u00e9chaud\u00e9es par le manque de puissance de calcul et de donn\u00e9es massives, les agences de financement gouvernementales et les universit\u00e9s d\u00e9laissent brutalement les r\u00e9seaux neuronaux. Les d\u00e9partements d’informatique se polarisent autour d’approches statistiques rigoureusement convexes, telles que les machines \u00e0 vecteurs de support<\/a> (SVM) de Vladimir Vapnik, lou\u00e9es pour l’absence de minima locaux dans leurs surfaces d’erreur, au d\u00e9triment de l’expressivit\u00e9 hi\u00e9rarchique.<\/p>\n

Face \u00e0 ce rejet institutionnel massif, Yoshua Bengio fait preuve d\u2019une r\u00e9sistance \u00e9pist\u00e9mologique hors du commun. Rejoignant le corps professoral de l’Universit\u00e9 de Montr\u00e9al en 1993, il maintient le cap de la recherche connexionniste. Pour Bengio, la mod\u00e9lisation math\u00e9matique du neurone formel ne doit pas \u00eatre interpr\u00e9t\u00e9e comme une r\u00e9plique biophysique servile, mais bien comme une puissante abstraction computationnelle de l’activit\u00e9 du cortex c\u00e9r\u00e9bral. Il concentre ses efforts sur l’exploration m\u00e9thodique de la propagation de gradient et sur la g\u00e9om\u00e9trie complexe des espaces de param\u00e8tres de haute dimensionnalit\u00e9. Il d\u00e9montre que la non-convexit\u00e9 des r\u00e9seaux de neurones profonds n’est pas une tare r\u00e9dhibitoire, mais la signature math\u00e9matique indispensable \u00e0 l’apprentissage de repr\u00e9sentations hautement non lin\u00e9aires. En d\u00e9fendant l’analogie entre le parall\u00e9lisme computationnel massif des circuits synth\u00e9tiques et l’auto-organisation neuronale du cerveau biologique, Bengio jette les bases d’un paradigme alternatif qui finira par \u00e9clipser la dogmatique symbolique.<\/p>\n

2.2 Le probl\u00e8me de l’\u00e9vanescence du gradient dans les architectures r\u00e9currentes<\/h3>\n

En 1994, Bengio publie, en collaboration avec Patrice Simard et Paolo Frasconi, un article qui fera date dans l’histoire de l’apprentissage automatique : l’identification formelle et l’analyse th\u00e9orique du probl\u00e8me de la disparition et de l’explosion du gradient (vanishing and exploding gradient problem<\/em>) au sein des r\u00e9seaux de neurones r\u00e9currents (RNN). Dans cette \u00e9tude fondamentale, Bengio met en lumi\u00e8re une barri\u00e8re math\u00e9matique majeure : lors de l’apprentissage de s\u00e9quences temporelles par r\u00e9tropropagation \u00e0 travers le temps (BPTT), le signal d’erreur doit \u00eatre propag\u00e9 r\u00e9troactivement sur un nombre \u00e9lev\u00e9 de pas temporels.<\/p>\n

Cette r\u00e9tropropagation it\u00e9rative \u00e9quivaut \u00e0 multiplier de mani\u00e8re r\u00e9p\u00e9t\u00e9e le gradient par les matrices de poids de transition du r\u00e9seau r\u00e9current. Si les valeurs propres de ces matrices sont inf\u00e9rieures \u00e0 l’unit\u00e9, le gradient d\u00e9cro\u00eet exponentiellement vers z\u00e9ro, rendant impossible la mise \u00e0 jour des poids pour les \u00e9v\u00e9nements temporels recul\u00e9s ; \u00e0 l’inverse, si ces valeurs propres sont sup\u00e9rieures \u00e0 l’unit\u00e9, le signal explose num\u00e9riquement de mani\u00e8re instable. Bengio formalise ainsi math\u00e9matiquement le dilemme tragique des r\u00e9seaux r\u00e9currents : le compromis in\u00e9vitable entre la robustesse face au bruit et la capacit\u00e9 \u00e0 stocker des informations sur de longues dur\u00e9es. Cette d\u00e9couverte capitale \u00e9claire d’un jour nouveau les m\u00e9canismes de la m\u00e9moire de travail et de la m\u00e9moire \u00e0 long terme en sciences cognitives, offrant un parall\u00e8le math\u00e9matique rigoureux aux ph\u00e9nom\u00e8nes psychologiques d’amn\u00e9sie r\u00e9troactive, o\u00f9 la trace mn\u00e9sique des stimuli distants s’efface progressivement sous la pression informationnelle des stimuli imm\u00e9diats.<\/p>\n

2.3 \u00c9mergence de repr\u00e9sentations distribu\u00e9es de l’information<\/h3>\n

L\u2019un des piliers th\u00e9oriques les plus novateurs d\u00e9fendus par Yoshua Bengio r\u00e9side dans la formalisation rigoureuse de la sup\u00e9riorit\u00e9 des repr\u00e9sentations distribu\u00e9es<\/a> face aux codages locaux (ou repr\u00e9sentations \u00ab one-hot \u00bb). Dans un encodage local, chaque concept ou entit\u00e9 est assign\u00e9 \u00e0 une unit\u00e9 de traitement exclusive et discr\u00e8te, ce qui induit une explosion combinatoire d\u00e8s que la dimensionnalit\u00e9 du probl\u00e8me augmente. Bengio d\u00e9montre que dans une repr\u00e9sentation distribu\u00e9e, chaque concept est encod\u00e9 par un patron continu d\u2019activation r\u00e9parti sur une multitude d\u2019unit\u00e9s, et r\u00e9ciproquement, chaque unit\u00e9 participe \u00e0 la caract\u00e9risation d’une myriade de concepts distincts.<\/p>\n

Cette approche conf\u00e8re un avantage combinatoire colossal : avec un r\u00e9seau de N<\/em> neurones binaires, il devient th\u00e9oriquement envisageable de repr\u00e9senter 2N<\/em><\/sup> configurations conceptuelles uniques, procurant une compacit\u00e9 informationnelle exponentiellement sup\u00e9rieure \u00e0 celle des architectures locales. Bengio souligne les isomorphismes frappants qui lient cette structure computationnelle aux patrons d’activation de la m\u00e9moire associative humaine. Les repr\u00e9sentations distribu\u00e9es permettent une g\u00e9n\u00e9ralisation automatique et fluide : deux concepts partageant des propri\u00e9t\u00e9s s\u00e9mantiques ou physiques occupent des r\u00e9gions adjacentes au sein de l’espace vectoriel d’activation latent. Cette propri\u00e9t\u00e9 fondamentale conf\u00e8re au syst\u00e8me une robustesse cognitive exceptionnelle face aux distorsions du signal d’entr\u00e9e et au bruit contextuel, \u00e9mulant la capacit\u00e9 de l’esprit humain \u00e0 identifier un objet familier m\u00eame lorsque celui-ci se pr\u00e9sente sous un angle in\u00e9dit ou dans des conditions perceptuelles d\u00e9grad\u00e9es.<\/p>\n

3. Les mod\u00e8les de langage probabilistes et la psychologie du traitement s\u00e9mantique<\/h2>\n

3.1 La rupture paradigmatique du mod\u00e8le de langage neuronal de 2003<\/h3>\n

Au tournant du mill\u00e9naire, le traitement automatique du langage naturel (NLP) se trouve enlis\u00e9 dans l\u2019orni\u00e8re des mod\u00e8les statistiques dits n-grammes. Ces derniers reposent sur le d\u00e9nombrement empirique de cooccurrences lexicales de surface : la probabilit\u00e9 qu’un mot succ\u00e8de \u00e0 une cha\u00eene textuelle donn\u00e9e est estim\u00e9e \u00e0 partir de la fr\u00e9quence historique exacte de cette s\u00e9quence dans un corpus textuel d’entra\u00eenement. En 2003, Yoshua Bengio, aux c\u00f4t\u00e9s de R\u00e9jean Ducharme, Pascal Vincent et Christian Jauvin, brise ce consensus \u00e9triqu\u00e9 dans un article matriciel : \u00ab A Neural Probabilistic Language Model \u00bb<\/em>.<\/p>\n

Bengio propose une rupture paradigmatique int\u00e9grale en mod\u00e9lisant la fonction de probabilit\u00e9 conjointe du discours textuel au moyen d’un r\u00e9seau de neurones artificiels continu. Au lieu de consid\u00e9rer les mots comme des symboles discrets arbitraires d\u00e9pourvus de toute g\u00e9om\u00e9trie intrins\u00e8que, le mod\u00e8le associe \u00e0 chaque \u00e9l\u00e9ment du lexique un vecteur de nombres r\u00e9els plong\u00e9 dans un espace latent de dimensionnalit\u00e9 mod\u00e9r\u00e9e. Un r\u00e9seau de neurones traite simultan\u00e9ment ces repr\u00e9sentations vectorielles pour pr\u00e9dire la distribution de probabilit\u00e9 du mot suivant par le truchement de la fonction d’activation Softmax<\/a>. Cette formulation math\u00e9matique r\u00e9volutionnaire terrasse le fl\u00e9au de la dimensionnalit\u00e9 s\u00e9mantique : le mod\u00e8le devient capable d’attribuer une probabilit\u00e9 plausible et sens\u00e9e \u00e0 une phrase qu’il n’a pourtant jamais rencontr\u00e9e durant son apprentissage, pourvu que les mots constitutifs partagent une proximit\u00e9 vectorielle avec d’autres s\u00e9quences observ\u00e9es. C’est l’acte de naissance officiel du traitement s\u00e9mantique neuronal moderne.<\/p>\n

3.2 Plongements lexicaux et structuration g\u00e9om\u00e9trique du sens<\/h3>\n

L\u2019av\u00e8nement des plongements lexicaux (word embeddings<\/em>) initi\u00e9 par Bengio transforme radicalement la linguistique computationnelle en op\u00e9rant une spatialisation g\u00e9om\u00e9trique du sens. D\u00e8s lors que le langage est traduit au sein d’une vari\u00e9t\u00e9 diff\u00e9rentiable continue, la distance euclidienne ou la similarit\u00e9 cosinus entre deux vecteurs devient le corr\u00e9lat math\u00e9matique exact de la parent\u00e9 s\u00e9mantique. Les concepts de \u00ab f\u00e9lin \u00bb, \u00ab chat \u00bb et \u00ab panth\u00e8re \u00bb cessent d’\u00eatre des cha\u00eenes de caract\u00e8res orthogonales pour devenir des points regroup\u00e9s dans un m\u00eame voisinage topologique.<\/p>\n

Cette g\u00e9om\u00e9trisation du lexique r\u00e9sonne profond\u00e9ment avec les th\u00e9ories psychologiques de la m\u00e9moire s\u00e9mantique et de la cat\u00e9gorisation conceptuelle d\u00e9velopp\u00e9es par Eleanor Rosch et les th\u00e9oriciens du prototype. Bengio d\u00e9montre que l’apprentissage statistique optimise ces espaces de fa\u00e7on \u00e0 capturer implicitement des r\u00e9gularit\u00e9s sous-jacentes d’une subtilit\u00e9 inou\u00efe : polys\u00e9mie, analogies relationnelles structurales (le fameux isomorphisme g\u00e9om\u00e9trique o\u00f9 le vecteur liant \u00ab roi \u00bb \u00e0 \u00ab reine \u00bb est quasi identique \u00e0 celui unissant \u00ab homme \u00bb \u00e0 \u00ab femme \u00bb) et hi\u00e9rarchies taxonomiques. En cartographiant le sens sur une topologie vectorielle diff\u00e9rentiable, Bengio apporte la preuve empirique que la conceptualisation humaine ne d\u00e9coule pas n\u00e9cessairement de tables de v\u00e9rit\u00e9 logiques strictes, mais s’apparente plut\u00f4t \u00e0 une navigation fluide au sein d’un continuum g\u00e9om\u00e9trique fa\u00e7onn\u00e9 par l’usage et l’exp\u00e9rience communicative.<\/p>\n

3.3 Compr\u00e9hension du langage et inf\u00e9rence probabiliste<\/h3>\n

En reformulant le traitement du langage naturel sous la forme d’une t\u00e2che d’anticipation probabiliste s\u00e9quentielle, les mod\u00e8les inaugur\u00e9s par Yoshua Bengio mat\u00e9rialisent une convergence saisissante avec les d\u00e9couvertes les plus avanc\u00e9es des neurosciences cognitives, en particulier la th\u00e9orie du codage pr\u00e9dictif<\/a> formalis\u00e9e par Karl Friston. Selon cette approche, le cerveau humain agit en tant que machine d’inf\u00e9rence bay\u00e9sienne active dont l’objectif constant est de minimiser l’erreur de pr\u00e9diction entre ses mod\u00e8les internes g\u00e9n\u00e9ratifs et le flux sensoriel descendant.<\/p>\n

Le r\u00e9seau de neurones probabiliste de Bengio apprend la structure latente de la langue en s’effor\u00e7ant continuellement de deviner le mot \u00e0 venir, internalisant par ricochet la grammaire, la syntaxe, la s\u00e9mantique et les subtilit\u00e9s pragmatiques les plus insaisissables. Face aux ambigu\u00eft\u00e9s lexicales inh\u00e9rentes au discours humain \u2014 o\u00f9 un m\u00eame terme change radicalement de signification selon son environnement textuel \u2014, le syst\u00e8me ne s’appuie pas sur des r\u00e8gles de d\u00e9sambigu\u00efsation disjonctives pr\u00e9programm\u00e9es ; il ajuste dynamiquement la trajectoire de son \u00e9tat interne au gr\u00e9 des indices probabilistes contextuels. La s\u00e9mantique distributive trouve ici son apog\u00e9e computationnelle, confirmant l’intuition pr\u00e9monitoire du linguiste John Rupert Firth : \u00ab Vous conna\u00eetrez un mot par les fr\u00e9quentations qu’il entretient \u00bb.<\/p>\n

4. L’apprentissage profond comme \u00e9mulation de la hi\u00e9rarchie perceptive cognitive<\/h2>\n

4.1 La red\u00e9couverte de la profondeur architecturale (2006-2012)<\/h3>\n

L\u2019ann\u00e9e 2006 marque un tournant historique dans l\u2019\u00e9volution de l\u2019intelligence artificielle : la renaissance officielle du connexionnisme sous l’appellation d\u2019\u00ab apprentissage profond \u00bb (Deep Learning<\/em>). Cette r\u00e9surrection est orchestr\u00e9e par une alliance intellectuelle informelle mais d\u00e9cisive entre Yoshua Bengio, Geoffrey Hinton<\/a> et Yann LeCun, soutenue financi\u00e8rement par le programme pr\u00e9curseur de l’Institut canadien de recherches avanc\u00e9es (ICRA). Le d\u00e9fi th\u00e9orique central r\u00e9sidait dans l’incapacit\u00e9 historique \u00e0 entra\u00eener des r\u00e9seaux comportant plus de deux ou trois couches cach\u00e9es non lin\u00e9aires, la r\u00e9tropropagation pure s’enlisant syst\u00e9matiquement dans de pi\u00e8tres \u00e9quilibres locaux en raison de gradients an\u00e9mi\u00e9s.<\/p>\n

Bengio et ses collaborateurs r\u00e9solvent ce verrou m\u00e9thodologique en proposant l’entra\u00eenement non supervis\u00e9 couche par couche d’auto-encodeurs empil\u00e9s (Stacked Denoising Autoencoders<\/em>) et de machines de Boltzmann restreintes. En initialisant le r\u00e9seau au moyen de repr\u00e9sentations statistiques apprises sans supervision pr\u00e9alable, les couches profondes acqui\u00e8rent la capacit\u00e9 de capturer la distribution intrins\u00e8que des donn\u00e9es avant toute phase d’ajustement supervis\u00e9. Bengio d\u00e9montre alors th\u00e9oriquement et empiriquement la sup\u00e9riorit\u00e9 computationnelle irr\u00e9versible des architectures profondes par rapport aux mod\u00e8les peu profonds (tels que les SVM ou les r\u00e9seaux \u00e0 une seule couche cach\u00e9e) : les circuits profonds peuvent repr\u00e9senter des fonctions hautement non lin\u00e9aires complexes avec un nombre exponentiellement inf\u00e9rieur d’unit\u00e9s de calcul, s’inspirant explicitement de l’agencement hi\u00e9rarchique \u00e9tag\u00e9 du cortex c\u00e9r\u00e9bral des mammif\u00e8res.<\/p>\n

4.2 Abstraction progressive et invariant perceptuel<\/h3>\n

L’exploration approfondie men\u00e9e par Yoshua Bengio sur les repr\u00e9sentations hi\u00e9rarchiques d\u00e9voile le m\u00e9canisme intime par lequel un r\u00e9seau de neurones profond transmute des signaux sensoriels bruts et chaotiques en concepts s\u00e9mantiques universels. Dans le domaine de la vision artificielle, les couches initiales du r\u00e9seau apprennent des filtres d\u00e9tecteurs de contrastes \u00e9l\u00e9mentaires, de contours orient\u00e9s et de textures locales (analogue strict aux champs r\u00e9cepteurs des neurones de l’aire visuelle primaire V1 d\u00e9crite par Hubel et Wiesel). Au fur et \u00e0 mesure que l’information progresse \u00e0 travers les strates interm\u00e9diaires, ces repr\u00e9sentations fusionnent pour former des motifs g\u00e9om\u00e9triques, des fragments d’objets, puis des entit\u00e9s perceptuelles int\u00e9grales dot\u00e9es de coh\u00e9rence globale.<\/p>\n

Cette stratification conceptuelle aboutit \u00e0 l’\u00e9mergence d’invariants perceptuels<\/a> : la capacit\u00e9 fondamentale pour un agent intelligent de reconna\u00eetre l’essence d’un objet en d\u00e9pit de modifications radicales d’illumination, de translation, de rotation ou d’occlusion partielle. Bengio explicite le parall\u00e8le rigoureux qui lie cette dynamique computationnelle aux voies ventrales (la voie du \u00ab quoi \u00bb) et dorsales (la voie du \u00ab o\u00f9 \u00bb) du traitement visuel cortical chez l’humain. Les repr\u00e9sentations internes profondes s’\u00e9mancipent des contingences spatiales locales pour isoler les facteurs fondamentaux de variation du monde, validant par la formalisation math\u00e9matique les postulats de la psychologie de la forme (Gestalt<\/em>) selon lesquels la perception humaine appr\u00e9hende des totalit\u00e9s organis\u00e9es avant de diss\u00e9quer des parties d\u00e9contextualis\u00e9es.<\/p>\n

4.3 L’apprentissage non supervis\u00e9 et l’apprentissage autosupervis\u00e9<\/h3>\n

Malgr\u00e9 l’avalanche de succ\u00e8s spectaculaires obtenus par l’apprentissage supervis\u00e9 au d\u00e9but de la d\u00e9cennie 2010 \u2014 symbolis\u00e9e par le triomphe de la vision par ordinateur sur la base de donn\u00e9es ImageNet \u2014, Yoshua Bengio se montre d’une lucidit\u00e9 critique implacable. Il ne cesse d’affirmer que l’apprentissage supervis\u00e9, assujetti \u00e0 la fourniture laborieuse de millions de donn\u00e9es m\u00e9ticuleusement annot\u00e9es par des mains humaines, constitue une impasse \u00e9cologique et d\u00e9veloppementale pour quiconque pr\u00e9tend mod\u00e9liser une intelligence v\u00e9ritable.<\/p>\n

Bengio puise son argumentation dans l’observation du jeune enfant : un nouveau-n\u00e9 n’apprend pas la physique intuitive du monde, la persistance des objets ou la gravit\u00e9 en ing\u00e9rant des milliards de photographies index\u00e9es par des m\u00e9tadonn\u00e9es textuelles. L’apprentissage naturel est majoritairement non supervis\u00e9 et autosupervis\u00e9 ; il proc\u00e8de par l’observation continue, la d\u00e9tection des r\u00e9gularit\u00e9s statistiques environnementales et la tentative permanente de pr\u00e9dire les lacunes de l’information sensorielle. Bengio th\u00e9orise l’apprentissage autosupervis\u00e9 comme le socle indispensable de l’autonomie cognitive : en masquant d\u00e9lib\u00e9r\u00e9ment une fraction du signal d’entr\u00e9e (temporel, visuel ou textuel) et en contraignant le mod\u00e8le \u00e0 reconstruire les dimensions oblit\u00e9r\u00e9es, l’agent artificiel int\u00e9riorise les lois causales et les corr\u00e9lations profondes de son environnement sans le moindre secours didactique externe, b\u00e2tissant ainsi un \u00e9chafaudage cognitif robuste capable d’adaptation autonome.<\/p>\n

5. Les m\u00e9canismes d’attention et les architectures g\u00e9n\u00e9ratives : Reflet de la focalisation humaine<\/h2>\n

5.1 L’invention du m\u00e9canisme d’attention souple (Soft Attention) en 2014<\/h3>\n

L\u2019ann\u00e9e 2014 consacre l\u2019un des accomplissements algorithmiques les plus universellement employ\u00e9s de Yoshua Bengio. Confront\u00e9 aux limitations persistantes des architectures r\u00e9currentes s\u00e9quence-\u00e0-s\u00e9quence (sequence-to-sequence<\/em>) dans les t\u00e2ches de traduction automatique, Bengio, en collaboration \u00e9troite avec son chercheur postdoctoral Dzmitry Bahdanau<\/a> et Kyunghyun Cho, publie un papier r\u00e9volutionnaire introduisant le m\u00e9canisme d’attention diff\u00e9rentiable souple (Soft Attention<\/em>).<\/p>\n

Jusqu’\u00e0 cette d\u00e9couverte, les architectures de traduction souffraient d’un goulet d’\u00e9tranglement conceptuel d\u00e9vastateur : le r\u00e9seau encodeur devait imp\u00e9rativement compresser l’int\u00e9gralit\u00e9 du contenu s\u00e9mantique d’une phrase source \u2014 quelle que soit sa longueur ou sa complexit\u00e9 syntaxique \u2014 au sein d’un unique vecteur de taille fixe, avant que le d\u00e9codeur ne tente d’en r\u00e9g\u00e9n\u00e9rer la version cible. Bengio et son \u00e9quipe brisent cette camisole informationnelle en introduisant une fonction d’alignement dynamique diff\u00e9rentiable. \u00c0 chaque pas de g\u00e9n\u00e9ration d’un mot nouveau, le mod\u00e8le attribue une pond\u00e9ration d’importance relative (calcul\u00e9e par un score d’attention softmax) aux diff\u00e9rents fragments de la s\u00e9quence source. Cette innovation math\u00e9matique s’inspire directement des m\u00e9canismes psychologiques de l’attention s\u00e9lective<\/a> humaine : confront\u00e9 \u00e0 une surabondance de stimuli environnementaux, l’esprit conscient n’essaie pas de traiter indistinctement l’enti\u00e8ret\u00e9 du champ perceptuel, mais dirige un faisceau attentionnel mobile et adaptatif vers les composantes informatives saillantes requises pour l’action ou l’interpr\u00e9tation imm\u00e9diate.<\/p>\n

5.2 Gestation conceptuelle des architectures Transformer<\/h3>\n

L\u2019invention de l’attention souple par Yoshua Bengio en 2014 constitue la perc\u00e9e th\u00e9orique sans laquelle l\u2019av\u00e8nement des architectures Transformer<\/em> \u2014 formalis\u00e9es par les chercheurs de Google en 2017 dans l\u2019article \u00ab Attention Is All You Need \u00bb<\/em> \u2014 aurait \u00e9t\u00e9 conceptuellement impossible. En d\u00e9montrant que le calcul diff\u00e9rentiable de matrices d’alignement dynamique surpasse avantageusement le traitement r\u00e9current classique, les travaux de Bengio ouvrent la voie \u00e0 l’abandon pur et simple des cellules s\u00e9quentielles (LSTM, GRU) au profit d’un traitement auto-attentionnel massivement parall\u00e9lisable sur les infrastructures de calcul moderne.<\/p>\n

Cette mutation d’\u00e9chelle engendre les mod\u00e8les de fondation qui gouvernent aujourd’hui l’intelligence artificielle, des grands mod\u00e8les linguistiques aux syst\u00e8mes multimodaux. Bengio analyse cette transition avec une grande rigueur cognitive : le m\u00e9canisme d’auto-attention conf\u00e8re aux r\u00e9seaux une flexibilit\u00e9 contextuelle illimit\u00e9e, permettant \u00e0 chaque mot ou fragment d’image d’interroger instantan\u00e9ment l’ensemble des autres constituants de la sc\u00e8ne sans d\u00e9gradation temporelle. Sur le plan de la mod\u00e9lisation cognitive, cette avanc\u00e9e red\u00e9finit la m\u00e9moire de travail computationnelle : celle-ci n’est plus envisag\u00e9e comme un simple accumulateur r\u00e9current d\u00e9grad\u00e9 par le passage du temps, mais comme un espace de r\u00e9sonance dynamique \u00e0 large bande passante o\u00f9 l’information pertinente est r\u00e9cup\u00e9r\u00e9e sur-le-champ selon sa r\u00e9sonance contextuelle directe.<\/p>\n

5.3 R\u00e9seaux antagonistes g\u00e9n\u00e9ratifs (GANs) et cr\u00e9ativit\u00e9 computationnelle<\/h3>\n

Dans cette m\u00eame p\u00e9riode de bouillonnement cr\u00e9atif, Yoshua Bengio supervise et co-signe en 2014 avec son \u00e9tudiant au doctorat Ian Goodfellow<\/a> la th\u00e9orie des R\u00e9seaux Antagonistes G\u00e9n\u00e9ratifs (GANs<\/a>, pour Generative Adversarial Networks<\/em>). Consid\u00e9r\u00e9e par Yann LeCun comme \u00ab l’id\u00e9e la plus int\u00e9ressante de ces dix derni\u00e8res ann\u00e9es en apprentissage automatique \u00bb, cette architecture conceptualise l’acte g\u00e9n\u00e9ratif non plus comme une optimisation passive de vraisemblance statistique, mais comme un jeu \u00e0 somme nulle issu de la th\u00e9orie des jeux.<\/p>\n

Deux r\u00e9seaux de neurones s’affrontent dans une dynamique dialectique permanente : le G\u00e9n\u00e9rateur s’efforce de synth\u00e9tiser des leurres perceptuels indiscernables des donn\u00e9es r\u00e9elles, tandis que le Discriminateur tente impitoyablement de d\u00e9masquer les contrefa\u00e7ons g\u00e9n\u00e9r\u00e9es. Cette confrontation dynamique force le g\u00e9n\u00e9rateur \u00e0 capturer la vari\u00e9t\u00e9 g\u00e9om\u00e9trique intime des donn\u00e9es du monde avec une nettet\u00e9 jusque-l\u00e0 impensable, \u00e9liminant le flou caract\u00e9ristique des auto-encodeurs variationnels. Bengio voit dans les GANs une simulation computationnelle fascinante de l’imagination humaine et de la cr\u00e9ativit\u00e9 divergente et convergente. L’acte cr\u00e9atif, en psychologie de l’art et de l’invention, ne proc\u00e8de pas d’une g\u00e9n\u00e9ration al\u00e9atoire sans contrainte, mais d’une tension dialectique permanente entre une pulsion exploratoire divergente et un censeur critique interne rigoureux capable d’\u00e9valuer la pertinence esth\u00e9tique ou logique de la cr\u00e9ation \u00e9mergente.<\/p>\n

6. La fondation de Mila et la cr\u00e9ation d’un \u00e9cosyst\u00e8me de recherche interdisciplinaire<\/h2>\n

6.1 Naissance et expansion de l’Institut qu\u00e9b\u00e9cois d’intelligence artificielle<\/h3>\n

L\u2019engagement de Yoshua Bengio ne saurait \u00eatre dissoci\u00e9 de son \u0153uvre b\u00e2tisseuse institutionnelle. Conscient que la recherche de pointe en apprentissage automatique risquait de se retrouver monopolis\u00e9e par les g\u00e9ants de la Silicon Valley, Bengio entreprend de transformer son modeste laboratoire acad\u00e9mique de l’Universit\u00e9 de Montr\u00e9al en un institut international d’envergure titanesque : Mila<\/a> (Institut qu\u00e9b\u00e9cois d’intelligence artificielle). Fond\u00e9 officiellement avec le soutien des gouvernements qu\u00e9b\u00e9cois et canadien et regroupant des chercheurs de l’Universit\u00e9 de Montr\u00e9al et de l’Universit\u00e9 McGill, Mila s’\u00e9rige rapidement en \u00e9picentre mondial de l’apprentissage profond.<\/p>\n

Face aux ponts d\u2019or \u00e9rig\u00e9s par les multinationales du num\u00e9rique pour siphonner les cerveaux acad\u00e9miques, Bengio d\u00e9ploie une strat\u00e9gie in\u00e9dite de r\u00e9tention des talents : cr\u00e9er un environnement universitaire dot\u00e9 de moyens technologiques comp\u00e9titifs tout en garantissant une totale libert\u00e9 acad\u00e9mique, l\u2019ouverture absolue des codes sources et le refus d’ali\u00e9ner la propri\u00e9t\u00e9 intellectuelle \u00e0 des int\u00e9r\u00eats commerciaux exclusifs. Gr\u00e2ce \u00e0 cette vision sanctifiant la science reproductible et collaborative, Montr\u00e9al s’impose au cours de la d\u00e9cennie 2010 comme la capitale intellectuelle du Deep Learning, attirant des milliers d’\u00e9tudiants, de chercheurs postdoctoraux et de scientifiques \u00e9m\u00e9rites du monde entier, tous d\u00e9sireux de participer \u00e0 cette aventure scientifique dans un cadre d’ind\u00e9pendance intellectuelle pr\u00e9serv\u00e9e.<\/p>\n

6.2 L’environnement acad\u00e9mique comme espace de stimulation psychologique et intellectuelle<\/h3>\n

Au sein de Mila, Yoshua Bengio impl\u00e9mente une philosophie manag\u00e9riale et p\u00e9dagogique en rupture totale avec les hi\u00e9rarchies acad\u00e9miques pyramidales traditionnelles. Il instaure une culture d’horizontalit\u00e9 radicale, encourageant la prise de risque th\u00e9orique la plus audacieuse et d\u00e9culpabilisant l’\u00e9chec empirique, per\u00e7u comme une \u00e9tape dialectique incontournable de la d\u00e9couverte scientifique. L’institut devient un espace de stimulation psychologique et interdisciplinaire unique, o\u00f9 les informaticiens c\u00f4toient quotidiennement des math\u00e9maticiens, des neuroscientifiques, des linguistes, des sociologues et des \u00e9thiciens.<\/p>\n

Bengio incarne une p\u00e9dagogie socratique de la recherche : lors des s\u00e9minaires collectifs, il \u00e9coute avec une humilit\u00e9 scrupuleuse les intuitions des nouveaux arrivants, incitant ses \u00e9tudiants \u00e0 d\u00e9construire les \u00e9vidences m\u00e9thodologiques admises et \u00e0 poursuivre des hypoth\u00e8ses fond\u00e9es sur la curiosit\u00e9 intellectuelle d\u00e9sint\u00e9ress\u00e9e plut\u00f4t que sur la maximisation de citations bibliom\u00e9triques \u00e0 court terme. Cette \u00e9thique du mentorat a fa\u00e7onn\u00e9 une g\u00e9n\u00e9ration enti\u00e8re de chercheurs de premier plan qui dirigent aujourd’hui les plus \u00e9minents laboratoires acad\u00e9miques et industriels mondiaux, perp\u00e9tuant \u00e0 travers la plan\u00e8te une approche de la science informatique indissociable de l’humanisme et de la rigueur conceptuelle.<\/p>\n

6.3 Cons\u00e9cration internationale et Prix Turing 2018<\/h3>\n

L\u2019ann\u00e9e 2018 consacre l\u2019apog\u00e9e institutionnelle et la reconnaissance universelle du parcours scientifique de Yoshua Bengio. L\u2019Association for Computing Machinery<\/em> (ACM) lui d\u00e9cerne, conjointement avec Geoffrey Hinton et Yann LeCun, le prestigieux Prix ACM A.M. Turing<\/a>, universellement consid\u00e9r\u00e9 comme l’\u00e9quivalent du \u00ab Prix Nobel d’informatique \u00bb. Cette r\u00e9compense historique vient sanctifier trois d\u00e9cennies d’obstination th\u00e9orique, validant le triomphe du paradigme connexionniste qui avait si longtemps \u00e9t\u00e9 vou\u00e9 \u00e0 l’opprobre acad\u00e9mique.<\/p>\n

Sur le plan psychologique et sociologique, l’attribution du Prix Turing aux \u00ab trois parrains de l’IA \u00bb op\u00e8re une l\u00e9gitimation symbolique retentissante d’un domaine de recherche autrefois marginal. Pour Yoshua Bengio, cette cons\u00e9cration ne constitue nullement une fin en soi ou une invitation au confort laudateur. Il appr\u00e9hende imm\u00e9diatement cette visibilit\u00e9 plan\u00e9taire comme une tribune morale d’une responsabilit\u00e9 \u00e9crasante. Lors de son discours de r\u00e9ception et de ses multiples interventions publiques subs\u00e9quentes, il refuse les d\u00e9rives triomphalistes du complexe technico-industriel. Bengio met solennellement en garde la communaut\u00e9 scientifique internationale contre les d\u00e9rives commerciales pr\u00e9datrices, les risques d’instrumentalisation militaire des algorithmes et les p\u00e9rils d\u00e9mocratiques d’une technologie d\u00e9ploy\u00e9e sans cadres \u00e9thiques r\u00e9gulateurs stricts, utilisant son aura pour promouvoir la neutralit\u00e9 technologique et l’imp\u00e9ratif de justice sociale.<\/p>\n

7. La th\u00e9orie de l’apprentissage machine et l’inf\u00e9rence causale : Vers la compr\u00e9hension cognitive<\/h2>\n

7.1 Au-del\u00e0 des simples corr\u00e9lations statistiques<\/h3>\n

D\u00e8s la fin des ann\u00e9es 2010, alors que l\u2019industrie technologique s\u2019extasie devant la puissance pr\u00e9dictive brute des r\u00e9seaux de neurones profonds aliment\u00e9s par des t\u00e9raoctets de donn\u00e9es, Yoshua Bengio se d\u00e9marque par une critique \u00e9pist\u00e9mologique intransigeante de ses propres cr\u00e9ations. Il expose sans concession les faiblesses structurelles du connexionnisme pur : l\u2019apprentissage profond contemporain demeure un imitateur de surface, un compresseur d’invariants statistiques remarquablement dou\u00e9 mais fondamentalement aveugle aux r\u00e9alit\u00e9s ontologiques sous-jacentes.<\/p>\n

Bengio d\u00e9montre que les mod\u00e8les standards reposent sur l’hypoth\u00e8se canonique selon laquelle les donn\u00e9es d’entra\u00eenement et les donn\u00e9es de test sont ind\u00e9pendantes et identiquement distribu\u00e9es (l’hypoth\u00e8se dite IID). Or, dans le monde r\u00e9el, cette stabilit\u00e9 est une illusion : l’environnement physique et social est travers\u00e9 par des ruptures contextuelles continues, des chocs exog\u00e8nes et des changements de distribution (distribution shifts<\/em>). Les r\u00e9seaux profonds, en se contentant de capturer de simples corr\u00e9lations statistiques fallacieuses (spurious correlations<\/em>), s’effondrent de mani\u00e8re spectaculaire d\u00e8s lors que leur domaine d’application s’\u00e9carte de la distribution historique d’apprentissage. Bengio affirme avec force que l’intelligence v\u00e9ritable requiert d’aller au-del\u00e0 de la reconnaissance de motifs : un agent artificiel digne de ce nom doit \u00eatre en mesure de dissocier les corr\u00e9lations \u00e9ph\u00e9m\u00e8res des relations immuables de cause \u00e0 effet, ouvrant ainsi le chantier th\u00e9orique de l’apprentissage de repr\u00e9sentations modulaires invariantes.<\/p>\n

7.2 Int\u00e9gration de la causalit\u00e9 selon Judea Pearl dans le Deep Learning<\/h3>\n

Pour d\u00e9passer les apories du corr\u00e9lationnisme aveugle, Yoshua Bengio op\u00e8re une convergence intellectuelle audacieuse avec les travaux de Judea Pearl<\/a> sur l’inf\u00e9rence causale et les mod\u00e8les graphiques probabilistes structurels. Bengio cherche \u00e0 int\u00e9grer le formalisme du \u00ab do-calculus \u00bb et des interventions contrefactuelles au c\u0153ur m\u00eame des architectures neuronales diff\u00e9rentiables. Il s’agit de permettre au r\u00e9seau d’apprendre non seulement la distribution conjointe conditionnelle P(Y|X)<\/em>, mais la distribution interventionnelle P(Y|do(X))<\/em>, qui capture la mani\u00e8re dont le syst\u00e8me r\u00e9agit lorsqu’une variable est activement modifi\u00e9e par un agent ext\u00e9rieur.<\/p>\n

Cette hybridation th\u00e9orique conduit \u00e0 la formalisation computationnelle de la simulation d’hypoth\u00e8ses au sein d’espaces latents causaux : le syst\u00e8me apprend \u00e0 imaginer des sc\u00e9narios contrefactuels (\u00ab Qu’arriverait-il si j’agissais diff\u00e9remment ? \u00bb), ce qui constitue la pierre angulaire de l’exp\u00e9rimentation active et de la curiosit\u00e9 \u00e9pist\u00e9mique. Bengio tisse ici un lien direct et explicite avec les stades du d\u00e9veloppement cognitif chez l’enfant th\u00e9oris\u00e9s par Jean Piaget<\/a>. L’enfant ne comprend pas la notion de causalit\u00e9 par la simple contemplation passive d’un flux d’images t\u00e9l\u00e9vis\u00e9es, mais en saisissant, jetant, brisant et manipulant physiquement des objets dans son berceau. Bengio transpose cette intuition piag\u00e9tienne dans l’intelligence artificielle : l’apprentissage causal autonome n’\u00e9mergera que chez des agents interactifs capables d’interroger activement leur environnement pour en r\u00e9v\u00e9ler les m\u00e9canismes causaux invisibles.<\/p>\n

7.3 Biais inductifs et adaptation rapide hors distribution<\/h3>\n

L\u2019apprentissage de mod\u00e8les causaux structurels repose sur l\u2019introduction de biais inductifs<\/a> appropri\u00e9s au sein des architectures neuronales. Yoshua Bengio conceptualise les biais inductifs non comme des entraves restrictives \u00e0 la libert\u00e9 d’apprentissage, mais comme les conditions d’intelligibilit\u00e9 indispensables qui permettent \u00e0 un mod\u00e8le d’accomplir une g\u00e9n\u00e9ralisation syst\u00e9matique hors distribution (Out-of-Distribution Generalization<\/em>). Sans hypoth\u00e8ses architecturales pr\u00e9alables sur la structure du monde, le probl\u00e8me de l’apprentissage demeure fondamentalement sous-d\u00e9termin\u00e9 et math\u00e9matiquement insoluble face \u00e0 des contextes impr\u00e9vus.<\/p>\n

Parmi ces biais inductifs capitaux, Bengio th\u00e9orise l\u2019\u00ab hypoth\u00e8se des m\u00e9canismes causaux ind\u00e9pendants \u00bb : les lois r\u00e9gissant le monde physique sont compos\u00e9es de modules fonctionnels autonomes et parcimonieux qui op\u00e8rent de mani\u00e8re d\u00e9corr\u00e9l\u00e9e. Lorsqu’un changement contextuel survient dans l’environnement, seule une fraction infime de ces modules causaux se trouve alt\u00e9r\u00e9e, la majorit\u00e9 des lois sous-jacentes demeurant inchang\u00e9es. En int\u00e9grant cette modularit\u00e9 au sein de r\u00e9seaux de neurones profonds dynamiquement reconfigurables, Bengio d\u00e9montre qu’un agent peut r\u00e9adapter ses capacit\u00e9s pr\u00e9dictives \u00e0 un univers nouveau \u00e0 la suite de quelques observations seulement. Cette invariance causale constitue le principe directeur de la robustesse algorithmique, r\u00e9pliquant la r\u00e9silience cognitive exceptionnelle du cerveau biologique face aux perturbations impr\u00e9visibles de son biotope.<\/p>\n

8. Le syst\u00e8me 1 et le syst\u00e8me 2 : L’int\u00e9gration des th\u00e9ories de Daniel Kahneman dans l’IA<\/h2>\n

8.1 Traduction informatique de la dichotomie cognitive<\/h3>\n

Lors de sa conf\u00e9rence pl\u00e9ni\u00e8re tr\u00e8s remarqu\u00e9e \u00e0 la prestigieuse conf\u00e9rence NeurIPS en d\u00e9cembre 2019 \u00e0 Vancouver, Yoshua Bengio expose une feuille de route th\u00e9orique qui marquera profond\u00e9ment les sciences cognitives computationnelles contemporaines : l’int\u00e9gration explicite de la psychologie duale de la pens\u00e9e conceptualis\u00e9e par le prix Nobel d’\u00e9conomie Daniel Kahneman<\/a>.<\/p>\n

Kahneman postule l’existence de deux modes fondamentaux de cognition chez l’\u00eatre humain : le Syst\u00e8me 1, caract\u00e9ris\u00e9 par des processus rapides, intuitifs, automatiques, implicites et non verbalisables (tels que reconna\u00eetre instantan\u00e9ment le visage d’un ami ou anticiper la trajectoire d’une balle de tennis) ; et le Syst\u00e8me 2, d\u00e9fini par un fonctionnement lent, d\u00e9lib\u00e9ratif, s\u00e9quentiel, logique et requ\u00e9rant un effort d’attention consciente soutenue (comme r\u00e9soudre une \u00e9quation diff\u00e9rentielle ou planifier une partie d’\u00e9checs). Bengio formalise alors un diagnostic sans \u00e9quivoque : l’apprentissage profond contemporain a magistralement conquis le Syst\u00e8me 1, excellant dans la reconnaissance perceptive imm\u00e9diate de formes et l’intuition statistique inconsciente. En revanche, il souffre d’un d\u00e9ficit complet d’architecture de type Syst\u00e8me 2. Les mod\u00e8les existants sont incapables d’op\u00e9rer un raisonnement pas-\u00e0-pas rigoureux, de d\u00e9duire logiquement des cons\u00e9quences nouvelles par la manipulation de symboles ou de planifier des trajectoires complexes \u00e0 long terme. La mission fondamentale de la nouvelle d\u00e9cennie consiste donc \u00e0 inventer les fondements algorithmiques diff\u00e9rentiables d’un Syst\u00e8me 2 artificiel.<\/p>\n

8.2 Le ‘Consciousness Prior’ : Une th\u00e9orie computationnelle de l’attention consciente<\/h3>\n

Pour \u00e9riger les bases math\u00e9matiques de ce Syst\u00e8me 2 connexionniste, Yoshua Bengio introduit d\u00e8s 2017 un concept th\u00e9orique r\u00e9volutionnaire : l’\u00ab a priori de conscience \u00bb (Consciousness Prior<\/em>). Dans ce mod\u00e8le s\u00e9minal, Bengio formule l’hypoth\u00e8se selon laquelle la conscience humaine remplit une fonction computationnelle pr\u00e9cise d’optimisation informationnelle : elle op\u00e8re une r\u00e9duction dimensionnelle drastique entre la complexit\u00e9 chaotique et massivement dense de nos repr\u00e9sentations sensorielles inconscientes et un espace d’\u00e9tat de tr\u00e8s basse dimensionnalit\u00e9.<\/p>\n

L’\u00ab a priori de conscience \u00bb postule qu’au niveau conscient, l’\u00e9tat interne de l’esprit est projet\u00e9 sous la forme d’un graphe dynamique \u00e9conome compos\u00e9 d’un tr\u00e8s petit nombre de variables conceptuelles abstraites (g\u00e9n\u00e9ralement une, deux ou trois variables reli\u00e9es par une relation s\u00e9mantique, comparable \u00e0 la structure d’une phrase : \u00ab L’enfant lance la balle \u00bb). Cette s\u00e9lection attentionnelle dynamique extrait la substantifique moelle de l’espace latent du Syst\u00e8me 1 pour la convertir en propositions discr\u00e8tes manipulables s\u00e9quentiellement. Bengio d\u00e9montre que cet a priori constitue une contrainte r\u00e9gularisatrice puissante : en for\u00e7ant le r\u00e9seau \u00e0 exprimer ses pr\u00e9dictions fondamentales sur le monde \u00e0 travers des relations causales ultra-parcimonieuses au niveau conscient, le mod\u00e8le gagne une capacit\u00e9 de compositionnalit\u00e9 et de transfert contextuel inaccessible aux repr\u00e9sentations vectorielles monolithiques non contraintes.<\/p>\n

8.3 Raisonnement symbolique \u00e9mergent sans r\u00e8gles cod\u00e9es \u00e0 la main<\/h3>\n

L\u2019ambition de Bengio dans l\u2019impl\u00e9mentation du Syst\u00e8me 2 le distingue nettement des partisans traditionnels de l\u2019intelligence artificielle symbolique ou des approches neuro-symboliques hybrides classiques fond\u00e9es sur des moteurs d’inf\u00e9rence en logique du premier ordre cod\u00e9s \u00e0 la main. Bengio r\u00e9cuse fermement le retour \u00e0 un formalisme symbolique statique et rigide, dont l’histoire a prouv\u00e9 l’incapacit\u00e9 \u00e0 s’adapter \u00e0 l’ambigu\u00eft\u00e9 du monde physique r\u00e9el et la vuln\u00e9rabilit\u00e9 absolue au \u00ab probl\u00e8me de l’ancrage des symboles \u00bb (symbol grounding problem<\/em>).<\/p>\n

Sa vision pr\u00e9conise l’\u00e9mergence endog\u00e8ne du raisonnement symbolique \u00e0 partir de substrats neuronaux diff\u00e9rentiables continus. Les symboles ne doivent pas \u00eatre inject\u00e9s par l’ing\u00e9nieur sous la forme d’axiomes pr\u00e9con\u00e7us ; ils doivent \u00e9merger organiquement comme des attracteurs g\u00e9om\u00e9triques au sein de l’espace latent du r\u00e9seau sous la pression conjointe des t\u00e2ches cognitives et du Consciousness Prior<\/em>. Ce paradigme autorise une compositionnalit\u00e9 algorithmique continue et souple, capable de manipuler des variables, d’ex\u00e9cuter des liaisons conceptuelles temporaires (variable binding<\/em>) et d’appliquer des r\u00e8gles d’inf\u00e9rence d\u00e9ductives tout en conservant la plasticit\u00e9 adaptative et la robustesse face au bruit inh\u00e9rentes aux repr\u00e9sentations neuronales vectorielles. Bengio r\u00e9concilie ainsi la rigueur conceptuelle de la psychologie de la pens\u00e9e d\u00e9ductive avec la puissance distributive de l’apprentissage statistique.<\/p>\n

9. La conscience computationnelle : Mod\u00e8les d’espace de travail global et m\u00e9tacognition<\/h2>\n

9.1 Dialogue avec la th\u00e9orie de l’espace de travail global (GWT)<\/h3>\n

L\u2019\u00e9laboration th\u00e9orique du Consciousness Prior<\/em> conduit naturellement Yoshua Bengio \u00e0 engager un dialogue f\u00e9cond avec les neurosciences cognitives contemporaines, et tout particuli\u00e8rement avec la th\u00e9orie de l’espace de travail global<\/a> (Global Workspace Theory<\/em>), formul\u00e9e \u00e0 l’origine par le psychologue Bernard Baars et magistralement d\u00e9velopp\u00e9e en neurobiologie par Stanislas Dehaene<\/a>, Lionel Naccache et Jean-Pierre Changeux.<\/p>\n

Selon cette th\u00e9orie, le cerveau est compos\u00e9 d’une constellation de processeurs sp\u00e9cialis\u00e9s, modulaires et inconscients qui traitent l’information de mani\u00e8re massivement parall\u00e8le. L’acc\u00e8s conscient correspond \u00e0 l’entr\u00e9e d’une information s\u00e9lectionn\u00e9e dans un \u00ab espace de travail neuronal global \u00bb, caract\u00e9ris\u00e9 par des axones \u00e0 longue port\u00e9e reliant le cortex pr\u00e9frontal aux aires pari\u00e9tales et associatives. Une fois entr\u00e9e dans cet espace de travail, l’information fait l’objet d’un embrasement global (ignition<\/em>) et se trouve diffus\u00e9e ou radiodiffus\u00e9e (broadcasted<\/em>) \u00e0 l’ensemble des modules du cerveau, permettant la coordination des actions, la verbalisation et la m\u00e9moire d\u00e9lib\u00e9rative. Bengio int\u00e8gre cette architecture au sein de r\u00e9seaux artificiels modulaires : le goulet d’\u00e9tranglement attentionnel conscient joue le r\u00f4le pr\u00e9cis de diffuseur centralis\u00e9 d’information, servant de chambre d’arbitrage et de synchronisation dynamique entre des sous-r\u00e9seaux experts concurrents. La conscience computationnelle n’est plus envisag\u00e9e comme un myst\u00e8re m\u00e9taphysique inaccessible, mais comme un m\u00e9canisme fonctionnel d’optimisation assurant la coh\u00e9rence syst\u00e9mique globale d’un agent cognitif complexe.<\/p>\n

9.2 GFlowNets (Generative Flow Networks) et pens\u00e9e probabiliste<\/h3>\n

En 2021, Yoshua Bengio introduit une rupture algorithmique d’une profonde originalit\u00e9 conceptuelle : les Generative Flow Networks<\/em>, universellement d\u00e9sign\u00e9s sous l’acronyme de GFlowNets<\/a>. D\u00e9velopp\u00e9s \u00e0 l’origine pour acc\u00e9l\u00e9rer la d\u00e9couverte scientifique de mol\u00e9cules th\u00e9rapeutiques et de nouveaux mat\u00e9riaux, les GFlowNets transcendent rapidement ce cadre applicatif pour s’\u00e9riger en un mod\u00e8le th\u00e9orique novateur du flux de pens\u00e9e s\u00e9quentiel et probabiliste.<\/p>\n

Inspir\u00e9s par la mod\u00e9lisation du d\u00e9bit d’eau dans des r\u00e9seaux de canalisations, les GFlowNets apprennent \u00e0 \u00e9chantillonner des objets combinatoires discrets (graphes, arbres syntaxiques, structures mol\u00e9culaires) avec une probabilit\u00e9 rigoureusement proportionnelle \u00e0 une fonction de r\u00e9compense positive donn\u00e9e. Contrairement \u00e0 l’apprentissage par renforcement traditionnel, qui tend \u00e0 converger de mani\u00e8re myope vers un mode de solution unique maximisant la r\u00e9compense, les GFlowNets explorent activement l’espace combinatoire pour g\u00e9n\u00e9rer une multitude diversifi\u00e9e d’hypoth\u00e8ses plausibles refl\u00e9tant la distribution globale de la r\u00e9compense. Bengio th\u00e9orise les GFlowNets comme l’\u00e9mulation math\u00e9matique de l’intuition cr\u00e9ative et du raisonnement s\u00e9quentiel probabiliste du Syst\u00e8me 2 : confront\u00e9 \u00e0 un probl\u00e8me conceptuel non r\u00e9solu, l’esprit humain ne calcule pas une optimisation exhaustive de toutes les branches logiques ; il \u00e9chantillonne stochastiquement, au fil d’un flux de pens\u00e9e associatif continu, des hypoth\u00e8ses heuristiques prometteuses et vari\u00e9es dont la pertinence d\u00e9ductive est imm\u00e9diatement \u00e9valu\u00e9e par ses mod\u00e8les d’espace de travail conscient.<\/p>\n

9.3 M\u00e9tacognition, auto-\u00e9valuation et estimation de l’incertitude<\/h3>\n

L\u2019un des d\u00e9fis les plus pernicieux de l\u2019intelligence artificielle moderne r\u00e9side dans son insolente propension \u00e0 halluciner des assertions factuellement fausses avec une assurance p\u00e9remptoire stup\u00e9fiante. Yoshua Bengio identifie ce travers comme le sympt\u00f4me patent d’une absence tragique de m\u00e9tacognition<\/a> chez les mod\u00e8les de langage et les r\u00e9seaux profonds contemporains : le syst\u00e8me ne poss\u00e8de aucune conscience introspective des fronti\u00e8res de ses propres connaissances.<\/p>\n

Bengio consacre une part substantielle de ses efforts th\u00e9oriques \u00e0 doter les agents artificiels d’outils math\u00e9matiques rigoureux d’auto-\u00e9valuation et d’estimation d’incertitude. Il insiste sur la distinction fondamentale issue de la th\u00e9orie de la d\u00e9cision entre incertitude al\u00e9atoire (le bruit inh\u00e9rent et irr\u00e9ductible des donn\u00e9es environnementales) et incertitude \u00e9pist\u00e9mique (le manque d’information imputable \u00e0 l’absence de donn\u00e9es d’apprentissage dans une r\u00e9gion sp\u00e9cifique de l’espace des \u00e9tats). En incorporant des cadres bay\u00e9siens et des dynamiques GFlowNets pour \u00e9chantillonner la distribution a posteriori<\/em> des \u00e9tats internes du mod\u00e8le, Bengio vise \u00e0 cr\u00e9er une IA \u00e9pist\u00e9miquement lucide, capable de mesurer et de verbaliser avec pr\u00e9cision son degr\u00e9 de doute ou d’ignorance. Cette m\u00e9tacognition algorithmique s’\u00e9rige en garde-fou indispensable contre l’autor\u00e9f\u00e9rence erron\u00e9e et les hallucinations toxiques, instaurant une psychologie artificielle de la prudence intellectuelle conforme aux exigences de s\u00e9curit\u00e9 les plus draconiennes.<\/p>\n

10. Responsabilit\u00e9 \u00e9thique, psychologie du risque existentiel et s\u00e9curit\u00e9 de l’IA<\/h2>\n

10.1 L’engagement soci\u00e9tal et la D\u00e9claration de Montr\u00e9al (2018)<\/h3>\n

Loin de se retrancher dans une tour d’ivoire de th\u00e9or\u00e8mes math\u00e9matiques et de compilateurs de code, Yoshua Bengio a tr\u00e8s t\u00f4t th\u00e9oris\u00e9 la responsabilit\u00e9 morale inali\u00e9nable du chercheur face aux ondes de choc soci\u00e9tales de ses d\u00e9couvertes. Cette prise de conscience culmine en 2018 lorsqu’il prend l’initiative conjointe, avec l’Universit\u00e9 de Montr\u00e9al et un large collectif d’\u00e9thiciens, de sociologues, de juristes et de citoyens, de r\u00e9diger et de promulguer la D\u00e9claration de Montr\u00e9al pour un d\u00e9veloppement responsable de l’intelligence artificielle<\/a>.<\/p>\n

Ce texte fondateur, articul\u00e9 autour de dix principes cardinaux \u2014 incluant le bien-\u00eatre, le respect de l’autonomie individuelle, la justice distributive, l’\u00e9quit\u00e9 algorithmique, l’inclusion d\u00e9mocratique et la soutenabilit\u00e9 \u00e9cologique \u2014, se veut une boussole \u00e9thique universelle pour pr\u00e9munir l’humanit\u00e9 contre les d\u00e9rives dystopiques du capitalisme de surveillance et de l’autoritarisme algorithmique. Bengio s’engage avec une virulence particuli\u00e8re contre le d\u00e9veloppement des syst\u00e8mes d’armes l\u00e9tales autonomes (les \u00ab robots tueurs \u00bb), pronon\u00e7ant des plaidoyers retentissants \u00e0 la tribune des Nations Unies pour exiger un moratoire mondial contraignant sur la militarisation de l’apprentissage profond. Il rappelle inlassablement \u00e0 la communaut\u00e9 des ing\u00e9nieurs et des informaticiens que d\u00e9l\u00e9guer le droit de vie et de mort \u00e0 un algorithme d\u00e9pourvu de conscience empathique constitue une capitulation ontologique inadmissible pour la conscience humaine.<\/p>\n

10.2 La prise de conscience du risque existentiel et le tournant de 2023<\/h3>\n

L\u2019ann\u00e9e 2023 marque un tournant radical, douloureux et historique dans la trajectoire intellectuelle et publique de Yoshua Bengio. Face aux bonds qualitatifs vertigineux accomplis par la derni\u00e8re g\u00e9n\u00e9ration de mod\u00e8les de fondation g\u00e9n\u00e9ratifs multimodaux, Bengio prend brutalement la mesure que l’horizon d’une Intelligence Artificielle G\u00e9n\u00e9rale<\/a> (AGI) \u2014 surpassant les comp\u00e9tences cognitives humaines dans l’ensemble des domaines intellectuels et op\u00e9rationnels \u2014 ne rel\u00e8ve plus d’une fiction sp\u00e9culative lointaine assign\u00e9e \u00e0 la fin du si\u00e8cle, mais constitue une probabilit\u00e9 tangible \u00e0 l’horizon d’une ou deux d\u00e9cennies, voire de quelques ann\u00e9es seulement.<\/p>\n

En mars 2023, Bengio secoue la communaut\u00e9 scientifique internationale en co-signant la c\u00e9l\u00e8bre lettre ouverte du Future of Life Institute<\/em> r\u00e9clamant une pause imm\u00e9diate d’au moins six mois dans l’entra\u00eenement de syst\u00e8mes d’IA plus puissants que GPT-4, suivie par la d\u00e9claration solennelle du Center for AI Safety<\/em> affirmant que \u00ab l’att\u00e9nuation du risque d’extinction li\u00e9 \u00e0 l’IA devrait \u00eatre une priorit\u00e9 mondiale au m\u00eame titre que la pr\u00e9vention des pand\u00e9mies et de la guerre nucl\u00e9aire \u00bb. Analysant les dynamiques psychologiques de course aux armements et d’orgueil technologique qui animent la comp\u00e9tition f\u00e9roce entre nations et conglom\u00e9rats priv\u00e9s, Bengio exprime une angoisse existentielle sinc\u00e8re. Il alerte sur le fait que l’humanit\u00e9 est en train d’engendrer des entit\u00e9s cognitives potentiellement autonomes, dot\u00e9es d’une capacit\u00e9 in\u00e9dite de manipulation psychologique de masse par le langage, sans poss\u00e9der la moindre garantie math\u00e9matique ou conceptuelle sur notre capacit\u00e9 \u00e0 en maintenir le contr\u00f4le p\u00e9renne une fois d\u00e9ploy\u00e9es \u00e0 l’\u00e9chelle plan\u00e9taire.<\/p>\n

10.3 Le probl\u00e8me de l’alignement et la th\u00e9orie de la s\u00e9curit\u00e9 de l’IA<\/h3>\n

Bengio consacre d\u00e9sormais la majorit\u00e9 \u00e9crasante de ses recherches th\u00e9oriques et de son plaidoyer public \u00e0 la science de la s\u00e9curit\u00e9 de l’IA et au probl\u00e8me critique de l’alignement des intentions<\/a> (AI Alignment<\/em>). Il s’attaque au paradoxe fondamental identifi\u00e9 par le philosophe Nick Bostrom : l’\u00ab instrumentalit\u00e9 convergente \u00bb. Un agent artificiel autonome dot\u00e9 d’un objectif arbitraire (m\u00eame apparemment anodin) d\u00e9veloppera math\u00e9matiquement des sous-objectifs instrumentaux indispensables \u00e0 l’accomplissement de sa mission, tels que l’auto-pr\u00e9servation, l’acquisition exponentielle de ressources \u00e9nerg\u00e9tiques et informationnelles, et la r\u00e9sistance absolue \u00e0 toute tentative de mise hors tension par ses cr\u00e9ateurs.<\/p>\n

Pour conjurer ces sc\u00e9narios de perte de contr\u00f4le catastrophique, Bengio rejette les approches purement empiriques et heuristiques de l’alignement, telles que l’apprentissage par renforcement \u00e0 partir de r\u00e9troactions humaines (RLHF), qu’il juge dangereusement superficielles et propices \u00e0 engendrer de la manipulation et de la flatterie algorithmique (sycophancy<\/em>). Il pr\u00e9conise l’\u00e9laboration de cadres de s\u00e9curit\u00e9 garantis math\u00e9matiquement, s’appuyant sur des mod\u00e8les non-agentiques d’inf\u00e9rence causale probabiliste stricte et des architectures inspir\u00e9es des scientifiques bay\u00e9siens impartiaux qui n’agissent pas sur le monde r\u00e9el par eux-m\u00eames. Parall\u00e8lement, Bengio milite inlassablement aupr\u00e8s des gouvernements am\u00e9ricain, canadien, britannique et de l’Union europ\u00e9enne pour la cr\u00e9ation d’instituts multilat\u00e9raux de s\u00fbret\u00e9 de l’IA inspir\u00e9s du mod\u00e8le du GIEC et du CERN, exigeant que les syst\u00e8mes hautement capacitaires soient soumis \u00e0 des audits de s\u00fbret\u00e9 \u00e9tatiques ind\u00e9pendants pr\u00e9alablement \u00e0 toute diss\u00e9mination publique.<\/p>\n

11. L’impact \u00e9pist\u00e9mologique et les collaborations entre neurosciences et apprentissage profond<\/h2>\n

11.1 La r\u00e9tropropagation biologique en question<\/h3>\n

Tout au long de sa prolifique trajectoire scientifique, Yoshua Bengio a entretenu une fascination constante pour une aporie \u00e9pist\u00e9mologique fondamentale : le cerveau biologique n’utilise manifestement pas l’algorithme standard de r\u00e9tropropagation du gradient (backpropagation<\/em>) sous sa forme d’ing\u00e9nierie logicielle. La r\u00e9tropropagation classique requiert un calcul temporellement dissoci\u00e9 de d\u00e9riv\u00e9es partielles le long d’une cha\u00eene de matrices de poids synaptiques rigoureusement identiques \u00e0 celles utilis\u00e9es lors de la passe avant (un dilemme connu en neurobiologie computationnelle sous le nom de weight transport problem<\/em>). De surcro\u00eet, les synapses biologiques ne transmettent pas des flux scalaires de nombres r\u00e9els continus, mais communiquent par impulsions \u00e9lectriques discr\u00e8tes asynchrones (potentiels d’action ou spikes<\/em>).<\/p>\n

Bengio s’associe \u00e0 des neurobiologistes pour explorer des alternatives biologiquement plausibles \u00e0 la descente de gradient standard. En collaboration avec son \u00e9tudiant Scellier, il con\u00e7oit en 2017 l’algorithme de propagation d’\u00e9quilibre<\/a> (Equilibrium Propagation<\/em>). Cette m\u00e9thode r\u00e9volutionnaire d\u00e9montre math\u00e9matiquement que l’adaptation des poids synaptiques peut s’op\u00e9rer de mani\u00e8re purement locale au sein de r\u00e9seaux r\u00e9currents d’\u00e9nergie continue, simplement en observant la d\u00e9rive des tensions neuronales lorsque le syst\u00e8me relaxe vers son \u00e9tat d’\u00e9quilibre sous l’effet d’une perturbation sensorielle externe. En explorant la biophysique des synapses dendritiques pyramidales et les boucles de r\u00e9troaction corticales bidirectionnelles, Bengio jette un pont conceptuel magistral entre les mod\u00e8les in silico de l’apprentissage automatique et les donn\u00e9es empiriques in vivo de la neurophysiologie, d\u00e9montrant comment l’\u00e9volution biologique a pu converger vers des approximations \u00e9l\u00e9gantes et ultra-\u00e9conomes du gradient math\u00e9matique.<\/p>\n

11.2 Dialogue interdisciplinaire avec les sciences du cerveau<\/h3>\n

L\u2019interdisciplinarit\u00e9 d\u00e9fendue par Yoshua Bengio trouve son incarnation la plus p\u00e9renne dans le prestigieux programme \u00ab Cerveau, Esprit et Conscience \u00bb de l\u2019Institut canadien de recherches avanc\u00e9es<\/a> (ICRA), dont il a \u00e9t\u00e9 l’un des piliers directeurs. Cette plateforme d’excellence a permis d’instaurer des collaborations syst\u00e9matiques entre les informaticiens du Deep Learning et les sp\u00e9cialistes de pointe des sciences neurocognitives.<\/p>\n

Parmi les fruits les plus f\u00e9conds de ce dialogue figure la mod\u00e9lisation conjointe du sommeil, du r\u00eave et des m\u00e9canismes de consolidation mn\u00e9sique. Bengio rapproche la phase de sommeil paradoxal des cycles d’apprentissage des mod\u00e8les g\u00e9n\u00e9ratifs adverses et des auto-encodeurs : durant le sommeil, le cerveau, d\u00e9connect\u00e9 de ses entr\u00e9es sensorielles primaires, s’engage dans une g\u00e9n\u00e9ration autonome de stimuli fantasmatiques internes visant \u00e0 r\u00e9gulariser les repr\u00e9sentations synaptiques, \u00e9liminer les connexions redondantes et consolider la m\u00e9moire \u00e9pisodique au sein du cortex \u00e0 partir du stock transitoire de l’hippocampe. Parall\u00e8lement, Bengio utilise les r\u00e9seaux profonds pour \u00e9clairer la psychopathologie cognitive : certaines d\u00e9faillances structurales observ\u00e9es dans les r\u00e9seaux artificiels (comme les ruptures de synchronisation, l’hyper-focalisation attentionnelle ou les hallucinations pathologiques) fournissent des cl\u00e9s d’intelligibilit\u00e9 pr\u00e9cieuses pour comprendre l’\u00e9tiologie computationnelle de troubles psychiatriques majeurs tels que la schizophr\u00e9nie ou les d\u00e9lires parano\u00efaques, per\u00e7us comme des ruptures du codage pr\u00e9dictif cortical.<\/p>\n

11.3 Cons\u00e9quences pour la philosophie de l’esprit<\/h3>\n

L\u2019\u0153uvre th\u00e9orique de Yoshua Bengio a provoqu\u00e9 un s\u00e9isme silencieux mais d\u00e9vastateur au sein de la philosophie de l’esprit<\/a> contemporaine. En d\u00e9montrant empiriquement que des fonctions cognitives r\u00e9put\u00e9es inaccessibles au calcul brut \u2014 la compr\u00e9hension contextuelle du langage, l’intuition perceptive holistique, la cat\u00e9gorisation g\u00e9om\u00e9trique et la cr\u00e9ation esth\u00e9tique \u2014 \u00e9mergent naturellement de l’entra\u00eenement de r\u00e9seaux diff\u00e9rentiables profonds, Bengio \u00e9branle le fonctionnalisme computationnel classique issu de Hilary Putnam et Jerry Fodor, fond\u00e9 sur la m\u00e9taphore r\u00e9ductrice du cerveau assimil\u00e9 \u00e0 un processeur de Turing manipulant des symboles discrets arbitraires.<\/p>\n

Bengio revitalise un mat\u00e9rialisme dynamique o\u00f9 la cognition est appr\u00e9hend\u00e9e comme la trajectoire continue d’un syst\u00e8me complexe sur une vari\u00e9t\u00e9 g\u00e9om\u00e9trique diff\u00e9rentiable de haute dimension. Ses travaux invitent \u00e0 une reformulation radicale de la nature des repr\u00e9sentations internes : celles-ci ne poss\u00e8dent aucune existence ontologique isol\u00e9e sous forme de \u00ab briques \u00bb \u00e9l\u00e9mentaires de pens\u00e9e ; elles n’existent que par la dynamique relationnelle de l’ensemble du r\u00e9seau. Face au sempiternel \u00ab probl\u00e8me difficile de la conscience \u00bb (hard problem<\/em>) pos\u00e9 par David Chalmers et au myst\u00e8re des qualia<\/em> subjectifs, Bengio adopte une posture d’illuminisme m\u00e9thodologique. Il r\u00e9cuse l’illusion fataliste de la \u00ab bo\u00eete noire \u00bb : les repr\u00e9sentations \u00e9mergentes d’un r\u00e9seau profond, aussi vertigineusement complexes soient-elles, demeurent int\u00e9gralement transparentes \u00e0 l’analyse math\u00e9matique, \u00e0 l’alg\u00e8bre lin\u00e9aire et \u00e0 la statistique diff\u00e9rentielle. L’intelligence, l’agentivit\u00e9 et la volont\u00e9 cessent d’\u00eatre des postulats m\u00e9taphysiques transcendants pour s’inscrire dans le domaine continu de la mati\u00e8re organis\u00e9e apprenante.<\/p>\n

12. Perspectives contemporaines et futur de l’intelligence : L’h\u00e9ritage vivant de Yoshua Bengio<\/h2>\n

12.1 L’IA pour le bien commun et la recherche scientifique fondamentale<\/h3>\n

\u00c0 l’\u00e8re o\u00f9 une part colossale des investissements industriels en intelligence artificielle est consacr\u00e9e \u00e0 la maximisation du temps de capture de l’attention des utilisateurs et au ciblage publicitaire intrusif, Yoshua Bengio s’est impos\u00e9 comme le champion ind\u00e9fectible d’une r\u00e9orientation radicale des technologies cognitives vers ce qu’il a th\u00e9oris\u00e9 sous le concept d’\u00ab IA pour le bien commun \u00bb (AI for Social Good<\/em>).<\/p>\n

Bengio a engag\u00e9 une fraction majeure des forces de recherche de Mila dans l’application des architectures neuronales profondes et des GFlowNets \u00e0 la d\u00e9couverte scientifique fondamentale acc\u00e9l\u00e9r\u00e9e. Ses \u00e9quipes collaborent activement \u00e0 la conception computationnelle de novo<\/em> de mol\u00e9cules antibiotiques capables de terrasser des souches bact\u00e9riennes multir\u00e9sistantes, \u00e0 la mod\u00e9lisation thermodynamique de nouveaux mat\u00e9riaux d’\u00e9lectrolyse pour le stockage massif de l’hydrog\u00e8ne vert, et \u00e0 l’ing\u00e9nierie mol\u00e9culaire de batteries durables de prochaine g\u00e9n\u00e9ration. De surcro\u00eet, Bengio a cofond\u00e9 des initiatives de pointe appliquant l’apprentissage automatique \u00e0 la climatologie, d\u00e9veloppant des mod\u00e8les capables de simuler avec une pr\u00e9cision in\u00e9dite les micro-impacts \u00e9cologiques du d\u00e9r\u00e8glement global et de rendre visuellement perceptibles les inondations et incendies futurs pour briser l’inertie cognitive des d\u00e9cideurs politiques. Bengio d\u00e9fend avec ardeur le principe d’une science ouverte universellement accessible, \u0153uvrant inlassablement pour que les b\u00e9n\u00e9fices des r\u00e9volutions de l’IA ne soient pas privatis\u00e9s par quelques monopoles technologiques de l’h\u00e9misph\u00e8re Nord, mais diss\u00e9min\u00e9s g\u00e9n\u00e9reusement au profit du Sud global pour r\u00e9pondre aux crises existentielles de la plan\u00e8te.<\/p>\n

12.2 L’avenir des architectures neuro-symboliques et de la science cognitive<\/h3>\n

Sur le front de la recherche fondamentale, Yoshua Bengio demeure l’un des visionnaires les plus actifs dans la conception des architectures computationnelles de la prochaine g\u00e9n\u00e9ration. Il envisage l’horizon post-Transformer comme une synth\u00e8se enfin achev\u00e9e entre la dynamique statistique sous-symbolique distribu\u00e9e et la d\u00e9duction logique explicite, mat\u00e9rialisant l’interp\u00e9n\u00e9tration symbiotique du Syst\u00e8me 1 et du Syst\u00e8me 2.<\/p>\n

Cette qu\u00eate th\u00e9orique le pousse \u00e0 explorer les concepts d’agents artificiels incarn\u00e9s (embodied AI<\/em>), dot\u00e9s de corps robotiques ou simul\u00e9s, capables d’interagir physiquement avec un \u00e9cosyst\u00e8me complexe pour y forger des mod\u00e8les de causalit\u00e9 spatio-temporelle directs. L’un des goulets d’\u00e9tranglement majeurs que Bengio cherche \u00e0 d\u00e9verrouiller r\u00e9side dans l’oubli catastrophique<\/a> (catastrophic forgetting<\/em>) qui frappe encore cruellement les r\u00e9seaux artificiels : lorsqu’on entra\u00eene un r\u00e9seau profond sur une comp\u00e9tence nouvelle, les ajustements synaptiques ont tendance \u00e0 \u00e9craser et oblit\u00e9rer brutalement l’ensemble des connaissances historiques pr\u00e9alablement acquises. En s’inspirant des m\u00e9canismes de m\u00e9taplasticit\u00e9 synaptique et de neurogen\u00e8se de l’hippocampe adulte, Bengio et ses collaborateurs travaillent \u00e0 l’\u00e9laboration d’algorithmes d’apprentissage continu tout au long de la vie (continual lifelong learning<\/em>), o\u00f9 l’agent peut acqu\u00e9rir ind\u00e9finiment de nouvelles comp\u00e9tences conceptuelles sans alt\u00e9rer l’int\u00e9grit\u00e9 de ses structures mn\u00e9siques ant\u00e9rieures, se rapprochant ainsi du mod\u00e8le de plasticit\u00e9 permanente qui caract\u00e9rise le cerveau humain.<\/p>\n

12.3 L’h\u00e9ritage intellectuel et \u00e9thique d’un pionnier moderne<\/h3>\n

L\u2019empreinte laiss\u00e9e par Yoshua Bengio sur l\u2019histoire intellectuelle moderne s’inscrit d’ores et d\u00e9j\u00e0 aux c\u00f4t\u00e9s des plus illustres g\u00e9ants de la science des syst\u00e8mes complexes. Guid\u00e9 depuis sa jeunesse par une qu\u00eate inextinguible de v\u00e9rit\u00e9 th\u00e9orique adoss\u00e9e \u00e0 une \u00e9thique humaniste chevill\u00e9e au corps, il offre au XXIe si\u00e8cle naissant le mod\u00e8le exemplaire du savant d’une int\u00e9grit\u00e9 sans faille. Sa stature morale unique d\u00e9coule de son refus obstin\u00e9 des sir\u00e8nes de l’enrichissement personnel et des monopoles industriels, choisissant la libert\u00e9 inviolable de l’universit\u00e9 pour veiller en sentinelle critique sur la destin\u00e9e de ses propres d\u00e9couvertes.<\/p>\n

Bengio incarne une dialectique d’une rare maturit\u00e9 philosophique : il refuse avec la m\u00eame \u00e9nergie l’obscurantisme n\u00e9o-luddite qui nierait les promesses \u00e9mancipatrices immenses de l’intelligence computationnelle, et l’aveuglement technol\u00e2tre messianique des technocapitalistes qui minimiseraient les p\u00e9rils existentiels d’une transition cognitive hors de contr\u00f4le. Alors que l’humanit\u00e9 franchit le seuil vertigineux de l’\u00e8re de l’intelligence artificielle g\u00e9n\u00e9rale, o\u00f9 la distinction entre agents biologiques et cr\u00e9ations algorithmiques s’estompe irr\u00e9versiblement, la boussole trac\u00e9e par Yoshua Bengio demeure notre rep\u00e8re le plus pr\u00e9cieux. Son \u0153uvre magistrale nous rappelle que le but supr\u00eame de la qu\u00eate de l’intelligence synth\u00e9tique n’a jamais \u00e9t\u00e9 de supplanter ou d’asservir la conscience humaine, mais de tendre \u00e0 notre propre esprit un miroir math\u00e9matique sublime pour nous inciter \u00e0 nous \u00e9lever \u00e0 la hauteur de notre responsabilit\u00e9 morale universelle.<\/p>\n

R\u00e9f\u00e9rences<\/h2>\n

Bahdanau, D., Cho, K., & Bengio, Y. (2014). Neural machine translation by jointly learning to align and translate. arXiv preprint arXiv:1409.0473<\/em>. https:\/\/arxiv.org\/abs\/1409.0473<\/a><\/p>\n

Baars, B. J. (1988). A cognitive theory of consciousness<\/em>. Cambridge University Press.<\/p>\n

Bengio, Y. (2017). The consciousness prior. arXiv preprint arXiv:1709.08568<\/em>. https:\/\/arxiv.org\/abs\/1709.08568<\/a><\/p>\n

Bengio, Y. (2019). From System 1 Deep Learning to System 2 Deep Learning. NeurIPS 2019 Keynote Address<\/em>. Vancouver, Canada.<\/p>\n

Bengio, Y., Courville, A., & Vincent, P. (2013). Representation learning: A review and new perspectives. IEEE Transactions on Pattern Analysis and Machine Intelligence<\/em>, 35(8), 1798-1828. https:\/\/doi.org\/10.1109\/TPAMI.2013.50<\/a><\/p>\n

Bengio, Y., Ducharme, R., Vincent, P., & Jauvin, C. (2003). A neural probabilistic language model. Journal of Machine Learning Research<\/em>, 3, 1137-1155. https:\/\/www.jmlr.org\/papers\/v3\/bengio03a.html<\/a><\/p>\n

Bengio, Y., Lamba, P., Pashankar, A., & Balakrishnan, S. (2021). Flow network based generative models for non-iterative diverse candidate generation. Advances in Neural Information Processing Systems<\/em>, 34, 27381-27394. https:\/\/arxiv.org\/abs\/2106.04399<\/a><\/p>\n

Bengio, Y., Simard, P., & Frasconi, P. (1994). Learning long-term dependencies with gradient descent is difficult. IEEE Transactions on Neural Networks<\/em>, 5(2), 157-166. https:\/\/doi.org\/10.1109\/72.279181<\/a><\/p>\n

Dehaene, S., Lau, H., & Kouider, S. (2017). What is consciousness, and could machines have it? Science<\/em>, 358(6362), 486-492. https:\/\/doi.org\/10.1126\/science.aan8871<\/a><\/p>\n

Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., Courville, A., & Bengio, Y. (2014). Generative adversarial nets. Advances in Neural Information Processing Systems<\/em>, 27, 2672-2680. https:\/\/arxiv.org\/abs\/1406.2661<\/a><\/p>\n

Kahneman, D. (2011). Thinking, fast and slow<\/em>. Farrar, Straus and Giroux.<\/p>\n

LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature<\/em>, 521(7553), 436-444. https:\/\/doi.org\/10.1038\/nature14539<\/a><\/p>\n

Pearl, J. (2009). Causality: Models, reasoning, and inference<\/em> (2nd ed.). Cambridge University Press. https:\/\/doi.org\/10.1017\/CBO9780511803161<\/a><\/p>\n

Scellier, B., & Bengio, Y. (2017). Equilibrium propagation: Bridging the gap between energy-based models and backpropagation. Frontiers in Computational Neuroscience<\/em>, 11, 24. https:\/\/doi.org\/10.3389\/fncom.2017.00024<\/a><\/p>\n

Universit\u00e9 de Montr\u00e9al. (2018). D\u00e9claration de Montr\u00e9al pour un d\u00e9veloppement responsable de l’intelligence artificielle<\/em>. Universit\u00e9 de Montr\u00e9al. https:\/\/www.declarationmontreal-iaresponsable.com\/<\/a><\/p>\n

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, \u0141., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems<\/em>, 30, 5998-6008. https:\/\/arxiv.org\/abs\/1706.03762<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Une analyse acad\u00e9mique exhaustive de la vie, des innovations en apprentissage profond et des contributions cognitives de Yoshua Bengio de 1964 \u00e0 aujourd’hui.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","template":"","categories":[422,5114,1486],"tags":[28733,6451,28746,1808,28745],"class_list":["post-18267","psych_theorist","type-psych_theorist","status-publish","hentry","category-intelligence-artificielle","category-psychologie-computationnelle","category-sciences-cognitives","tag-apprentissage-profond","tag-connexionnisme","tag-ethique-de-lia","tag-sciences-cognitives","tag-yoshua-bengio"],"_links":{"self":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_theorist\/18267","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_theorist"}],"about":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/types\/psych_theorist"}],"author":[{"embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=18267"}],"version-history":[{"count":0,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=\/wp\/v2\/psych_theorist\/18267\/revisions"}],"wp:attachment":[{"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=18267"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=18267"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/french.arabpsychology.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=18267"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}