L’histoire des neurosciences computationnelles et de l’intelligence artificielle contemporaine est jalonn\u00e9e de trajectoires intellectuelles singuli\u00e8res, mais peu d’entre elles incarnent avec autant de rigueur, de profondeur th\u00e9orique et d’\u00e9l\u00e9gance m\u00e9thodologique le dialogue entre physique, math\u00e9matiques pures et biologie du syst\u00e8me nerveux que celle de Tomaso Poggio. N\u00e9 en Italie au sortir de la Seconde Guerre mondiale, ce chercheur d’exception a transform\u00e9 de mani\u00e8re radicale la fa\u00e7on dont la communaut\u00e9 scientifique appr\u00e9hende le probl\u00e8me de la perception visuelle, la th\u00e9orie de l’apprentissage statistique et, plus largement, les principes fondamentaux qui gouvernent le fonctionnement des syst\u00e8mes intelligents, qu’ils soient faits de chair ou de silicium.<\/p>\n
Figure tut\u00e9laire du Massachusetts Institute of Technology (MIT)<\/a> depuis le d\u00e9but des ann\u00e9es 1980, titulaire de la chaire Eugene McDermott et cofondateur du prestigieux Center for Brains, Minds and Machines<\/em> (CBMM), Tomaso Poggio a \u00e9t\u00e9 le pionnier de l’analogie structurante entre les probl\u00e8mes inverses mal pos\u00e9s de la physique math\u00e9matique et les \u00e9nigmes computationnelles pos\u00e9es par le d\u00e9codage sensoriel biologique. Collaborateur intime du visionnaire David Marr \u00e0 la fin des ann\u00e9es 1970, il a largement contribu\u00e9 \u00e0 jeter les bases conceptuelles de la c\u00e9l\u00e8bre triade computationnelle, tout en d\u00e9veloppant une \u0153uvre personnelle monumentale qui va de l’analyse cybern\u00e9tique du syst\u00e8me visuel des invert\u00e9br\u00e9s aux mod\u00e8les hi\u00e9rarchiques du cortex ventral des primates, jusqu’aux fondements math\u00e9matiques les plus r\u00e9cents de l’apprentissage profond.<\/p>\n Cet article propose une exploration int\u00e9grale et exhaustive de l’\u0153uvre, de la vie et des th\u00e9ories de Tomaso Poggio, depuis ses racines g\u00e9noises jusqu’\u00e0 ses travaux contemporains sur la d\u00e9mystification de la sur-param\u00e9trisation dans les r\u00e9seaux de neurones artificiels. \u00c0 travers l’\u00e9tude minutieuse de son itin\u00e9raire intellectuel, nous retracerons l’\u00e9volution d’une discipline devenue centrale pour les sciences cognitives et l’ing\u00e9nierie moderne : la conviction in\u00e9branlable que comprendre le cerveau et b\u00e2tir des machines intelligentes repr\u00e9sentent deux faces ins\u00e9parables d’un m\u00eame probl\u00e8me math\u00e9matique et naturel universel.<\/p>\n Tomaso Poggio est n\u00e9 \u00e0 G\u00eanes en 1947, au sein d’une Italie en pleine reconstruction mat\u00e9rielle et culturelle d’apr\u00e8s-guerre. Grandissant dans un environnement intellectuel stimulant, caract\u00e9ris\u00e9 par un humanisme exigeant et une vive curiosit\u00e9 pour les lois r\u00e9gissant le monde mat\u00e9riel, le jeune Poggio manifeste tr\u00e8s t\u00f4t une inclination marqu\u00e9e pour les abstractions quantitatives. Son parcours universitaire s’articule naturellement autour de la physique th\u00e9orique \u00e0 l’Universit\u00e9 de G\u00eanes, une institution r\u00e9put\u00e9e pour sa tradition d’excellence analytique. En 1970, il y obtient son doctorat sous la direction de professeurs profond\u00e9ment vers\u00e9s dans la m\u00e9canique statistique et la th\u00e9orie quantique des champs. Cette formation initiale marque \u00e0 tout jamais son \u00e9pist\u00e9mologie : la physique th\u00e9orique ne se contente pas de d\u00e9crire les ph\u00e9nom\u00e8nes de mani\u00e8re ph\u00e9nom\u00e9nologique ou narrative ; elle s’efforce d’isoler des lois universelles invariantes, formulables dans un langage math\u00e9matique rigoureux et parcimonieux.<\/p>\n Au tournant des ann\u00e9es 1970, alors que la physique des particules attire l’essentiel des jeunes dipl\u00f4m\u00e9s, Poggio op\u00e8re une r\u00e9orientation conceptuelle audacieuse. Intrigu\u00e9 par la complexit\u00e9 \u00e9mergente de la mati\u00e8re vivante, il per\u00e7oit les pr\u00e9misses d’une r\u00e9volution intellectuelle : le transfert des outils de la physique statistique et de la thermodynamique hors \u00e9quilibre vers les myst\u00e8res du traitement de l’information biologique. Les premiers mod\u00e8les biophysiques du potentiel d’action formul\u00e9s par Alan Hodgkin et Andrew Huxley, tout comme les r\u00e9flexions fondatrices d’Erwin Schr\u00f6dinger dans What is Life?<\/em>, agissent comme de puissants catalyseurs. Poggio comprend que le syst\u00e8me nerveux n’est pas simplement un agr\u00e9gat de cellules r\u00e9gies par la biochimie, mais un dispositif physique sophistiqu\u00e9 con\u00e7u pour ex\u00e9cuter des calculs complexes \u00e0 partir de signaux hautement bruit\u00e9s et ambigus. D\u00e8s ses premi\u00e8res recherches de post-doctorat, il s’emploie \u00e0 transposer les m\u00e9thodes d’analyse des syst\u00e8mes non lin\u00e9aires et de la propagation des champs vers l’\u00e9tude des potentiels synaptiques et de la connectivit\u00e9 neurale.<\/p>\n Apr\u00e8s une p\u00e9riode formatrice particuli\u00e8rement f\u00e9conde en Allemagne, Tomaso Poggio traverse l’Atlantique en 1981 pour s’installer d\u00e9finitivement \u00e0 Cambridge, Massachusetts. Invit\u00e9 par les directeurs du l\u00e9gendaire Laboratoire d’intelligence artificielle du MIT<\/a>, alors codirig\u00e9 par Marvin Minsky et Patrick Winston, il int\u00e8gre simultan\u00e9ment le d\u00e9partement des sciences du cerveau et des sciences cognitives (qui deviendra plus tard le Department of Brain and Cognitive Sciences<\/em>). Cette double affiliation est embl\u00e9matique de sa posture intellectuelle : refuser cat\u00e9goriquement le schisme acad\u00e9mique artificiel qui s\u00e9pare l’ing\u00e9nierie logicielle de la biologie neuronale empirique. Au MIT, Poggio fonde et dirige le Computational Vision and Biological Learning Laboratory<\/em>, un creuset exp\u00e9rimental et th\u00e9orique o\u00f9 des g\u00e9n\u00e9rations d’\u00e9tudiants brillants se consacrent \u00e0 l’\u00e9lucidation math\u00e9matique de la vision et de l’apprentissage.<\/p>\n Au fil des d\u00e9cennies, son ancrage institutionnel se consolide de mani\u00e8re spectaculaire. Nomm\u00e9 titulaire de la chaire Eugene McDermott au MIT, Poggio s’impose comme l’architecte discret mais fondamental de la politique scientifique reliant le laboratoire d’informatique et d’intelligence artificielle (CSAIL) et l’Institut McGovern pour la recherche sur le cerveau. Par son entregent scientifique et son autorit\u00e9 morale, il parvient \u00e0 institutionnaliser une interface interdisciplinaire durable entre les neurosciences cellulaires, la psychologie cognitive exp\u00e9rimentale et la mod\u00e9lisation informatique avanc\u00e9e. Sous son impulsion, la recherche au MIT cesse de consid\u00e9rer le cerveau comme une m\u00e9taphore vague pour l’informatique, pour en faire au contraire le sujet premier et l’arbitre supr\u00eame de toute th\u00e9orie valide du traitement intelligent de l’information.<\/p>\n L’ambition intellectuelle qui sous-tend l’ensemble de l’\u0153uvre de Tomaso Poggio repose sur une clarification conceptuelle majeure : la perception visuelle est fondamentalement un probl\u00e8me inverse mal pos\u00e9 au sens math\u00e9matique. Lorsque le syst\u00e8me visuel d’un \u00eatre humain ou d’un animal observe le monde, il re\u00e7oit sur sa r\u00e9tine une projection bidimensionnelle continue, bruit\u00e9e et sous-d\u00e9termin\u00e9e d’un environnement tridimensionnel complexe, changeant et discontinu. Comment le cerveau r\u00e9ussit-il, en quelques fractions de seconde, \u00e0 d\u00e9duire avec une certitude quasi absolue la g\u00e9om\u00e9trie, la mati\u00e8re, la vitesse et l’identit\u00e9 des objets observ\u00e9s ? Pour Poggio, la r\u00e9ponse ne r\u00e9side ni dans une taxonomie descriptive des comportements, ni dans une simple \u00e9num\u00e9ration des connexions anatomiques, mais dans la d\u00e9couverte des principes computationnels abstraits qui permettent de r\u00e9gulariser ce probl\u00e8me inverse.<\/p>\n Son objectif \u00e9pist\u00e9mologique s’articule ainsi autour d’une th\u00e9orie unifi\u00e9e capable de lier organiquement les th\u00e9or\u00e8mes math\u00e9matiques les plus exigeants \u2014 tels que l’analyse fonctionnelle, la th\u00e9orie de l’approximation et la g\u00e9om\u00e9trie diff\u00e9rentielle \u2014 \u00e0 l’architecture biophysique des membranes neuronales, des canaux ioniques et des circuits corticaux. Poggio adopte une position philosophique originale vis-\u00e0-vis du r\u00e9ductionnisme biologique et du fonctionnalisme computationnel. Rejetant le r\u00e9ductionnisme na\u00eff qui pr\u00e9tend tout expliquer par la pure biochimie sans \u00e9gard pour le niveau de calcul, il r\u00e9cuse tout autant le fonctionnalisme computationnel radical qui postule que le support mat\u00e9riel est indiff\u00e9rent \u00e0 la nature de la pens\u00e9e. Pour Poggio, les contraintes physiques impos\u00e9es par les circuits de mati\u00e8re organique ont fa\u00e7onn\u00e9 les algorithmes m\u00eames de l’esprit ; l’\u00e9tude math\u00e9matique des algorithmes doit constamment s’inspirer des compromis d’ing\u00e9nierie trouv\u00e9s par la s\u00e9lection naturelle.<\/p>\n Avant d’occuper les chaires prestigieuses du MIT, c’est en Allemagne, au c\u0153ur de l’illustre Institut Max Planck de cybern\u00e9tique biologique<\/a> \u00e0 T\u00fcbingen, que Tomaso Poggio forge son outillage conceptuel durant les ann\u00e9es 1970. Fond\u00e9 par Hans Wenking, Martin Reichardt et Bernhard Hassenstein, cet institut repr\u00e9sentait alors l’\u00e9picentre mondial de l’approche cybern\u00e9tique appliqu\u00e9e aux organismes vivants. Poggio y entame une collaboration s\u00e9minale avec le physicien et biologiste Werner Reichardt. Ensemble, ils s’attaquent \u00e0 un organisme mod\u00e8le d’une simplicit\u00e9 trompeuse : le syst\u00e8me visuel et le comportement de vol de la mouche domestique (Musca domestica<\/em>). Pour la premi\u00e8re fois, le comportement d’un animal intact traquant une cible visuelle est quantifi\u00e9 avec la pr\u00e9cision m\u00e9trologique d’une exp\u00e9rience de m\u00e9canique quantique, dans des dispositifs exp\u00e9rimentaux de vol stationnaire asservi.<\/p>\n L’apport novateur de Poggio consiste \u00e0 introduire l’arsenal formel des s\u00e9ries fonctionnelles de Volterra pour mod\u00e9liser le traitement non lin\u00e9aire de l’information visuelle chez l’invert\u00e9br\u00e9. Plut\u00f4t que de traiter le syst\u00e8me nerveux de la mouche comme une bo\u00eete noire imp\u00e9n\u00e9trable ou comme un agencement purement lin\u00e9aire de filtres, Poggio d\u00e9montre que la r\u00e9ponse optomotrice et le comportement d’orientation peuvent \u00eatre d\u00e9compos\u00e9s en une somme rigoureuse d’op\u00e9rateurs non lin\u00e9aires d’ordres croissants :<\/p>\n Cette formalisation math\u00e9matique donne une assise analytique d\u00e9finitive au c\u00e9l\u00e8bre \u00ab d\u00e9tecteur de Reichardt \u00bb (ou d\u00e9tecteur de mouvement \u00e9l\u00e9mentaire), prouvant qu’une op\u00e9ration de corr\u00e9lation temporelle non lin\u00e9aire entre deux entr\u00e9es spatialement d\u00e9cal\u00e9es suffit \u00e0 extraire la direction et la vitesse du mouvement visuel sans n\u00e9cessiter d’horloge centrale ou de calcul symbolique conscient.<\/p>\n L’impact des travaux men\u00e9s \u00e0 T\u00fcbingen d\u00e9passe tr\u00e8s rapidement le cadre de l’entomologie cybern\u00e9tique. Poggio d\u00e9montre que les algorithmes de corr\u00e9lation non lin\u00e9aire d\u00e9couverts chez la mouche constituent en r\u00e9alit\u00e9 une solution universelle adopt\u00e9e par les syst\u00e8mes visuels biologiques pour r\u00e9soudre la t\u00e2che primordiale de la d\u00e9tection de mouvement. Avec Reichardt, il \u00e9tablit des ponts m\u00e9thodologiques audacieux entre l’\u00e9thologie quantitative et les \u00e9quations diff\u00e9rentielles stochastiques, reliant directement les fluctuations browniennes de la trajectoire de vol d’un insecte aux signaux d’erreur calcul\u00e9s par les interneurones lobulaires de son cerveau miniature.<\/p>\n Progressivement, Poggio entrevoit la possibilit\u00e9 de transposer cette logique modulaire et hi\u00e9rarchique au syst\u00e8me nerveux des vert\u00e9br\u00e9s sup\u00e9rieurs, y compris l’\u00eatre humain. Si un r\u00e9seau microscopique de quelques milliers de neurones peut impl\u00e9menter une convolution spatio-temporelle complexe par de simples d\u00e9calages dendritiques et des multiplications synaptiques locales, alors les fonctions cognitives complexes du cortex c\u00e9r\u00e9bral pourraient bien reposer sur l’empilement hi\u00e9rarchique de modules op\u00e9rationnels similaires. Cette intuition fondatrice marque l’abandon d\u00e9finitif des explications vitalistes ou holistiques floues au profit d’un programme de recherche r\u00e9solument computationnel : isoler les op\u00e9rateurs \u00e9l\u00e9mentaires de traitement du signal dans les tissus nerveux pour reconstruire, brique par brique, l’architecture globale de la cognition visuelle.<\/p>\n \u00c0 la fin des ann\u00e9es 1970, l’une des rencontres les plus d\u00e9cisives de l’histoire moderne des sciences de l’esprit s’op\u00e8re entre Tomaso Poggio et le math\u00e9maticien et neurobiologiste britannique David Marr<\/a>. Tous deux partagent le sentiment aigu que l’intelligence artificielle classique \u2014 focalis\u00e9e sur la manipulation de symboles logiques et les micro-mondes abstraits \u2014 s’est fourvoy\u00e9e en n\u00e9gligeant les m\u00e9canismes physiques de la perception. Parall\u00e8lement, la neurophysiologie descriptive, bien qu’accumulant des volumes massifs de donn\u00e9es \u00e9lectrophysiologiques gr\u00e2ce aux enregistrements pionniers de David Hubel et Torsten Wiesel dans l’aire visuelle primaire (V1), souffre d’un d\u00e9ficit th\u00e9orique criant : elle observe les d\u00e9charges de potentiels d’action sans comprendre la t\u00e2che que ces d\u00e9charges accomplissent.<\/p>\n La synergie entre les deux savants est imm\u00e9diate et extraordinairement productive. Marr apporte une audace visionnaire, une capacit\u00e9 ph\u00e9nom\u00e9nale \u00e0 conceptualiser les flux d’information \u00e0 grande \u00e9chelle et un style r\u00e9dactionnel incisif ; Poggio fournit la rigueur math\u00e9matique inflexible de la physique th\u00e9orique, sa ma\u00eetrise approfondie des \u00e9quations diff\u00e9rentielles, du filtrage lin\u00e9aire et non lin\u00e9aire, et une connaissance intime de la biophysique synaptique. Ensemble, durant les s\u00e9jours r\u00e9guliers de Poggio au MIT et les visites de Marr \u00e0 T\u00fcbingen, ils r\u00e9digent une s\u00e9rie d’articles historiques qui vont red\u00e9finir le paradigme de l’\u00e9tude de la vision, couronn\u00e9s par les travaux fondateurs sur la st\u00e9r\u00e9opsie computationnelle et la formulation canonique des niveaux d’analyse des syst\u00e8mes cognitifs.<\/p>\n L’apport le plus universellement c\u00e9l\u00e8bre issu de cette collaboration \u2014 expos\u00e9 magistralement dans l’ouvrage posthume de David Marr, Vision<\/em> (1982), mais co-\u00e9labor\u00e9 avec Poggio dans leurs articles conjoints \u2014 est le cadre m\u00e9thodologique dit des \u00ab trois niveaux d’analyse \u00bb. Ce cadre \u00e9pist\u00e9mologique stipule que tout syst\u00e8me effectuant un traitement complexe d’information ne peut \u00eatre v\u00e9ritablement compris qu’\u00e0 travers trois strates analytiques distinctes mais mutuellement contraintes :<\/p>\n Cette distinction a sauv\u00e9 la psychologie cognitive et les neurosciences d’une impasse conceptuelle majeure. Elle a d\u00e9montr\u00e9 qu’\u00e9tudier un cerveau uniquement au niveau de ses canaux ioniques revenait \u00e0 vouloir comprendre l’a\u00e9rodynamique d’un oiseau en d\u00e9cortiquant la structure chimique de ses plumes, sans formuler la th\u00e9orie g\u00e9n\u00e9rale du vol. R\u00e9ciproquement, concevoir des algorithmes hors-sol sans v\u00e9rifier leur impl\u00e9mentabilit\u00e9 dans un substrat physique risquait de mener \u00e0 des abstractions computationalistes st\u00e9riles.<\/p>\n Pour mettre \u00e0 l’\u00e9preuve ce cadre \u00e0 trois niveaux, Marr et Poggio s’attaquent \u00e0 l’un des probl\u00e8mes les plus fascinants de la psychophysique : la st\u00e9r\u00e9opsie binoculaire. Quelques ann\u00e9es plus t\u00f4t, le psychologue Bela Julesz avait invent\u00e9 les c\u00e9l\u00e8bres st\u00e9r\u00e9ogrammes \u00e0 points al\u00e9atoires (RDS), apportant la preuve indiscutable que le syst\u00e8me visuel humain est capable d’extraire la profondeur tridimensionnelle \u00e0 partir de deux images planes d\u00e9pourvues de tout rep\u00e8re s\u00e9mantique, de tout contour familier ou de tout indice de perspective monoculaire. La vision st\u00e9r\u00e9oscopique ne d\u00e9pend donc pas d’une reconnaissance pr\u00e9alable des objets, mais d’un processus purement computationnel pr\u00e9coce de mise en correspondance point \u00e0 point entre les r\u00e9tines gauche et droite.<\/p>\n Marr et Poggio formulent deux algorithmes successifs d’une importance historique consid\u00e9rable pour r\u00e9soudre ce probl\u00e8me d’appariement binoculaire :<\/p>\n Au c\u0153ur de la vision pr\u00e9coce r\u00e9side une exigence imp\u00e9rieuse : transformer une grille continue de photons incidents en une structure symbolique primitive isolant les discontinuit\u00e9s physiques pertinentes du monde ext\u00e9rieur. En collaboration avec David Marr et plus tard avec Vincent Torre, Tomaso Poggio formule une th\u00e9orie rigoureuse de la d\u00e9tection des contours qui va r\u00e9volutionner tant le traitement d’images sur ordinateur que la neurophysiologie de la vision primaire. Les variations d’intensit\u00e9 lumineuse capt\u00e9es par les photor\u00e9cepteurs sont le fruit combin\u00e9 de l’illumination, des ombres port\u00e9es, de la texture des mat\u00e9riaux et de la g\u00e9om\u00e9trie des ar\u00eates. Pour isoler les contours physiques r\u00e9els tout en \u00e9liminant le bruit stochastique inh\u00e9rent \u00e0 la transduction photonique, le syst\u00e8me doit imp\u00e9rativement lisser l’image avant d’en calculer les d\u00e9riv\u00e9es spatiales.<\/p>\n Poggio et Marr d\u00e9montrent sur le plan analytique que le filtre id\u00e9al d’adoucissement \u2014 celui qui minimise de mani\u00e8re optimale l’incertitude conjointe dans le domaine spatial et dans le domaine fr\u00e9quentiel, en vertu du principe d’ind\u00e9termination de Fourier \u2014 est la fonction gaussienne bidimensionnelle. L’op\u00e9rateur complet de d\u00e9tection de contour s’exprime alors par le Laplacien de la Gaussienne (souvent not\u00e9 $\\nabla^2 G$<\/span>, ou op\u00e9rateur de Marr-Hildreth) :<\/p>\n $$\\nabla^2 G(x, y) = \\left( \\frac{\\partial^2}{\\partial x^2} + \\frac{\\partial^2}{\\partial y^2} \\right) \\frac{1}{2\\pi\\sigma^2} \\exp\\left(-\\frac{x^2+y^2}{2\\sigma^2}\\right)$$<\/span><\/p>\n Les contours physiques correspondent pr\u00e9cis\u00e9ment aux \u00ab passages par z\u00e9ro \u00bb (zero-crossings<\/em>) de la convolu\u00e9e de l’image brute avec ce filtre diff\u00e9rentiel. Poggio d\u00e9montre la corr\u00e9lation stup\u00e9fiante entre cette formulation math\u00e9matique et la morphologie des champs r\u00e9cepteurs des cellules ganglionnaires de la r\u00e9tine et des cellules simples du cortex visuel stri\u00e9 (aire V1). Les cellules \u00e0 centre ON et p\u00e9riph\u00e9rie OFF (ou inversement) impl\u00e9mentent tr\u00e8s exactement des filtres de type \u00ab chapeau mexicain \u00bb, qui constituent l’approximation biologique directe de l’op\u00e9rateur Laplacien-Gaussien. En faisant varier le param\u00e8tre d’\u00e9chelle spatiale $\\sigma$<\/span>, le cortex stri\u00e9 extrait une d\u00e9composition pyramidale multi-\u00e9chelle, jetant les bases du \u00ab croquis primaire \u00bb (primal sketch<\/em>) marrien.<\/p>\n Le passage de l’image statique \u00e0 l’analyse du flux temporel repr\u00e9sente une autre \u00e9tape charni\u00e8re des travaux de Poggio au MIT. Tout observateur biologique en mouvement projette sur sa r\u00e9tine un champ de vecteurs de v\u00e9locit\u00e9 apparente appel\u00e9 flux optique. La d\u00e9termination de ce flux pose une difficult\u00e9 conceptuelle c\u00e9l\u00e8bre : l’\u00e9quation de conservation de la luminance ne fournit qu’une seule contrainte scalaire locale pour deux composantes inconnues du vecteur vitesse $(u, v)$<\/span> en chaque point $(x, y)$<\/span>. Il s’agit du fameux \u00ab probl\u00e8me de l’ouverture \u00bb : \u00e0 travers un champ r\u00e9cepteur restreint, seule la composante de vitesse perpendiculaire \u00e0 l’orientation du contour peut \u00eatre mesur\u00e9e directement, tandis que la composante tangentielle demeure ind\u00e9termin\u00e9e.<\/p>\n En \u00e9troite interaction avec les travaux de Berthold Horn et Michael Schunck, Tomaso Poggio et son \u00e9quipe d\u00e9montrent comment ce probl\u00e8me d’ind\u00e9termination locale est r\u00e9solu par l’imposition de principes variationnels globaux. En formulant une fonctionnelle d’\u00e9nergie qui p\u00e9nalise \u00e0 la fois l’\u00e9cart \u00e0 l’\u00e9quation de constance de brillance et la non-continuit\u00e9 spatiale du champ vectoriel r\u00e9sultant, ils montrent que le cerveau int\u00e8gre les signaux locaux le long de vastes \u00e9tendues corticales. Poggio mod\u00e9lise l’architecture des voies magnocellulaires allant de V1 vers l’aire temporale m\u00e9diane (MT\/V5), r\u00e9v\u00e9lant comment les neurones de MT int\u00e8grent les r\u00e9ponses d\u00e9pendantes de l’ouverture des cellules de V1 pour extraire le mouvement global d’un objet rigide ou le flux d’auto-mouvement (ego-motion<\/em>) n\u00e9cessaire \u00e0 la navigation spatiale autonome.<\/p>\n La perception humaine ne s’appuie jamais sur une source d’information isol\u00e9e. Notre syst\u00e8me cognitif int\u00e8gre de mani\u00e8re transparente la disparit\u00e9 binoculaire, les gradients de texture, le mouvement relatif, la forme issue de l’ombrage (shape-from-shading<\/em>) et la perspective g\u00e9om\u00e9trique. Dans une s\u00e9rie d’articles novateurs au milieu des ann\u00e9es 1980, Poggio formalise cette int\u00e9gration sous la forme d’un probl\u00e8me variationnel unifi\u00e9. Chaque indice sensoriel apporte une contrainte diff\u00e9rentielle locale ou globale sur l’orientation et la distance des surfaces observ\u00e9es.<\/p>\n Pour fusionner ces indices h\u00e9t\u00e9rog\u00e8nes sans produire d’incoh\u00e9rences contradictoires, Poggio d\u00e9veloppe des mod\u00e8les bas\u00e9s sur des champs al\u00e9atoires de Markov et des r\u00e9seaux r\u00e9currents d’optimisation. Il montre comment des \u00ab variables de ligne \u00bb (line processes<\/em>) non lin\u00e9aires peuvent \u00eatre introduites dans le formalisme math\u00e9matique pour d\u00e9sactiver localement le lissage spatial aux fronti\u00e8res r\u00e9elles des objets, \u00e9vitant ainsi le floutage artificiel de la profondeur entre un objet d’avant-plan et l’arri\u00e8re-plan. Ce formalisme rigoureux permet de comprendre comment le syst\u00e8me visuel r\u00e9alise la transition cruciale entre le croquis primaire multi-\u00e9chelle et le croquis 2,5D, cette repr\u00e9sentation interm\u00e9diaire centr\u00e9e sur le point de vue qui quantifie la topographie tridimensionnelle des surfaces visibles avant toute reconnaissance s\u00e9mantique cat\u00e9gorielle.<\/p>\n L’une des contributions \u00e9pist\u00e9mologiques et math\u00e9matiques les plus p\u00e9rennes de Tomaso Poggio est d’avoir import\u00e9 et raffin\u00e9 la th\u00e9orie math\u00e9matique des probl\u00e8mes inverses mal pos\u00e9s, formalis\u00e9e \u00e0 l’origine en Union Sovi\u00e9tique par Andre\u00ef Tikhonov<\/a>, pour l’appliquer \u00e0 l’ensemble des sciences de la perception et de l’intelligence. Selon la d\u00e9finition canonique formul\u00e9e par Jacques Hadamard, un probl\u00e8me math\u00e9matique est dit \u00ab bien pos\u00e9 \u00bb s’il remplit trois conditions simultan\u00e9es :<\/p>\n Dans un article s\u00e9minal publi\u00e9 en 1985 dans Science<\/em> (\u00ab Computational vision and regularization theory \u00bb, co\u00e9crit avec Vincent Torre et Christof Koch), Poggio ass\u00e8ne une d\u00e9monstration \u00e9clatante : la quasi-totalit\u00e9 des t\u00e2ches visuelles fondamentales \u2014 st\u00e9r\u00e9opsie, flux optique, reconstruction de surfaces, diff\u00e9rentiation de contour \u2014 sont structurellement des probl\u00e8mes mal pos\u00e9s. Les donn\u00e9es r\u00e9tiniennes sont infiniment trop pauvres pour d\u00e9terminer de mani\u00e8re univoque la structure de la sc\u00e8ne 3D sans postulats a priori. Poggio d\u00e9montre que le syst\u00e8me nerveux biologique compense ce d\u00e9ficit d’information en introduisant des contraintes de r\u00e9gularisation implicites, fond\u00e9es sur les propri\u00e9t\u00e9s statistiques et physiques les plus r\u00e9guli\u00e8res du monde mat\u00e9riel (continuit\u00e9, lissage, compacit\u00e9, rigidit\u00e9 piecewise). En minimisant une fonctionnelle de Tikhonov combinant un terme d’erreur aux donn\u00e9es et un terme p\u00e9nalisant la non-r\u00e9gularit\u00e9 g\u00e9om\u00e9trique via un op\u00e9rateur diff\u00e9rentiel stabilisateur, le cerveau r\u00e9sout de mani\u00e8re stable et instantan\u00e9e des calculs math\u00e9matiquement insolubles dans l’absolu.<\/p>\n \u00c0 partir de la fin des ann\u00e9es 1980, Poggio franchit une \u00e9tape th\u00e9orique majeure en \u00e9tablissant que l’apprentissage perceptif et conceptuel n’est lui-m\u00eame rien d’autre qu’un probl\u00e8me d’approximation et d’interpolation de surfaces de r\u00e9gularisation dans des espaces de tr\u00e8s haute dimension. Avec son collaborateur Federico Girosi, il publie en 1989 et 1990 des textes fondateurs d\u00e9montrant que les r\u00e9seaux de neurones ne doivent pas \u00eatre con\u00e7us comme des assemblages arbitraires de portes logiques ou de sigmo\u00efdes, mais comme des approximations rigoureuses de fonctionnelles issues de la th\u00e9orie de la r\u00e9gularisation dans des espaces de Hilbert \u00e0 noyau reproduisant (RKHS).<\/p>\n C’est dans ce cadre conceptuel rigoureux qu’\u00e9mergent les r\u00e9seaux \u00e0 fonctions \u00e0 base radiale (Radial Basis Functions<\/em> ou RBF). Contrairement aux perceptrons multicouches classiques qui d\u00e9coupent l’espace d’entr\u00e9e par des hyperplans semi-infinis, les r\u00e9seaux RBF synth\u00e9tisent une hypersurface continue en positionnant des fonctions locales isotropes \u2014 le plus souvent des gaussiennes multidimensionnelles \u2014 autour d’exemples canoniques stock\u00e9s en m\u00e9moire :<\/p>\n $$f(\\mathbf{x}) = \\sum_{i=1}^N c_i \\exp\\left( -\\frac{|\\mathbf{x} – \\mathbf{t}_i|^2}{2\\sigma_i^2} \\right)$$<\/span><\/p>\n Chaque neurone cach\u00e9 calcule la distance euclidienne entre le vecteur de stimulation sensorielle $\\mathbf{x}$<\/span> et un vecteur prototype $\\mathbf{t}_i$<\/span>. Ce mod\u00e8le math\u00e9matique offre pour la premi\u00e8re fois une explication \u00e9l\u00e9gante et quantitative de la m\u00e9moire associative humaine et du ph\u00e9nom\u00e8ne de g\u00e9n\u00e9ralisation perceptive. Reconna\u00eetre un objet sous un angle in\u00e9dit ne n\u00e9cessite pas de poss\u00e9der une description g\u00e9om\u00e9trique 3D exhaustive de cet objet : il suffit au syst\u00e8me visuel d’interpoler contin\u00fbment, via une somme pond\u00e9r\u00e9e de fonctions RBF, entre un nombre restreint de vues bidimensionnelles m\u00e9moris\u00e9es lors de l’apprentissage initial.<\/p>\n L’inscription de Tomaso Poggio dans l’histoire des math\u00e9matiques appliqu\u00e9es est \u00e9galement scell\u00e9e par son dialogue intellectuel \u00e9troit avec le p\u00e8re fondateur de la th\u00e9orie statistique de l’apprentissage, Vladimir Vapnik. Poggio comprend imm\u00e9diatement que le c\u0153ur du probl\u00e8me de l’intelligence artificielle n’est pas l’optimisation pure (la capacit\u00e9 \u00e0 m\u00e9moriser des exemples d’entra\u00eenement jusqu’\u00e0 atteindre une erreur nulle), mais la g\u00e9n\u00e9ralisation<\/em> : la facult\u00e9 math\u00e9matiquement garantie d’un algorithme \u00e0 se comporter correctement sur des donn\u00e9es futures et jamais rencontr\u00e9es lors de la phase d’apprentissage.<\/p>\n Avec Vapnik, Steve Smale et plus tard Lorenzo Rosasco, Poggio explore les bornes th\u00e9oriques de l’erreur de g\u00e9n\u00e9ralisation. Il \u00e9tudie la relation intime reliant la stabilit\u00e9 algorithmique, la dimension de Vapnik-Chervonenkis (dimension VC) et la compacit\u00e9 des op\u00e9rateurs de r\u00e9gularisation. Ses publications fournissent des d\u00e9monstrations rigoureuses \u00e9tablissant qu’un algorithme ne peut garantir sa capacit\u00e9 de g\u00e9n\u00e9ralisation que s’il est \u00ab bien pos\u00e9 \u00bb au sens o\u00f9 une faible variation du jeu de donn\u00e9es d’apprentissage n’entra\u00eene qu’une perturbation infinit\u00e9simale de la fonction hypoth\u00e8se produite. Ces recherches fournissent un socle th\u00e9orique indestructible aux machines \u00e0 vecteurs de support (SVM) et \u00e9clairent d’un jour nouveau les m\u00e9canismes psychologiques du transfert cognitif et de l’induction chez l’\u00eatre humain.<\/p>\n Au tournant du XXIe si\u00e8cle, Tomaso Poggio et son doctorant Maximilian Riesenhuber accomplissent une synth\u00e8se magistrale de quarante ann\u00e9es de neurophysiologie et de mod\u00e9lisation math\u00e9matique en concevant le mod\u00e8le HMAX<\/a> (Hierarchical Model and X<\/em>). Inspir\u00e9 par les d\u00e9couvertes anatomiques du double flux cortical de David Milner et Melvyn Goodale, HMAX ambitionne de r\u00e9pliquer informatiquement l’ensemble de la voie ventrale du syst\u00e8me visuel des primates (dite voie du \u00ab Quoi ? \u00bb), qui s’\u00e9tend s\u00e9quentiellement du cortex stri\u00e9 primaire (V1) vers V2, V4, et culmine dans le cortex inf\u00e9rotemporal (IT).<\/p>\n Le g\u00e9nie structurel de HMAX repose sur l’alternance m\u00e9thodique et hi\u00e9rarchique de deux types distincts d’op\u00e9rations cellulaires, directement inspir\u00e9es des cellules simples et complexes d\u00e9couvertes par Hubel et Wiesel :<\/p>\n Dans la cascade HMAX canonique ($S_1 \\rightarrow C_1 \\rightarrow S_2 \\rightarrow C_2$<\/span>), les cellules $S_1$<\/span> appliquent des filtres de Gabor multi-\u00e9chelles pour d\u00e9tecter des orientations locales. Les cellules $C_1$<\/span> regroupent les r\u00e9ponses de $S_1$<\/span> via une fonction non lin\u00e9aire de maximisation sur un voisinage spatial restreint. Ensuite, les cellules $S_2$<\/span> combinent les activations de configurations sp\u00e9cifiques de cellules $C_1$<\/span> pour former des r\u00e9cepteurs s\u00e9lectifs \u00e0 des arrangements de traits \u00e9l\u00e9mentaires (par exemple des angles, des courbures ou des intersections en T). Enfin, les unit\u00e9s $C_2$<\/span> regroupent ces d\u00e9tections complexes sur l’ensemble du champ visuel, g\u00e9n\u00e9rant un vecteur d’activation global invariant qui alimente directement les circuits de cat\u00e9gorisation du cortex inf\u00e9rotemporal.<\/p>\n L’innovation math\u00e9matique critique introduite par Riesenhuber et Poggio r\u00e9side dans le choix de l’op\u00e9rateur de regroupement utilis\u00e9 dans les couches complexes : l’op\u00e9ration non lin\u00e9aire L’op\u00e9ration $$y = \\max_{j in \\mathcal{N}} x_j$$<\/span><\/p>\n s\u00e9lectionne exclusivement l’aff\u00e9rence neuronale la plus fortement activ\u00e9e au sein du voisinage spatial r\u00e9cepteur $\\mathcal{N}$<\/span>. Poggio prouve math\u00e9matiquement que cette non-lin\u00e9arit\u00e9 fondamentale r\u00e9sout le compromis agonistique historique de la perception visuelle : le dilemme invariance versus sp\u00e9cificit\u00e9. En ne conservant que le signal maximal, le r\u00e9seau devient rigoureusement invariant aux petits d\u00e9placements et changements de taille de la caract\u00e9ristique reconnue, tout en pr\u00e9servant intacte la s\u00e9lectivit\u00e9 d’accord pour la nature intrins\u00e8que de cette caract\u00e9ristique. L’op\u00e9ration MAX pr\u00e9figure avec plus d’une d\u00e9cennie d’avance le m\u00e9canisme de max-pooling<\/em> qui deviendra l’\u00e9pine dorsale des r\u00e9seaux convolutifs modernes (CNN) d\u00e9ploy\u00e9s massivement lors de l’av\u00e8nement du deep learning.<\/p>\n La force \u00e9pist\u00e9mologique du mod\u00e8le HMAX tient au fait qu’il n’a pas \u00e9t\u00e9 con\u00e7u comme un simple exploit d’ing\u00e9nierie algorithmique, mais comme une th\u00e9orie pr\u00e9dictive falsifiable de la biologie corticale. Confront\u00e9 aux donn\u00e9es \u00e9lectrophysiologiques recueillies par des laboratoires de premier plan mondial, HMAX reproduit fid\u00e8lement la dynamique de r\u00e9ponse des neurones de l’aire V4 et du cortex inf\u00e9rotemporal chez le macaque \u00e9veill\u00e9 effectuant des t\u00e2ches de reconnaissance de formes naturelles et de morphing g\u00e9om\u00e9trique.<\/p>\n Le succ\u00e8s le plus spectaculaire du mod\u00e8le r\u00e9side dans sa capacit\u00e9 \u00e0 pr\u00e9dire les performances humaines en vision ultrarapide. Dans des paradigmes psychophysiques d’avant-garde initi\u00e9s par Simon Thorpe, o\u00f9 des images de sc\u00e8nes naturelles complexes sont projet\u00e9es pendant moins de vingt millisecondes, le syst\u00e8me visuel humain est capable de cat\u00e9goriser la pr\u00e9sence d’un animal ou d’un v\u00e9hicule en moins de 150 millisecondes au niveau des potentiels \u00e9voqu\u00e9s corticaux (onde frontale n\u00e9gative N150). Un tel laps de temps interdit formellement tout aller-retour it\u00e9ratif par boucles de r\u00e9troaction corticocorticales complexes : le calcul doit n\u00e9cessairement s’effectuer en mode purement ascendant (feedforward<\/em>). HMAX apporte la preuve formelle qu’une cascade hi\u00e9rarchique strictement feedforward<\/em>, alternant s\u00e9lectivit\u00e9 lin\u00e9aire et maximisation non lin\u00e9aire, suffit arithm\u00e9tiquement \u00e0 extraire des signatures visuelles invariantes hautement cat\u00e9gorisables dans ce d\u00e9lai temporel ultra-court.<\/p>\n La publication des travaux de Tomaso Poggio sur les architectures hi\u00e9rarchiques et les r\u00e9seaux d’interpolation a profond\u00e9ment reconfigur\u00e9 l’un des d\u00e9bats les plus passionn\u00e9s de la psychologie cognitive contemporaine : la controverse opposant les th\u00e9ories de la reconnaissance visuelle fond\u00e9es sur les vues bidimensionnelles (view-based theories<\/em>) aux th\u00e9ories structurales volum\u00e9triques fond\u00e9es sur des g\u00e9ons invariants (structural-description models<\/em>), port\u00e9es notamment par Irving Biederman<\/a>.<\/p>\n Pour les tenants des th\u00e9ories structurales, le cerveau extrait instantan\u00e9ment des primitives g\u00e9om\u00e9triques 3D d\u00e9contextualis\u00e9es. Poggio, appuy\u00e9 par les exp\u00e9riences \u00e9lectrophysiologiques d’envergure men\u00e9es avec Nikos Logothetis et Charles Pauls, r\u00e9fute empiriquement et th\u00e9oriquement cette vision. En enregistrant les cellules du cortex inf\u00e9rotemporal de singes entra\u00een\u00e9s \u00e0 reconna\u00eetre des objets synth\u00e9tiques complexes (les c\u00e9l\u00e8bres stimuli en fil de fer ou en trombones d\u00e9form\u00e9s, ainsi que des surfaces lisses inconnues), ils d\u00e9couvrent une classe fondamentale de neurones : les cellules accord\u00e9es au point de vue (view-tuned cells<\/em>). Ces neurones d\u00e9chargent de mani\u00e8re maximale pour une perspective sp\u00e9cifique de l’objet et voient leur r\u00e9ponse d\u00e9cro\u00eetre de fa\u00e7on gaussienne \u00e0 mesure que l’objet pivote dans l’espace tridimensionnel :<\/p>\n $$R(\\theta) = R_0 \\exp\\left( -\\frac{(\\theta – \\theta_{\\text{pref}})^2}{2\\sigma^2} \\right)$$<\/span><\/p>\n Poggio d\u00e9montre que la reconnaissance invariante \u00e0 360 degr\u00e9s n’est pas le r\u00e9sultat d’une reconstruction 3D explicite, mais l’aboutissement d’une interpolation effectu\u00e9e par une couche de cellules sup\u00e9rieures regroupant l’activit\u00e9 d’une constellation restreinte de ces unit\u00e9s accord\u00e9es \u00e0 des vues privil\u00e9gi\u00e9es. Cette d\u00e9couverte ancre solidement la psychologie cognitive dans un paradigme computationnel d’apprentissage par l’exemple plut\u00f4t que de raisonnement g\u00e9om\u00e9trique d\u00e9ductif abstrait.<\/p>\n La reconnaissance d’objets dans le monde r\u00e9el ne s’effectue presque jamais sur des stimuli isol\u00e9s sur fond blanc neutre, mais dans des environnements satur\u00e9s d’interf\u00e9rences visuelles (clutter<\/em>). Cette r\u00e9alit\u00e9 physique pose la question des m\u00e9canismes de s\u00e9lection spatiale et d’allocation des ressources computationnelles. D\u00e8s le milieu des ann\u00e9es 1980, Tomaso Poggio collabore avec Christof Koch pour formaliser le premier mod\u00e8le computationnel complet de l’attention visuelle s\u00e9lective guid\u00e9e par la saillance (saliency-based visual attention<\/em>).<\/p>\n Leur mod\u00e8le articule une interaction dynamique entre deux flux d’information distincts :<\/p>\n Ce formalisme pionnier a jet\u00e9 les bases algorithmiques permettant d’expliquer les ph\u00e9nom\u00e8nes classiques de la psychologie cognitive exp\u00e9rimentale, tels que la c\u00e9cit\u00e9 attentionnelle (inattentional blindness<\/em>), la c\u00e9cit\u00e9 au changement, et le passage dynamique entre la recherche visuelle parall\u00e8le (effet de surgissement ou pop-out<\/em>) et la recherche visuelle s\u00e9rielle contraignante.<\/p>\n L’un des apports majeurs de Poggio \u00e0 la neuropsychologie r\u00e9side dans son \u00e9tude syst\u00e9matique de l’apprentissage perceptif : la capacit\u00e9 remarquable du syst\u00e8me nerveux adulte \u00e0 am\u00e9liorer ses performances sensorielles fines \u2014 telles que l’acuit\u00e9 de vernier, la discrimination d’orientation ou la perception du relief \u2014 \u00e0 la suite d’un entra\u00eenement prolong\u00e9. Dans une s\u00e9rie de recherches conduites avec Manfred Fahle au tournant du mill\u00e9naire, Poggio d\u00e9montre que cette am\u00e9lioration n’est pas confin\u00e9e \u00e0 des strates associatives sup\u00e9rieures tardives, mais s’enracine directement dans la modification plastique des connexions synaptiques des premi\u00e8res aires visuelles primaires (V1 et V2).<\/p>\n Poggio mod\u00e9lise math\u00e9matiquement ce ph\u00e9nom\u00e8ne en int\u00e9grant des r\u00e8gles de plasticit\u00e9 hebbienne modifi\u00e9es au sein de ses architectures d’hyperfaci\u00e8s RBF. L’apprentissage perceptif y est formalis\u00e9 comme l’optimisation locale de la population de filtres r\u00e9cepteurs : sous la contrainte du renforcement sensoriel, les centres des fonctions gaussiennes migrent dynamiquement dans l’espace des caract\u00e9ristiques pour densifier leur \u00e9chantillonnage autour des singularit\u00e9s diagnostiques de la t\u00e2che discriminative. Cette approche th\u00e9orique unifi\u00e9e a permis de rapprocher d\u00e9finitivement la psychologie de l’expertise visuelle (par exemple la reconnaissance d’empreintes digitales, l’interpr\u00e9tation radiologique ou la classification d’esp\u00e8ces biologiques) des principes biophysiques de la potentialisation \u00e0 long terme (LTP) et de la d\u00e9pression \u00e0 long terme (LTD) des synapses corticales.<\/p>\n En 2013, \u00e0 l’apog\u00e9e d’une carri\u00e8re acad\u00e9mique d\u00e9j\u00e0 monumentale, Tomaso Poggio franchit une \u00e9tape institutionnelle majeure en recevant un financement d\u00e9cisif de la National Science Foundation<\/em> (NSF) pour cr\u00e9er le prestigieux Center for Brains, Minds and Machines (CBMM)<\/a>, h\u00e9berg\u00e9 au MIT en partenariat \u00e9troit avec l’Universit\u00e9 Harvard. La cr\u00e9ation du CBMM proc\u00e8de d’un diagnostic lucide et sans complaisance pos\u00e9 par Poggio sur l’\u00e9volution de la technologie contemporaine : alors que l’intelligence artificielle appliqu\u00e9e s’enferme de plus en plus dans une logique d’ing\u00e9nierie brute, caract\u00e9ris\u00e9e par l’accumulation de gigawatts de calcul et de p\u00e9taoctets de donn\u00e9es statistiques opaques, la science fondamentale de l’intelligence v\u00e9ritable stagne.<\/p>\n La mission assign\u00e9e au CBMM par Poggio est ambitieuse : forger une convergence interdisciplinaire tripartite sans pr\u00e9c\u00e9dent historique :<\/p>\n Le postulat m\u00e9thodologique de Poggio est cat\u00e9gorique : il est impossible de concevoir une intelligence artificielle v\u00e9ritablement robuste, adaptative, parcimonieuse en donn\u00e9es et capable de sens commun sans d\u00e9coder simultan\u00e9ment les algorithmes ex\u00e9cut\u00e9s par le cerveau biologique. Le CBMM red\u00e9finit ainsi la recherche sur l’intelligence non comme une simple discipline technologique lucrative, mais comme l’une des plus grandes qu\u00eates intellectuelles de l’histoire de la science.<\/p>\n L’une des orientations les plus audacieuses insuffl\u00e9es par Poggio au sein du CBMM a \u00e9t\u00e9 le rapprochement strat\u00e9gique entre th\u00e9oriciens de la vision computationnelle et figures de proue de la psychologie cognitive du d\u00e9veloppement, au premier rang desquelles figurent Elizabeth Spelke et Laura Schulz. Pour Poggio, l’intelligence humaine adulte n’est pas une page blanche statistique (tabula rasa<\/em>) fa\u00e7onn\u00e9e par des milliards d’exemples annot\u00e9s, car un jeune enfant apprend \u00e0 reconna\u00eetre le monde, \u00e0 pr\u00e9dire des lois physiques et \u00e0 interagir avec autrui \u00e0 partir d’un volume de donn\u00e9es visuelles extraordinairement restreint et sans supervision explicite.<\/p>\n Ces collaborations ont permis de formaliser sous forme de mod\u00e8les computationnels explicites ce que Spelke nomme le \u00ab noyau de connaissances \u00bb (core knowledge<\/em>) du nourrisson :<\/p>\n En traduisant ces invariants cognitifs sous forme de r\u00e9seaux probabilistes g\u00e9n\u00e9ratifs et d’architectures d’apprentissage contrastif auto-supervis\u00e9, Poggio et ses coll\u00e8gues d\u00e9montrent comment des structures a priori minimales permettent \u00e0 l’esprit \u00e9mergent de contraindre puissamment ses espaces d’hypoth\u00e8ses, r\u00e9duisant drastiquement le co\u00fbt computationnel n\u00e9cessaire \u00e0 l’acquisition de nouveaux concepts.<\/p>\n L’histoire de l’intelligence artificielle a \u00e9t\u00e9 d\u00e9chir\u00e9e pendant des d\u00e9cennies par une guerre de tranch\u00e9es \u00e9pist\u00e9mologique entre le paradigme symbolique (l’IA classique ou Good Old-Fashioned AI<\/em>, fond\u00e9e sur la manipulation d\u00e9terministe de r\u00e8gles logiques discr\u00e8tes) et le paradigme connexionniste (les r\u00e9seaux de neurones, fond\u00e9s sur des repr\u00e9sentations distribu\u00e9es sous-symboliques et continues). Au sein du CBMM, Tomaso Poggio s’associe \u00e0 des th\u00e9oriciens tels que Josh Tenenbaum pour d\u00e9passer d\u00e9finitivement cette dichotomie st\u00e9rile et b\u00e2tir une architecture cognitive hybride unifi\u00e9e.<\/p>\n Poggio d\u00e9fend la n\u00e9cessit\u00e9 d’une int\u00e9gration computationnelle verticale o\u00f9 les r\u00e9seaux neuronaux profonds et bio-inspir\u00e9s assument le traitement sensoriel ascendant, extrayant de la sc\u00e8ne visuelle brute des \u00ab sc\u00e8nes graphiques \u00bb ou des primitives structurales, tandis que des programmes probabilistes synth\u00e9tiques (m\u00e9thodes bay\u00e9siennes non param\u00e9triques et inf\u00e9rence causale) manipulent ces primitives pour op\u00e9rer des raisonnements contre-factuels, de la d\u00e9duction logique et de la planification d’actions complexes. Ce nouveau paradigme neuro-symbolique incarne la vision ultime de Poggio : une science computationnelle de l’esprit capable de combler sans discontinuit\u00e9 le foss\u00e9 th\u00e9orique s\u00e9parant la d\u00e9charge d’un photon sur un b\u00e2tonnet r\u00e9tinien de l’\u00e9laboration d’un th\u00e9or\u00e8me abstrait dans la conscience humaine.<\/p>\n Pour tout primate social, et singuli\u00e8rement pour l’\u00eatre humain, la reconnaissance des visages de consp\u00e9cifiques repr\u00e9sente un imp\u00e9ratif biologique critique pour la survie et l’organisation du groupe. D’un point de vue math\u00e9matique et computationnel, la t\u00e2che est d’une difficult\u00e9 vertigineuse : tous les visages partagent exactement la m\u00eame configuration spatiale de base (deux yeux au-dessus d’un nez, surplombant une bouche), ce qui induit une similarit\u00e9 inter-classe colossale. Simultan\u00e9ment, un m\u00eame visage individuel subit des distorsions intra-classe consid\u00e9rables sous l’effet des variations d’\u00e9clairage, des changements d’expression faciale, des rotations 3D de la t\u00eate et du vieillissement morphologique.<\/p>\n Les d\u00e9couvertes neurobiologiques fondamentales r\u00e9alis\u00e9es par Doris Tsao et Winrich Freiwald, confirmant l’existence chez le macaque d’un r\u00e9seau d\u00e9di\u00e9 de zones sp\u00e9cialis\u00e9es interconnect\u00e9es (les face patches<\/em> de la voie temporale), ont offert \u00e0 Tomaso Poggio un terrain d’investigation privil\u00e9gi\u00e9. Poggio analyse les calculs s\u00e9quentiels ex\u00e9cut\u00e9s \u00e0 travers ces noyaux corticaux \u2014 des aires post\u00e9rieures (ML\/MF) jusqu’aux aires ant\u00e9rieures (AL et AM) \u2014 comme la concr\u00e9tisation vivante de ses th\u00e9ories sur la r\u00e9solution progressive des probl\u00e8mes inverses. En lien \u00e9troit avec les observations psychologiques relatives \u00e0 l’aire fusiforme des visages (FFA) chez l’humain \u00e9tudi\u00e9e par Nancy Kanwisher, il formalise les algorithmes d’apprentissage statistique sp\u00e9cialis\u00e9s qui permettent au cortex d’ajuster des filtres diff\u00e9rentiels fins capables d’extraire des identit\u00e9s individuelles stables \u00e0 partir de distributions spectrales quasi identiques.<\/p>\n Pour expliquer comment le cortex temporal accomplit la prouesse d’identifier un visage ind\u00e9pendamment de sa pose ou de sa taille, Poggio d\u00e9veloppe une \u00e9l\u00e9gante th\u00e9orie math\u00e9matique de l’invariance fond\u00e9e sur la th\u00e9orie des groupes de Lie et l’analyse harmonique non commutative. En collaboration avec Fabio Anselmi et Lorenzo Rosasco, il mod\u00e9lise la fa\u00e7on dont les transformations continues affines du plan image \u2014 translations spatiales, rotations planes et dilatations d’\u00e9chelle \u2014 forment des groupes math\u00e9matiques stricts $G$<\/span> agissant sur les fonctions de luminance r\u00e9tinienne.<\/p>\n La th\u00e9orie d\u00e9montre que pour rendre la signature d’un objet invariante \u00e0 l’action d’un groupe de transformation, un circuit cortical n’a pas besoin de calculer explicitement des invariants analytiques complexes. Il lui suffit de calculer la distribution de probabilit\u00e9 unidimensionnelle (l’empreinte \u00e9nerg\u00e9tique) des projections du motif sensoriel sur une orbite compl\u00e8te g\u00e9n\u00e9r\u00e9e par l’action du groupe appliqu\u00e9 \u00e0 un prototype stock\u00e9 en m\u00e9moire :<\/p>\n $$\\mu_{I, t} = \\frac{1}{|G|} \\int_{g in G} \\langle I, g \\cdot t \\rangle , dg$$<\/span><\/p>\n Cette formulation poss\u00e8de une port\u00e9e biologique consid\u00e9rable. Elle d\u00e9montre que les cellules des zones de visages peuvent acqu\u00e9rir passivement l’invariance perceptive universelle sans aucune supervision conceptuelle, simplement en observant dans leur petite enfance la trajectoire continue d’objets ou de visages pivotant naturellement dans leur champ de vision. Cette m\u00e9moire sensorielle des orbites de transformation g\u00e9n\u00e8re un dictionnaire universel d’invariance qui peut \u00eatre appliqu\u00e9 instantan\u00e9ment \u00e0 n’importe quel visage ou objet totalement in\u00e9dit, r\u00e9duisant d’un facteur mille la quantit\u00e9 d’exemples requis pour l’apprentissage discriminatif.<\/p>\n La robustesse de la th\u00e9orie computationnelle de Poggio se mesure \u00e0 sa capacit\u00e9 \u00e0 expliquer non seulement les succ\u00e8s du syst\u00e8me perceptif humain, mais \u00e9galement ses d\u00e9faillances syst\u00e9matiques et ses pathologies cliniques. En psychologie cognitive exp\u00e9rimentale, l’\u00ab effet d’inversion des visages \u00bb (face inversion effect<\/em>) documente le fait troublant que la reconnaissance d’un visage est consid\u00e9rablement plus d\u00e9grad\u00e9e par un retournement spatial \u00e0 180 degr\u00e9s que celle de tout autre objet manufactur\u00e9 rigide (comme une voiture ou une maison). Ce ph\u00e9nom\u00e8ne trahit la rupture d’un mode de traitement holistique hautement sp\u00e9cialis\u00e9.<\/p>\n Poggio mod\u00e9lise cet effet au niveau algorithmique : le m\u00e9canisme d’invariance et de mise en correspondance par agr\u00e9gation des sous-caract\u00e9ristiques faciales dans HMAX et les mod\u00e8les de groupes de Lie repose sur l’hypoth\u00e8se canonique que les orbites de transformation observ\u00e9es durant l’ontogen\u00e8se respectent la verticalit\u00e9 gravitationnelle normale du monde r\u00e9el. Lorsqu’un visage est pr\u00e9sent\u00e9 t\u00eate en bas :<\/p>\n De surcro\u00eet, cette mod\u00e9lisation offre un \u00e9clairage direct sur les m\u00e9canismes sous-jacents aux pathologies neuropsychologiques de la vision, au premier rang desquelles figure la prosopagnosie cong\u00e9nitale ou acquise cons\u00e9cutive \u00e0 des l\u00e9sions de la r\u00e9gion occipito-temporale ventrale. En simulant des destructions s\u00e9lectives de la couche de calcul d’invariance de groupe ou des projections vers les repr\u00e9sentations prototypes dans ses r\u00e9seaux de r\u00e9gularisation, Poggio reproduit quantitativement les profils de d\u00e9ficits perceptifs observ\u00e9s chez les patients cliniques, \u00e9tablissant un lien formel entre \u00e9quations diff\u00e9rentielles et neuropsychiatrie cognitive.<\/p>\n L’explosion plan\u00e9taire de l’apprentissage profond (deep learning<\/em>) au cours de la d\u00e9cennie 2010 a suscit\u00e9 un paradoxe scientifique in\u00e9dit : une technologie industrielle aux performances empiriques \u00e9poustouflantes a prolif\u00e9r\u00e9 en l’absence quasi totale d’une th\u00e9orie math\u00e9matique explicative de ses succ\u00e8s. De nombreux ing\u00e9nieurs consid\u00e9raient les r\u00e9seaux de neurones profonds comme des \u00ab bo\u00eetes noires \u00bb magiques dont le succ\u00e8s d\u00e9fiait les lois traditionnelles de la statistique math\u00e9matique, et notamment la mal\u00e9diction de la dimensionnalit\u00e9 (curse of dimensionality<\/em>), formul\u00e9e par Richard Bellman, selon laquelle le nombre de donn\u00e9es n\u00e9cessaires pour approximer une fonction multivari\u00e9e cro\u00eet exponentiellement avec la dimension de son espace d’entr\u00e9e.<\/p>\n D\u00e8s 2016, Tomaso Poggio, en collaboration avec Hrushikesh Mhaskar, Qianli Liao et Kenji Kawaguchi, publie une s\u00e9rie de th\u00e9or\u00e8mes d\u00e9cisifs qui percent le myst\u00e8re math\u00e9matique du deep learning<\/em>. Poggio d\u00e9montre que la sup\u00e9riorit\u00e9 des r\u00e9seaux de neurones profonds sur les r\u00e9seaux peu profonds (shallow networks<\/em> \u00e0 une seule couche cach\u00e9e, tels que les RBF classiques) ne tient pas au hasard, mais \u00e0 la structure alg\u00e9brique intrins\u00e8que des fonctions physiques qu’ils sont charg\u00e9s d’approximer :<\/p>\n $$\\text{Si } f(x_1, dots, x_d) = h_k( dots h_2(h_1(x_1, x_2), h_1(x_3, x_4)) dots )$$<\/span><\/p>\n Lorsque la fonction cible poss\u00e8de une structure de compositionnalit\u00e9 hi\u00e9rarchique locale \u2014 c’est-\u00e0-dire lorsqu’elle peut \u00eatre d\u00e9compos\u00e9e en un graphe acyclique dirig\u00e9 (DAG) de sous-fonctions n’impliquant \u00e0 chaque n\u0153ud qu’un nombre restreint de variables d’entr\u00e9e locales (typiquement deux ou trois) \u2014, les r\u00e9seaux profonds dont l’architecture reproduit ce graphe \u00e9chappent compl\u00e8tement \u00e0 la mal\u00e9diction de la dimensionnalit\u00e9. Poggio prouve math\u00e9matiquement que pour atteindre une pr\u00e9cision d’approximation fix\u00e9e $epsilon$<\/span>, un r\u00e9seau peu profond exige un nombre de param\u00e8tres d’ajustement qui explose exponentiellement avec la dimension globale $d$<\/span> de l’image : $\\mathcal{O}(\\epsilon^{-d})$<\/span>, rendant le calcul impossible. En revanche, un r\u00e9seau profond respectant la composition hi\u00e9rarchique n’exige qu’un nombre de param\u00e8tres polynomial \u00e0 croissance lin\u00e9aire : $\\mathcal{O}(d \\cdot \\epsilon^{-2})$<\/span>.<\/p>\n Cette d\u00e9couverte th\u00e9orique majeure fournit l’explication fondamentale de la sup\u00e9riorit\u00e9 structurelle du cortex c\u00e9r\u00e9bral : si le syst\u00e8me visuel des mammif\u00e8res s’est structur\u00e9 au cours de millions d’ann\u00e9es d’\u00e9volution en une succession de strates corticales hi\u00e9rarchiques (V1, V2, V4, IT), c’est pr\u00e9cis\u00e9ment parce que le monde physique r\u00e9el est lui-m\u00eame hi\u00e9rarchiquement compositionnel (les atomes forment des mol\u00e9cules, qui forment des textures, qui forment des contours, qui s’assemblent en pi\u00e8ces \u00e9l\u00e9mentaires pour constituer des objets complets).<\/p>\n L’autre \u00e9nigme fondamentale r\u00e9solue par les r\u00e9cents travaux de Tomaso Poggio concerne le comportement d’optimisation des architectures neuronales modernes dites \u00ab sur-param\u00e9tr\u00e9es \u00bb (overparametrized regimes<\/em>), o\u00f9 le nombre de param\u00e8tres libres (poids synaptiques) d\u00e9passe de plusieurs ordres de grandeur le nombre d’exemples d’apprentissage disponibles. Selon les canons de la th\u00e9orie statistique classique de l’apprentissage (le compromis biais-variance standard), de tels mod\u00e8les devraient souffrir d’un surapprentissage catastrophique (overfitting<\/em>) et se r\u00e9v\u00e9ler totalement incapables de g\u00e9n\u00e9ralisation sur de nouvelles donn\u00e9es. Or, dans la pratique empirique, ces r\u00e9seaux sur-param\u00e9tr\u00e9s g\u00e9n\u00e9ralisent souvent remarquablement bien, affichant la c\u00e9l\u00e8bre courbe de \u00ab double descente \u00bb (double descent risk curve<\/em>).<\/p>\n Poggio et son \u00e9quipe \u00e9lucident ce myst\u00e8re en \u00e9tudiant la dynamique continue de la descente de gradient stochastique (SGD) sous l’angle des syst\u00e8mes dynamiques non lin\u00e9aires et de la g\u00e9om\u00e9trie diff\u00e9rentielle. Ils d\u00e9montrent l’existence d’une r\u00e9gularisation implicite fondamentale :<\/p>\n Cette d\u00e9couverte d\u00e9mystifie le fonctionnement des r\u00e9seaux profonds en montrant qu’ils ob\u00e9issent en r\u00e9alit\u00e9 strictement aux principes de r\u00e9gularisation que Poggio avait formalis\u00e9s trente ans plus t\u00f4t dans un cadre lin\u00e9aire : la sur-param\u00e9trisation ne nuit pas \u00e0 la g\u00e9n\u00e9ralisation, elle cr\u00e9e au contraire les degr\u00e9s de libert\u00e9 n\u00e9cessaires pour que l’algorithme d’optimisation contourne les minima locaux d\u00e9g\u00e9n\u00e9r\u00e9s et converge vers des s\u00e9parateurs spatiaux lisses et robustes.<\/p>\n Bien qu’il soit l’un des th\u00e9oriciens les plus r\u00e9put\u00e9s du deep learning<\/em>, Tomaso Poggio refuse cat\u00e9goriquement l’amalgame simpliste qui consisterait \u00e0 identifier purement et simplement les r\u00e9seaux de neurones profonds artificiels \u00e0 des cerveaux vivants. Avec une rigueur \u00e9pist\u00e9mologique constante, il multiplie les interventions critiques mettant en garde contre les d\u00e9rives dogmatiques de l’ing\u00e9nierie contemporaine, pointant trois fractures fondamentales s\u00e9parant l’IA actuelle de la neurobiologie r\u00e9elle :<\/p>\n L’une des controverses scientifiques les plus vives suscit\u00e9es par les mod\u00e8les visuels de Tomaso Poggio \u2014 et tout particuli\u00e8rement par l’architecture canonique de HMAX \u2014 a trait \u00e0 l’h\u00e9g\u00e9monie accord\u00e9e au traitement ascendant (feedforward<\/em>). D\u00e8s la publication des travaux de Riesenhuber et Poggio, de nombreux neuroanatomistes et psychologues cognitivistes ont soulign\u00e9 que l’anatomie corticale r\u00e9elle contredit formellement l’id\u00e9e d’un pipeline unidirectionnel : dans le cerveau des mammif\u00e8res, le nombre de projections axonales descendantes (r\u00e9troactions corticocorticales allant des aires sup\u00e9rieures vers les aires primaires) d\u00e9passe largement le nombre de connexions ascendantes.<\/p>\n Ce constat a nourri l’\u00e9mergence de paradigmes concurrents, au premier rang desquels figure le mod\u00e8le du \u00ab codage pr\u00e9dictif \u00bb (predictive coding<\/em>), formalis\u00e9 par Rajesh Rao, Dana Ballard et d\u00e9velopp\u00e9 par Karl Friston. Selon cette approche alternative, le cerveau ne fonctionne pas comme un classificateur passif de caract\u00e9ristiques ascendantes, mais comme une machine \u00e0 inf\u00e9rence active qui projette continuellement vers le bas des pr\u00e9dictions descendantes sur la sc\u00e8ne visuelle, le signal ascendant se r\u00e9duisant \u00e0 la transmission de l’erreur de pr\u00e9diction r\u00e9siduelle :<\/p>\n $$\\mathbf{e}_l = \\mathbf{r}_l – g(\\mathbf{r}_{l+1})$$<\/span><\/p>\n Poggio a pris part de mani\u00e8re constructive \u00e0 ce d\u00e9bat en clarifiant le r\u00f4le temporel des diff\u00e9rents r\u00e9gimes de calcul. Il conc\u00e8de volontiers que si le premier flux d’information ultra-rapide (les premi\u00e8res 100 \u00e0 150 millisecondes) est math\u00e9matiquement contraint d’\u00eatre purement feedforward<\/em> pour des raisons de vitesse de conduction axonale, toute perception soutenue, toute r\u00e9solution d’ambigu\u00eft\u00e9 dans des sc\u00e8nes d\u00e9grad\u00e9es et toute s\u00e9gr\u00e9gation figure-fond sous occlusion complexe requi\u00e8rent imp\u00e9rativement l’engagement des boucles de r\u00e9currence et de r\u00e9troaction modulatrice. Ses travaux ult\u00e9rieurs au CBMM int\u00e8grent d’ailleurs explicitement ces dynamiques r\u00e9currentes pour stabiliser l’apprentissage des repr\u00e9sentations invariantes.<\/p>\n Sur le plan \u00e9pist\u00e9mologique, Tomaso Poggio s’est toujours dress\u00e9 avec une remarquable constance contre la d\u00e9rive instrumentaliste qui s’est empar\u00e9e d’une large frange de l’intelligence artificielle contemporaine. Pour Poggio, la performance pr\u00e9dictive brute d’un algorithme ne saurait \u00eatre confondue avec sa valeur explicative scientifique. Si un mod\u00e8le math\u00e9matique \u00e0 cent milliards de param\u00e8tres parvient \u00e0 classer des images avec une pr\u00e9cision chirurgicale sans que l’exp\u00e9rimentateur ne puisse comprendre les principes formels, les th\u00e9or\u00e8mes d’approximation ou les r\u00e9gularit\u00e9s invariantes qui sous-tendent ce r\u00e9sultat, ce mod\u00e8le rel\u00e8ve de l’ing\u00e9nierie heuristique aveugle, non de la science.<\/p>\n Poggio d\u00e9fend farouchement le statut \u00e9pist\u00e9mologique des simulations informatiques en psychologie et en neurosciences : une simulation computationnelle n’a de l\u00e9gitimit\u00e9 scientifique que si elle agit comme la concr\u00e9tisation transparente d’une th\u00e9orie math\u00e9matique fondamentale rigoureusement d\u00e9montrable. Cette posture fait \u00e9cho \u00e0 son attachement visc\u00e9ral aux \u00ab trois niveaux d’analyse \u00bb de Marr : l’ing\u00e9nierie moderne s’est enivr\u00e9e du niveau algorithmique et de la puissance d’impl\u00e9mentation mat\u00e9rielle brute des puces GPU, en abandonnant tragiquement le niveau computationnel \u2014 celui o\u00f9 l’on s’interroge sur les raisons premi\u00e8res pour lesquelles une fonction d’approximation est math\u00e9matiquement optimale pour r\u00e9soudre une t\u00e2che perceptive donn\u00e9e.<\/p>\n Une autre controverse intellectuelle majeure dans laquelle l’h\u00e9ritage de Poggio est fr\u00e9quemment interrog\u00e9 concerne le clivage historique entre la vision computationnelle classique \u2014 centr\u00e9e sur l’extraction g\u00e9om\u00e9trique passive et d\u00e9sincarn\u00e9e de repr\u00e9sentations internes du monde \u2014 et les th\u00e9ories de la cognition incarn\u00e9e (embodied cognition<\/em>) et \u00e9nactive, issues notamment de la pens\u00e9e de Francisco Varela et de la psychologie \u00e9cologique de James J. Gibson<\/a>.<\/p>\n Les tenants de l’approche gibsonienne ont longtemps reproch\u00e9 au paradigme de Marr et Poggio de concevoir la vision comme un processus purement spectatoriel et repr\u00e9sentatif, visant \u00e0 reconstruire une copie interne fid\u00e8le du monde ext\u00e9rieur, alors que pour Gibson, la vision a pour fonction primordiale de d\u00e9tecter imm\u00e9diatement des \u00ab affordances \u00bb \u2014 des opportunit\u00e9s motrices directes pour l’action (saisir, fuir, s’asseoir, franchir) \u2014 sans n\u00e9cessiter la m\u00e9diation de repr\u00e9sentations symboliques 3D complexes. Poggio a r\u00e9pondu \u00e0 ces critiques en d\u00e9montrant que la d\u00e9tection d’affordances motrices ne dispense en aucun cas le syst\u00e8me nerveux de r\u00e9soudre les probl\u00e8mes inverses de la propagation lumineuse : l’organisme doit in\u00e9vitablement calculer des invariants physiques \u00e0 partir d’entr\u00e9es optiques bruit\u00e9es, quelle que soit la finalit\u00e9 motrice finale. N\u00e9anmoins, il a reconnu la pertinence du probl\u00e8me de l’ancrage des symboles (symbol grounding problem<\/em>), soulignant dans ses travaux r\u00e9cents que la vision purement visuelle trouve ses limites ultimes si elle n’est pas connect\u00e9e \u00e0 la boucle sensori-motrice d’un agent physique interagissant physiquement avec son environnement.<\/p>\n L’ampleur de l’impact exerc\u00e9 par Tomaso Poggio sur la science moderne ne se mesure pas seulement au nombre impressionnant de ses publications fondamentales ou \u00e0 son indice bibliom\u00e9trique, mais \u00e0 l’extraordinaire f\u00e9condit\u00e9 de sa descendance acad\u00e9mique. Tout au long de son demi-si\u00e8cle d’enseignement et de mentorat au MIT, Poggio a form\u00e9, guid\u00e9 et inspir\u00e9 une pl\u00e9iade de chercheurs qui sont devenus \u00e0 leur tour les figures de proue internationales de l’intelligence artificielle, des neurosciences computationnelles et de l’industrie technologique de pointe :<\/p>\n Cette diss\u00e9mination massive d’anciens \u00e9l\u00e8ves au sein des facult\u00e9s de psychologie cognitive, des d\u00e9partements d’informatique et des laboratoires industriels mondiaux a durablement impos\u00e9 la m\u00e9thodologie interdisciplinaire du MIT comme le standard \u00e9pist\u00e9mologique de r\u00e9f\u00e9rence pour l’\u00e9tude des syst\u00e8mes intelligents.<\/p>\n Loin de se reposer sur ses lauriers acad\u00e9miques, Tomaso Poggio continue d’animer avec une \u00e9nergie intellectuelle intacte les fronti\u00e8res les plus avanc\u00e9es de la recherche contemporaine. Ses travaux actuels au sein du MIT et du CBMM s’articulent autour de trois axes de recherche hautement sp\u00e9culatifs et stimulants :<\/p>\n Lorsque Tomaso Poggio a amorc\u00e9 sa trajectoire scientifique au d\u00e9but des ann\u00e9es 1970, la compr\u00e9hension du cerveau oscillait de mani\u00e8re inconfortable entre une biochimie r\u00e9ductionniste fascin\u00e9e par les d\u00e9tails mol\u00e9culaires microscopiques et une psychologie ph\u00e9nom\u00e9nologique descriptive incapable d’ancrer ses concepts dans des lois universelles pr\u00e9dictives. En l’espace de cinq d\u00e9cennies de recherche ininterrompue, Poggio a jou\u00e9 un r\u00f4le d\u00e9terminant dans l’av\u00e8nement d’une troisi\u00e8me voie \u00e9pist\u00e9mologique : la consolidation d\u00e9finitive des sciences cognitives computationnelles comme une science exacte, math\u00e9matiquement formalisable et empiriquement v\u00e9rifiable.<\/p>\n En d\u00e9montrant que la vision est un probl\u00e8me inverse mal pos\u00e9 r\u00e9solu par des fonctionnelles de r\u00e9gularisation, en prouvant que l’apprentissage est une interpolation d’hyperfaci\u00e8s dans des espaces fonctionnels, en fournissant l’architecture canonique HMAX de la voie ventrale et en d\u00e9mystifiant la dynamique d’optimisation des architectures profondes sur-param\u00e9tr\u00e9es, Tomaso Poggio a grav\u00e9 son nom au panth\u00e9on des plus grands th\u00e9oriciens de l’esprit du si\u00e8cle \u00e9coul\u00e9. Son \u0153uvre immense nous l\u00e8gue une le\u00e7on intellectuelle fondamentale qui r\u00e9sonnera tout au long du XXIe si\u00e8cle : la machine intelligente et l’esprit biologique ne s’opposent pas ; ils s’\u00e9clairent mutuellement \u00e0 la lumi\u00e8re des m\u00eames v\u00e9rit\u00e9s math\u00e9matiques \u00e9ternelles.<\/p>\n Anselmi, F., Leibo, J. Z., Rosasco, L., Mutch, J., Tacchetti, A., & Poggio, T. (2016). Unsupervised learning of invariant representations. Theoretical Computer Science<\/em>, 633, 112\u2013121. https:\/\/doi.org\/10.1016\/j.tcs.2015.06.048<\/a><\/p>\n Biederman, I. (1987). Recognition-by-components: A theory of human image understanding. Psychological Review<\/em>, 94(2), 115\u2013147. https:\/\/doi.org\/10.1037\/0033-295X.94.2.115<\/a><\/p>\n Fahle, M., & Poggio, T. (Eds.). (2002). Perceptual learning<\/em>. MIT Press. https:\/\/mitpress.mit.edu\/9780262062213\/perceptual-learning\/<\/a><\/p>\n Horn, B. K. P., & Schunck, B. G. (1981). Determining optical flow. Artificial Intelligence<\/em>, 17(1-3), 185\u2013203. https:\/\/doi.org\/10.1016\/0004-3702(81)90024-2<\/a><\/p>\n Koch, C., & Ullman, S. (1985). Shifts in selective visual attention: towards the underlying neural circuitry. Human Neurobiology<\/em>, 4(4), 219\u2013227. https:\/\/pubmed.ncbi.nlm.nih.gov\/3836989\/<\/a><\/p>\n Logothetis, N. K., Pauls, J., Poggio, T. (1995). Shape representation in the inferior temporal cortex of monkeys. Current Biology<\/em>, 5(5), 552\u2013563. https:\/\/doi.org\/10.1016\/S0960-9822(95)00108-4<\/a><\/p>\n Marr, D. (1982). Vision: A computational investigation into the human representation and processing of visual information<\/em>. W. H. Freeman and Company. https:\/\/mitpress.mit.edu\/9780262514620\/vision\/<\/a><\/p>\n Marr, D., & Hildreth, E. (1980). Theory of edge detection. Proceedings of the Royal Society of London. Series B. Biological Sciences<\/em>, 207(1167), 187\u2013217. https:\/\/doi.org\/10.1098\/rspb.1980.0020<\/a><\/p>\n Marr, D., & Poggio, T. (1976). Cooperative computation of stereo disparity. Science<\/em>, 194(4262), 283\u2013287. https:\/\/doi.org\/10.1126\/science.968482<\/a><\/p>\n Marr, D., & Poggio, T. (1979). A computational theory of human stereo vision. Proceedings of the Royal Society of London. Series B. Biological Sciences<\/em>, 204(1156), 301\u2013328. https:\/\/doi.org\/10.1098\/rspb.1979.0029<\/a><\/p>\n Mhaskar, H., Liao, Q., & Poggio, T. (2017). When and why are deep networks better than shallow ones? Proceedings of the AAAI Conference on Human Computation and Crowdsourcing<\/em>, 31(1), 2343\u20132349. https:\/\/doi.org\/10.1609\/aaai.v31i1.10913<\/a><\/p>\n Poggio, T., & Girosi, F. (1990). Networks for approximation and learning. Proceedings of the IEEE<\/em>, 78(9), 1481\u20131497. https:\/\/doi.org\/10.1109\/5.58326<\/a><\/p>\n Poggio, T., & Reichardt, W. (1973). Considerations on models of movement detection. Kybernetik<\/em>, 13(4), 223\u2013227. https:\/\/doi.org\/10.1007\/BF00282496<\/a><\/p>\n Poggio, T., Torre, V., & Koch, C. (1985). Computational vision and regularization theory. Nature<\/em>, 317(6035), 314\u2013319. https:\/\/doi.org\/10.1038\/317314a0<\/a><\/p>\n Riesenhuber, M., & Poggio, T. (1999). Hierarchical models of object recognition in cortex. Nature Neuroscience<\/em>, 2(11), 1019\u20131025. https:\/\/doi.org\/10.1038\/14819<\/a><\/p>\n Spelke, E. S., & Kinzler, K. D. (2007). Core knowledge. Developmental Science<\/em>, 10(1), 89\u201396. https:\/\/doi.org\/10.1111\/j.1467-7687.2007.00569.x<\/a><\/p>\n Tsao, D. Y., Freiwald, W. A., Tootell, R. B., & Livingstone, M. S. (2006). A cortical region consisting entirely of face-selective cells. Science<\/em>, 311(5761), 670\u2013674. https:\/\/doi.org\/10.1126\/science.1119983<\/a><\/p>\n Vapnik, V. N. (1998). 1. Introduction biographique et gen\u00e8se d’un pionnier des sciences cognitives computationnelles<\/h2>\n
1.1 Origines italiennes et formation initiale en physique th\u00e9orique<\/h3>\n
1.2 L’ancrage institutionnel au Massachusetts Institute of Technology<\/h3>\n
1.3 Objectifs \u00e9pist\u00e9mologiques : D\u00e9crypter l’esprit par le prisme computationnel<\/h3>\n
2. Les fondements interdisciplinaires : Physique th\u00e9orique et cybern\u00e9tique \u00e0 T\u00fcbingen<\/h2>\n
2.1 Le passage \u00e0 l’Institut Max Planck de cybern\u00e9tique biologique<\/h3>\n
\n
2.2 Du syst\u00e8me nerveux des invert\u00e9br\u00e9s aux fonctions cognitives sup\u00e9rieures<\/h3>\n
3. La collaboration d\u00e9terminante avec David Marr et la triade computationnelle<\/h2>\n
3.1 La rencontre intellectuelle et la synergie Marr-Poggio<\/h3>\n
3.2 Les trois niveaux d’analyse des syst\u00e8mes cognitifs complexes<\/h3>\n
\n
3.3 Th\u00e9orie de la vision st\u00e9r\u00e9oscopique computationnelle<\/h3>\n
\n
4. Th\u00e9orie de la vision computationnelle : Mod\u00e9lisation des processus perceptifs pr\u00e9coces<\/h2>\n
4.1 La d\u00e9tection des contours et le filtrage multi-\u00e9chelle<\/h3>\n
4.2 Le calcul du flux optique et du mouvement visuel<\/h3>\n
4.3 L’int\u00e9gration des indices visuels primaires<\/h3>\n
5. L’\u00e9mergence des th\u00e9ories de l’apprentissage statistique et de la r\u00e9gularisation<\/h2>\n
5.1 Probl\u00e8mes mal pos\u00e9s et th\u00e9orie de la r\u00e9gularisation de Tikhonov<\/h3>\n
\n
5.2 R\u00e9seaux \u00e0 fonctions \u00e0 base radiale (RBF) et interpolation<\/h3>\n
5.3 Poggio et les fondements de la th\u00e9orie de l’apprentissage statistique<\/h3>\n
6. Le mod\u00e8le HMAX : Architecture hi\u00e9rarchique de la reconnaissance visuelle ventrale<\/h2>\n
6.1 Architecture et principes bio-inspir\u00e9s du mod\u00e8le HMAX<\/h3>\n
\n
6.2 L’op\u00e9ration MAX et le dilemme invariance-sp\u00e9cificit\u00e9<\/h3>\n
MAX<\/code>. Jusqu’alors, la plupart des tentatives de r\u00e9seaux hi\u00e9rarchiques (comme le N\u00e9ocognitron de Kunihiko Fukushima) utilisaient des moyennes pond\u00e9r\u00e9es ou des sommations lin\u00e9aires saturantes pour agr\u00e9ger l’information spatiale. Poggio d\u00e9montre que la sommation lin\u00e9aire souffre d’un d\u00e9faut r\u00e9dhibitoire : elle m\u00e9lange de mani\u00e8re irr\u00e9versible la s\u00e9lectivit\u00e9 pour la forme et la force de l’illumination ou du contraste, introduisant une perte d’information pr\u00e9judiciable \u00e0 la discrimination fine des contours.<\/p>\nMAX<\/code>, d\u00e9finie formellement par :<\/p>\n6.3 Validation exp\u00e9rimentale et corr\u00e9lations \u00e9lectrophysiologiques<\/h3>\n
7. Implications psychologiques et cognitives : De la perception \u00e0 la cat\u00e9gorisation conceptuelle<\/h2>\n
7.1 Psychophysique de la reconnaissance d’objets et des formes complexes<\/h3>\n
7.2 M\u00e9canismes computationnels de l’attention visuelle s\u00e9lective<\/h3>\n
\n
7.3 Apprentissage perceptif et plasticit\u00e9 synaptique<\/h3>\n
8. Le Centre pour les cerveaux, les esprits et les machines (CBMM) : Synth\u00e8se moderne de l’intelligence<\/h2>\n
8.1 Fondation, mission et m\u00e9thodologie interdisciplinaire du CBMM<\/h3>\n
\n
8.2 Le d\u00e9veloppement de l’intelligence chez l’enfant comme mod\u00e8le computationnel<\/h3>\n
\n
8.3 L’int\u00e9gration des repr\u00e9sentations symboliques et sous-symboliques<\/h3>\n
9. Neurobiologie computationnelle de l’invariance et de la reconnaissance des visages<\/h2>\n
9.1 Le syst\u00e8me de reconnaissance des visages : Un paradigme d’expertise biologique<\/h3>\n
9.2 Th\u00e9ories math\u00e9matiques de l’invariance aux transformations de groupe<\/h3>\n
9.3 L’effet d’inversion des visages et les pathologies de la reconnaissance<\/h3>\n
\n
10. Th\u00e9orie de l’apprentissage profond : D\u00e9mystification math\u00e9matique et cognition<\/h2>\n
10.1 Pourquoi le deep learning fonctionne-t-il ? Les r\u00e9ponses de Poggio<\/h3>\n
10.2 La dynamique d’optimisation et le ph\u00e9nom\u00e8ne de sur-param\u00e9trisation<\/h3>\n
\n
10.3 Comparaison critique : R\u00e9seaux artificiels vs Cerveaux biologiques<\/h3>\n
\n
11. Controverses scientifiques, d\u00e9bats \u00e9pist\u00e9mologiques et limites computationnelles<\/h2>\n
11.1 Le d\u00e9bat entre mod\u00e8les purement ascendants et circuits r\u00e9currents<\/h3>\n
11.2 L’explicabilit\u00e9 et la bo\u00eete noire de l’intelligence computationnelle<\/h3>\n
11.3 Limites de la vision computationnelle classique face \u00e0 la s\u00e9mantique incarn\u00e9e<\/h3>\n
12. L’h\u00e9ritage intellectuel de Tomaso Poggio et l’avenir des neurosciences computationnelles<\/h2>\n
12.1 L’arbre g\u00e9n\u00e9alogique acad\u00e9mique et l’influence industrielle<\/h3>\n
\n
12.2 Les fronti\u00e8res actuelles de la recherche men\u00e9e par Poggio<\/h3>\n
\n
12.3 Synth\u00e8se : Tomaso Poggio et la transformation de la science de l’esprit<\/h3>\n
R\u00e9f\u00e9rences<\/h2>\n