Système fermé : L’impasse de l’isolement

Dans l’étude des organisations psychiques et relationnelles, la notion d’hermétisme structural représente l’un des défis majeurs pour la compréhension de l’adaptation humaine. Un système qui s’isole de son environnement condamne inexorablement ses composantes à une répétition stérile et à l’épuisement de ses ressources internes. Comprendre le système fermé en psychologie, c’est explorer la manière dont les individus, les couples et les familles érigent des barrières infranchissables au détriment de leur propre vitalité adaptative.

Système fermé

1. Définition concise

En psychologie et en thérapie systémique, un système fermé désigne une configuration relationnelle, cognitive ou intrapsychique caractérisée par des frontières rigides et imperméables, limitant drastiquement les échanges de matière, d’énergie et d’information avec son environnement extérieur. Cette clôture informationnelle et émotionnelle entrave la capacité d’autorégulation, fige l’homéostasie dans un état dysfonctionnel et précipite le groupe ou l’individu vers l’entropie psychologique.

Contrairement aux systèmes ouverts capables d’assimilation et d’accommodation face aux fluctuations contextuelles, le système fermé fonctionne en circuit court. Les représentations, les croyances et les schémas comportementaux y tournent en boucle sans pouvoir être nourris ou rectifiés par des rétroactions externes. Il en résulte une vulnérabilité accrue aux crises et une incapacité chronique à négocier les transitions développementales normales.

Sur le plan intrapsychique, le concept est également mobilisé pour décrire des organisations de personnalité au sein desquelles les conflits internes sont encapsulés, interdisant toute perméabilité aux expériences correctrices que pourrait offrir la réalité partagée.

2. Étymologie et origine linguistique

L’expression française « système fermé » est la transposition directe de l’anglais closed system, forgé au sein de la théorie générale des systèmes formulée par le biologiste austro-canadien Ludwig von Bertalanffy au milieu du XXe siècle. Le substantif « système » dérive du grec ancien sustēma (σύστημα), formé du préfixe sun- (« ensemble ») et de la racine histanai (« établir », « placer »), désignant littéralement un ensemble organisé d’éléments interdépendants formant un tout cohérent.

L’adjectif « fermé » provient du latin vulgaire fermare, altération du latin classique firmare, qui signifie « rendre solide », « consolider », puis par glissement sémantique « clore » ou « verrouiller ». Le terme « clos » (du latin claudere, fermer) est parfois employé de façon interchangeable (« système clos »), bien que l’usage clinique et théorique en sciences humaines contemporaines privilégie majoritairement « système fermé » pour marquer l’opposition dialectique avec le système ouvert (open system).

Le concept a transité de la thermodynamique de Sadi Carnot et Rudolf Clausius vers les sciences du comportement par le truchement de la cybernétique de Norbert Wiener et des travaux de l’École de Palo Alto. Dans ce passage interdisciplinaire, le concept physique d’échange énergétique s’est enrichi et transformé pour désigner l’échange de symboles, d’affects et de rétroactions communicationnelles.

3. Prononciation et forme grammaticale

Le terme se prononce phonétiquement [sis.tɛm fɛʁ.me] en français standard. Il s’agit d’un groupe nominal masculin singulier (au pluriel : « systèmes fermés », prononcé de manière identique sans liaison obligatoire). Dans la littérature psychanalytique d’inspiration britannique (notamment chez Ronald Fairbairn), on rencontre également la forme « système clos », prononcée [sis.tɛm klo].

Sur le plan syntaxique, le syntagme s’emploie principalement comme substantif autonome (« Le système fermé tend vers l’entropie ») ou en apposition modale (« Cette famille fonctionne comme un système fermé »). On rencontre également des dérivations adjectivales et adverbiales pour qualifier les processus relationnels sous-jacents, telles que « fermeture systémique » ou « fonctionnement fermé ».

4. Explication conceptuelle détaillée

Pour appréhender la portée clinique d’un système fermé, il est indispensable de revisiter les lois fondamentales de la systémique. Tout système vivant est par essence contraint à maintenir une double exigence contradictoire : la morphostase (la conservation de sa structure et de ses frontières identitaires) et la morphogenèse (la capacité de se transformer, d’évoluer et d’intégrer la nouveauté). Dans un système fermé, cette dynamique dialectique est brisée au profit exclusif d’une morphostase rigide.

Les frontières délimitant ce que Salvador Minuchin nommait le « dedans » et le « dehors » deviennent des remparts infranchissables. Les informations en provenance du monde extérieur qui viendraient contredire les mythes fondateurs, les règles implicites ou la distribution du pouvoir sont systématiquement disqualifiées, ignorées ou réinterprétées de manière persécutoire. Ce filtre hermétique engendre ce que les cybernéticiens appellent une boucle de rétroaction négative hypertrophiée : toute tentative d’innovation ou de différenciation individuelle est perçue comme une menace d’éclatement, déclenchant des mécanismes de rappel à l’ordre brutaux.

Cette clôture produit une amplification du désordre interne, analogue au second principe de la thermodynamique : privée de néguentropie (apport externe d’ordre et d’énergie informationnelle), la structure consomme ses propres ressources relationnelles jusqu’à l’usure. Les membres du système s’épuisent dans des jeux relationnels redondants, sans issue possible, aboutissant fréquemment à l’émergence d’un « patient désigné » porteur du symptôme.

Sur le versant intrapsychique, Donald Fairbairn a décrit le monde interne schizoïde comme un système fermé. Lorsque l’environnement précoce est défaillant ou toxique, le sujet peut intérioriser des objets relationnels clivés et s’enfermer dans une réalité psychique autonome. Les interactions avec le monde réel sont alors réduites au minimum afin de préserver l’illusion d’autosuffisance, au prix tragique d’un appauvrissement affectif et d’une déconnexion sensorielle majeure.

5. Évolution historique

La trajectoire historique du concept s’étend sur plus d’un siècle, articulant physique théorique, sociologie et psychothérapies de pointe :

• Années 1930-1940 : La rupture thermodynamique de von Bertalanffy. Ludwig von Bertalanffy constate l’incapacité de la physique classique à rendre compte des organismes vivants. Il postule que la physique traditionnelle n’étudiait que des systèmes fermés, alors que le vivant est un système ouvert. Ce constat fondamental jette les bases épistémologiques qui permettront plus tard d’identifier les pathologies de la fermeture.
• Années 1950 : L’essor cybernétique et l’École de Palo Alto. Sous l’impulsion de l’anthropologue Gregory Bateson, de Donald deAvila Jackson et de Paul Watzlawick, les concepts de causalité circulaire et de rétroaction investissent la psychiatrie. L’équipe étudie la communication intrafamiliale chez les personnes diagnostiquées de schizophrénie et décrit des configurations fermées où les paradoxes communicatifs ne peuvent être dénoncés de l’intérieur ni corrigés de l’extérieur.
• Années 1960-1970 : L’approche structurale et transgénérationnelle. Murray Bowen développe sa théorie des systèmes familiaux, soulignant le manque de différenciation du soi dans les familles fermées, soumises à une « masse indifférenciée de l’ego familial ». Parallèlement, Salvador Minuchin théorise la rigidité des frontières externes chez les familles désengagées et l’hermétisme des familles enchevêtrées face à l’école ou aux institutions sociales.
• Années 1980 à nos jours : La seconde cybernétique et le constructivisme. Avec Heinz von Foerster et les biologistes Humberto Maturana et Francisco Varela, la notion de fermeture change de perspective grâce au concept d’« autopoïèse » et de clôture opérationnelle. On distingue désormais la fermeture thermodynamique mortifère de la fermeture organisationnelle, indispensable à l’identité de tout système vivant, invitant les cliniciens à évaluer la nuance entre hermétisme défensif et autonomie structurante.

6. Fondements théoriques

Le cadre conceptuel du système fermé repose sur un faisceau interdisciplinaire dense. Au premier rang figure la théorie de la communication humaine de Paul Watzlawick, Janet Beavin Bavelas et Don Jackson. Selon leurs axiomes, dans un système fermé, les messages métacommunicationnels (la communication sur la communication) sont proscrits. Les participants ne peuvent pas commenter les règles du jeu relationnel, ce qui cristallise des impasses interactives insolubles depuis l’intérieur du dispositif.

Ensuite, la théorie structurale de Salvador Minuchin apporte une grille de lecture spatiale et fonctionnelle. Minuchin démontre que la santé d’un groupe familial repose sur la clarté et la semi-perméabilité de ses frontières. Un système fermé présente des frontières externes excessivement rigides, bloquant les soutiens extérieurs, tout en favorisant parfois des frontières internes diffuses (enchevêtrement), où l’individualité de chaque membre est sacrifiée au profit du maintien du mythe unitaire.

Sur le plan psychanalytique relationnel, l’apport de Ronald Fairbairn et de Harry Guntrip éclaire la dynamique d’enfermement du self. Fairbairn soutient que l’appareil psychique n’est pas guidé uniquement par la recherche du plaisir (comme le postulait Sigmund Freud), mais par la quête d’objet. Lorsque les objets primaires sont décevants, l’appareil psychique s’organise en système clos d’objets internes idéalisés et persécuteurs, refusant tout contact authentique avec les personnes réelles extérieures pour éviter la réactivation de traumatismes précoces.

Enfin, la thermodynamique hors équilibre d’Ilya Prigogine offre un éclairage précieux : un système vivant ne peut maintenir son niveau de complexité qu’en échangeant continuellement de l’information avec son milieu. La fermeture coupe cet approvisionnement, provoquant une montée irréversible de l’entropie interne, qui se traduit en psychopathologie par la dégradation des liens, le délire partagé ou la somatisation collective.

7. Composantes clés, types et dimensions

L’analyse d’un système fermé requiert la décomposition de ses propriétés structurelles et de ses manifestations phénoménologiques :

• L’imperméabilité des frontières : Incapacité ou refus délibéré de laisser filtrer les informations, personnes ou influences extérieures pouvant remettre en question la vision du monde établie.
• L’entropie croissante : Épuisement progressif de l’énergie créative et relationnelle, menant à la stéréotypie comportementale, à la banalisation affective et à la multiplication des symptômes individuels.
• L’absence d’équifinalité : Dans les systèmes ouverts, l’équifinalité permet d’atteindre un même état final à partir de conditions initiales différentes ; le système fermé est au contraire condamné à des trajectoires rigides et prédéterminées.
• Le type familial sectaire ou fusionnel : Configuration domestique où la loyauté envers le clan prime sur toute individuation. Les fréquentations externes des enfants sont surveillées, l’école est perçue avec suspicion et les secrets de famille scellent la cohésion interne.
• Le type cognitif dogmatique : Organisation mentale d’un individu caractérisée par un système de croyances imperméable aux faits (tel que décrit par Milton Rokeach). Toute preuve invalidante est assimilée comme une confirmation de la persécution ou du complot externe.
• Le type institutionnel totalitaire : Établissements asilaires ou sectaires (analysés notamment par Erving Goffman comme « institutions totales ») fonctionnant en rupture délibérée avec le monde environnant afin de contrôler totalement les conduites.

8. Exemples et cas illustratifs

Pour illustrer la réalité clinique d’un système fermé, considérons le cas d’une famille reçue en consultation pour une déscolarisation massive et une anxiété sévère chez une adolescente de 15 ans, Léa. Les entretiens révèlent que les parents ne fréquentent aucun réseau amical depuis plus d’une décennie et perçoivent l’environnement extrafamilial comme dangereux et immoral. Tout contact avec des pairs est indirectement découragé au motif de protéger la famille. Dans cette enceinte hermétique, l’anxiété de Léa n’est pas une simple pathologie individuelle : elle constitue la solution homéostatique trouvée par le système pour empêcher son départ et préserver le mythe selon lequel le monde extérieur est toxique. Le système familial agit comme un système fermé dont le symptôme de l’enfant garantit la non-différenciation.

Un second exemple probant s’observe dans les dynamiques de dérive sectaire ou d’emprise conjugale. L’auteur des violences psychologiques met méthodiquement en place un système fermé en coupant la victime de ses amis, de sa famille élargie et de son travail. Privée de miroirs extérieurs neutres, la victime ne dispose plus d’éléments de comparaison pour juger du caractère inacceptable de sa situation. Les distorsions de l’agresseur deviennent l’unique cadre de référence interne, illustrant parfaitement comment la clôture systémique annihile le discernement critique.

Sur le plan individuel, le fonctionnement d’un patient souffrant d’un trouble de la personnalité paranoïaque incarne un système fermé de traitement de l’information. Qu’un collègue lui sourie ou détourne le regard, ces deux stimuli pourtant opposés sont interprétés avec la même certitude comme la preuve d’un complot dirigé contre lui. Le système d’attribution causale est totalement verrouillé : aucune donnée de réalité ne peut s’y introduire pour corriger la prémisse persécutoire initiale.

9. Mesure et évaluation

L’évaluation empirique du degré de fermeture d’un système relationnel s’appuie sur une combinaison d’instruments psychométriques, d’outils d’observation standardisés et de cartographies cliniques :

• Le modèle circomplexe de David Olson (FACES – Family Adaptability and Cohesion Evaluation Scales) : Cette échelle évalue la cohésion et la flexibilité familiales. Les systèmes excessivement fermés se retrouvent typiquement dans les quadrants extrêmes « enchevêtrés » (cohésion étouffante) et « rigides » (adaptabilité nulle face aux changements).
• Le génogramme structuré et l’éco-carte (Eco-map) d’Ann Hartman : Ces représentations graphiques permettent de matérialiser visuellement les flux d’énergie, les connexions et les ruptures entre la cellule familiale et les systèmes environnants (écoles, voisinage, institutions de santé, travail). Une éco-carte dépourvue de flèches bidirectionnelles vers l’extérieur signale immédiatement un système fermé.
• L’échelle de dogmatisme de Rokeach (Dogmatism Scale) : Utilisée en psychologie sociale et cognitive pour mesurer l’ouverture ou la fermeture d’esprit d’un sujet, quantifiant sa capacité à tolérer l’ambiguïté et à réviser ses croyances face à de nouveaux éléments de preuve.
• L’évaluation des frontières selon le paradigme de Minuchin : Méthode d’observation clinique directe analysant qui parle pour qui au sein de la séance, comment les membres réagissent à l’intrusion d’un tiers (le thérapeute) et si des alliances transgénérationnelles interdisent l’influence du monde extérieur.

10. Applications et pertinence pratique

La détection d’un système fermé est une étape cruciale dans de multiples champs d’intervention psychologique et sociale. En thérapie familiale systémique, le mandat premier du clinicien face à un système fermé consiste à s’y faire admettre sans se laisser aspirer par ses règles homéostatiques. Le thérapeute introduit une « perturbation stratégique » pour assouplir les frontières, autoriser l’introduction d’informations nouvelles et transformer le système fermé en système ouvert capable d’auto-réorganisation.

En psychologie du travail et des organisations, les équipes fonctionnant en système fermé développent le phénomène bien connu de pensée de groupe (terme théorisé par Irving Janis). Dans ce cadre, l’illusion d’invulnérabilité collective et l’autocensure des voix divergentes conduisent à des décisions désastreuses. Les consultants en organisation interviennent alors pour ouvrir les canaux de rétroaction, favoriser la pluridisciplinarité et introduire des regards critiques externes.

En protection de l’enfance, le diagnostic de système fermé est souvent prédictif de maltraitances physiques, psychologiques ou d’inceste. L’hermétisme familial constitue le bouclier nécessaire au maintien du déni collectif et à la protection de l’agresseur. Les professionnels judiciaires et médico-sociaux sont alors contraints d’imposer un tiers légal (le magistrat, l’éducateur) pour faire effraction dans ce système clos et protéger les mineurs en souffrance.

11. Recherche et données empiriques

Les recherches empiriques en neurosciences sociales, en psychologie du développement et en dynamique des groupes ont largement validé les répercussions délétères de l’isolement systémique. Les études longitudinales sur les familles isolées socialement démontrent une corrélation hautement significative entre le manque de capital social externe et l’incidence de troubles anxio-dépressifs chez les enfants parvenus à l’âge adulte.

Les travaux menés par Froma Walsh sur la résilience familiale soulignent que l’ouverture vers l’extérieur constitue l’un des piliers majeurs de l’adaptation face aux traumatismes collectifs. Les familles capables de solliciter des ressources communautaires, spirituelles ou institutionnelles traversent les crises avec un taux de morbidité psychologique considérablement plus bas que les familles repliées sur elles-mêmes.

Dans le domaine de la psychologie cognitive, les recherches contemporaines sur le biais de confirmation et les bulles de filtres numériques (menées notamment par Walter Quattrociocchi et ses collaborateurs) analysent comment les algorithmes des réseaux sociaux recréent artificiellement des systèmes d’information fermés. L’exposition exclusive à des points de vue convergents radicalise les représentations et atrophie la pensée critique, confirmant à l’échelle numérique les thèses systémiques classiques sur la dégradation de l’information en milieu clos.

12. Considérations culturelles et transculturelles

L’application du concept de système fermé exige une prudence méthodologique et transculturelle rigoureuse. Les définitions occidentales de l’ouverture et de l’autonomie sont profondément imprégnées d’individualisme libéral, valorisant la séparation précoce des enfants, la transparence extra-familiale et la dispersion géographique.

Dans de nombreuses sociétés collectivistes ou traditionnelles (en Afrique subsaharienne, au Maghreb, en Asie de l’Est ou dans les communautés autochtones amérindiennes), la primauté accordée au groupe d’appartenance et la méfiance vis-à-vis des influences exogènes ne doivent pas être d’emblée assimilées à une fermeture pathologique. Ce que des observateurs occidentaux pourraient étiqueter hâtivement comme un « enchevêtrement » ou un « système clos » relève souvent d’une solidarité communautaire protectrice face à des environnements politiques ou économiques hostiles.

Les cliniciens transculturels, à l’instar de Tobie Nathan ou de Marie Rose Moro, rappellent que la perméabilité d’une frontière familiale est toujours relative aux codes symboliques de la culture d’origine. Un système peut paraître fermé aux institutions de la société d’accueil tout en étant remarquablement ouvert et fluide au sein de son propre réseau communautaire transcontinental. Il est donc indispensable d’évaluer la fonction réelle de la clôture : constitue-t-elle un rempart adaptatif temporaire face à la précarité et à la discrimination, ou un mécanisme interne de destruction de l’altérité ?

13. Critiques, débats et limites

Bien qu’opératoire, la notion de système fermé a suscité d’importants débats épistémologiques au fil des décennies. L’une des critiques les plus substantielles provient de la seconde cybernétique et des thèses de Francisco Varela et Humberto Maturana. Selon ces auteurs, aucun système vivant ne peut être totalement fermé sur le plan thermodynamique sans cesser d’exister immédiatement. Parler d’un « système humain fermé » est donc un abus de langage ou une métaphore clinique plutôt qu’une réalité matérielle stricte.

De surcroît, Maturana et Varela ont introduit le concept de clôture opérationnelle pour démontrer que tout système autonome est nécessairement fermé sur le plan de son organisation : son réseau d’interactions se reproduit lui-même. Dans cette perspective, la fermeture n’est pas un défaut pathologique, mais la condition même de l’autonomie et de la singularité du vivant. La critique invite donc les psychologues à ne pas pathologiser la clôture en soi, mais à identifier spécifiquement l’incapacité d’adaptation cognitive et affective.

Sur le terrain politique et féministe, des théoriciennes comme Virginia Goldner et Deborah Luepnitz ont reproché aux premiers modèles systémiques de Palo Alto d’avoir utilisé le concept de système fermé de façon neutralisante. En postulant une circularité totale où chacun est également responsable du maintien du système, les cliniciens ont parfois occulté les rapports de domination réels, la violence patriarcale et les abus de pouvoir intrafamiliaux, renvoyant dos à dos l’agresseur et la victime sous prétexte d’un « jeu fermé partagé ».

14. Termes connexes et distinctions

Pour éviter toute confusion conceptuelle, il convient de différencier le système fermé de plusieurs notions périphériques :

• Système ouvert (antonyme direct) : Contrairement au système fermé, le système ouvert entretient des échanges continus avec son milieu, utilisant les rétroactions négatives et positives pour s’ajuster, modifier ses règles internes et enrichir son organisation.
• Famille enchevêtrée (Minuchin) : L’enchevêtrement renvoie à la confusion des frontières internes entre les sous-systèmes (par exemple, entre parents et enfants), alors que le système fermé qualifie la rigidité de la frontière externe séparant le groupe du reste du monde. Les deux peuvent néanmoins coexister.
• Pensée de groupe (Janis) : La pensée de groupe est la conséquence socio-cognitive d’un collectif fonctionnant momentanément comme un système fermé sous pression, conduisant à l’écrasement de la dissidence et à l’irrationalité décisionnelle.
• Autisme et repli autistique : Bien que la clinique précoce ait parfois usé métaphoriquement de l’image de la forteresse fermée (Bruno Bettelheim), l’autisme est aujourd’hui compris comme un trouble du neurodéveloppement et non comme un choix systémique ou une fermeture défensive volontaire du sujet face à son milieu.
• Homéostasie rigide : Mécanisme de stabilisation qui refuse toute déviation par rapport à la norme interne établie, constituant le mode de régulation privilégié du système fermé.

15. Résumé et points clés

Le concept de système fermé éclaire les impasses relationnelles et psychiques où l’hermétisme compromet la santé psychologique :

• Un système fermé se caractérise par des frontières rigides et imperméables, bloquant l’échange d’informations et de rétroactions avec l’environnement extérieur.
• Transposé de la thermodynamique à la psychologie par Ludwig von Bertalanffy et l’École de Palo Alto, il illustre l’inévitable montée de l’entropie interne lorsque le renouvellement informationnel fait défaut.
• En clinique, il se manifeste par la disqualification systématique de l’altérité, l’étouffement de l’individuation au profit de la cohésion clanique et l’apparition d’un patient désigné porteur du symptôme régulateur.
• Sur le plan intrapsychique, il décrit des mécanismes de clivage et d’isolement du self face à une réalité extérieure perçue comme menaçante ou destructrice.
• L’intervention thérapeutique vise à réintroduire de la flexibilité et de la perméabilité aux frontières afin de restaurer l’équifinalité et la capacité morphogénétique indispensables à la vie psychique et relationnelle.

Références

• Bateson, G. (1972). Steps to an ecology of mind: Collected essays in anthropology, psychiatry, evolution, and epistemology. University of Chicago Press.
• Bertalanffy, L. von. (1968). General system theory: Foundations, development, applications. George Braziller.
• Bowen, M. (1978). Family therapy in clinical practice. Jason Aronson.
• Fairbairn, W. R. D. (1952). Psychoanalytic studies of the personality. Tavistock Publications.
• Minuchin, S. (1974). Families and family therapy. Harvard University Press.
• Watzlawick, P., Beavin Bavelas, J., & Jackson, D. D. (1967). Pragmatics of human communication: A study of interactional patterns, pathologies, and paradoxes. W. W. Norton & Company.