Capsule histoire : Cerveau triunique et système limbique : ce qu'il faut jeter, ce qu'on peut garder

Le modèle du " cerveau triunique " introduit dans les années 1960 par Paul MacLean et l'un de ses trois étages, le " système limbique ", ont connu un tel succès qu'ils sont même passés dans le langage populaire. Or au fil des décennies, l'accumulation de publications allant à l'encontre de certaines affirmations originales de ces concepts nous force à les revisiter et à les dépoussiérer un peu.

Quelques raisons d'un succès

D'abord, s'il frappe tant l'imagination, c'est que le concept de " cerveau triunique " est simple et s'harmonise parfaitement avec une conception très ancienne des trois éléments de base de la nature humaine : la volonté, l'émotivité et la rationalité (" gut, heart, head ", en anglais). Ainsi, nous aurions trois cerveaux emboîtés les uns sur les autres et apparus successivement au cours de l'évolution : un " reptilien " responsable des fonctions de survie, un " limbique " responsable des émotions, et un " néo-cortex " responsable de la pensée abstraite et rationnelle.

Son succès a aussi été attribué en partie au fait qu'il fournissait des bases anatomiques aux concepts psychanalytiques de Freud. Car pour MacLean, les trois cerveaux communiquent mal entre eux, le néo-cortex dominant (Freud dirait " refoulant ") les deux autres. Cette hiérarchisation de l'organisation du cerveau en trois étages de la plus ancienne à la plus récente s'inscrit bien, du reste, dans un schéma darwinien. Et puis, il n'y a jamais vraiment eu de modèles alternatifs aussi simples à comprendre et faciles à enseigner.

Le " flou artistique " entourant le système limbique

L'épithète " limbique " remonte au XIXe siècle et à Paul Broca qui l'introduit en parlant du " grand lobe limbique " pour décrire les bords du cortex repliés vers l'intérieur (le mot latin limbus signifie ourlet ou bord) ainsi que d'autres structures cérébrales épousant ceux-ci et ayant la forme d'un " C ". Plus tard, en 1937, James Papez décrit un circuit qu'il croit être impliqué dans la formation des émotions. Ce " circuit de Papez ", aussi appelé le circuit hippocampo-mamillo-thalamique, relie entre elles plusieurs structures faisant partie de ce qu'il est depuis convenu d'appeler " le système limbique ".

Or lorsqu'il s'agit de définir précisément quelles sont les structures cérébrales qui font partie du système limbique, " n'importe quelle assemblée de neuroanatomistes sérieux se transforme instantanément en un groupe d'individus colériques et agités ", pour citer une boutade de Helmut Wicht ! Voilà donc un premier problème de taille pour le " cerveau triunique " puisque l'un de ses trois étages est justement ce " système limbique " dont on ne s'entend même pas sur la définition. En fait, si on ne s'entend que sur une chose, c'est qu'on doit abandonner le système limbique en tant que théorie anatomique du " cerveau émotionnel ".

Les études d'électrophysiologie leur assignent en effet d'autres fonctions que le traitement des émotions. Par exemple, des cellules à tous les relais de ce circuit réagissent à l'orientation de la tête par rapport à l'axe du corps. Ou encore, des lésions des noyaux mamillaires, ou à ses connexions au thalamus et au cortex chez le rat, perturbent la mémorisation d'informations spatiales sur l'environnement. Il est vrai que ce circuit de Papez (ce sous-ensemble du système limbique), absent chez les amphibiens et les poissons, et rudimentaire chez les reptiles, n'apparaît véritablement qu'avec les premiers mammifères. Mais il serait plutôt associé à leur capacité motrice d'adaptation à l'environnement.

Or dans le modèle de MacLean, le système limbique est associé au cerveau des émotions, ce qui est pour le moins problématique à la lumière de ces nouvelles données.

Les problèmes associés au " cerveau reptilien "

Le " cerveau reptilien " de MacLean a lui aussi sa part de problèmes. D'abord, on sait maintenant que le cerveau des reptiles vivant actuellement possède, tout comme celui des mammifères, un cortex doté d'une organisation en couche. Si l'on a cru longtemps que les reptiles avaient un tout petit cortex et un gros striatum (structure plus primitive que le cortex), c'est à cause d'une erreur d'interprétation anatomique qui été depuis corrigée. En effet, on a longtemps associé l'éminence ventriculaire dorsale des reptiles, un amas de neurones de leur cerveau antérieur, au striatum des mammifères qui a une position similaire. Et comme le striatum participe à l'exécution des mouvements dans des situations de récompenses potentielles, on lui avait par erreur attribué un rôle primitif et " reptilien ", alors que les données neurochimiques et la nature de ses connexions ont montré qu'il s'agissait bien de cortex.

Difficile alors de parler d'un cerveau reptilien qui ne serait que viscéral, alors que le cerveau des reptiles actuels a aussi un cortex bien développé. Et difficile de concevoir que notre cerveau, comme MacLean le soutenait, a été construit par couches successives dont la plus ancienne ressemblerait au cerveau des reptiles actuels.

Les mammifères et reptiles actuels ont bien eu un ancêtre commun " reptilien ". Mais on ne sait pratiquement rien sur son organisation cérébrale. Elle était probablement plus simple, un peu comme celle d'un batracien d'aujourd'hui. Et c'est à partir de cet ancêtre commun que reptiles et mammifères ont divergé et ont suivi des voies de différenciation cérébrale différentes. Cela veut dire que le cortex des mammifères n'est pas " plus récent " que celui des reptiles actuels : les deux ont évolué en fonction des contraintes auxquelles ils étaient soumis pour donner les deux formes de cortex différentes qu'on observe aujourd'hui chez les mammifères et les reptiles.

Pas de hiérarchie stricte

Enfin, une dernière erreur consiste à concevoir le cerveau selon une organisation hiérarchique stricte. Ce n'est pas parce que le cortex est le siège de la pensée consciente qu'il trône au sommet d'une pyramide et contrôle les étages inférieurs. Il suffit de se rappeler à quel point des structures profondes, notamment dans le tronc cérébral, exercent un contrôle constant de l'activité du cortex cérébral, en modifiant par exemple la synchronisation de l'activité des neurones corticaux en fonction des états de veille ou de sommeil.

Ce qu'on peut garder

Si, comme le disait le statisticien George E.P. Box, " essentiellement, tous les modèles sont erronés, mais certains sont utiles. ", alors y'a-t-il quelque chose d'utile qu'on peut encore garder du modèle de MacLean ? Sans doute quelques idées générales, comme le fait que certaines structures de notre cerveau sont plus anciennes que d'autres, évolutivement parlant.

Ou encore que les émotions impliquent des circuits relativement primitifs conservés au cours de l'évolution des mammifères. Le circuit de la peur ou le circuit du plaisir sont ainsi des circuits neuronaux spécifiques qui participent au vaste réseau de ce qu'on peut appeler le " cerveau émotionnel. "

Bref, si l'on veut continuer d'associer l'expression " système limbique " aux émotions, il faudrait la redéfinir pour qu'elle englobe ces circuits propres à chaque émotion. Des circuits qui ont comme relais : le noyau amygdalien, le noyau accumbens, l'hippocampe, l'hypothalamus, le thalamus ainsi que certaines aires du cortex préfrontal et du cortex temporal. Sans compter l'implication d'autres structures qui restent sans doute à découvrir…