Le cerveau, un ordinateur ?

John Searle.
Photo : DR.

De fait, John Searle, grand philosophe du langage et de l’esprit, choisit d’adopter cette position dualiste qui sépare la matière du cerveau de l’esprit. Mais ce n’est pour lui qu’un point de vue, un modèle, qui lui permet de nous faire réfléchir aux liens que nous sommes quotidiennement tentés de faire entre cerveau et ordinateur.

De cette formulation, métaphore facile qui s’apparente à une idée reçue, peuvent surgir trois questions :

1. Le cerveau est-il un ordinateur ?
2. L’esprit est-il un programme informatique ?
3. Un ordinateur peut-il simuler les opérations du cerveau ?

C’est en nous appuyant sur les travaux de John Searle que nous allons esquisser une réponse à ces questions.

Un ordinateur peut-il simuler les opérations du cerveau ?

Commençons par le plus facile. La réponse à cette troisième question est bien affirmative, au sens où il est possible de simuler certains aspects du système biologique que constitue cet organe humain. Les opérations du cerveau peuvent être simulées par un ordinateur, au même titre que la météorologie, le comportement de la bourse de New York ou le trafic aérien vers l’Amérique Latine. En fait, tout ce qui peut être caractérisé avec suffisamment de précision sous forme d’un ensemble d’étapes peut être simulé par ordinateur.

Il existe plusieurs descriptions du cerveau qui permettent une simulation informatique des opérations qui s’y déroulent. Ce sont des descriptions du cerveau… au niveau de notre compréhension d’aujourd’hui. Il faut les voir comme des métaphores : au fil des siècles, le cerveau a été vu comme un mécanisme d’horlogerie, un ensemble de circuits électriques, etc. Et, à chaque fois, nous avons pu apprendre quelque chose de précieux de ces analogies… jusqu’à buter sur leurs limites !

L’esprit est-il un programme informatique ?

À l’inverse, la réponse à cette deuxième question est plutôt négative. D’autres scientifiques disent : « Si mon cerveau est un système physique (ce que je crois) et qu’il peut accéder au sens, je ne comprends pas pourquoi un ordinateur, qui est lui aussi un système physique, ne pourrait pas y accéder ! ». C’est à cette question que Searle cherche à répondre ici. Plusieurs arguments justifient sa position.

D’une part, il nous est évident que l’esprit a un contenu mental intrinsèque, il donne du sens aux choses ; on parle dans ce cas de « sémantique ».

D’autre part, les programmes d’ordinateurs sont, eux, définis de manière purement formelle – on dira « syntaxique » – avec des nombres ou des symboles.

Tenez, supposez que vous ne compreniez rien au chinois, mais que vous disposiez d’un manuel gigantesque avec tous les enchaînements de questions-réponses possibles. À la question « Comprenez-vous le chinois ? » vous allez puiser la réponse « Oui, bien sûr ! » dans le manuel… sans même comprendre un traître mot de tout cela ! Cet argument développé par John Searle est connu sous le nom de « chambre chinoise ».

L’argument de la chambre chinoise.
© Illustration : Cédric Trojani.

Un ordinateur, lui aussi, pourrait exécuter les étapes du programme, simulant (comme George) une certaine capacité mentale, telle que la compréhension du chinois, ceci sans comprendre un seul mot de chinois.

La réponse à cette deuxième question est donc « non », par la simple vérité logique que la syntaxe n’est pas identique à la sémantique.

Le cerveau est-il un ordinateur ?

Quant à la réponse à cette première question… eh bien… elle va nous faire faire un bien étrange voyage, philosophique… et décapant ! Allons-y pas à pas.

Un ordinateur n’est pas un système physique

Certaines catégories d’objets comme les carburateurs et les thermostats se définissent en termes de production de certains effets physiques. Un objet qui régule la température de votre salon est un thermostat, qu’il soit un circuit électronique ou que ce soit un petit chien frileux que vous avez dressé à ouvrir et fermer les bons clapets. Le même effet physique peut être obtenu avec différentes substances physiques. Mais nous restons dans le domaine des systèmes physiques : l’action du thermostat électronique ou animal existe dans le monde physique, que vous soyez dans la pièce ou pas.

La catégorie des ordinateurs, elle, se définit de manière très différente : elle se définit de manière « syntaxique » en termes d’attribution de zéros et de uns, par exemple aux boules d’un boulier chinois ou aux circuits électroniques de votre calculette. Mais pourquoi pas aussi aux boules de votre arbre de Noël ballotées par le vent ? Voyez ce qui se passe : n’importe quel objet peut se voir attribuer une telle syntaxe. En effet, tout peut être décrit en termes de zéros et de uns. Ainsi, tandis que n’importe quel objet ne peut pas être un thermostat, à n’importe quel objet on peut associer des zéros et des uns… et voilà le sapin de Noël devenu « ordinateur », son fonctionnement correspondant à un programme sûrement loufoque, mais… bel et bien existant !

Donner du sens à ce qu’un ordinateur calcule ? Impossible sans vous !

En fait, l’attribution de cette syntaxe (les zéros et les uns) dépend toujours d’un agent ou d’un observateur qui traite certains phénomènes physiques sous forme de syntaxe. Le boulier chinois ne « calcule » rien. C’est vous qui interprétez le résultat du déplacement des boules comme celui d’une addition. La calculette non plus, du reste : le calcul effectué par elle ne prend du sens que lorsque vous lisez le résultat ; le reste n’est que courants électriques.

Ce qui est extraordinaire, c’est qu’il existe des système physiques dont le fonctionnement peut être interprété comme une addition, une multiplication (par exemple une règle à calcul), une trieuse de données, etc. En fait, les informaticiens ont même pu clarifier dans quelle mesure, pour tout programme, il existe un objet suffisamment complexe dont la description permet d’appliquer le programme.

À condition que la caractérisation en termes de programme… vienne de l’extérieur. Une caractérisation relative à un observateur. Votre ordinateur, c’est juste comme un placard et un établi : un placard où vous pouvez ranger des dessins et des jetons de couleur qui vous aideront à vous souvenir de vos pensées et un établi où vous pouvez venir usiner quelques-unes de vos pensées. Une fois que vous fermez le placard, il n’y a plus que des jetons, de l’encre et du papier, pas de pensées.

Rapprocher cerveau et ordinateur

Nous aimerions bien savoir comment le cerveau fonctionne, en particulier comment il produit des phénomènes mentaux. Est-ce qu’il est utile de travailler avec l’hypothèse selon laquelle, dans une certaine mesure, les cerveaux sont intrinsèquement des ordinateurs ? À la manière dont les feuilles vertes réalisent intrinsèquement la photosynthèse ou dont le cœur pompe intrinsèquement le sang ?

Remarquons déjà que cela ne va rien nous apprendre sur les mécanismes biologiques et physiques qui sont à l’origine de nos phénomènes mentaux : ils n’ont rien à voir avec les circuits électroniques des ordinateurs du commerce.

Examinons à présent l’exemple suivant : supposons que nous ayons un ordinateur qui multiplie six par sept et obtient quarante-deux. Nous nous demandons comment il fait. La réponse pourrait être qu’il additionne six à lui-même six fois. Si vous vous demandez maintenant « Comment additionne-t-il six à lui-même six fois ? », la réponse pourrait être qu’il convertit d’abord tous les chiffres en notation binaire, puis qu’il applique un simple algorithme sur la notation binaire, jusqu’à atteindre le niveau inférieur de traitement auquel les seules instructions sont du type « imprimer un zéro, effacer un un ».

Tous les niveaux supérieurs de traitement de l’information se réduisent à ce niveau inférieur. Seul le niveau inférieur existe réellement, les niveaux supérieurs ne sont tous que des « comme si ».

Et nous n’avons rien appris sur la façon dont notre cerveau… multiplie six par sept ! Mais il y a pire…

Horreur  ! Cela accule à l’homoncule

Nous avons vu que pour les ordinateurs du commerce, le programme prend son sens quand un utilisateur interprète son fonctionnement.

Mais…

qui est

On appelle « homoncule » cet utilisateur fictif. L’idée est toujours de traiter le cerveau comme s’il contenait un agent qui s’en servirait pour effectuer des calculs. Or la plupart des travaux qui abordent ce sujet apportent des variantes au raisonnement erroné de l’homoncule.

Les questions liées à l’homoncule, typiques de la science cognitive, ressemblent à celles-ci : « Comment le système visuel distingue-t-il la forme et l’ombre ? », « Comment calcule-t-il la distance d’un objet à partir de la taille de l’image rétinienne ? » Parallèlement, on pourrait se demander « Comment les clous calculent-ils la distance qu’ils doivent parcourir dans la planche à partir de l’impact du marteau et de la densité du bois ? ». La réponse est la même dans les deux cas : si nous parlons du fonctionnement intrinsèque du système, ni les clous ni le système visuel ne calculent quoi ce que soit.

Seuls les humains, en tant qu’utilisateurs extérieurs, les décrivent de manière informatique, grâce à leur esprit… auquel l’ordinateur est étranger.

Et en outre, cela n’explique rien !

Les sciences naturelles expliquent certains phénomènes par des mécanismes de causalité. Cela est particulièrement courant dans les sciences biologiques. Pensez à la théorie des germes de la maladie, à l’explication de la photosynthèse, à la théorie de la transmission des caractères génétiques et même à la théorie darwinienne de la sélection naturelle. Dans chaque cas, un mécanisme de causalité est spécifié et, dans chaque cas, cette spécification explique le résultat du mécanisme.

De même, lorsqu’un humain suit consciemment des règles pour réaliser un certain calcul, cela explique son résultat, par une relation de cause à effet. À l’inverse, lorsque nous programmons l’ordinateur mécanique pour qu’il effectue le même calcul, l’attribution d’une interprétation dépend de nous, les observateurs extérieurs. Il n’y a pas davantage de niveau de causalité intentionnelle intrinsèque au système. L’humain suit consciemment, intentionnellement, des règles, ce qui explique son comportement, alors que l’ordinateur mécanique ne suit littéralement aucune règle de calcul. Il suit juste les lois physiques qui le font fonctionner.

On ne peut pas expliquer un système physique tel qu’une machine à écrire ou un cerveau en identifiant un schéma que ce système partage avec sa simulation informatique, parce que l’existence du schéma n’explique pas le fonctionnement réel du système. La difficulté tient à ce que les zéros et les uns en soi n’ont aucun pouvoir de causalité parce qu’ils n’existent qu’aux yeux du spectateur qui les interprète.

Car finalement… le cerveau, lui, n’est pas un système qui traite de l’information !

Dans le cas du cerveau, aucun des processus neurobiologiques correspondants ne dépend d’un observateur extérieur et la spécificité de la neurophysiologie est extrêmement importante.

Supposons que je voie une voiture venir vers moi. Une série concrète et spécifique de réactions électrochimiques est déclenchée par l’assaut des photons sur les cellules photosensibles de ma rétine, et ce processus entier produit finalement une expérience visuelle concrète qui va finalement produire la phrase « Ahhh ! Une voiture s’approche de moi ». Tout ceci n’est pas de l’information (abstraite), c’est du vécu (concret).

La réalité biologique n’est pas celle d’un paquet de mots ou de symboles produits par le système visuel, mais plutôt une question d’événement visuel spécifique, conscient et concret, précisément cette expérience visuelle. Nous pouvons, à l’aide de l’ordinateur, élaborer un modèle de traitement de l’information de cet événement ou de sa production, comme nous composerions un modèle informatique de la météorologie, de la digestion ou de tout autre phénomène, mais les phénomènes en soi ne sont pas des systèmes de traitement de l’information.

Tandis que dans le cas de l’ordinateur, un agent extérieur codifie certaines informations sous une forme que les circuits informatiques peuvent traiter. Autrement dit, il fournit une réalisation syntaxique des informations, que l’ordinateur peut exécuter. L’ordinateur suit alors une série d’étapes électriques que l’agent extérieur peut interpréter à la fois du point de vue syntaxique et sémantique, même si, bien entendu, la machine ne dispose d’aucune syntaxe ou sémantique intrinsèque. Tout se joue dans l’esprit de l’observateur. La physique n’a pas d’importance, à condition de pouvoir l’amener à réaliser l’algorithme. Un résultat est finalement produit sous la forme de phénomènes physiques qu’un observateur peut interpréter en tant que symboles avec une syntaxe et une sémantique.

Et alors ? Ça va changer quoi pour moi ?

Ça va changer cela pour vous : quand vous allez utiliser un ordinateur, désormais, il ne sera plus un objet qui contient et produit de l’information, il ne sera qu’un placard et un établi. Les pensées que vous y verrez ne seront que le reflet en miroir de vos propres pensées.

Ne l’oublions pas, « Le prix de la métaphore est une éternelle vigilance » (citation attribuée par Richard Lewontin, dans La triple hélice, à Alexandre Rosenblueth et Norbert Wiener dans « Purposeful and Non-Purposeful Behavior », Philosophy of Science 17 – 1950).