Calculer / Penser

1. Calculer, est-ce penser ?

Vous avez dit calculer ?

La question du calcul est certainement une de celles qui ont fondé l’informatique, et continuent de préoccuper ceux qui réfléchissent à propos de cette science.

Dans le langage courant, le terme calculer signifie trois choses :

• soumettre à une opération mécanique ou un algorithme répétitif (par exemple, le calcul mental) ;
• soumettre à une mesure commune (calculer la valeur d’une marchandise) ;
• soumettre à une appréciation anticipatrice (calculer les avantages et les inconvénients).

© François Cointe

En mathématiques règnent les procédures opératoires. La formalisation du raisonnement mathématique, réalisé de manière complète au début du XX^e siècle, permet de ramener le raisonnement mathématique à un calcul, avec des symboles et un ensemble de règles complètement spécifiées. C’est l’idée des systèmes formels en logique mathématique.

L’ordinateur implémente la mécanisation du raisonnement ainsi formalisé. Mais, lorsqu’une machine exécute un calcul comme une suite d’instructions, cela ne nécessite aucune pensée, aucune forme d’intelligence de sa part. En revanche, l’interprétation du résultat du calcul fait appel à la pensée.

En pratique, c’est toujours l’esprit humain et non quelque procédure mécanisée qui est ainsi producteur des résultats mathématiques publiés aujourd’hui. Il faut donc être très prudent quand on parle de « raisonnement » à propos d’une machine qui calcule sur des éléments symboliques : il y a beaucoup d’idées reçues sur ce sujet.

D’autres disciplines font un usage instrumental du calcul : le météorologue ou le géologue, l’expert financier ou le médecin… calculent. Ces domaines font moins appel à l’invention de procédures opératoires originales (premier sens du mot calcul) qu’à l’établissement de protocoles de mesure (deuxième sens) et d’interprétation et de décision (troisième sens). Sans avoir l’initiative d’une véritable démonstration au sens déductif du terme, ces sciences empiriques plutôt que théoriques s’appuient sur des mesures ou des calculs pour justifier une décision à prendre. On calcule, on interprète, on décide, le passage d’une étape à l’autre n’étant jamais mécanique mais dépendant de priorités, d’une hiérarchie des fins et des urgences.

En l’honneur de la « pensée calculante »

Il est facile de dénigrer le travail laborieux de l’esprit calculant, comme celui du comptable dont on imagine trop facilement qu’il est habité par le ressentiment et l’impuissance, car ce n’est jamais lui qui décide (lire par exemple Le souterrain de Dostoïevski).

Cependant, le calcul s’avère indispensable partout où il s’agit de compter des quantités discrètes et de représenter adéquatement la variation de grandeurs continues. Leibniz dit que la connaissance a besoin des critères, non seulement de clarté et de distinction, mais encore d’adéquation entre l’expression et son objet : les bonnes expressions sont celles qui sont adéquates. Il montre que le mathématicien van Ceulen, qui a exprimé 35 décimales de π, n’a pas donné le moyen de continuer : le passage d’une décimale à l’autre semble aléatoire. À l’inverse, Leibniz découvre l’expression de π/4 par une série infinie : π/4 = 1 – 1/3 + 1/5 – 1/7 + …, ce qu’il appelle la « quadrature arithmétique du cercle ». Un même objet mathématique est susceptible de plusieurs expressions, mais pas au sens où les unes seraient exactes et les autres approchées ; Leibniz découvre au contraire qu’une expression infinie peut exprimer exactement une quantité finie. Il sera dès lors à la recherche des nouveautés de notation qui, assorties de règles opératoires rigoureuses, permettent de pratiquer ce qu’il appelle un « calcul aveugle », ou encore une « pensée aveugle » ou « symbolique » : il s’agit de raisonner sur des signes sans avoir à l’esprit leur signification, ce qui amène à séparer la question du fondement du calcul de celle de la nature de ses objets (par exemple, la mise au point de la formule de différenciation du produit : d(xy) = x.dy + y.dx).

Leibniz parle de « ce miracle de l’Analyse, prodige du monde des idées, objet presque amphibie entre l’Être et le Non-Être ». Entre le monde réel des phénomènes et le monde imaginaire de nos illusions, il y a le monde amphibie des êtres idéaux et fictifs sur lesquels porte le nouveau calcul.

Critique de la « pensée calculante »

Heidegger, lui, dénie que le calcul soit une forme de pensée et réduit toute la science à n’être qu’une modalité du calcul. Sa thèse le conduit alors à dire que « la science ne pense pas ».
Pour Heidegger, le « savant » croit que la technique n’est qu’une application de la science et que celle-ci a pour fin le bonheur de l’Homme, cette double croyance s’appelant le progrès. C’est donc une conception instrumentale de la science (elle est utile), avec une perspective finaliste (elle vise au bonheur des Hommes).

Dans les deux cas, le savant, selon Heidegger, passe à côté de l’interrogation sur l’essence de la science, qui est de n’être ni un moyen ni une fin. Pour le comprendre, il faut remarquer que la science a beau avoir précédé la technique moderne, elle est embarquée dès l’origine dans le destin de l’essence de la technique, qui ne se manifeste en plein jour qu’à l’époque moderne. L’essence de la technique consiste à expliquer toute chose : trouver sa raison d’être, c’est-à-dire la soumettre à une explication causale. C’est alors le rôle de la science de lui faire rendre raison, organiser ces explications en théories, prédire de nouveaux résultats. Pour l’exploiter en retour d’un point de vue technique.

Dans cette optique, la science se comprend à partir de la technique et non l’inverse. Loin de la rabaisser, cela lui donne à la fois sa légitimité et son efficacité. Cet ancrage de la science dans la technique ne concerne pas que la nature, mais l’Homme lui-même, dont le destin moderne est ainsi scellé.

© François Cointe

Commentant la phrase de Max Planck : « Est réel ce qu’on peut mesurer », Heidegger dit que la science moderne soumet le réel au calcul. « Nous ne devons pas entendre ce terme au sens rétréci d’opérations faites sur des nombres. Au sens large et essentiel, calculer veut dire : compter avec une chose, c’est-à-dire la prendre en considération, compter sur elle. De cette manière toute objectivation du réel est un calcul. »

Cette extension du calcul à toute l’activité scientifique ne signifie donc pas une promotion de la technique, mais au contraire, le basculement hors du concret et dans l’abstraction. Une telle abstraction peut être étrangère à la nature symbolique de l’Homme, et à son rapport au langage usuel. Ce basculement peut alors générer des sentiments de rejet : c’est pourquoi Heidegger voyait dans la cybernétique et l’informatique (science des machines et du traitement de l’information par le calcul) une menace suprême, un crime contre-langage !

Théoriser ou calculer ?

On a souvent souligné la différence qu’il y a entre les théories physiques, qui doivent être confirmées par des observations et des expériences — une théorie peut éventuellement être réfutée — et les mathématiques qui n’invalident jamais ce qui a déjà été démontré : « Une fois que la démonstration d’un théorème à partir d’un système d’axiomes a été reconnue correcte, le théorème n’est plus jamais remis en question » dit Jean Dieudonné, l’un des fondateurs de Bourbaki (Pour l’honneur de l’esprit humain. Les mathématiques aujourd’hui). Il y a cependant une évolution de la pensée mathématicienne, qui ne consiste pas en une simple accumulation de nouveaux théorèmes, mais opère une réorganisation continuelle en fonction de nouveaux problèmes.

La pensée ici à l’œuvre ne tient pas à l’inventivité incessante des problèmes, au contraire de ce qu’affirmait Hilbert : « Une branche de la science est vivante aussi longtemps qu’elle offre une foule de problèmes. Le manque de problèmes signifie sa mort ou la fin de son développement ». Elle tient plutôt à la capacité de réorganiser tout le champ du savoir constitué. Les mathématiques théorisent après coup des découvertes dont l’origine est parfois accidentelle. De ce point de vue, Paul Valéry a donc tort en affirmant : « Une difficulté des mathématiques est la manière « abrupte » dont les définitions s’introduisent. (…) On ne dit pas d’où l’on part réellement, ni où l’on va. » (Cahiers II) . Ce reproche s’applique peut-être hélas à quelque façon de l’enseigner, mais ne correspond pas à la réalité de la production scientifique.

Il faut donc bien distinguer deux gestes aussi légitimes l’un que l’autre, celui de la théorisation et celui du calcul.

Du calcul à la décision humaine

On appelle effectivité la capacité de réduire un problème à un calcul, un algorithme, un procédé mécanique. Ces termes sont synonymes pour Alan Turing, le mathématicien qui a imaginé une machine à calculer automatique et universelle, à l’origine des ordinateurs : « Un nombre est calculable lorsque son expression décimale est calculable avec des moyens finis » (Théorie des nombres calculables). Turing note qu’il s’agit bien de libérer la mémoire humaine « nécessairement limitée ». Dire que le nombre ? est calculable avec des moyens finis, c’est dire qu’il existe un programme qui affiche la suite de ses décimales, même si cette opération prend un temps infini. Le programme continuera de délivrer les décimales, là où la mémoire humaine faillirait par manque de systématisme, en plus de l’impossibilité de conserver une attention soutenue.

Mais il faut aussi distinguer cette effectivité du calcul, que l’on trouve aujourd’hui dans toutes les disciplines qui utilisent des outils mathématiques et la simulation, de la décision humaine qui intervient sur la base du calcul, et qui l’interprète en fonction d’autre chose que lui-même. On peut avoir des modèles mathématiques effectifs en économie, et être incapable de prévoir l’état de l’économie réelle car il est susceptible d’être bouleversé par une guerre, la psychologie des investisseurs, etc.

Êtes-vous calculateur ?

De même que mesurer (faire des mesures) ce n’est pas avoir l’esprit de mesure (éviter l’excès en tout), calculer (faire des opérations) ce n’est pas avoir l’esprit calculateur (user de tous les moyens pour atteindre ses fins). Dès que les termes de mesure, de calcul, sont appliqués à l’esprit humain, ils prennent un sens finaliste qui les éloigne de leur origine, même si en l’occurrence l’un prend un sens noble (le sens de la mesure), l’autre un sens péjoratif (l’esprit de calcul). L’esprit humain n’appartient pas au domaine de la nature, c’est-à-dire des choses mesurables et calculables, mais au domaine de l’action et de la décision. C’est sur un fond d’indétermination que la liberté de l’esprit se manifeste et que la forme qu’elle prendra n’est jamais prévisible. C’est aussi la raison pour laquelle on rapporte toujours les comportements et les décisions, non à la fatalité des chiffres ou des causes qui les détermineraient à leur insu, mais aux intentions qui leur ont donné naissance.

2. Penser, est-ce calculer ?

Vers une vision computationnelle de l’esprit…

Lorsque les sciences de l’informatique s’invitent dans ce débat, les philosophes se demandent dans quelle mesure il est possible de réduire la pensée à un calcul mécanisable : c’est la thèse « computationnelle ». Elle constitue un sujet majeur de la philosophie de l’esprit, domaine présenté en détail sur wikipedia dans la version anglaise.

Cette thèse de philosophes comme David Chalmers, exprimée dans ses Fondements computationnels de l’étude de la cognition, est double.

• D’une part, ils défendent le fait que la thèse computationnelle est suffisante : une structure calculatoire suffit pour posséder un esprit avec des propriétés mentales. On pourrait donc créer un mental avec un calcul suffisamment sophistiqué.
• D’autre part, ils avancent le fait que la thèse computationnelle est explicative : les propriétés calculatoires offrent un formalisme général pour expliquer les processus mentaux et les comportements de l’intelligence animale voire humaine. On pourrait donc utiliser un calcul pour modéliser les processus mentaux, et pas seulement pour les imiter ou les simuler.

Cette thèse se fonde sur une première notion, celle d’implémentation : un système physique concret implémente un calcul abstrait donné quand il est possible de mettre en correspondance bi-univoque les états physiques internes du système concret avec les valeurs des paramètres du calcul, et les transitions d’un état à un autre du système concret avec les opérations du calcul abstrait. Le point clé est donc d’observer les mêmes relations de cause à effet. Cela correspond à une spécification abstraite d’une organisation causale incarnée dans un système concret. Tous les comportements d’un tel système sont alors entièrement définis par ces états et ces transitions.

…Et une façon de définir les processus mentaux

© François Cointe

David Chalmers propose alors une définition : c’est en vertu du fait qu’un système implémente un calcul qu’il est qualifié de cognitif, c’est-à-dire doté de processus mentaux. Il propose que pour une certaine classe de calculs (correspondant à ce que nous considérons être des processus mentaux), le fait qu’elle soit implémentée par un système permette de considérer ce système comme cognitif. Il formalise ici la notion de système cognitif, biologique ou non. Mais il ne précise pas de quels calculs il s’agit.

La deuxième notion qu’il utilise est celle d’invariance organisationnelle, qui correspond au fait que si nous remplaçons certaines parties d’un système (mes dents par un dentier, une partie de mes neurones par un système électronique qui a le même fonctionnement) nous ne changeons pas l’implémentation définie précédemment, donc le système reste le même. Il propose alors l’expérience de pensée suivante : celle de remplacer petit à petit chaque partie de mon corps et de mon cerveau par des prothèses électroniques ou biologiques diverses en respectant scrupuleusement l’implémentation de chacun des états et transitions. Je serais alors toujours moi-même… mais néanmoins devenu un complet… robot. On voit ici que les propriétés mentales correspondent à ce qui reste invariant aux changements d’implémentation : c’est ce que Chalmers appelle l’invariance organisationnelle.

Sont exclues de cette thèse les notions de sémantique (l’étude de la signification des choses) et de représentation (qu’un sujet conscient peut avoir de la réalité). Plus précisément, le calcul prend du sens au moment où il est implémenté. Tant qu’il n’est que calcul, il reste purement syntaxique : c’est un simple enchaînement de transitions. Cette thèse parle bien du calcul numérique ou symbolique, indépendamment du fait qu’il soit programmé (donc implémenté) sur un ordinateur ou tout autre dispositif.

Notre pensée est-elle l’implémentation d’un calcul ?

Pour défendre cette thèse, ces philosophes (comme en France Gilles Dowek), font remarquer que toutes les lois connues de la physique et de la chimie, de la matière organique ou non sont, jusqu’à preuve du contraire, toujours calculables : elles implémentent des calculs effectifs. De plus, cette thèse observe qu’en pratique le nombre d’états des systèmes matériels est fini : les tailles des objets sont bornées, leur nombre de composants (molécules, atomes, etc.) aussi. Ils ne peuvent donc prendre qu’un nombre fini d’état différentiables. En outre, en un temps fini, ils ne peuvent implémenter qu’un nombre fini de transitions. Ce ne sont donc que calculs effectifs finis. Ceci s’applique en particulier aux processus neuro-physiologiques et par combinaison à toutes les opérations de notre cerveau. De ce point de vue, notre cerveau est donc l’implémentation d’un calcul fini et ses états mentaux aussi.

Cette affirmation se heurte évidemment à la conviction de ceux qui croient que l’esprit est immatériel ou sans limite. Par ailleurs, elle semble à beaucoup contre-intuitive. Au niveau philosophique, c’est John Searle, dont nous exposons les arguments dans un autre document, qui soulève les plus importantes objections contre cette théorie computationnelle de l’esprit.

Le constat final est que le problème n’est pas tranché, comme le discute Jean-Paul Delahaye dans son livre Information, complexité et hasard, Hermès, 1999.

© François Cointe

Et notre cerveau, qu’en pense-t-il ?

Alors, entre cette thèse computationnelle et ses antithèses, comment les scientifiques des neurosciences, qui étudient les mécanismes de notre cerveau, peuvent-ils avancer sans buter sur les contradictions entre ces deux écoles de pensée ?

Ils avancent de manière pragmatique et prudente. De manière pragmatique, ils essayent de ne présupposer que le minimum de ces thèses encore non-confirmées. Par exemple, uniquement que les processus computationnels simulent les processus mentaux (ils sont uniquement « biologiquement plausibles »). Ou que le cerveau est un modèle (une implémentation approximative et cohérente en l’état de nos connaissances) de réseaux de neurones. De manière prudente, ils étudient principalement l’intelligence « animale » c’est-à-dire les processus mentaux qui peuvent être représentés utilement et sans équivoque de manière computationnelle.

Le neurophysiologue Alain Berthoz dit par exemple : « Notre « corps mental » est probablement constitué de tous les modèles internes qui constituent les éléments du schéma corporel et permettent au cerveau de simuler et d’émuler la réalité, pour interagir avec elle » (La Décision, Éditions Odile Jacob, 2003). Il suppose donc que notre cerveau a des états internes qui « imitent » ceux auxquels nous sommes confrontés dans la réalité, pour « tester » comment se comporter, avant de le tenter pour de vrai. C’est un point de vue qui fournit un cadre à l’étude du cerveau et de ses comportements. Il correspond à ce qui est observé aujourd’hui au niveau scientifique. Il est computationnel au sens où il s’intéresse aux aspects calculatoires des processus mentaux. Mais il ne prétend nullement capturer ici tout ce qui concerne l’esprit.

Vers une science biologique de la pensée

Le fait que la meilleure compréhension du fonctionnement du cerveau pourrait aider à mieux comprendre notre esprit est défendu par les spécialistes des neurosciences comme Stanislas Dehaene (Vers une science de la vie mentale, Fayard, 2007), qui cherchent à comprendre les liens entre le cerveau et la pensée. Ils observent par exemple qu’un sujet peut réaliser un geste ou être ému sans que la conscience, la faculté mentale et subjective de percevoir sa propre existence ou ses états émotionnels, n’entre en jeu. Notre inconscient ne serait pas une personnalité enfouie comme le présupposait Freud, mais de simples processus biologiques.

Selon Rodolfo Llinás, notre conscience elle-même a des bases neuronales qui commencent à être élucidées. Il observe que les assemblées de neurones qui correspondent à un contenu conscient sont celles qui oscillent en phase entre elles pour lier ensemble les différentes caractéristiques d’un objet et en phase avec le balayage oscillatoire « gamma » à 40Hz du cerveau. Elles sont associées à des ondes cérébrales irrégulières de faible amplitude (12-70Hz), à l’activité d’un groupe de neurones spécifique du cortex et du thalamus (complexe thalamo-cortical) modulé par des structures sous corticales. L’état de conscience correspond à une activité corticale non-locale (qui dépend du contenu conscientisé) mais bien définie. La réalité biologique confirme que cela reste un phénomène unitaire et séquentiel.

Découvrir que dans une large part cette pensée que nous pensons « supérieure » se réduit à quelques processus biologiques, eux-mêmes assimilables à une forme de calcul, a peut-être, in fine, une vertu philosophique : celle de nous donner une leçon d’humilité.