Regard sur « Le mythe de la Singularité. Faut-il craindre l’intelligence artificielle ? »

Les scénarios annoncés, dont on retrouve l’origine dans la science-fiction, prédisent une évolution de notre monde vers un point de singularité radical, correspondant à une prise de pouvoir des machines sur les humains, et qui, selon les cas, marquent la fin de l’époque humaine (comme celle des dinosaures) ou la suprématie de posthumains dont les esprits se téléchargent sur des serveurs numériques, gagnant une sorte d’immortalité. Transhumanisme, super-humanité : à quand cette apocalypse ?

Devant ces scénarios, une question importante se pose : sommes-nous des frileux refusant de voir la réalité parce qu’on ne connaît pas ? Parce qu’on ne veut pas connaître ? Ou avons-nous des arguments à opposer à ce « mythe », à ce récit, qui se répand par approbation plus que par conviction, puisque sans démonstration ? Jean-Gabriel Ganascia nous fournit de tels arguments, de manière convaincante et circonstanciée. C’est réconfortant, très éclairant et très utile.

Le livre se lit très bien, sans être superficiel. Il s’appuie sur les compétences scientifiques en informatique et en intelligence artificielle de l’auteur, mais aussi sur sa large culture en sciences humaines. Les références sont nombreuses, et les propos argumentés. Certains paragraphes plus ardus requièrent une attention soutenue, mais l’argumentation est solide, complète et le lecteur suit sans difficulté majeure le propos, avec intérêt et même passion.

Les premiers chapitres sont consacrés à la loi de Moore qui est souvent le fer de lance des tenants de la singularité. Ils permettent à l’auteur de montrer comment l’utilisation de cette conjecture pour prédire une évolution technologique catastrophique à long terme est contestable. Et encore plus lorsqu’elle est utilisée pour prédire une évolution biologique.

L’auteur traite ensuite de l’apprentissage et de son utilisation sur de grandes masses de données : les machines peuvent apprendre, améliorer leur comportement, et obtenir des résultats étonnants dans certains domaines précis, bien supérieurs souvent à ce dont est capable l’être humain. Mais contrairement à ce que l’on veut nous faire croire, Jean-Gabriel Ganascia affirme clairement que « Rien dans l’état actuel des techniques de l’Intelligence Artificielle n’autorise à affirmer que les ordinateurs seront en mesure de se perfectionner indéfiniment sans le secours de l’Homme, jusqu’à s’emballer, nous dépasser et acquérir leur autonomie ». Certes, le danger existe d’une prise de contrôle non-éthique de ces nouvelles capacités, comme pour toute avancée scientifique, et c’est à nous d’en être conscients et de gérer ce risque.

L’auteur fait ensuite une comparaison instructive avec l’évolution climatique et les risques annoncés. Il souligne bien que dans le cas du climat, il existe des modèles théoriques qui fondent les prévisions, modèles qui peuvent être discutés, évalués, comparés, alors que la catastrophe annoncée de la singularité ne repose sur aucun modèle théorique, que l’on ne peut donc ni discuter, ni évaluer et ni contester, mais repose sur un récit qui ne peut pas convaincre mais auquel on peut croire ou pas.

Le chapitre cinq est plus osé et peut-être moins accessible puisque l’auteur y fait une analogie entre spiritualité gnostique et mythe de la singularité. Cette comparaison lui permet d’aborder de nombreuses pistes qui intriguent et excitent l’esprit, opposant Mythos (récit) et Logos (argumentation). Sans vouloir tout assimiler, le lecteur reste intéressé et le propos est toujours précis et appuyé par des références éclairantes, tels l’encart sur la chambre chinoise, ou encore le débat entre intelligence artificielle forte et faible…

Au cœur du débat se pose la question de savoir si l’Homme a encore prise sur le futur, vaste question qui a dominé le siècle des Lumières. Ou bien, si nous allons sans recours vers un point singulier, conséquence des progrès des machines intelligentes, point qui marquera la fin de l’humanité ? Mais si c’était le cas, à quoi bon s’en préoccuper et avoir peur ? Et il est notable que les tenants de la singularité sont ceux-là même qui ont développé les outils à base d’IA, qui l’ont promu, qui se sont enrichis et qui continuent, tout en faisant peur à tout le monde, de la développer… Comment expliquer cela ? Jean-Gabriel Ganascia propose trois réponses, mais la dernière est la plus convaincante. Je laisse la surprise à ceux qui le souhaitent de la découvrir par eux-mêmes…