Lire et voir

Regard sur « Le mythe de la Singularité. Faut-il craindre l'intelligence artificielle ? »

Le mythe de la Singularité : voilà un titre qui résume bien le contenu du livre de Jean-Gabriel Ganascia ! L'auteur y démonte de manière rigoureuse les éléments mis en avant par les tenants de cette nouvelle « théorie », largement relayée par les médias, et dont le succès repose beaucoup sur la peur et le catastrophisme.

© the_lightwriter - Fotolia

Le mythe de la Singularité. Faut-il craindre l'intelligence artificielle ?, Jean-Gabriel Ganascia, Science ouverte - Seuil, Février 2017.

J'ai vraiment été intéressée par la lecture de ce livre que je trouve très pertinent dans un contexte où l'on entend dire beaucoup de bêtises sur le sujet de la singularité : une conséquence irréversible de l'intelligence artificielle où les technologies développées deviendraient incontrôlables et mettraient brutalement en péril l'humanité. Il donne des arguments précis et rationnels permettant de répondre à ces lanceurs de catastrophes annoncées mais non fondées. Bien sûr, il ne faut pas négliger les risques inhérents à tout progrès technologique, mais il faut les analyser en gardant toute sa tête et sa rationalité, sans se laisser embarquer par des faiseurs de peur qui profitent de la puissance que leur donnent leur réputation ou leurs finances pour embrouiller nos méninges. C'est plus difficile bien sûr, et moins vendeur, mais il faut résister et le livre de Jean-Gabriel Ganascia nous en donne les outils et l'envie !

La légitimité de la singularité repose essentiellement sur la renommée intellectuelle et sociale de ses « auteurs-propagandistes », renommée justifiée par leurs travaux scientifiques reconnus dans d'autres domaines. Mais elle ne se fonde pas sur une validation argumentative sérieuse. Dans son essai, Jean-Gabriel Ganascia fait un examen critique et argumenté des principes sur lesquels ces théories « prétendent » se baser, sur leurs vraisemblances, et sur leurs implications. Il montre que l'on n'est pas loin de la mystification. Ce sont les réputations des scientifiques qui font croire à la solidité de la proposition, et non la science elle-même !

Les scénarios annoncés, dont on retrouve l'origine dans la science-fiction, prédisent une évolution de notre monde vers un point de singularité radical, correspondant à une prise de pouvoir des machines sur les humains, et qui, selon les cas, marquent la fin de l'époque humaine (comme celle des dinosaures) ou la suprématie de posthumains dont les esprits se téléchargent sur des serveurs numériques, gagnant une sorte d'immortalité. Transhumanisme, super-humanité : à quand cette apocalypse ?

Devant ces scénarios, une question importante se pose : sommes-nous des frileux refusant de voir la réalité parce qu'on ne connaît pas ? Parce qu'on ne veut pas connaître ? Ou avons-nous des arguments à opposer à ce « mythe », à ce récit, qui se répand par approbation plus que par conviction, puisque sans démonstration ? Jean-Gabriel Ganascia nous fournit de tels arguments, de manière convaincante et circonstanciée. C'est réconfortant, très éclairant et très utile.

Le livre se lit très bien, sans être superficiel. Il s'appuie sur les compétences scientifiques en informatique et en intelligence artificielle de l'auteur, mais aussi sur sa large culture en sciences humaines. Les références sont nombreuses, et les propos argumentés. Certains paragraphes plus ardus requièrent une attention soutenue, mais l'argumentation est solide, complète et le lecteur suit sans difficulté majeure le propos, avec intérêt et même passion.

JGG singularite230

Les premiers chapitres sont consacrés à la loi de Moore qui est souvent le fer de lance des tenants de la singularité. Ils permettent à l'auteur de montrer comment l'utilisation de cette conjecture pour prédire une évolution technologique catastrophique à long terme est contestable. Et encore plus lorsqu'elle est utilisée pour prédire une évolution biologique.

L'auteur traite ensuite de l'apprentissage et de son utilisation sur de grandes masses de données : les machines peuvent apprendre, améliorer leur comportement, et obtenir des résultats étonnants dans certains domaines précis, bien supérieurs souvent à ce dont est capable l'être humain. Mais contrairement à ce que l'on veut nous faire croire, Jean-Gabriel Ganascia affirme clairement que « Rien dans l'état actuel des techniques de l'Intelligence Artificielle n'autorise à affirmer que les ordinateurs seront en mesure de se perfectionner indéfiniment sans le secours de l'Homme, jusqu'à s'emballer, nous dépasser et acquérir leur autonomie ». Certes, le danger existe d'une prise de contrôle non-éthique de ces nouvelles capacités, comme pour toute avancée scientifique, et c'est à nous d'en être conscients et de gérer ce risque.

L'auteur fait ensuite une comparaison instructive avec l'évolution climatique et les risques annoncés. Il souligne bien que dans le cas du climat, il existe des modèles théoriques qui fondent les prévisions, modèles qui peuvent être discutés, évalués, comparés, alors que la catastrophe annoncée de la singularité ne repose sur aucun modèle théorique, que l'on ne peut donc ni discuter, ni évaluer et ni contester, mais repose sur un récit qui ne peut pas convaincre mais auquel on peut croire ou pas.

Le chapitre cinq est plus osé et peut-être moins accessible puisque l'auteur y fait une analogie entre spiritualité gnostique et mythe de la singularité. Cette comparaison lui permet d'aborder de nombreuses pistes qui intriguent et excitent l'esprit, opposant Mythos (récit) et Logos (argumentation). Sans vouloir tout assimiler, le lecteur reste intéressé et le propos est toujours précis et appuyé par des références éclairantes, tels l'encart sur la chambre chinoise, ou encore le débat entre intelligence artificielle forte et faible...

Au cœur du débat se pose la question de savoir si l'Homme a encore prise sur le futur, vaste question qui a dominé le siècle des Lumières. Ou bien, si nous allons sans recours vers un point singulier, conséquence des progrès des machines intelligentes, point qui marquera la fin de l'humanité ? Mais si c'était le cas, à quoi bon s'en préoccuper et avoir peur ? Et il est notable que les tenants de la singularité sont ceux-là même qui ont développé les outils à base d'IA, qui l'ont promu, qui se sont enrichis et qui continuent, tout en faisant peur à tout le monde, de la développer... Comment expliquer cela ? Jean-Gabriel Ganascia propose trois réponses, mais la dernière est la plus convaincante. Je laisse la surprise à ceux qui le souhaitent de la découvrir par eux-mêmes...

Niveau de lecture

Aidez-nous à évaluer le niveau de lecture de ce document.

Il vous semble :

Si vous souhaitez expliquer votre choix, vous pouvez ajouter un commentaire (qui ne sera pas publié).