L’Intelligence artificielle n’existe pas !

Écoutez l’interview de Luc Julia

Retranscription

Lorenzo Jacques pour Interstices : Chers auditeurs et auditrices, bienvenue dans ce 94^e© podcast Interstices. On en parle de plus en plus, elle est présente dans notre téléphone, dans notre frigo^©, dans notre voiture, l’intelligence artificielle est partout. Mais derrière ce terme à la mode se cachent de nombreuses technologies et des fonctionnements très différents. Pour faire la part des choses, je reçois aujourd’hui Luc Julia. Luc Julia, bonjour.

Luc Julia : Bonjour.

Interstices : Vous êtes aujourd’hui directeur scientifique chez Renault, continuant ainsi une brillante carrière chez les géants de la Tech, parmi lesquels on peut citer HP et surtout Samsung. Vous êtes également l’auteur du livre « L’Intelligence Artificielle n’existe pas » aux éditions First, dans lequel vous déconstruisez le mythe d’une IA parfaite qui rendrait l’humain obsolète. Donc finalement selon vous, on ne devrait pas avoir peur de l’IA ?

L. Julia : Eh bien on ne devrait pas avoir peur de l’IA qu’on nous présente dans les médias aujourd’hui, celle-là elle n’existera jamais, donc effectivement ce n’est pas la peine d’en avoir peur. Par contre, il faut la comprendre, l’IA elle est multiple, elle est diverse et c’est ce dont certainement on va parler aujourd’hui.

Interstices : Et alors est-ce que vous pouvez nous parler de la différence entre l’IA un peu fantasmée dans les médias et dans les films, et l’IA sur le terrain, concrètement.

L. Julia : Déjà il faut comprendre un peu ce qu’on a mis dans l’IA depuis les années cinquante, parce que ça ne date pas d’aujourd’hui. Quand on a commencé à réfléchir à l’IA c’était en 1956, quand le terme a été… approuvé on va dire. L’idée, c’était de dire « on est capable avec des mathématiques de modeler un neurone », et « si on a un neurone on a un réseau de neurones », et « si on a un réseau de neurones on a un cerveau et de l’intelligence ». Alors effectivement, c’était un raisonnement qui était un peu court et qui n’était pas très bon, parce que très rapidement on s’est aperçu que ces modèles mathématiques qui avaient été créés, n’avaient strictement aucune capacité d’imiter le cerveau humain à l’époque. Donc on est entré dans ce qui s’appelle « le premier Hiver de l’IA ». C’est quoi ? Eh bien c’est quelque chose où il n’y a plus de financement parce que les résultats ont déçu, non seulement les chercheurs eux-mêmes mais aussi les gens à qui ça avait été présenté. Et voilà, donc ça a plus ou moins disparu, mais ça a été remplacé dans les années soixante-dix par quelque chose qui est connu sous le terme de « systèmes experts », qui est certainement quelque chose de beaucoup plus facile à mettre en place, qui sont des bases de règles en gros. Donc on a vu pas mal de systèmes qui étaient basés sur ces règles, « si machin alors truc » et qui marchaient très bien et qui ont marché très bien pendant une bonne vingtaine d’années on va dire, jusqu’à faire des choses comme battre Kasparov aux échecs quand même. Donc c’est des machines qui ont l’air intelligentes, mais si on réfléchit bien, on se rend compte qu’elle n’est pas si intelligente que ça, elle suit des règles par définition. Les échecs, c’est un jeu avec des règles et donc la machine est capable d’aller placer le pion au bon endroit en fonction de l’endroit où on est en ce moment sur l’échiquier, voilà. Donc, mais ça a donné quand même des résultats intéressants, impressionnants, qui grâce à la puissance de calcul et grâce aux mémoires des ordinateurs qui se sont améliorées d’année en année, on se retrouve avec des machines qui, pour des fonctions particulières, pour des tâches très particulières, sont devenues juste plus fortes que nous. Mais ça n’a rien à voir avec une intelligence, qui est l’intelligence humaine qui est diverse et variée, et surtout qui est capable de s’adapter à notre situation. Ces intelligences artificielles, qu’elles soient basées sur des règles ou qu’elles soient basées sur les statistiques, donc ce qui est revenu à la mode aujourd’hui on va dire, l’IA statistique, qui est le machine learning, le deep learning on appelle ça, l’IA basée sur l’apprentissage, ces IA-là, elles sont basées sur des règles qui existent ou sur des données qui existent. Donc sur des choses qui se sont déjà passées, elles ne vont pas inventer quoi que ce soit contrairement à nous quand on se retrouve face une situation qu’on n’a jamais vue avant, on va pouvoir inventer. Donc c’est pour ça que je dis que l’intelligence artificielle telle qu’on la décrit depuis le début, celle-ci elle n’existe pas, cette intelligence artificielle générique, générale elle n’existe pas. Par contre, l’intelligence artificielle qui est capable de résoudre des problèmes très particuliers, très pointus, elle existe, elle est bien meilleure que nous. Mais elle est bien meilleure que nous comme tous les outils qu’on fabrique depuis la nuit des temps mais ces outils ils sont effectivement très spécialisés comme par exemple un marteau qui va être capable de planter un clou correctement, mais bon, il ne va pas servir à grand-chose d’autre. Mais, ces intelligences artificielles aussi, il faut comprendre qu’on peut les utiliser à bon escient, pour planter des clous avec le marteau, mais aussi à mauvais escient, utiliser le marteau pour taper sur la tête du voisin. Il faut comprendre que les outils, par définition, ils sont meilleurs que nous, mais seulement dans des tâches très particulières.

Interstices : Vous le dites, l’intelligence artificielle, elle permet de répondre à un besoin très spécifique, de répondre à une question très spécifique à partir des données, c’est bien ça ? Donc il faut des données pour pouvoir générer une intelligence artificielle ?

L. Julia : Alors aujourd’hui oui, c’est ce qui est à la mode, parce que même s’il y a une diversité d’intelligences artificielles depuis ces 60 dernières années, aujourd’hui la vérité c’est qu’il y en a une qui est certainement très facile à mettre en place, c’est cette intelligence artificielle qui va se baser sur l’apprentissage, c’est ce qu’on appelle le machine learning et le deep learning et celle-là effectivement elle est basée, par définition, surtout le deep learning, sur une quantité immense de données. D’accord, donc on a besoin de beaucoup beaucoup de données et par définition, ces données sont historiques parce que ce ne sont pas les données de demain qu’on regarde, ce sont les données d’hier. C’est le fameux Big Data dont on entend parler depuis une dizaine d’années et donc oui il faut énormément de données pour pouvoir faire marcher ces algorithmes et pour qu’ils soient performants. Mais comme on a dit tout à l’heure, il y a beaucoup d’autres façons de faire de l’IA, qui sont plus ou moins désuètes parce qu’il est tellement facile, au lieu d’écrire des règles et des règles et des règles, de prendre un tas de données et de faire passer les algorithmes et de créer quelque chose avec le machine learning. Donc des fois oui c’est vrai que ces intelligences artificielles d’aujourd’hui, elles sont tellement faciles à utiliser qu’on oublie parfois qu’on utilise la grosse artillerie alors qu’on pourrait peut-être utiliser quelque chose de plus intelligent.

Interstices : On parle aussi de quelque chose d’un petit peu particulier dans le monde de l’IA, ça s’appelle la singularité, ça veut dire que si l’on crée une intelligence artificielle dont la mission, dont la tâche principale, qu’elle effectuerait mieux que les humains, c’est justement d’écrire d’autres intelligences artificielles meilleures qu’elle.  Est ce qu’on n’arriverait pas à une intelligence artificielle qui pourrait s’autoreproduire, et devenir l’intelligence artificielle « globale » qui n’a selon vous pas de chances d’exister ?

L. Julia : Alors pour moi, ça n’a aucune chance d’exister, parce que le problème de ces intelligences artificielles dont je parlais… effectivement vous avez raison, et c’est ce qu’on a dit depuis le début. Elles vont être capables de faire des tâches très particulières mieux que nous, c’est la définition même de l’outil. Donc là, on va pouvoir créer ces intelligences artificielles qui vont effectivement être très performantes dans ces cas-là. Ce qu’il y a, c’est que si maintenant on lui dit de créer quelque chose, c’est beaucoup plus compliqué, ça veut dire quoi créer ? Ça veut dire quoi innover ? Ça c’est déjà quelque chose qui est beaucoup plus compliqué à expliquer à une machine. Alors on ne peut pas, il n’y a pas de recette de création, on n’est pas capable de comprendre avec des données historiques, on n’est pas capable de comprendre comment on peut créer des choses. Donc c’est ça la différence essentielle si vous voulez, si j’avais à faire une différenciation entre l’intelligence artificielle et puis l’intelligence humaine, c’est que pour moi, l’humain innove. On va pouvoir se sortir de situations qu’on n’a jamais vues en s’adaptant. Une intelligence artificielle ne s’adapte pas. Elle suit soit les règles qu’on lui a données, soit les Data donc les données qui lui ont été données pour l’apprentissage et donc quand il ne va pas y avoir quelque chose qu’elle est capable de comprendre, elle va juste s’arrêter parce qu’il n’y a pas de chemin possible pour ça, et nous on ne va pas s’arrêter. Nous on va trouver une façon de se dépatouiller du machin. Et donc la singularité, bon c’est un beau rêve hein, c’est la science-fiction, et pourquoi pas. Mais bon, dans l’absolu et dans les techniques qu’on utilise aujourd’hui, encore une fois là il faut mettre un petit bémol. Ces techniques mathématiques, c’est là où c’est très compliqué parce que ces mathématiques encore une fois ne sont que des statistiques ou de la logique donc, avec ça ce n’est effectivement pas possible, maintenant, imaginons ! Soyons fous, imaginons des techniques qui ne soient pas des techniques mathématiques, qui soient des techniques physiques, ou biologiques qui se rapprocheraient un peu plus de notre cerveau, à ce moment-là, peut-être qu’on pourra imaginer quelque chose qui pourra inventer des choses et qui pourra être plus près, comme je viens de le dire, du cerveau. Mais bon ça on en est aujourd’hui à des années-lumière.

Interstices : Comme je l’ai dit, vous êtes en poste chez Renault, vous êtes bien entendu très proche du sujet de la voiture autonome, là aussi l’intelligence artificielle va montrer ses limites ?

L. Julia : Bien sûr oui ! Alors en 2018 on nous disait la voiture autonome niveau 5 donc la voiture autonome niveau 5 c’est quoi ? C’est la voiture autonome qui est capable d’aller partout, de faire n’importe quoi et de se sortir de toutes ces situations, d’accord ? Donc c’est une autonomie parfaite, une autonomie globale, totale, OK ? Donc on nous disait la voiture niveau 5 va arriver dans les quatre, cinq ans, c’est ce que nous promettait Elon Musk, d’accord ? Bon, on voit bien aujourd’hui, on est encore très loin de cette autonomie, on est peut-être au niveau 2.5, et on arrivera sans doute à l’autonomie niveau 4, autonomie niveau 4 ça va sauver des vies, éviter beaucoup beaucoup d’accidents, donc il faut vraiment y arriver, il faut vraiment faire des trucs, ça sera vraiment super ! Mais ça veut dire quoi, ça veut dire que la voiture sera la plupart du temps autonome, c’est là qu’elle va pouvoir se sortir de situations connues qui vont suivre bien des règles, le code de la route, et qu’ils vont faire des choses, qui vont être bien mieux que nous, ça voit bien mieux que nous, ça freine bien mieux que nous, enfin bon donc ça va faire des choses super. Mais dans des cas particuliers, il faudra une assistance humaine. Le niveau 4, la plupart du temps ça sera autonome, le niveau 5, il n’existera jamais, c’est cette IA universelle qu’on a fantasmée. Pour vous donner un exemple, pour bien comprendre que cette IA, cette voiture autonome niveau 5 ne peut pas exister, je vous donne un exemple, ça s’appelle la Place de l’Étoile à 18h. La Place de l’Étoile à 18h, si vous suivez le code de la route, vous n’avancez pas d’accord ? C’est très clair, c’est autre chose, ces dix voies qui arrivent là, sur cette place qui tourne où les gens vont à fond, plus ou moins à fond, ou ils essayent d’aller à fond, je veux dire c’est du grand n’importe quoi. C’est de la psychologie, de la physique, c’est de la négociation, c’est tout ce que vous voulez, sauf du code de la route, d’accord ? Donc si vous mettez une voiture autonome qui respecte des règles, qui respecte ce qu’on lui a appris comme étant la bonne conduite, ce n’est pas de la bonne conduite pour passer sur la Place de l’Étoile. Donc du coup, elle va rester bloquée cette voiture, elle ne va pas passer d’accord ? C’est ce qu’il faut comprendre, il faut juste comprendre que dans des cas particuliers, nous humains, on s’adapte, nous humains, on fait intervenir d’autres fonctions cognitives, d’autres choses qui font qu’on va pouvoir se tirer de ces situations qui sont particulières.

Interstices : Quelle différence justement entre ce niveau 2.5 et niveau 4 qu’on peut espérer atteignable un jour ?

L. Julia : Ben, on va avoir des choses où justement ça va comprendre son environnement beaucoup mieux. Alors, il faut imaginer une voiture qui est bardée de capteurs, donc on a plein de capteurs sur cette voiture, que ce soient des caméras, que ce soient des lidars, des radars, et donc en faisant la fusion de tous ces capteurs, on va pouvoir, cette voiture va pouvoir avoir une vision 360 de tout ce qui se passe autour de la voiture et donc va pouvoir anticiper des cas qui ont été déjà vus avant. On va comprendre que quand il y a une voiture qui s’arrête devant nous, il va falloir s’arrêter aussi, et puis après dans des situations de conduite plus normale, ça va pouvoir vous amener du point A au point B sans que vous interveniez… trop, ou des fois pas du tout. Mais des fois, vous aurez à intervenir quand même et donc ça veut dire quoi ? ça veut dire que ça va apprendre à changer de ligne, ça le fait déjà aujourd’hui, ça va apprendre aussi à comprendre une vision plus globale du trafic donc ça va prendre le meilleur chemin pour vous automatiquement, donc c’est ça la voiture autonome. La voiture autonome, c’est un objet dans un écosystème dans lequel il se déplace, et qui est capable de vous amener d’une manière la plus safe possible d’un endroit à un autre.

Interstices : Donc vous l’avez dit Luc Julia, la voiture du futur elle est bardée de capteurs, elles sont déjà aujourd’hui bardées de capteurs. Est-ce que ça ne pose pas une question sur la sécurité des données personnelles des utilisateurs de cette voiture ?

L. Julia : Ça c’est une autre chose qui est très importante, c’est de comprendre comment ces données sont utilisées et pour quoi elles sont utilisées. Donc aujourd’hui on sait très bien qu’il y a des services qui récupèrent vos données et qui vous proposent des services gratuits et vous êtes d’accord, ou pas, pour avoir ce service, et donc en conscience vous choisissez. Alors en conscience surtout depuis qu’on a la RGPD en Europe, avant c’était peut-être sans conscience. Là c’est un peu la même chose, quand vous allez monter dans une voiture autonome, effectivement, il y a pas mal de données qui vont être collectées sur vous, ne serait-ce que le A et le B des points sur lesquels vous allez vous déplacer. Donc ça, il faut comprendre le service donc c’est à vous de décider si vous voulez y aller en vélo ou si vous voulez y aller en voiture, en utilisant cette voiture qui va potentiellement être beaucoup plus sûre qu’une voiture, je dirais classique. Donc ce sont des choix, et ce sont des choix qui doivent être informés, donc ce sont des choix qui doivent être éduqués, le rôle de l’éducation est énorme à ce moment-là, d’accord ? Parce que l’éducation va faire en sorte que quoi ? elle va faire en sorte que collectivement on choisisse comment utiliser ces outils et donc pour savoir comment on utilise à bon escient ces outils, il faut qu’on les comprenne, qu’on en comprenne un minimum. Donc il nous faut un minimum d’éducation sur ces outils, il faut que cette éducation, elle soit non seulement au niveau des masses on va dire, au niveau du peuple, le peuple qui, lui, va élire ses élus pour être les législateurs, qui vont créer ces lois. Une fois qu’on va avoir un cadre concret et qu’on puisse expliquer et qu’on puisse surtout comprendre, à ce moment-là je pense qu’il y aura une facilité pour les gens d’accepter ce genre de technologie.

Interstices : Et c’est sur cette dernière question que le podcast s’achève, merci beaucoup Luc Julia d’avoir répondu à nos questions.

L. Julia : Merci

Interstices : Et à la prochaine fois aussi chers auditeurs pour un nouveau podcast sur Interstices ! A bientôt Luc Julia.

L. Julia : Au revoir