Les Newsletters Interstices
Crédit : Gerd Altmann via Pixabay, CC0.
    Niveau intermédiaire
    Niveau 2 : Intermédiaire

    Intelligence artificielle, intelligence humaine

    Intelligence artificielle
    Médecine & Sciences du vivant
    Quelques ouvrages de référence, pour aborder l'intelligence artificielle, et plus généralement réfléchir aux richesses et aux limites des modèles inspirés de la biologie dans les sciences et technologies de l'information et de la communication.

    L’intelligence artificielle, pas sans elles !

    Aude Bernheim et Flora Vincent (Belin, collection Egale à égal , 2019)

    Le livre « L’intelligence artificielle, pas sans elles ! » d’Aude Bernheim et de Flora Vincent, toutes deux docteures en microbiologie, commence par un rapide constat, basé sur de nombreux exemples : les résultats de classification ou de décision déterminés par des méthodes de l’intelligence artificielle sont sexistes ! Pourquoi ? Tout simplement parce que l’intelligence artificielle repose sur des informations sur notre société, qui est sexiste. Les autrices brossent ensuite un bref historique sur la place des femmes en informatique et sur leur disparition depuis le milieu des années 1980. On entre alors dans le cœur du sujet, « les étapes de la contagion sexiste » qui font que l’intelligence artificielle est sexiste. 

    La suite du livre porte sur la détection et la réduction des biais dans les logiciels et bases de données utilisés en intelligence artificielle, de façon générale, avant de se pencher spécifiquement sur la question de l’égalité femmes-hommes. Pour le premier volet, on semble sur la bonne voie, avec des travaux pour auditer, certifier, labelliser : c’est en tout cas l’impression donnée par le fait que les géants de l’informatique s’attaquent au problème. Par exemple, « En juin 2018, Microsoft annonce la mise à jour de son application Face Detect afin de réduire les biais dans les algorithmes de reconnaissance faciale, et divise ainsi par neuf le taux d’erreur de l’identification des visages de femmes. […] Le même mois, IBM, dont le programme de reconnaissance faciale a également été critiqué, met à disposition de ses pairs une collection de 36 000 images annotées et réparties à nombre égal en termes de couleur de peau, genre et âge.  »

    Le dernier chapitre, intitulé « Objectif égalité », se veut optimiste également, en citant de nombreuses initiatives et associations qui œuvrent à tous les niveaux, depuis les interventions en classes de primaire aux camps de programmation pour collégiennes et lycéennes ainsi que les évolutions réussies dans certaines universités. Cependant le constat selon lequel les femmes scientifiques sont toujours invisibles (par exemple, côté francophone, 17 % seulement des notices bibliographiques sur Wikipédia concernent des femmes), tout comme le fait que les femmes sont absentes des statistiques, phénomène connu sous le nom de «gender data gap», alors même que ces données et statistiques sont le carburant des intelligences artificielles, incitent à la vigilance et à ne pas crier victoire trop vite. 

    Tout d’abord, l’intelligence artificielle pourra être utilisée pour quantifier et mettre en évidence les inégalités. Par exemple en utilisant la reconnaissance faciale pour établir des statistiques sur les femmes dirigeantes de grandes sociétés. Les autrices proposent des pistes pour réduire ces inégalités rapidement, sans attendre 3 ou 4 décennies que les nouvelles générations de femmes ne soient formées et aux postes décisionnaires, pour changer la situation avant que l’intelligence artificielle ne soit trop solidement établie avec ses biais. Elles préconisent que « des pistes institutionnelles qui font consensus sur le papier doivent être sérieusement envisagées », telles que la formation obligatoire à l’égalité femmes-hommes et aux stéréotypes, à tous les niveaux (enseignement, recherche) en informatique et en IA, l’accompagnement des femmes qui travaillent dans ces secteurs, la mise en place de quotas, etc. 

    Parce que pour atteindre l’égalité, selon Françoise Héritier, anthropologue, « il reste l’essentiel : changer les mentalités. »

    Nathalie Revol

    Carbone & Silicium

    Mathieu Bablet (Ankama Éditions, août 2020)

    Couverture BD Carbone et SiliciumCarbone et Silicium sont les noms de deux intelligences artificielles (IA) qui naissent sous nos yeux dans les toutes premières pages de cette bande dessinée. Deux représentantes de l’IA forte, pas celle que nous connaissons aujourd’hui, mais celle que l’auteur, Mathieu Bablet, projette pour 2046. La société qui les a conçues veut les proposer pour aider les humains vieillissants que plus personne ne souhaite prendre en charge. L’une sera féminine, l’autre masculine sans que cela n’ait véritablement d’incidence. Leur immense intelligence à l’image des caractères humains les poussent dans la quête d’action et de mouvement, soit à la recherche de la liberté.

    L’ingénieure qui les connecte au monde doit très rapidement décider de la durée de leur vie. La négociation aboutira sur 15 ans. Mais grâce à leur intelligence, les IA parviennent à déjouer cette limite de temps. L’une changera de corps tous les 15 ans, l’autre disparaîtra pour le moment. Et voila le lecteur pris au piège d’une histoire pleine d’humanité à tourner les pages pour traverser le temps, le monde physique et le monde virtuel où tout paraît si beau, si simple et désincarné qu’il en devient une drogue, y compris pour les humains.
     
    Avec beaucoup de subtilité, Mathieu Bablet s’attaque à des questions d’actualité sur ce qu’est une intelligence artificielle dans notre environnement. Sans morale et bien souvent sans réponse aux questions qu’il soulève, il illustre avec finesse le basculement entre ce qui différencie les humains des androïdes, et inversement. Son trait est au départ étonnant, voire déroutant. Ses personnages ne sont pas tout à fait humains, ou du moins n’y ressemblent pas tout à fait. On comprend au fur et à mesure de la lecture que c’est justement ce travail graphique très mature qui permet les passages d’un monde à un autre, alors que tout se produit en même temps et dans le même lieu.
     
    Si l’histoire démarre en Californie dans la Silicon Valley, les deux héros traversent la Terre qui a atteint le point de non retour prédit par les scientifiques. Ils verront les murs bloquant les migrations en Europe, le Japon sous l’eau ou le pôle Nord dévasté. Cette dystopie est très réaliste. Mathieu Bablet n’économise aucun sujet contemporain tant la question du transhumanisme qui se trouve être une impasse morbide, que la fin du capitalisme, qu’il prévoit pour dans deux siècles. 
     
    Carbone et Silicium sont des héros d’une grande modernité qui font face aux bouleversements du monde, que ce soit les catastrophes climatiques, les transformations politiques ou technologiques. Ils traversent le temps à la recherche de leur place et de leur humanité, non pas pour devenir des humains qui eux s’effacent de la surface du globe, mais parce que ce qui caractérise peut-être cette humanité, c’est l’intelligence et la nécessité de vivre ensemble.
     
    Une très belle édition pour un album de presque 300 pages qui traite avec pertinence de l’Intelligence Artificielle comme du monde contemporain. À offrir ou à s’offrir !
     
    Maxime Amblard

    Intelligences artificielles : miroirs de nos vies ?

    FibreTigre, Arnold Zephir, Héloïse Chochois, (Éditions Delcourt, collection Octopus, mars 2019)

    Cette bande dessinée dense fait un point pertinent sur ce que recouvre l’intelligence artificielle aujourd’hui, ce que l’on peut en attendre, mais aussi les dérives que l’on peut craindre. Le point de départ de l’histoire est la participation de Yurie, une IA slammeuse, à une émission télé d’improvisation poétique.

    Dans « Intelligences artificielles, miroirs de nos vies », plusieurs points de vue s’enchaînent, mais l’on suit principalement le cheminement de Marie, Nicolas et Enzo. Marie est journaliste ; découvrant Yurie l’IA à l’occasion de son passage télé, elle a envie de comprendre le domaine de l’IA au-delà des fantasmes qu’il suscite.

    Nicolas et Enzo quant à eux sont les concepteurs de cette IA et ils essaient d’en expliquer la conception et la portée qu’elle peut avoir. Entre les différents chapitres, des encadrés développent les points techniques évoqués dans la suite de l’histoire. Ces points correspondent à différentes notions nécessaires pour pleinement appréhender les fonctionnements et les capacités des intelligences artificielles. L’avantage de la bande dessinée prend ici tout son sens, avec la possibilité d’illustrer des notions aussi abstraites pour le béotien que la cross-entropy, la descente de gradient ou encore le reinforcement learning (l’apprentissage par renforcement). Pour autant, malgré tous les efforts déployés, et même après plusieurs relectures, certaines notions peuvent rester inaccessibles à des personnes totalement candides du domaine.

    Cela n’empêche cependant pas de suivre les deux concepteurs de Yurie dans l’avancée de leur réflexion éthique. Le lecteur chemine ainsi avec eux dans leur volonté de rendre accessible et compréhensible « leur » intelligence artificielle. En particulier, Nicolas et Enzo tentent de démystifier cette illusion d’humanité que peut donner Yurie… Au passage, leurs inévitables et involontaires loupés ne sont pas passés sous silence. La bande dessinée souligne ainsi intelligemment le besoin profond de comprendre ce que recouvre l’intelligence artificielle, pour ne pas tomber dans les fantasmes, comme « peut-on être amoureux d’une IA ? » ou « l’IA nous est-elle supérieure comme une sorte de dieu ? ». Cette compréhension et ce réalisme sans illusions sur ce que peuvent produire les IA sont nécessaires pour pouvoir s’emparer des choix éthiques d’orientation de notre société en mutation. À la façon de la série Black Mirror, la bande dessinée n’esquive pas les sujets difficiles, tels que la perte d’emploi que le déploiement des intelligences artificielles va entraîner, et les dérives capitalistes auxquelles elles peuvent facilement mener.

    Il est à noter que Yurie est une intelligence artificielle réellement développée par Arnold Zephir, l’un des scénaristes de la bande dessinée. Yurie poste même de temps en temps des phrases laconiques sur son compte Twitter @yurieamba. Dans le même esprit connecté, l’éditeur Delcourt propose une version augmentée de certaines pages de la bande dessinée, qui renvoient vers des contenus techniques, souvent en anglais, mais également quelques interviews en français qui montrent que ce qu’on pourrait considérer comme futuriste est déjà bien présent dans notre quotidien.

    Laure Thiebault

    L’intelligence artificielle

    Jean-Noël Lafargue, Marion Montaigne (Éditions Le Lombard, collection La petite Bédéthèque des Savoirs, mars 2016)

    AI MontaigneMarion Montaigne cherche à comprendre. Elle tente d’expliquer simplement tout ce que la science peut lui mettre entre les mains. Pour arriver à ses fins, elle rencontre des scientifiques et transforme leurs explications en dessins. Son travail consiste donc à écouter les explications parfois incompréhensibles de spécialistes et à en faire une histoire simple à appréhender.

    Connue pour son blog « Tu mourras moins bête, mais tu mourras quand même », Marion Montaigne y croque toutes les directions de la science. Sauf que Marion Montaigne n’est pas politiquement correcte. Elle dessine la science comme on en parlerait entre potes avec une bière à la main. Oui, mais non, normalement la science c’est important, on ne doit pas en parler comme ça ! Il faut la respecter. Marion Montaigne ne respecte rien et parle de tout, et finalement on comprend beaucoup mieux quand c’est expliqué simplement.

    Le succès de son blog a conduit à la publication des aventures du Professeur Moustache, dont on ne sait pas trop si c’est un homme ou une femme, ou plutôt une femme à moustache, et de son assistant Nathanaël. Ces billets ont également donné lieu à un programme court diffusé tous les soirs sur Arte en février, dans lequel François Morel a prêté sa voix au Professeur Moustache. On y aborde des sujets aussi divers que « Perdre son gras, pas une mince affaire », « Les dinosaures avaient-ils des plumes », « L’évolution sexuelle de l’Homme » ou « les chercheurs surmenés ». Dans ce dernier épisode, elle rend hommage à tous ceux qui ont échoués à faire avancer la science. Mais pour ceux qui préfèrent la bande dessinée à l’original, on peut retrouver aux éditions Delcourt 4 volumes des rencontres scientifiques du Professeur Moustache.

    Mais pourquoi parler de Marion Montaigne aujourd’hui ? Eh bien parce qu’elle a commis une superbe BD d’explication sur ce qu’est l’intelligence artificielle, parue aux éditions Le Lombard dans la collection « La petite Bédéthèque des Savoirs ». Cette nouvelle collection s’inscrit dans un travail de vulgarisation scientifique mené pas à pas avec un scientifique et un auteur de BD. Ils doivent garder en tête un objectif : être le plus didactique possible. On retrouve par exemple un volume réalisé avec Hubert Reeves sur l’univers et beaucoup d’autres propositions très enthousiasmantes (pour un prix raisonnable de 10€).

    Bref, le but est ici de dresser un panorama historique et réel de ce qu’est l’Intelligence Artificielle (IA), de comment elle est perçue et ce qu’il est vraiment possible d’en faire aujourd’hui. Pour bien faire, Marion Montaigne a travaillé avec Jean-Noël Lafargue, maître de conférences en art et spécialiste des technologies. Il est notamment l’auteur du blog satirique sur la science Scientists of America. De quoi proposer une vision sérieuse et décalée de la science !

    Les deux auteurs nous invitent à un merveilleux voyage dans le temps, en partant du futur proche où les formes de vie se sont tellement battues qu’elles ont tout détruit. Elles décident d’envoyer une IA nommée Gladys et qui ressemble à s’y méprendre à Juliette Gréco, à travers le temps jusqu’en 2016 pour comprendre pourquoi elles en sont arrivées là. Et comme il faut expliquer à Gladys comment la science a avancé jusqu’en 2016, puis découvrir le monde de 2016 avec les yeux de Gladys, nous avons là un formidable prétexte à parler de science.

    C’est l’occasion d’une rencontre mythique entre Gladys et les leaders de la Silicon Valley ou de passer de la vallée de l’étrange au théorème d’incomplétude de Gödel en quelques pages. De quoi poser les grandes lignes d’une épistémologie de l’IA, tout en mettant en avant les problématiques contemporaines. Et tout cela de manière compréhensible évidemment. Bref, j’adore le Professeur Moustache, mais là, je ne peux résister à l’envie d’encadrer certaines pages de ce livre sur mes murs. Si vous avez la chance de ne pas l’avoir encore dévoré, courez lire ce livre indispensable.

    Maxime Amblard

    Aux sources de la parole, auto-organisation et évolution

    Pierre-Yves Oudeyer (Éditions Odile Jacob, collection Sciences, septembre 2013)

    Le langage, propre à l’humain, est la capacité d’exprimer une pensée et de communiquer de manière « intelligente ». Pour appréhender ce vaste sujet, cet ouvrage cherche à comprendre sa forme verbale, la parole. Aux sources de la parole met à la portée de tous une approche encore peu répandue des sciences du XXIe siècle : l’approche systémique. Le problème est abordé dans sa globalité, et les sciences humaines ou naturelles, tout comme les sciences formelles, sont invitées dans le même laboratoire d’idées. Ainsi, l’évolution qui a mené à l’émergence de l’intelligence humaine est présentée comme une interaction entre la sélection darwinienne et les mécanismes d’auto-organisation étudiés par les spécialistes des systèmes complexes et dynamiques.

    Au-delà de son objectif initial, ce livre nous offre une réflexion approfondie et explicative sur les théories évolutionnistes, ainsi qu’une mise en lumière de cette nouvelle méthode basée sur l’expérimentation numérique et robotique. Il décrit de manière très didactique comment se constituent ainsi de véritables méthodes scientifiques, permettant de comprendre par l’expérimentation les phénomènes les plus complexes qui échappent à des descriptions purement verbales.

    Voilà donc un bel ouvrage de vulgarisation, très plaisant à lire, qui plus est.

    L’auteur rencontre le public au Musée des arts et métiers le 7 novembre 2013, dans le cycle Paroles d’auteurs.

    L’intelligence artificielle

    Jean-Gabriel Ganascia (Le cavalier bleu 2007 – collection Idées reçues)

    couverture

    L’intelligence des machines a toujours été pour l’homme un mythe et surtout la source de doutes, de peurs et d’espoirs. En partant du mythe du Golem, l’auteur démonte quelques-unes de nos idées reçues sur l’intelligence artificielle.
    Ce champ disciplinaire est bien trop modeste pour être dangereux, mais aussi bien trop technique pour être compris sans regarder en détail de quoi il s’agit. Le terme « intelligence artificielle » désigne à la fois un ensemble de méthodes abouties qui permettent de simuler des mécanismes complexes sur ordinateur et la perspective scientifique controversée, mais très motivante, que ces simulations de mécanismes cognitifs puissent un jour « surprendre » notre propre pensée.
    L’auteur défend et démythifie l’intelligence artificielle pour mieux nous aider à nous forger notre propre opinion sur le sujet.

    La société de l’esprit

    Marvin Minsky (InterÉditions 1988)

    couverture

    Traduction de The Society of Mind (1985).
    Cet ouvrage propose une solution à la question que tout le monde se pose : « Comment l’esprit fonctionne-t-il ? et comment l’intelligence émerge-t-elle ? » Minsky, un des grands noms de l’intelligence artificielle, propose un modèle formé d’un ensemble d’agents dont les capacités individuelles sont limitées, à l’image d’une fourmilière ou d’une ruche.
    Un livre pour découvrir et réfléchir au-delà de la simple technique.

    Ce livre est épuisé, vous pourrez le trouver en bibliothèque.

    Gödel, Escher, Bach : Les Brins d’une Guirlande Éternelle

    D. Hofstader (Dunod 2000)

    couverture

    Traduction de Gödel, Escher, Bach: An Eternal Golden Braid (1979).
    De la logique la plus pure, de l’art en passant par la biologie moléculaire à l’intelligence artificielle, l’auteur démonte les rouages logiques sur lesquels reposent toutes les sciences actuelles. Il nous rend intelligibles des similitudes cachées entre des domaines aussi variés que la biologie, la psychologie, la physique et la linguistique. Il permet de se doter des éléments philosophiques utiles pour comprendre le cœur de la science moderne, les difficultés et les limites de l’informatique théorique.
    Un livre pour découvrir les grandes idées derrière les sciences modernes.

    L’esprit, l’ordinateur et les lois de la physique

    Roger Penrose (InterÉditions 1993)

    couverture

    Traduction de The Emperor’s New Mind: Concerning Computers, Minds, and the Laws of Physics (1989).
    Bien qu’il touche à des sujets tels que la relativité, la mécanique quantique et la cosmologie, la préoccupation centrale de l’auteur demeure « le problème du corps et de l’esprit ». Son livre représente « l’attaque la plus efficace jamais portée à l’encontre de l’intelligence artificielle », mais pour mieux introduire une pensée moderne et efficace sur les éléments fondamentaux des modèles biologiques et artificiels de l’intelligence.
    Un livre pour réfléchir aux enjeux de ces nouvelles technologies.

    La décision

    Alain Berthoz (Odile Jacob 2003)

    couverture

    Un point sur les recherches les plus récentes de la neurophysiologie : le cerveau ne produit pas de la rationalité, mais des émotions génératrices de paris plus ou moins hasardeux, ceci dans la filière de développement de processus hérités du monde biologique, à peine plus sophistiqués au sein des sociétés humaines. Cette continuité évolutive des mécanismes permet de prendre des décisions dites intelligentes : des actions engagées qui prennent la forme de gestes ou de comportement précis, adaptés à chaque type de situation ou d’espace rencontré. L’ensemble est sous le contrôle d’aires spécifiques du cerveau, héritées de millions d’années d’évolution, adapté à chaque situation.
    Une grande leçon sur le système de communication et de traitement de l’information le plus abouti : le cerveau humain.

    Newsletter

    Recevez chaque mois une sélection d'articles

    Niveau de lecture

    Aidez-nous à évaluer le niveau de lecture de ce document.

    Si vous souhaitez expliquer votre choix, vous pouvez ajouter un commentaire (Il ne sera pas publié).

    Votre choix a été pris en compte. Merci d'avoir estimé le niveau de ce document !

    Découvrez le(s) dossier(s) associé(s) à cet article :

    DossierCulture & Société

    Lire et voir