Quelle éthique pour les agents conversationnels ?

Écoutez l’interview de Karën Fort

Le numérique a envahi notre quotidien, que ce soit dans la sphère professionnelle ou privée. De nouvelles applications voient sans cesse le jour et s’immiscent encore et toujours dans nos vies déjà ultraconnectées. Pour faire face aux risques de dérives de certains outils numériques, se pose de plus en plus la question de l’encadrement et de la législation. Quid d’un numérique éthique et responsable ? 

Les spécialistes du domaine du traitement automatique des langues (TAL) se sont penchés assez tôt sur ces questions éthiques. Coprésidente du comité d’éthique d’ACL, Karën Fort sensibilise d’ailleurs ses collègues du domaine à la réflexion sur les utilisations possibles de leurs travaux de recherche. C’est aussi une façon de leur rappeler qu’elles ou ils sont des scientifiques mais aussi des citoyennes et citoyens !

Entre crainte et fascination, les controverses autour des systèmes d’intelligence artificielle comme ChatGPT, ont pris de l’ampleur ces derniers mois. Pourtant, comme le souligne Karën Fort dans cet épisode du podcast audio, les enjeux sociétaux autour de ces agents conversationnels sont importants et ils peuvent avoir un impact positif à bien des égards. Pour elle, il est essentiel de bien comprendre ce qu’est ChatGPT et ce qu’il n’est pas ! Par exemple, ce n’est pas un moteur de recherche comme certains ont tendance à le croire mais un générateur automatique de textes qui a bel et bien des limites. À nous de fixer un cadre et des règles…