La science-fiction, laboratoire éthique de l’IA.

Dans un article du journal Le Monde du 03 septembre 2022, Élisa Thévenet, rédactrice en chef du magazine Futur, rappelle le rôle qu’a joué la littérature de science-fiction dans la fascination largement partagée aujourd’hui pour des IA possiblement douées de conscience. Ce que nous aurait rappelé, d’une certaine façon, l’affaire LaMDA, après la publication par un ingénieur de Google, Blake Lemoine, d’échanges qu’il aurait eus avec le robot conversationnel LaMDA (Language Model for Dialogue Applications). Alors qu’il était chargé d’évaluer la perméabilité du programme aux discours de haine et aux propos discriminatoires, voilà que les réponses du chatbot amènent l’ingénieur — licencié depuis — à croire que ce dernier est doué de conscience. On parle "d’effet ELIZA", du nom du chatbot développé par Joseph Weizenbaum en 1966 et conçu pour imiter un psychothérapeute, afin de désigner une tendance à assimiler inconsciemment le comportement d’un ordinateur à celui d’un être humain.

Weizenbaum lui-même avait alerté contre la tentation anthropomorphique et le risque d’oublier qu’un algorithme n’a aucune compréhension des signes qu’il manipule. Cette intuition sera théorisée quelques années plus tard par le philosophe américain John Searle, au travers de l’expérience de pensée de la "chambre chinoise", exposée dans un article désormais classique intitulé Minds, Brains and Programs (Esprits, cerveaux et programmes), publié en 1980.

S’il existe un récit emblématique qui a joué un rôle central dans la fascination que nous avons pour les créatures artificielles douées de capacités cognitives similaires à celles des êtres humains et façonnées à leur image, c’est bien ce mythe fondateur de l’ère industrielle, écrit par l’écrivaine britannique Mary Shelley (1797-1851), alors qu’elle n’avait même pas vingt ans : Frankenstein ou le Prométhée moderne (1818). Faisant référence au mythe hébraïque du Golem et au destin du personnage de la mythologie grecque Prométhée, le livre de Mary Shelley et le savant Frankenstein qu’elle met en scène cristallise depuis, selon les termes de l’autrice de l’article déjà cité, "l’angoisse existentielle d’une technique omniprésente". En d’autres termes, la science-fiction n’est pas seulement une distraction, mais peut aussi servir de laboratoire éthique de l’IA, comme le préconise Thierry Ménissier, responsable de la chaire Éthique & IA de l’Institut de philosophie de Grenoble : "On devrait mettre en place des cours de science-fiction obligatoires. La science naît dans l’imaginaire."

Rien de tel, ainsi, que la littérature de science-fiction pour appréhender le monde de demain et anticiper les dilemmes éthiques auxquels nous pourrions être confrontés, à condition de ne pas oublier ceux auxquels nous sommes déjà exposés aujourd’hui, rappelle Andréane Sabourin Laflamme, professeure de philosophie et d’éthique de l’IA au collège André-Laurendau à Montréal (Canada), et coautrice d’un référentiel de compétences pour former à l’éthique de l’intelligence artificielle.