L’éthique à l’épreuve de l’IA : les dangers d’une éthique "minimaliste" (2).

De quel type d’éthique l’IA requiert-elle. – De par la reconfiguration et la métamorphose radicales, structurelles et systémiques qu’opère l’intelligence artificielle sur l’ensemble des activités individuelles, sociales et institutionnelles, il ne s’agit plus seulement de solliciter l’aide de la tradition philosophique pour répondre aux nouveaux enjeux éthiques posés par ces transformations, mais bien d’obliger, en quelque sorte, celle-ci à travailler sur elle-même, et à interroger de façon critique ses fondations historiques. En d’autres termes, c’est en examinant ses concepts, ses méthodes d’analyse et ses cadres théoriques qu’elle a hérités de son histoire, et en explorant de nouvelles trajectoires dans une logique d’auto-transformation de la philosophie elle-même, que nous serons non seulement fidèles à son esprit d’origine, mais également capables de traiter de manière adéquate les problèmes éthiques inédits soulevés par l’intelligence artificielle.

Dans ce cadre, un premier danger guette : le privilège a priori que l’on accorderait à une forme d’éthique particulière, sans avoir même pris la peine d’évaluer si elle est complètement adéquate aux nouvelles situations engendrées par le déploiement des systèmes d’IA dans nos sociétés. Or, remarque Ménissier, personne ne peut dire aujourd’hui avec certitude quelle forme d’éthique serait la plus adéquate à l’IA, étant donné l’enjeu qui est le nôtre : la préservation d’un cadre sans lequel aucune éthique n’est possible, à savoir, la désignation claire d’un auteur auquel il est possible d’imputer la responsabilité d’un acte. Pour comprendre les remarques tout à fait justifiées soulevées par Ménissier, il est nécessaire de les replacer, du moins, succinctement, dans le cadre théorique de l’histoire de la philosophie éthique au sein desquelles elles s’inscrivent.

L’historiographie officielle, très influencée par l’éthique analytique, a pris pour habitude de distinguer trois grandes traditions d’éthiques normatives, ou encore, trois grands courants de philosophie morale, à l’intérieur desquels il est possible de ranger les principaux auteurs de la tradition éthique occidentale : 1) le conséquentialisme, 2) le déontologisme, et 3) l’éthique des vertus. Du point de vue de la chronologie, l’éthique des vertus est la plus ancienne. L’auteur de référence demeure Aristote (384-322 av. J.-C.), et son ouvrage fondateur : Éthique à Nicomaque. Si Aristote est également l’auteur d’autres ouvrages consacrés à l'éthique – dont l’Éthique d’Eudème ou Grande Morale –, c’est toujours à l’Éthique à Nicomaque que l’on se référe pour parler du premier véritable ouvrage consacré au développement d’une théorie systématique de la vertu entendue, comme disposition acquise (par opposition à naturelle) à agir moralement de façon continue et volontaire. 

Bien qu’encore présente chez certains auteurs scolastiques (Thomas d’Aquin), et de l’âge classique (Baruch Spinoza), cette conception particulière de l’approche des comportements moraux sera largement occultée aux époques moderne et contemporaine, par les deux autres grandes traditions de l’éthique philosophique que sont le déontologisme dans sa version kantienne, avec un ouvrage clé : Fondements de la métaphysique des mœurs (1785) ; et le conséquentialisme – en particulier Jeremy Bentham et John Stuart Mill –, avec deux livres majeurs : Introduction aux principes de la morale et de la législation (1789) de Bentham, et L’utilitarisme (1861) de Mill.

L’éthique de la vertu fera son grand retour au tout début des années 1980, avec la publication de l’ouvrage du philosophe écossais Alasdair MacInthire, Après la vertu. D’aucuns s’accordent d’ailleurs à dire que ce livre eut, dans le domaine de la philosophie éthique, un retentissement à peu près similaire à ce que le livre de John Rawls, Théorie de la justice, eut dans le domaine de la philosophie politique, lors de sa parution en 1971. Parmi les autres penseurs contemporains qui ont contribuées à renouveler ce type d’éthique, nous pouvons citer Alasdair MacIntyre (1929-2025) bien sûre, mais également Elizabeth Anscombe (1919-2001), Philippa Foot (1920-2010), Bernard Williams (1929-2003), ou encore, Amartya Sen (né en 1933) et Martha Nussbaum (née en 1947).

Hâtons-nous de préciser que ces trois grandes théories morales que sont l’éthique des vertus, le déontologisme et le conséquentialisme ne visent qu’à fournir à l’esprit un mode classificatoire simple et commode, fondé sur les grands traits caractéristiques que partagent des théories éthiques, indépendamment de leurs spécificités propres. Cette façon commode mais simplificatrice, de réduire la pensée éthique occidentale à trois idéaux-types – constructions abstraites visant à mettre en évidence les traits les plus significatifs d’un phénomène donné –, empêche malheureusement le plus souvent de prendre en considération la richesse des théories léguées par plus de 2 500 ans d’histoire de la philosophie, sans même évoquer d’autres traditions, comme le bouddhisme ou le confucianisme, par exemple.

Les trois théories mentionnées visent toutes à fournir un cadre universel de traitement et de résolution des dilemmes moraux, et pointent vers trois questions fondamentales qu’elles tentent toutes, à leur manière, de résoudre : 1) Qu’est-ce qu’un problème moral ? 2) Qu’est-ce qu’agir moralement ? Comment justifier la valeur de nos choix moraux ? Il est donc aujourd’hui commun parmi les philosophes universitaires d’examiner nos intuitions morales au regard de ces trois grands courants de la tradition occidentale, que l’on peut, à grands traits, résumer ainsi :

• Le conséquentialisme. – Pour les conséquentialistes, la valeur morale d’une action ne dépend ni des intentions de l’agent, ni du caractère ou des dispositions à agir conformément à la vertu de ce dernier, mais des conséquences ou des états de choses qu’elle est susceptible de provoquer. En d’autres termes, un conséquentialiste conséquent devra déterminer de façon précise la notion centrale de “conséquences souhaitables”, ou de “bonnes conséquences” visées par l’action en question. S’agit-il de la justice ? Du plaisir ? Du bien-être ? De la connaissance ? De la quantité de richesse produite ? De l’équité entre les individus ? De la justice sociale ? De l’évitement de la souffrance ? D’un gain de nature esthétique, comme l’embellissement d’un quartier ou d’un paysage ? Et si ce sont la justice, le plaisir ou le bien-être, que faut-il entendre précisément par ces termes ? En quoi sont-ils non seulement définissables, mais surtout, identifiables de manière fiable ? On remarquera d’ailleurs l’extrême étendue des domaines d’application de l’approche conséquentialiste, lesquels ne sont pas uniquement d’ordre éthique, mais également politique (conséquentialisme politique), économique (conséquentialisme économique), voir esthétique (conséquentialisme esthétique). On dira ainsi du conséquentuialisme en général, qu’il est par nature "téléologique" (du grec telos, qui signifie fin, but ou objectif). Pour lui, quelle que soit les formes qu’il peut prendre, ce sont les objectifs visés par l’action qui justifient en dernière instance son caractère louable ou non. Les choix ou décisions que vous avez pris produisent les conséquences souhaitables, selon des critères claires préalablement définis ? Si oui, alors l’action en question sera jugée bonne, quelle que soit les intentions, louables ou non, qui étaient les vôtres au départ.

• Le déontologisme. – Par opposition au conséquentialisme, le déontologisme rejette l’idée que les conséquences constitueraient le critère principal d’évaluation de la valeur morale d’une action, et que la fin pourrait, en quelque sorte, justifier les moyens. Ce qui compte avant tout, ce sont les intentions – Kant, principal représentants des morales déontologiques parle, de "bonne volonté " – qui ont motivées l’agent moral à accomplir telle ou telle action. Le déontologiste considère en effet qu’il existe des contraintes morales absolues – des droits, des obligations et des devoirs (deontos en grec) –, qui limitent de manière catégorique nos possibilités d’agir, indépendamment des conséquences de nos décisions. En d’autres termes, la valeur morale de nos actions repose sur des obligations réciproques que nous nous devons mutuellement et que nous avons le devoir de respecter de façon absolue, sous peine de porter atteinte aux droits d’autrui. On peut ainsi trouver une première version du déontologisme dans le décalogue de l’Ancien testament. Mais sa version moderne nous vient du philosophe allemand Emmanuel Kant et sa notion d’impératif catégorique. Parmi les philosophes contemporains qui s’inscrivent dans son sillage, on peut citer Robert Nozick, Ronald Dworkin et Philippe Van Parijis.   

• L’éthique des vertus. – L’éthique des vertus enfin, est d’abord orientée sur la notion de "bien" – entendu comme un idéal de vie à réaliser –, plutôt que de celle de "juste", comprise comme le respect d’une règle d’action préalablement définie. Selon les partisans de l’éthique des vertus, pour qu’une personne puisse agir moralement, il ne suffit pas qu’elle possède un concept approprié de ce qu’il est bien ou mal de faire, ni même qu’elle dispose de moyens argumentatifs de trancher des dilemmes moraux et de justifier ses choix. Elle doit surtout développer et posséder des traits de caractère – les "vertus" – nécessaires à la réalisation du but fondamental qu’elle poursuit, à savoir la conception qu’elle se fait du "bien" ou de la "vie bonne", assimilés par les grecs, au bonheur. Pour agir moralement dira le philosophe anglais Bernard Williams, ce n’est pas tant d’une théorie morale, voire d’une théorie des vertus, dont nous avons besoins, que de la possession effective des vertus. En ce sens, l’éthique des vertus ne cherche pas à répondre à la question : "Que dois-je faire ?", comme le font le déontologisme et le conséquentialisme, mais plutôt à la question : "Quel genre de personne je souhaite devenir ?" Il s’agit donc d’une éthique orientée vers l’accomplissement de soi, dans laquelle les traits de caractère et les dispositions affectives des individus, constituent le véritable objet de l’évaluation morale.

Or ces trois grandes visions éthiques ne valent que reprises et interrogées dans le contexte et les spécificités des changements et des bouleversements profonds qu’est en train d’opérer l’intelligence artificielle dans tous les domaines de l’agir humain. C’est d’ailleurs à un tel mouvement que l’on a assisté dans le domaine de la philosophie éthique elle-même, depuis son orientation principalement spéculative dans la période 1900-1950, avant tout préoccupée – à la suite de la publication, en 1903, des Principia Ethica du philosophe anglais George Edward Moore (1873-1958) – de questions centrées sur le sens et la spécificité des énoncés éthiques et des jugements moraux – la métaéthique –, pour finalement effectuer un tournant vers des questions davantage ancrées dans les réalités pratiques et les enjeux sociétaux contemporains à partir des années 1960.

C’est dans ce cadre qu’est apparue, dans les années 1960-1970, une nouvelle branche de l’éthique philosophique appelée "éthique appliquée", qui prendra d’abord la forme d’une bioéthique, en réaction aux progrès et aux avancées réalisés dans le domaine des sciences du vivant – greffes d’organes, recherche sur l’ADN, clonage, procréation médicalement assistée, etc. –, mais aussi au choc provoqué par la découverte des expérimentations médicales nazies menées sur des prisonniers dans les camps de concentration (voir mon article De la bioéthique à l’éthique de l’intelligence artificielle).

Il est ainsi devenu courant d’organiser le champ de la philosophie éthique en trois grands domaines d’interrogation distincts que sont :

• L’éthique normative, qui cherche à établir, comme nous l’avons vu plus haut, les principes moraux et les critères d’évaluation permettant de juger si une action est bonne ou mauvaise – elle répond à la question : "Que devons-nous faire ?"

• La métaéthique, ou éthique de second ordre, puisqu’elle ne cherche pas à déterminer ce que nous devons faire ou ne pas faire, mais plutôt à clarifier le sens et le bien-fondé ontologique et épistémologique de nos énoncés moraux – elle répond à des questions du type : "Que voulons-nous dire lorsque nous disons qu’une action est bonne ?", "Peut-on attribuer une valeur de vérité à nos jugements moraux ?", "À quoi référons-nous précisément lorsque nous invoquons des valeurs morales ?" ;

• Enfin, l’éthique appliquée, qui examine des cas concrets de dilemmes moraux tels qu’ils émergent dans des pratiques sociales et institutionnelles, comme la médecine (bioéthique), la vie économique (éthique des affaires), la guerre (éthique des relations internationales), nos relations avec la nature (éthique de l’environnement) et le monde animal (éthique animale), ou encore l’usage des systèmes numériques et de l’intelligence artificielle (éthique du numérique ou éthique de l’intelligence artificielle).

Cette division des grandes questions éthiques, qui ne vaut que théoriquement et du point de vue de la rigueur intellectuelle, ne doit pourtant pas nous faire oublier que son versant le plus pratique, qui nous intéresse ici – l’éthique appliquée –, ne peut se couper de sa base plus théorique constituée par la métaéthique et l’éthique normative. Comment, en effet, apporter des réponses concrètes aux implications éthiques que pose l’émergence de nouveaux domaines d’activité ou de nouvelles pratiques comme l’intelligence artificielle, sans avoir à justifier au préalable ce qui fonde nos choix ?

Si l’éthique en général pose la question centrale : "Que devons-nous faire ?", et si répondre à cette question nous enjoint d’emblée de dire, en toutes circonstances, pourquoi nous avons décidé de nous comporter de telle ou telle manière – démarche et argumentation éthiques –, bref, de clarifier les concepts que nous utilisons et d’expliciter les principes sous-jacents à partir desquels nous agissons – métaéthique et éthique normative –, alors l’éthique appliquée requiert de façon systématique des niveaux de discours plus théoriques, dont le lien avec la pratique est en apparence moins évident, que sont précisément l’éthique normative et la métaéthique. En d’autres termes, la résolution de dilemmes éthiques dans des champs de spécialisation donnés, comme l’éthique de l’IA, requiert de pouvoir embrasser, au sein d’une même démarche et en tenant compte des situations concrètes dans lesquelles elles prennent sens, des questions relevant des deux autres champs de l’éthique que sont l’éthique normative et la métaéthique.

Ces quelques remarques sur la richesse des cadres d’analyse, à la fois conceptuels, argumentatifs et doctrinaux, du questionnement éthique, nous permettent de pointer un second danger qui guette l’éthique de l’IA : celui de la liste à cocher simplificatrice, que dénonce à juste titre, dans leur rapport L’éthique au cœur de l’IA, un regroupement de chercheurs multidisciplinaires réunis au sein de l’Observatoire international sur les impacts sociétaux de l’IA (Obvia). Les auteurs mettent en cause ainsi la forme qu’aurait prise l’éthique de l’IA depuis notamment la création des 23 principes d’Asilomar (2017) et la Déclaration de Montréal (2018), à savoir un catalogue de principes, de règles ou de normes techniques plus ou moins nombreux, qu’il suffirait de cocher et de suivre à la lettre pour s’adjuger, à moindre frais et sans prendre la peine de la réflexion, un certificat de bonne conduite. Dans ce cadre, l’éthique de l’IA tendrait à être assimilée à un simple outil de légitimation stratégique, visant à rassurer la société civile et le législateur, tout en évitant un excès de régulation.

D’où la tendance largement dominante, notamment de la part des informaticiens et des géants de la Tech, à concevoir une éthique "minimaliste", centrée principalement sur la prévention des risques. Or, rappellent les auteurs du rapport, l’éthique, en tant que discipline philosophique, et telle qu’elle a été définie depuis ses origines grecques, n’est ni réductible à une liste de principes dans laquelle il suffirait de piocher selon les besoins, ni à l’application stricte et mécanique de règles de droit, mais constitue avant tout une démarche réflexive, argumentée et rationnelle, qui interroge en premier lieu les fondements et la légitimité des règles et des valeurs morales telles qu’elles se trouvent confrontées dans des contextes et des pratiques sociales déterminés.

Dans cette perspective, la constitution de listes de principes apparaît comme une activité annexe et secondaire, susceptible d’intervenir au terme d’une démarche conceptuelle, argumentative et délibérative, laquelle se trouve largement occultée dans les discours ambiants sur l’éthique de l’IA. Tout se passe alors comme si les principes et les valeurs que nous invoquons allaient de soi et n’avaient plus besoin d’être interrogés, tandis que le raisonnement moral ne supposerait aucun effort de compréhension des situations, ni de prise en compte de la complexité et de la diversité des dilemmes auxquels les agents moraux sont effectivement confrontés. C’est pourtant cette forme "d’algorithmisation" de l’éthique, qui cherche à calculer et à automatiser, selon différentes méthodes, des comportements réputés moralement acceptables, qui est aujourd’hui majoritairement à l’œuvre.