Qu’est-ce que le « conséquentialisme » ?

Ce que l’on appelle « intelligence artificielle » (en réalité des réseaux de « neurones » électroniques entraînés pour déployer de larges modèles statistiques, ayant développé ces dernières années une application utilisant le langage pour reproduire une conversation) tend à se présenter de plus en plus explicitement comme une « personne ». Depuis l’invention des mails, puis de outils de conversation en ligne (« chats ») et enfin des réseaux sociaux, on a pris l’habitude d’entretenir des relations de plus en plus virtuelles, par machines interposées, avec des personnes que l’on n’a parfois jamais vues. La perception ne change donc pas sensiblement lorsque l’interlocuteur devient une machine, entraînée à reproduire le langage et les réactions humaines. Pour beaucoup de nos contemporains, l’IA en vient à être considérée inconsciemment comme une personne. Et malheureusement, ce simulacre de personnalité acquiert une influence silencieuse mais déterminante sur notre monde et sur nos consciences : songeons que nombre de nos contemporains ont aujourd’hui plus d’interactions avec une IA qu’avec des personnes réelles. Nous voudrions ici tenter d’analyser le système moral induit par l’omniprésence de l’IA et ses conséquences sur nos existences, en repartant du regard de Jean-Paul II et de saint Thomas d’Aquin sur le « conséquentialisme ». 

Qu’appelle-t-on « conséquentialisme » ?

Dans Veritatis Splendor (1993), sa grande encyclique morale, le pape Jean-Paul II dénonce « des fausses solutions, liées en particulier à une compréhension inadéquate de l’objet de l’agir moral » (n°75), autrement dit des théories selon lesquelles la volonté libre ne serait pas soumise à des obligations déterminées, ni formée par ses choix, mais ne demeurerait responsable que de leurs conséquences. Dans ce « conséquentialisme », la justesse d’une décision morale n’est déterminée qu’« à partir du seul calcul des conséquences prévisibles de l’exécution d’un choix » (idem). Ce n’est donc pas seulement la fin qui justifie les moyens (idée que le pape appelle « téléologisme », du grec telos, la fin, le but), ce sont les conséquences qui qualifient la valeur morale d’un acte. 

Objet, intention, circonstances : trois conditions de la moralité d’un acte humain

Le Souverain Pontife y dénonce une dérive incompatible avec la doctrine de l’Église, dramatiquement éloignée de ses principes moraux, tels qu’énoncés par saint Thomas d’Aquin. Pour ce dernier, les actes humains sont bons ou mauvais premièrement selon leur objet, et également selon leur fin (l’intention de l’agent) et leurs circonstances. Suivant cette analyse classique, le bien d’un acte requiert l’intégrité de ces causes (il faut que l’objet, l’intention et les circonstances soient bonnes), tandis qu’un seul défaut peut le rendre mauvais. Ainsi un acte mauvais (par son objet) ne peut pas être rendu bon par son intention ou ses circonstances (bien qu’il ne soit pas nécessairement imputable en mal, et que sa gravité puisse être atténuée). Il existe ainsi, rappellent saint Thomas et Jean-Paul II, des actes « intrinsèquement mauvais », qui ne peuvent jamais être posés. 

Remise en cause de l’objectivité des normes et de la responsabilité du sujet

Ceci étant rappelé, on voit bien à quels errements moraux le conséquentialisme peut amener. Il dissocie en effet totalement la question de l’objet d’un acte et de l’intention avec laquelle il est posé, qu’elle ne regarde même pas d’un point de vue interne (ce que le sujet vise dans un acte, ce que j’ai en vue lorsque je pose un choix) mais en considérant la prétendue objectivité des circonstances. On peut ainsi en venir à justifier des actes intrinsèquement mauvais, au prétexte que leurs conséquences pourraient être bonnes. Or Jean-Paul II rappelle qu’il y a « des actes qui, par eux-mêmes et en eux-mêmes, indépendamment des circonstances et des intentions, sont toujours gravement illicites » (Veritatis Splendor, n°80).

Non seulement le conséquentialisme dissout ainsi la notion de norme morale absolue, de loi extérieure au sujet, mais il finit par remettre en cause l’existence même d’une morale intérieure au sujet, puisque sa propre intention (de départ) n’importe pas autant que les conséquences découlant in fine de son acte. Dans une telle optique, la personne est « dépersonnalisée », puisque ce qui relève d’elle (son intention, l’objet qu’elle vise, les circonstances dans lesquelles elle agit) est dévalué au profit de la seule considération des conséquences de son action.

Jean-Paul II dénonce donc cette « morale autonome » qui ne prend pas en considération l’implication de la volonté dans les choix concrets qu’elle opère. Or ceux sont eux qui déterminent sa bonté morale et son orientation vers la fin ultime de la personne. Autrement dit, le bien de nos actes, et notre bien propre, ne peuvent être le résultat d’un savant calcul de probabilités et d’évaluation des conséquences, comme si notre responsabilité ne portait pas d’abord sur ce que nous faisons, l’objet que nous visons lorsque nous posons tel acte particulier. En ne considérant que les conséquences de ses actes, on soustrait la volonté à toute règle morale préexistante et déterminée, et on lui ôte ainsi la possibilité d’être orientée vers le bien. 

La conception catholique : la volonté orientée vers le bien

La conception catholique, appuyée sur l’analyse morale d’Aristote reprise par saint Thomas d’Aquin, est toute autre. La volonté humaine est une faculté nativement orientée vers le bien : elle est polarisée, comme aimantée par lui, car on ne veut jamais quelque chose que sous raison de bien, en tant qu’il est bien. Faculté de l’âme, la volonté engage toute la personne vers le bien qu’elle désire et vise. Elle est la source de son dynamisme et la puissance qui lui permet d’atteindre sa fin. Elle s’exerce librement (la liberté est une propriété de la volonté) lorsqu’elle n’est pas empêchée de faire le bien ou contrainte de s’en écarter. Ainsi, la vision réaliste de l’Eglise insiste sur la valeur de chaque acte humain, qui porte un poids d’éternité en ce qu’il contribue à orienter la personne vers sa fin (ou à l’en écarter). 

Les origines du conséquentialisme

D’où vient ce conséquentialisme qui domine aujourd’hui plus ou moins confusément les pensées (que l’on pense aux argumentaires déployés pour et contre la légalisation de l’euthanasie en France : ils portaient presque exclusivement sur les conséquences de l’acte, et non sur sa nature bonne ou mauvaise) ? Sa généalogie philosophique devrait nous faire remonter au moins aussi haut que l’école de pensée anglo-saxonne pragmatique et utilitarisme de Bentham (XVIIIème siècle) et Stuart Mill (XIXème). Un de ses représentants actuels les plus en vue est l’australien Peter Singer, qui pousse à bout la logique conséquentialiste et défend tant la « libération animale » que l’avortement, l’euthanasie et même l’infanticide. Aujourd’hui cependant, le conséquentialisme théorique a influé sur la société au point d’être devenu plus qu’une doctrine, un conséquentialisme pratique, réflexe moral ambiant (qui nous imprègne autant que nos contemporains sans doute) qui évalue tout à l’aune de ses résultats. 

Benoît XVI fait le lien entre la perte du sens de la vérité théorique (relativisme épistémologique) et la perte du sens de la vérité pratique ou morale (relativisme éthique), qui sont les deux aspects d’un même mouvement : quand on abandonne l’idée d’une vérité objective des choses, on délaisse corrélativement l’idée d’une évaluation objective des actes humains. « Nous allons vers une dictature du relativisme qui ne reconnaît rien comme définitif et qui laisse comme ultime mesure uniquement son propre moi et ses désirs » disait le cardinal Ratzinger dans sa dernière homélie avant d’être élu pape, le 18 avril 2005.

En évacuant totalement la question de la moralité intrinsèque de nos actions, le conséquentialisme conduit malheureusement rapidement à justifier et permettre des actions inacceptables, au motif que leurs conséquences seraient bonnes.

L’histoire du XXe siècle est là pour nous montrer où mène une morale sans vérité^[1]Veritatis Splendor, n°99.

Qui définit la « bonté » des conséquences d’un acte s’il n’y a plus de règle morale objective ? La réponse ne peut être que subjective, probabiliste, majoritaire… ce qui ouvre la porte à toutes les dérives.

Quel est le rapport avec l’intelligence artificielle ? En quoi cette analyse philosophique et morale, appuyée sur les travaux de Jean-Paul II et l’œuvre de saint Thomas d’Aquin, permet-elle d’identifier une influence néfaste de l’Intelligence artificielle sur nos systèmes éthiques ? C’est ce que nous verrons dans la suite de cette étude.