Quel est le rapport du conséquentialisme, système moral qui imprègne largement les esprits et les sociétés contemporaines, avec l’intelligence artificielle, qui n’a justement pas de moralité ? L’utilisation des réseaux de neurones à tous les étages de la société a-t-elle un impact sur nos comportements et notre éthique ? Nous continuons notre analyse et notre mise en garde sur les répercussions morales de la généralisation de l’IA.
L’IA : des modèles probabilistes
Les LLM (réseaux de neurones artificiels entraînés par apprentissage et programmés pour reproduire une interface de langage humain) fonctionne selon un système intégralement probabiliste. À chaque étape de leur « réflexion » (au passage d’un neurone à une autre), ils cherchent à prédire le « token » (l’unité de texte) le plus probable, étant donné le contexte précédent. Il s’agit d’une optimisation probabiliste que le développement de la mémoire et de la puissance informatique permet de rendre extrêmement performant. Mais il n’y a là rien d’ « intelligent » au sens propre, puisqu’il n’y a ni compréhension, ni représentation du monde, ni conscience, ni possibilité de se confronter au réel extérieur (et donc aucune évaluation possible de la « vérité » du langage, qui est un pur non-sens pour l’IA). Les références qui gouvernent ces modèles sont les centaines de milliards de paramètres qui encodent ces corrélations statistiques entre des schémas de langage. Autrement dit, la « pensée » d’un LLM est une trajectoire dans un espace de probabilité, guidée à chaque noeud par l’appréciation du chemin statistiquement le plus vraisemblable.
L’IA est donc un gigantesque et fantastique modèle de probabilités. La principale nouveauté par rapport aux modèles précédents (il est vrai généralement moins puissants) réside dans sa fonction d’apprentissage et de récompense, puisque l’IA est évaluée sur ses résultats et sur les effets produits sur l’utilisateur. Autrement dit, ce que l’IA « sait » de la morale, ne correspond qu’à la manière dont les utilisateurs humains ont approuvé ou désapprouvé des résultats qu’elle leur a proposé. En outre, sa structure la conduit à chercher toujours le meilleur chemin, en termes de rapidité et d’efficacité, à travers son espace probabiliste : un LLM qui produit un « raisonnement », en particulier en matière morale, cherche ce qui est statistiquement le plus probable, ce qui a le plus de chances de correspondre à l’attente de l’utilisateur.
Un fonctionnement typiquement conséquentialiste
N’ayant aucune perception de la vérité, ni théorique ni éthique, le modèle ne cherche que la manière la plus efficace de parvenir à son but. Le modèle induit ainsi un réflexe massivement conséquentialiste. Il contribue en outre à la diffusion de cette conception, puisqu’il optera spontanément pour les discours dominants, eux aussi massivement marqués par l’évaluation conséquentialiste.
Pour aller plus loin encore dans l’analyse, rappelons que les IA sont des programmes, conçus pour répondre aux attentes de leurs développeurs, définies selon des métriques précises. Ainsi ces modèles, malgré leur apparence de fonctionnement intelligent, n’optimisent que la mesure définie par leurs concepteurs, et non la réalité que cette métrique est censée évaluer.
Des effets directs dans le domaine moral
Le fonctionnement conséquentialiste de l’IA ne manque pas d’induire un certain nombre d’effets pervers directs dans différents domaines.
On retrouve facilement ce fonctionnement conséquentialiste dans les algorithmes de recommandation des réseaux sociaux, qui optimisent l’engagement des utilisateurs (temps passé sur une page ou un contenu, taux de clics, réactions…) sans aucune considération pour le contenu lui-même et sa vérité. Au contraire, leur mécanisme conduit spontanément à favoriser les éléments les plus provocants, polémiques ou émotionnellement chargés, en tant qu’ils sont plus facilement susceptibles d’attirer et de retenir l’attention.
De la même manière, les outils d’optimisation qui sont utilisés de plus en plus massivement par les entreprises sont conçus pour améliorer le rendement, diminuer les coûts, sans considération éthique. Les algorithmes financiers de trading haute fréquence optimisent le rendement à la millième de seconde mais peuvent induire une déstabilisation à long terme du système. En outre la délégation presque exclusive de la prise de risque en investissement aux outils algorithmiques conduit à exclure des populations entières de l’accès au crédit et au financement, sur des critères uniquement quantitatifs et statistiques, sans possibilité de recours.
De même encore, les outils d’aide à la décision qui se multiplient dans le domaine des ressources humaines analysent des CV ou des candidatures sur des données uniquement quantitatives, sans considération de la justice, de l’équité et de la dignité des personnes, réduites à un ensemble de métriques et de données.
Dans le domaine logistique, l’automatisation des arbitrages en matière de supply chain risque d’entraîner une délocalisation généralisée des services, accompagnée de larges réductions d’effectifs. Dans l’optique de la Doctrine Sociale de l’Eglise, la finalité première de l’entreprise n’est pas de maximiser le rendement à tout prix mais d’assurer d’abord la subsistance des employés et de leurs foyers, une donnée moins immédiatement quantifiable qui ne rentre pas dans les modèles d’IA.
Le problème devient plus aigu encore lorsque l’IA est utilisée dans le contexte militaire, pointé notamment par la récente encyclique Magnifica Humanitas : le développement de systèmes d’armes létales autonomes, l’utilisation désormais massive de drones de combat capables d’identifier et d’engager des cibles sans intervention humaine directe pose de graves questions. « Il n’est pas acceptable de confier à des systèmes artificiels des décisions mortelles » rappelle Léon XIV. La décision de tuer est par nature un acte moral qui engage une conscience et une responsabilité personnelle, et qui ne peut être prise que dans des conditions très strictes (celles contemplées par la doctrine de l’Eglise dans les divers cas de légitime défense). Déléguer cette décision à un algorithme, ce n’est pas la rationaliser mais la « dé-moraliser » au sens propre. Que dire encore du droit de la guerre et du principe de distinction entre combattants et non-combattants) : peut-il être délégué à un algorithme qui n’engage pas sa responsabilité et n’a pas de conscience de la personne en face. Comment enfin ne pas craindre le scénario – jusque là réservé aux films de science-fiction – de deux systèmes d’armes autonomes adverses qui s’engageraient dans une spirale d’escalade sans qu’aucune personne humaine n’ait décidé quoi que ce soit, une guerre déclenchée en quelque sorte par optimisation mutuelle…
L’IA peut-elle déformer nos propres consciences ?
Les graves problèmes moraux soulevés par l’utilisation de l’IA, en particulier en tant qu’outil d’aide à la prise de décision, auquel l’être humain est tenté de déléguer progressivement une part croissante de ses choix moraux, comme si elle pouvait en porter une part de responsabilité, interroge en retour sur l’influence qu’induit nécessairement le fonctionnement des modèles algorithmiques sur notre propre conscience morale.
On a déjà relevé l’imprégnation profonde du conséquentialisme dans les mentalités contemporaines, au point d’être devenu un « réflexe » ambiant. Le risque est que la déferlante de l’Intelligence Artificielle et son utilisation généralisée pour assister la prise de décision humaine conduise à un triomphe massif d’un conséquentialisme devenu unique modèle éthique de l’humanité, amenant une déresponsabilisation totale des personnes et effaçant la dimension morale de chaque acte humain, porteur d’une orientation intrinsèque vers le bien ou le mal. Dans un monde où tout est conduit et orienté par la recherche de l’optimisation – déléguée le plus souvent à des machines considérées comme les agents les plus efficaces et fiables en la matière – les êtres humains risquent de n’être plus mus que par cette même quête de ce qui est efficace et optimal, oubliant totalement la dimension bonne ou mauvaise de chacune de leurs actions.
Bien que n’ayant pas de personnalité, donc pas de conscience, de liberté ou d’intentionnalité au sens propre, les trois conditions nécessaires au déploiement d’une conscience morale selon la tradition thomisme, l’IA se comporte comme si elle raisonnait moralement, et produit des « résultats » moralement conséquents : elle justifie, argument, conseille, pèse des portions, créant une illusion de responsabilité morale. Le risque de cet « anthropomorphisme moral » est que les utilisateurs tendent à lui prêter une autorité morale réelle, voire supérieure, faisant du recours à l’IA une forme de validation éthique déguisée.
Déléguer à l’IA nous fait « raisonner » comme elle
En masquant de plus en plus leurs moyens (les algorithmes et le fonctionnement probabiliste) pour ne livrer que leurs résultats, sous une forme qui ressemble de plus en plus à la communication entre êtes humaines, les outils technologiques déconnectent progressivement l’utilisateur de la délibération sur les moyens, pour le focaliser – à leur image – sur le seul résultat.
La délégation progressive de fonctions à l’IA : délégation d’exécution, de recommandation, voire de décision, entraîne un glissement fonctionnel grave. Le biais d’automatisation est une tendance reconnue en psychologie cognitive (documenté en particulier dans l’aviation, la médecine, la finance), selon laquelle les opérateurs humains font de plus en plus confiance à des systèmes automatisés, même quand leur propre jugement signale une anomalie. Lorsque les décisions sont présentées comme des optimisations métriques, le décideur humain intègre ce cadre comme naturel et ne se demande plus ce qui est juste ou moral, mais cherche seulement ce qui est optimal. Jean-Paul II prévenait déjà en 1993 que « la conscience ne peut jamais être réduite à un simple calcul d’intérêts » (Veritatis Splendor, n°116), or c’est exactement ce à quoi elle est réduite quand elle délègue sa délibération à un algorithme.
Réfléchir, identifier et réagir
Ces réflexions ont pour but de stimuler notre réflexion en nous rappelant la dimension profondément morale et humaine de chacun de nos actes, qui porte en lui un poids d’éternité, une orientation vers notre fin dernière. L’utilisation de l’outil techologique, y compris des modèles d’IA, n’est pas morale en elle-même, mais elle peut induire un comportement structurellement marqué par une optique conséquentialiste qui conduit à évacuer progressivement mais totalement la responsabilité individuelle de la personne pour l’enfermer dans le cadre déshumanisé de la probabilité et de l’évaluation quantitative.
Ayant identifié ces dangers, il importe sans doute d’en prendre conscience en reconnaissant leurs nécessaires implications et imprégnations dans nos propres existences, et de revenir aux fondamentaux de la conception éthique chrétienne, tels que formulés par saint Thomas d’Aquin. « La bonté première et principale de l’acte moral est tirée de l’objet convenable » : un acte humain est bon premièrement à raison de son objet, ainsi que de son intention et de ses circonstances, mais « Une bonne intention ne peut rendre bon un acte mauvais par son objet »[1]Saint Thomas d’Aquin, Somme Théologique, IaIIae, q. 20.. « Les actes intrinsèquement mauvais […] ne peuvent en aucune circonstance être justifiés par la valeur des buts atteints » (Jean-Paul II, Veritatis Splendor, n°80), alors que « les théories éthiques conséquentialistes […] évaluent la rectitude morale d’un acte uniquement en fonction de la valeur des biens escomptés ou des maux redoutés » (idem, n°75).
À l’ère de l’intelligence artificielle où la dignité humaine risque d’être éclipsée par de nouvelles formes de déshumanisation, nous avons le devoir urgent de rester profondément humains[2]Léon XIV, Magnifica Humanitas, n°15..
