Magnifica Humanitas : un texte pour nourrir notre discernement concernant l’IA ?
À son lancement en novembre 2022, ChatGPT a mis l’intelligence artificielle (IA) au cœur des discussions du grand public. Le soir même, les étudiants qui participaient à un parcours Alpha que nous organisions discutaient de tout ce qu’ils avaient pu faire toute la journée avec leur nouveau « jouet ». Après un peu plus de trois ans, l’ambiance a changé. Non pas parce que l’IA n’aurait pas tenu ses promesses, mais plutôt parce que ses progrès commencent à donner le vertige.
Parmi ceux qui ont fait la une ces dernières semaines, le nom de l’entreprise Anthropic revient comme un étrange refrain. En janvier, l’entreprise américaine renonce à un contrat estimé à 200 millions de dollars à cause de son refus de voir ses algorithmes utilisés pour de la surveillance de masse et des armes autonomes¹. Au mois d’avril, Anthropic repousse le lancement de son nouveau modèle Claude Mythos après avoir fait la preuve des capacités impressionnantes de celui-ci pour découvrir des failles dans les systèmes de sécurité informatique – le danger étant que l’utilisation de ce modèle rende des milliers de systèmes informatiques vulnérables². Le 12 juin dernier, seulement trois jours après le lancement de ce fameux modèle Mythos 5, Anthropic se voit contrainte de le retirer à nouveau suite à une injonction du gouvernement américain qui invoque un risque concernant la sécurité nationale. Quelques jours plus tôt, l’entreprise américaine proposait un moratoire mondial sur le développement de l’IA estimant que la perte de contrôle devenait un risque sérieux³.
C’est dans ce contexte, qui rappelle plus des films dystopiques comme I-Robot que les rêves utopiques des géants de la tech, que le pape Léon XIV a présenté le 25 mai dernier sa première encyclique Magnifica Humanitas (« Humanité magnifique ») lors d’une conférence de presse où l’on retrouvait parmi les intervenants Christopher Olah, cofondateur d’Anthropic. Quel est donc la réponse de l’Église catholique face à une technologie qui semble chaque jour un peu plus menacer de prendre le contrôle ? Il est évident que le pape n’a pas tiré de son chapeau un 11e commandement : « Tu n’artificialiseras pas l’intelligence ». En théologie catholique, les questions soulevées par l’IA entrent dans le cadre de la Doctrine sociale de l’Église (DSE). Il s’agit de tous les sujets sociaux pour lesquels l’Église catholique cherche, depuis un peu plus d’un siècle, à discerner comment appliquer les grands principes éthiques à des enjeux sociaux en évolution permanente. La dernière contribution majeure concernant la DSE a été l’encyclique du pape François Laudato Si’ en 2015 au sujet de la préservation de la « maison commune », publiée en amont de la COP21 à Paris. Magnifica Humanitas aura-t-elle la même influence concernant l’IA ?
LES GRANDES LIGNES DU TEXTE 
Le texte de l’encyclique se répartit en cinq chapitres⁴. Les deux premiers replacent l’encyclique dans le contexte de la doctrine sociale de l’Église, d’abord au travers d’un parcours historique (chapitre 1) puis en rappelant les grands principes de la DSE (chapitre 2). La liste des titres des sections permet de se faire une première idée de ce cadre donné par la DSE :
Les fondements de la Doctrine sociale
- L’être humain, image du Dieu trinitaire
- L’égale dignité de tous les êtres humains
- La valeur suprême des droits de l’homme
Les principes de la Doctrine sociale
- Le principe du bien commun
- Le principe de la destination universelle des biens
- Le principe de subsidiarité
- Le principe de solidarité
- Le principe de justice sociale
Le chapitre 3 intitulé « Technique et maîtrise la grandeur de la personne humaine face aux promesses de l’IA » semble directement tiré d’un livre de Jacques Ellul. Léon XIV y met en garde contre une innovation technologique qui n’aurait pas d’autre horizon que son propre développement, sans soucis des répercussions pour l’humanité.
Au chapitre 4, le pape identifie deux dangers particuliers : celui de la vérité, avec une IA capable de rendre de plus en plus difficile de faire la différence entre le vrai et le faux, et le travail, avec un marché du travail profondément déstructuré par des outils numériques qui rendent superflus un nombre croissant de métiers.
Le dernier chapitre est consacré à la manière dont la guerre est de nouveau perçue comme un mal nécessaire. Il pointe du doigt le risque que représente l’IA permettant de laisser des machines faire la guerre à notre place, de l’identification des cibles jusqu’à la décision de presser la gâchette sans que personne ne se sente vraiment responsable.
QUEL ACCUEIL FAIRE À CETTE ENCYCLIQUE ?
Ce texte n’a certainement pas pour nous la même autorité que pour les catholiques, mais est-il utile pour nourrir notre discernement chrétien ? Cette question mériterait une analyse bien plus fine que ce que je peux proposer ici, mais il me semble que les points de contact avec la théologie anabaptiste sont nombreux. Le plus évident concerne la place centrale que le pape consacre à l’importance de travailler à la paix dans un contexte où la guerre est de plus en plus « à la mode ». C’est d’ailleurs dès le chapitre 3 qu’apparaît l’expression qui a capté l’attention de tous les commentaires dès la publication de l’encyclique :
§ 110. Je voudrais enfin employer un mot qui me tient à cœur : « désarmer ». Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive.
Le chapitre 5 propose un traitement tellement large et vigoureux en faveur de la paix, que le sujet de l’IA semble presque avoir été le « prétexte » pour traiter plus largement du sujet de la guerre. La manière dont le pape nous encourage à nourrir un regard critique envers l’innovation, avec en toile de fond l’exemple de Babel, a une affinité certaine avec le souci anabaptiste de s’assurer que l’amour de Dieu et du prochain reste premier, protégé des effets négatifs de certaines technologies.
Un point qui me tient à cœur et que j’ai été agréablement surpris de trouver dans ce texte est le rôle de l’Église comme signe donné au reste de la société :
§ 90. C’est ainsi que l’Église est capable d’offrir à la société un signe crédible : la recherche commune du bien de tous, dans la coresponsabilité et la fraternité, n’est pas une utopie, mais une possibilité réelle.
LE CHEMIN QU’IL RESTE À PARCOURIR
Cela étant dit, mon regard globalement positif sur cette encyclique ne signifie pas qu’elle clôt le débat.
Du propre aveu du pontife (§ 91), il y a encore beaucoup de chemin à parcourir pour construire un discernement chrétien réellement éclairé, dans un périple qui n’en est qu’à ses débuts. Deux points en particulier m’ont laissé sur ma faim.
Le dossier biblique m’a semblé encore embryonnaire. Je n’ai pas d’objection particulière sur les éléments mis en avant. Il s’agit en particulier du contre-exemple de Babel, de la dignité humaine, de l’humanité créée à l’image de Dieu, et de l’incarnation comme confirmation de sa valeur, y compris dans ses limites créationnelles. Mais ces points ne jouent qu’un rôle secondaire. Ils mériteraient d’être étoffés et complétés par d’autres éléments bibliques et théologiques.
Le deuxième point sur lesquel j’aimerais voir cette encyclique être enrichie tient au rapport avec le contexte dans lequel elle est écrite. Alors que l’encyclique Laudato Si’ du pape François partait de la situation concrète (la crise climatique) pour construire une réponse chrétienne, Magnifica Humanitas part des grands principes de la DSE. Le fait que les réalités concrètes du développement de l’IA n’interviennent que dans un second temps conduit à mon avis à rester trop dans de grands principes plutôt que dans le concret des réalités du terrain. Je regrette, par exemple, que le coût énergétique, en eaux et en minéraux, ne soit mentionné qu’en passant. On peut comprendre le risque d’être trop concret pour un sujet qui évolue de jour en jour (§ 97), mais cela souligne que ce texte n’est qu’un point de départ.
CONCLUSION
La prochaine étape pour aller plus loin est évidemment de lire Magnifica Humanitas et de vous forger votre propre avis. Puis, et surtout, d’en faire ensuite un sujet de discernement collectif en communauté. Les enjeux sont bien trop vastes et trop techniques pour se faire une idée « dans son coin ». Nous devons apprendre ensemble à suivre notre maître, l’Humain par excellence, dans un monde de plus en plus artificiel.
¹https://en.wikipedia.org/wiki/Anthropic%E2%80%93United_States_Department_of_Defense_dispute
⁴Le texte intégral est disponible sur le site du Vatican : https://www.vatican.va/content/leo-xiv/fr/encyclicals/documents/20260515-magnifica-humanitas.html
