Les cinq principaux points à retenir de l'encyclique du pape Léon sur l'IA

CITÉ DU VATICAN (RNS) — Le pape Léon XIV a publié lundi 25 mai ce qui est déjà appelé le document clé de sa papauté, intitulé « Magnifica Humanitas » (Humanité magnifique), une vaste encyclique traitant de ce qu'il considère comme une nouvelle révolution industrielle alimentée par l'intelligence artificielle.

Alors que le document réfléchit en profondeur sur l’IA et ses répercussions sur la société, la guerre, le travail et l’éducation, son véritable objectif est de proposer la sagesse de l’Église catholique sur ce qui rend l’humanité, enfin, humaine. Si le titre n’indique pas clairement cette priorité, alors le texte la renforce : « Human » est le mot significatif le plus répété dans la version officielle anglaise, suivi de « social » et de « person ».

Le Lion regarde avec inquiétude une culture qui considère les gens comme « un moyen d’obtenir des résultats, une ressource à utiliser et à exploiter ». Il met également en garde contre certaines mentalités, telles que le transhumanisme et le posthumanisme, qui sont populaires dans la Silicon Valley et qui espèrent construire un monde hybride homme-machine ou, pire encore, remplacer l’humanité par des machines.

S'adressant aux journalistes après la présentation de l'encyclique, le Révérend. Brendan McGuiresouvent appelé le curé de la Silicon Valley, a expliqué la « théologie des limites » de Leo dans l'encyclique, ce qui signifie que les limites qui définissent les êtres humains ne sont « pas un défaut de conception de notre être humain – c'est une caractéristique de conception ».

Le pape écrit dans l’encyclique qu’au rythme auquel évolue l’IA, un document traitant de cette technologie risque de devenir obsolète d’ici quelques mois. « Mais nous apportons une sagesse concernant l'humain dont notre époque a désespérément besoin », a déclaré Leo lors de la présentation du document au Vatican lundi, ajoutant que « chaque personne est unique et irremplaçable, un sujet libre et intelligent doté d'une conscience, capable de chercher Dieu, de se servir les uns les autres, de prendre soin de notre maison commune ».

Les robots basés sur l’IA sont présentés comme des travailleurs infatigables. Les compagnons d’IA deviennent une industrie en plein essor. L’IA est également de plus en plus utilisée comme outil de surveillance et de guerre. Le document papal cherche à recentrer cette technologie autour du service aux gens – et non l’inverse.

Partant du caractère central de la personne humaine, Leo propose une série de réflexions pour aider à guider le monde à travers les défis et les risques posés par l’IA. Voici cinq points principaux à retenir de « Magnifica Humanitas » :

1. Recommande de désarmer l’IA en la retirant des intérêts économiques, militaires et personnels

S'exprimant au Vatican lors de la présentation de l'encyclique, le co-fondateur d'Anthropic, l'une des principales sociétés d'IA au monde, a averti que le développement de l'IA n'est pas nécessairement destiné à rendre l'humanité meilleure.

Au lieu de cela, la concurrence pour fournir le produit d’IA le plus commercialisable, les intérêts géopolitiques et les bons egos démodés agissent comme des incitations plus claires pour une technologie qui a levé plus de 1 600 milliards de dollars d’investissements d’entreprises et qui ne devrait que croître davantage.

« Aujourd’hui, les principaux moteurs du développement sont des acteurs privés, souvent transnationaux, dotés de ressources et d’une capacité d’action supérieures à celles de nombreux gouvernements », écrit Leo dans l’encyclique. C'est pourquoi le développement de l'IA ne peut pas être laissé entre les mains de quelques riches leaders de l'industrie, indique le document. Au lieu de cela, tout le monde doit s’impliquer dans le façonnement de l’IA afin qu’elle améliore l’humanité.

« Les communautés et les organisations intermédiaires ne doivent pas être réduites à des destinataires passifs de décisions prises ailleurs ; elles doivent être capables de contribuer au discernement et au contrôle », a écrit Leo. Les travailleurs, les enseignants, les scientifiques et les communautés religieuses doivent être associés aux conversations, a-t-il ajouté.

Ils ne peuvent pas y parvenir seuls, a écrit Leo, affirmant que les organisations internationales et les États doivent également intervenir pour réglementer l'IA, en accordant une attention particulière aux pauvres et aux vulnérables.

Cela signifie « désarmer l’IA », a écrit Leo, en la soustrayant à « la logique de la course aux armements », qui est aujourd’hui non seulement militaire, mais aussi économique et cognitive.

« Désarmer ne signifie pas renoncer à la technologie, mais l'empêcher de dominer l'humanité. Cela signifie la retirer des monopoles, la rendre discutable, réfutable et donc habitable, restaurer en elle la pluralité des cultures et des modes de vie humains », écrit-il.

2. S'excuse pour l'esclavage (nouveau colonialisme et nouvelles formes d'esclavage)

L’IA risque également de générer de nouvelles formes de colonialisme et d’esclavage, a écrit Leo. Il met en garde contre le « nouveau visage » du colonialisme, qui non seulement domine les corps mais s'approprie également les données, citant les flux sanitaires, les profils épidémiologiques, les cartes génétiques et les données démographiques.

« Lorsque chaque geste laisse une trace – mouvements, achats, relations, préférences – un nouveau pouvoir est créé : le pouvoir de profiler, prédire et guider le comportement, souvent sans que les gens en soient pleinement conscients », écrit-il.

Nos informations et nos données sont en train de devenir la nouvelle « terre rare du pouvoir », a écrit Leo, ajoutant que, entre les mains d’un petit nombre d’individus orientés vers le profit, elles représentent une nouvelle forme de domination coloniale.

Le pape souligne également la trace d’une exploitation invisible des humains et de l’environnement qui se cache derrière le développement de l’IA. Depuis les enfants forcés d’aller dans les mines pour rassembler les minéraux nécessaires au développement de l’IA, jusqu’aux employés surveillés pour former des modèles d’IA, nous assistons à la montée de « nouvelles formes d’esclavage », a écrit Leo, « qui sont délibérément gardées cachées ».

Il a déclaré que sans lignes directrices éthiques et humanisantes, « la puissance croissante des systèmes numériques pourrait nous conduire à de nouvelles atrocités non moins honteuses que celles du passé que nous déplorons aujourd’hui, alors que nous continuons à nous présenter comme des sociétés « avancées » et « civilisées ».

Dans ce contexte, Léon réfléchit à l'histoire troublante de l'Église catholique en matière d'esclavage, depuis l'Antiquité et le Moyen Âge jusqu'aux bulles papales du XVe siècle permettant aux nations européennes de soumettre et même d'asservir les « infidèles ».

« Il est impossible de ne pas ressentir une profonde tristesse en contemplant les immenses souffrances et humiliations endurées par tant de personnes, en contraste frappant avec leur dignité incommensurable en tant que personnes infiniment aimées du Seigneur », a-t-il écrit. « Pour cela, au nom de l'Église, je demande sincèrement pardon. »

S'adressant aux journalistes après la présentation du document au Vatican, le cardinal de Chicago, Blase Cupich, a déclaré que les excuses de Léon s'alignent sur les efforts déployés par les pontifes précédents, dont saint Jean-Paul II, « pour regarder le passé et s'excuser pour la manière dont les responsables de l'Église et les individus de l'Église ont blessé autrui ».

3. Plaidoyer pour une réglementation de l’IA – chacun doit faire sa part

À Washington, le débat sur la manière – ou même l’opportunité – de réglementer l’IA fait rage depuis des mois. Pas plus tard que la semaine dernière, le président Donald Trump a brusquement annulé à la dernière minute un décret visant à réglementer l’IA, annulant un événement marquant la signature de l’ouverture quelques heures seulement avant son début. Selon plusieurs reportages, Trump s’est retiré des efforts de réglementation après avoir entendu les réticences des dirigeants et des conseillers en technologie de l’IA.

Mais à Rome, le pape Léon semble considérer la réglementation de l’IA non comme une question à débattre mais comme une étape essentielle.

« Il est nécessaire de mettre en place des outils réglementaires adéquats, capables de faire respecter la justice et de freiner les effets de distorsion du pouvoir technologique », écrit Leo dans « Magnifica Humanitas ».

De plus, Leo affirme que la réglementation en elle-même n'est pas suffisante. Il préconise un examen plus large des facteurs à l’origine de l’IA, appelant à un « processus de discernement partagé » impliquant les gens de toute la planète, chargé d’« identifier les racines spirituelles et culturelles des transformations en cours ».

Il ajoute : « Si nous nous concentrons uniquement sur les imprévus, nous risquons de laisser la succession des urgences dicter la direction de notre chemin. »

« En pratique, cependant, la technologie n'est jamais neutre, car elle adopte les caractéristiques de ceux qui la conçoivent, la financent, la réglementent et l'utilisent », écrit Leo. « Par conséquent, le premier choix n’est pas entre un « oui » ou un « non » à la technologie, mais plutôt entre la construction de Babel ou la reconstruction de Jérusalem ; entre une puissance qui prétend dominer les cieux et un peuple qui travaille ensemble en présence de Dieu pour reconstruire les murs de la coexistence fraternelle. »

4. Repense la théorie de la « guerre juste »

Pendant des siècles, les catholiques (y compris les papes) et d’autres chrétiens ont débattu d’un concept connu sous le nom de théorie de la « guerre juste ». Dans les contextes chrétiens, l'idée, selon laquelle certaines guerres peuvent être moralement justes si elles répondent à certains critères, trouve ses origines dans les saints. Ambroise et Augustin.

Mais cette théorie est devenue récemment un point chaud aux États-Unis après que le pape Léon – tout comme son prédécesseur, le pape François – a suggéré à plusieurs reprises que la guerre elle-même devait être condamnée de manière générale. adage dans une récente homélie en mars, Jésus « n’écoute pas les prières de ceux qui font la guerre ».

Les déclarations de Leo, ainsi que ses critiques de la guerre en cours en Iran, ont incité des républicains américains tels que le vice-président JD Vance, un catholique, et le président de la Chambre, Mike Johnson, à réagir en invoquant la guerre juste.

« Lorsque le pape dit que Dieu n'est jamais du côté des gens qui brandissent l'épée, il existe une tradition de plus de 1 000 ans de théorie de la guerre juste », a déclaré Vance.

Mais Leo a redoublé son aversion pour la guerre juste dans « Magnifica Humanitas ». Écrivant sur ses préoccupations concernant l’utilisation de l’IA dans la guerre – « Aucun algorithme ne peut rendre la guerre moralement acceptable », écrit Leo – le pontife a clairement indiqué qu’il considérait la théorie juste de la guerre comme un artefact d’une époque révolue.

« Aujourd'hui plus que jamais, sans préjudice du droit de légitime défense au sens le plus strict du terme, il est important de réaffirmer que la théorie de la « guerre juste », qui a trop souvent été utilisée pour justifier toute sorte de guerre, est désormais dépassée », écrit Leo.

5. Cherche des alternatives au PIB pour mesurer le développement

Les nations évaluent depuis longtemps la puissance et la santé d’un pays sur la base du produit intérieur brut, qui représente la totalité de la valeur marchande d’un pays à un moment donné. Mais Leo soutient dans sa nouvelle encyclique que la meilleure façon de mesurer le développement d'une nation n'est pas simplement la somme des richesses accumulées, mais une liste complexe de facteurs supplémentaires.

« Il est important d’aller au-delà des mesures actuelles du développement – ​​qui depuis plus de quatre-vingts ans sont liées au concept de produit intérieur brut (PIB) – puisque ces mesures négligent presque systématiquement les aspects essentiels au bien-être général des personnes et de l’environnement », écrit Leo.

Leo suggère que de meilleurs indicateurs pour évaluer le développement devraient se concentrer sur « la dignité du travail, la prospérité partagée, la réduction des inégalités et la protection de l’environnement », en aspirant à une économie mondiale qui « valorise la dignité ».

« Il faut donc rappeler que la liberté économique n'est pas absolue ; elle doit toujours être mesurée à l'aune du bien commun et de la dignité de chaque personne », écrit le pontife.