Dans sa première encyclique, le pape Léon XIV affirme que l'IA doit servir l'humanité, et non quelques puissants.

CITÉ DU VATICAN (RNS) — Le pape Léon XIV a directement visé le pouvoir des grandes technologies dans sa première encyclique lundi 25 mai, avertissant que l'intelligence artificielle risquait d'aggraver les inégalités, d'affaiblir la démocratie et de saper ce que signifie être humain.

Le document pédagogique papal de 83 pages, intitulé « Magnifica Humanitas » (Humanité magnifique), présente l’IA comme la nouvelle révolution industrielle et lance un appel à « désarmer l’IA » en la retirant des intérêts militaires et économiques, en soumettant les entreprises d’IA à des réglementations étatiques et internationales plus strictes et en invitant la large participation des individus et des communautés à façonner l’avenir de cette technologie en développement rapide.

« Désarmer l'IA signifie la libérer de la mentalité de concurrence 'armée', qui aujourd'hui ne se limite pas seulement au contexte militaire, mais est aussi un phénomène économique et cognitif », a écrit Leo. « Désarmer ne signifie pas renoncer à la technologie, mais l'empêcher de dominer l'humanité », a-t-il ajouté.

« Pour cette raison, il ne suffit pas de la réglementer ; elle doit être désarmée, accueillante et accessible », peut-on lire dans le document.

Leo s’en prend également aux Big Tech dans le document, soulignant les dangers de voir quelques individus riches influencer l’avenir et les moyens de subsistance de l’humanité, élargissant ainsi le fossé « entre ceux qui peuvent participer à la révolution numérique et ceux qui restent en marge ».

« L’IA tend à amplifier le pouvoir de ceux qui possèdent déjà des ressources économiques, une expertise et un accès aux données », écrit-il. « Des groupes petits mais très influents peuvent façonner les modes d’information et de consommation, influencer les processus démocratiques et orienter la dynamique économique à leur propre avantage, sapant ainsi la justice sociale et la solidarité entre les peuples. »

Le pape Léon a présenté l'encyclique lundi dans la salle du Synode du Vatican, où il a fait référence à l'encyclique « Rerum Novarum » (Sur les choses nouvelles) de 1891, écrite par son homonyme le pape Léon III pour relever les défis posés par la révolution industrielle du 19e siècle.

« Je me sens chargé de superviser une autre grande transformation à travers les yeux de la foi, avec la clarté de la raison et avec l'ouverture au mystère divin, avec le cri des pauvres et la terre résonnant dans mon cœur », a déclaré Leo, ajoutant que l'encyclique était le résultat d'une écoute profonde de scientifiques et d'ingénieurs, de dirigeants politiques et de fonctionnaires, de parents et d'enseignants profondément préoccupés par l'avenir des générations futures.

« Désarmer ne suffit pas, nous devons construire », a-t-il ajouté, appelant à une large participation à la programmation, à la réglementation et aux bénéfices de l’IA.

Le pape a présenté le document aux côtés de prélats de haut rang du Vatican, de théologiens catholiques et de Chris Olah, co-fondateur d'Anthropic, la société américaine d'IA derrière Claude qui s'efforce de se présenter comme étant axée sur la sécurité et l'éthique.

S'exprimant lors de l'événement, Olah a déclaré que le développement de l'IA « s'opère dans le cadre d'un ensemble d'incitations et de contraintes qui peuvent parfois entrer en conflit avec la bonne chose », citant des préoccupations commerciales, la pression géopolitique, la fierté et l'ambition.

Pour cette raison, a-t-il déclaré, « nous avons besoin qu’une plus grande partie du monde – communautés religieuses, société civile, universitaires, gouvernements – fasse ce que Sa Sainteté a fait ici : prendre cela au sérieux, y regarder de près et pousser les événements dans une meilleure direction ».

Au cœur de l’encyclique se trouve l’insistance sur la primauté de l’être humain sur l’intelligence artificielle. La dignité de la personne humaine « ne dépend pas de ses capacités, de sa richesse ou de sa position dans la vie, ni des bons ou mauvais choix qu'elle a faits », mais simplement du fait qu'elle existe, affirme l'encyclique.

À l’époque des chatbots IA, Leo a écrit que le risque n’est pas seulement qu’une personne interagissant avec un agent IA puisse croire qu’elle parle à une personne, mais qu’elle perde complètement le désir de rechercher d’autres personnes. Et confier la prise de décision aux machines peut « encourager une confiance excessive et la recherche de réponses toutes faites, et affaiblir la créativité et le jugement personnels ».

Dans ce document, le pape reconnaît l’impact positif que l’innovation en matière d’IA peut apporter à la société humaine et à la protection de l’environnement, tout en mettant en garde contre ses dangers. « La technologie n'est jamais neutre », a écrit Leo, ajoutant qu'elle est l'expression des intérêts et des parties prenantes qui la sous-tendent.

« Lorsqu’un tel pouvoir est concentré entre les mains de quelques-uns, il a tendance à devenir opaque et à échapper au contrôle public, augmentant ainsi le risque de formes de développement déformées qui donnent naissance à de nouvelles dépendances, exclusions, manipulations et inégalités », a écrit Leo.

Leo a fait valoir que l’application de principes moraux et éthiques aux modèles d’IA ne peut se produire une fois qu’ils ont fait des ravages dans la société – de telles valeurs doivent être appliquées dans leur construction. « Pour que l’IA respecte la dignité humaine et serve véritablement le bien commun, la responsabilité doit être clairement définie à chaque étape : de ceux qui conçoivent et développent ces systèmes jusqu’à ceux qui les utilisent et s’appuient sur eux pour prendre des décisions concrètes », a-t-il écrit.

S'opposant aux dirigeants qui résistent aux restrictions imposées au développement de l'IA, Leo a expliqué qu'« appeler à la prudence, à une évaluation rigoureuse et même, parfois, à un rythme plus lent dans l'adoption de l'IA ne signifie pas s'opposer au progrès ; il s'agit plutôt d'un exercice de prise en charge responsable de la famille humaine ».

Dans un clin d’œil aux modèles d’IA qui ont adopté des constitutions éthiques – comme Anthropic – le pape a déclaré que de tels cadres doivent encore être discutés et soumis à des critères de justice sociale partagée. « Une IA plus morale ne suffit pas si cette moralité est déterminée par quelques-uns », a-t-il écrit.

Le document reprend également les philosophies populaires de la Silicon Valley, le transhumanisme et le posthumanisme, que le pape a défini comme une série d’hypothèses « qui interprètent le progrès comme dépassant la condition humaine ».

Ces philosophies considèrent les limitations – notamment la maladie, le handicap, la vieillesse et la vulnérabilité – comme quelque chose à surmonter, écrit Leo, mais « nous devons nous rappeler que l’humanité ne s’épanouit pas. malgré limites, mais souvent à travers elles », ajoutant qu’une vie sans limites signifierait en fin de compte ne pas être humain.

Víctor Manuel Fernández, qui dirige le département doctrinal du Vatican, a déclaré lors de la présentation du document que contrairement à ces philosophies, affirmant « que l'humanité a atteint sa date d'expiration et doit simplement être remplacée », l'enseignement catholique estime que « chaque être humain a une dignité infinie ».

En comparant les dangers de l’IA, Leo a souligné la vérité comme « un élément essentiel de la démocratie » et a exhorté les gens à recevoir une éducation sur l’IA, en particulier les jeunes. Alors que l’IA promet d’alléger la charge de travail, Leo a averti qu’« elle oblige souvent les travailleurs à s’adapter à la vitesse et aux exigences des machines, plutôt que de concevoir des machines pour soutenir ceux qui travaillent ».

Dans cette quatrième révolution industrielle, la priorité doit être « la protection des opportunités d’emploi et du rôle irremplaçable de l’individu », a écrit Leo.

Alors que les disparités économiques mondiales s’accroissent, le pape a averti que « le progrès technologique produira inévitablement des inégalités structurelles ». Leo a appelé à des systèmes fiscaux qui allègent le fardeau des plus vulnérables et exigent davantage de ceux qui disposent de plus de ressources, tandis que les bénéfices des innovations devraient être transparents et partagés avec l'ensemble de la communauté.

Le pape a mis en garde contre les « nouvelles formes d’esclavage », en soulignant la trace de l’exploitation humaine et environnementale derrière l’IA – depuis la formation des modèles sur du matériel protégé par le droit d’auteur jusqu’à l’extraction de minéraux rares utilisés dans le matériel d’IA. Léon a également réfléchi à l'histoire du comportement de l'Église à l'égard de l'esclavage, qui n'a été pleinement dénoncé qu'au 19^ème siècle par Léon XIII, soulignant la lente évolution de la doctrine catholique au fil du temps.

« Pour cela, au nom de l'Église, je demande sincèrement pardon », a écrit Léon.

Il existe un « nouveau visage » du colonialisme, affirme Leo, qui non seulement domine les corps, mais s'approprie également les données : flux sanitaires, profils épidémiologiques, cartes génétiques et données démographiques. « Celles-ci sont devenues les nouvelles terres rares du pouvoir », a déclaré Leo, ajoutant que la technologie de l'IA entre les mains d'un petit nombre d'individus ou de groupes orientés vers le profit représente une nouvelle forme de domination coloniale.

« C'est là que réside l'un des défis moraux les plus urgents de notre époque : faire en sorte que la connaissance partagée devienne un véritable bien commun plutôt qu'un instrument de domination. Cela nécessite de restituer aux individus non seulement les données qui les décrivent, mais aussi la capacité de décider comment elles sont utilisées, par qui et au profit de qui », écrit-il.

Une longue partie du document réfléchit sur le thème de la guerre, que le pape a dénoncé à plusieurs reprises au cours de sa première année en tant que pontife. L’utilisation militaire de l’IA « doit être soumise aux contraintes éthiques les plus rigoureuses », a-t-il écrit, ajoutant que la responsabilité des actions militaires, et particulièrement meurtrières, devrait incomber aux êtres humains et non aux machines.

Il a appelé à la traçabilité dans les processus décisionnels en matière de guerre, à la surveillance humaine et à la création de lois internationales pour lutter contre l'utilisation accrue d'armes automatisées et leurs conséquences.

Le document est basé sur les contributions des pontifes passés, à commencer par le pape Léon XIII, et s'appuie sur l'enseignement social catholique, la tradition de l'Église consistant à appliquer des principes moraux à la vie sociale, économique et politique, avec la dignité humaine et le bien commun en son centre.

La solidarité et le souci du « prochain » sont des aspects clés de la réflexion du Lion, avec une préoccupation particulière pour les prochaines générations.

La justice sociale « ne concerne pas seulement une répartition plus juste des ressources ou la correction des injustices actuelles, mais revêt également une dimension réparatrice », a écrit Leo. Appliquant le même principe au domaine numérique, le pape a mis en garde contre « les nouvelles formes d’exclusion et de privation de libertés », telles que la surveillance invasive, les communautés privées d’accès aux technologies de base et les groupes lésés par des algorithmes opaques qui perpétuent la discrimination.

Dans ce contexte, il a également abordé la migration comme un « test décisif pour la justice sociale aujourd’hui ».

Dans l'introduction, Léon s'inspire de la Bible pour juxtaposer la ville de Babel, avec sa quête de pouvoir et d'autosuffisance, et la reconstruction de Jérusalem par Néhémie, orientée sur la prière et la participation des familles et des communautés. Cela reflète les enseignements de l'ordre religieux du pape, fondés sur les principes de saint Augustin, qui opposent l'amour pour la cité terrestre, structurée autour des concepts de pouvoir et de domination, avec l'aspiration à la cité céleste de Dieu.

« Comme tout au long de l'histoire, ces deux amours continuent aujourd'hui de se battre pour la domination dans nos cœurs. L'ère de l'IA ne fait pas exception : la construction de Babel ou la reconstruction de Jérusalem commence en chacun de nous », a-t-il écrit.

Le document a déjà reçu un fort soutien de la part des catholiques et des experts en technologie.

« Il s'agit d'une opportunité historique pour le monde d'examiner une nouvelle technologie et de réfléchir réellement à son utilité », a déclaré Brian Patrick Green, directeur de l'éthique technologique au Markkula Center for Applied Ethics de l'Université de Santa Clara.

 » Quel est le but de cette technologie ? Qu'est-ce qu'elle est censée faire dans le monde ? Comment peut-elle aider les gens ? Que devons-nous faire pour nous assurer que cette technologie fait de son mieux pour le plus grand nombre de personnes dans le monde ? « 

Cette histoire sera mise à jour.