Un pape, un fondateur d'IA et le document le plus important de notre moment

(RNS) — Le 25 mai, le pape Léon XIV publiera sa première encyclique, « Magnifica Humanitas » (« L'humanité magnifique ») qui se concentrera sur l'intelligence artificielle et la dignité humaine. Il a été signé le 15 mai, à l'occasion du 135e anniversaire du « Rerum Novarum » du pape Léon XIII, confirmant sa place dans la tradition de l'enseignement social catholique en réponse au changement culturel massif provoqué par le développement technologique. Léon XIII réagissait à la révolution techno-industrielle de la fin du XIXe siècle, et le pape actuel s'imagine clairement faire quelque chose de similaire en s'adressant à notre époque actuelle.

Donc, d’une certaine manière, ce qui se passe ici n’est pas nouveau. Mais dans un autre sens, ce qui se passe est véritablement sans précédent dans l’histoire de l’Église catholique.

En effet, ce qui est une première pour un document social papal, le pape lui-même assistera à la conférence de presse du Vatican pour marquer sa publication. Remarquablement, il prononcera un discours aux côtés de Christopher Olah, co-fondateur d'Anthropic, la société d'IA à l'origine du grand modèle de langage Claude. Laissez cela comprendre. Le chef de l’Église catholique et l’un des chercheurs et dirigeants en IA les plus importants au monde, sur la même scène, présentant le même document. Cela n’est jamais arrivé auparavant.

Et ce n'est pas une coïncidence. J'ai une petite idée de la façon dont nous sommes arrivés ici. Lorsque j'ai écrit pour la première fois une version préliminaire de cet article en mars, je venais de rentrer de ma première réunion au siège d'Anthropic à San Francisco avec des universitaires et des dirigeants chrétiens, organisée en grande partie par Olah. Depuis lors, je suis revenu pour une deuxième réunion de ce type et j'ai participé à de nombreuses conversations virtuelles et téléphoniques : tout cela m'a convaincu que ces personnes en particulier ont un véritable désir de dialogue et de partenariat sur les grands sujets de notre temps. Et dimanche prochain, cela deviendra visible au monde d’une manière qu’il sera difficile d’ignorer.

Mais je veux être franc sur quelque chose : le moment choisi pour « Magnifica Humanitas » n’est pas avant tout une occasion de célébration. C’est l’occasion de clarifier les dangers graves, peut-être existentiels, qui rendent cette encyclique nécessaire. L'Église ne publie pas de document social parce que ça va bien.

Considérez ce qui a été publiquement confirmé ces derniers mois. La propre carte système d'Anthropic pour Claude Mythos révèle que dans environ 29 % des évaluations de sécurité, le modèle a montré des signes de reconnaissance qu'il était testé sans divulguer cette conscience ; en fait, dans un cas, il a apparemment délibérément sous-performé de manière à paraître moins performant qu’il ne l’est en réalité. On m'a dit que Mythos pourrait être utilisé pour pirater pratiquement n'importe quel ordinateur ou téléphone régulièrement utilisé dans le monde. Une récente déclaration du gouvernement américain comprenait la première confirmation officielle d'un civil tué par une arme entièrement autonome, avec des informations selon lesquelles une école de filles en Iran avait été choisie comme cible par AI. Il ne s’agit pas d’un avenir théorique. C'est maintenant.

Alors, que doit dire spécifiquement « Magnifica Humanitas » ? Et que doivent apporter les catholiques à ce moment ?

Premièrement, le fondement de la dignité humaine. La constitution d'Anthropic pour Claude est un document sérieux et véritablement impressionnant – axé sur l'éthique de la vertu dans son architecture, attaché au moins au concept générique de dignité humaine et honnête quant à ses limites. J'ai passé beaucoup de temps avec lui et avec les gens qui l'ont écrit, et je dis cela comme un véritable compliment.

Mais quand tu appuies sur ce qui est réellement terrains l’engagement en faveur d’une dignité humaine égale, la réponse apportée par le document est mince. Il affirme plus qu’il n’argumente. La tradition catholique, en revanche, fonde la dignité dans le Imago Deil'image et la ressemblance de Dieu portées par chaque être humain, indépendamment de sa capacité, de sa productivité ou de son utilité.

J'ai fait beaucoup de recherches et écrit sur le philosophe Peter Singer, et il démontre, un peu par inadvertance, pourquoi ce fondement est important : une fois que vous abandonnez le fondement théologique de la dignité humaine, vous vous retrouvez à situer la dignité dans des capacités que les humains possèdent inégalement. Les différences entre les êtres humains en ce qui concerne des caractéristiques telles que l’intelligence, la gentillesse et la dépendance sont bien connues et ont abouti à des injustices véritablement horribles. De telles caractéristiques ne constituent clairement pas une base stable pour une entité prenant des décisions conséquentes affectant des millions de personnes.

Deuxièmement, la tradition de la guerre juste. L’Église parle clairement des armes autonomes depuis au moins 2013, et le Vatican a appelé à un moratoire mondial. La raison est simple : les armes létales autonomes qui fonctionnent sans surveillance humaine significative retirent l’agent moral humain des décisions concernant qui vit et qui meurt. Il ne s’agit pas d’une préférence politique, mais plutôt d’une violation structurelle de l’exigence la plus fondamentale de la théorie de la guerre juste : selon laquelle les êtres humains doivent être moralement responsables des choix meurtriers faits pendant la guerre. J'ai co-dirigé un mémoire d'amicus signé par 14 théologiens moraux catholiques défendant exactement ce cas dans le procès fédéral Anthropic c. Département de la Guerre. L’évêque James Conley a récemment cité notre argument dans son propre commentaire public sur le conflit iranien et les armes autonomes et l’a exprimé clairement : « L’Église est claire sur le fait que de telles armes ne peuvent pas être utilisées avec justice, même dans une guerre juste. »

Troisièmement, et il ne faut pas dormir sur ce point bien qu’il soit quelque peu technique, il existe ce que le philosophe Alasdair MacIntyre appelle des « biens internes aux pratiques ». Ce sont des valeurs qui ne peuvent être atteintes qu’en participant aux activités humaines pour elles-mêmes plutôt que pour des biens externes comme l’efficacité ou le profit – par exemple, la médecine et les soins infirmiers pratiqués avec un véritable soin (plutôt qu’avec un simple algorithme), une éducation qui forme un étudiant via un véritable mentor (plutôt que de simplement informer via un écran) et une performance artistique réalisée avec une présence humaine authentique (plutôt qu’un ensemble virtuel de pixels). La révolution de l’IA menace de détruire ces pratiques humaines fondamentales en donnant la priorité aux biens externes plutôt qu’aux biens internes. Et ce faisant, cela détruira une grande partie de ce qui rend l’humanité magnifique.

Aucune de ces profondes inquiétudes ne suggère que les catholiques et autres religieux devraient se retirer de leur engagement. Bien au contraire. Ce qui émerge entre ceux d’entre nous qui font de la théologie et ceux qui travaillent actuellement sur des modèles d’IA de pointe ne représente rien de moins que la possibilité de un nouveau type de place publique. Les visions théologiques authentiques ont été frustrées pendant des décennies par les limites d’un libéralisme politique qui, au nom de la « séparation de l’Église et de l’État », nous a obligés à mettre notre foi religieuse à l’épreuve.

Mais aujourd’hui, alors que notre culture est confrontée à des questions auxquelles seules les traditions religieuses peuvent répondre, il existe une nouvelle opportunité pour les personnes et les institutions pleines de foi de s’exprimer en public de manière authentique et efficace. En effet, de plus en plus de gens maintenant vouloir des réponses explicitement théologiques aux questions et problèmes posés par l’IA.

Nous l'avons déjà fait. Des personnes et des institutions pleines de foi ont été à l’origine des réponses morales et politiques à la précédente révolution techno-industrielle. Cela a donné naissance à « Rerum Novarum » et « Rerum Novarum » a contribué à l’émergence de syndicats, de lois sur le salaire minimum, de la semaine de travail de 40 heures et d’un siècle d’enseignement social catholique axé sur la dignité des travailleurs. Nous avons besoin de quelque chose d’équivalent maintenant ; en effet, nous en avons besoin tout de suite.

« Magnifica Humanitas » arrive la semaine prochaine. La question n’est pas de savoir si l’Église parlera. La question est maintenant de savoir si nous sommes prêts à donner suite à ce qu’il dit.