Ce que l’Église catholique peut enseigner à la Silicon Valley sur l’IA

(RNS) — Première encyclique du pape Léon XIV, « Magnifica Humanitas » a retenu l’attention du monde comme presque aucun autre document papal ne l’a fait. L’autorité morale la plus importante sur ce sujet à ce jour, le pape lance un appel à l’action à l’échelle de l’humanité sur l’intelligence artificielle et sur la manière dont elle peut refléter au mieux « la participation humaine à l’acte divin de création ».

Dans ce document, il décrit trois groupes et invites distincts. Premièrement, il affirme que les créateurs de technologies doivent s’interroger sur le but ultime de ce qui est construit, en s’assurant qu’il sert l’épanouissement humain plutôt que la simple efficacité. Pendant ce temps, les législateurs et les organismes internationaux doivent élaborer des cadres juridiques contraignants qui donnent la priorité aux droits de l’homme et au bien commun plutôt qu’à l’expansion du marché. Et les individus et les communautés doivent résister à l’idée de traiter les relations humaines et l’identité à travers le prisme des mesures numériques et d’un paradigme technocratique, et choisir plutôt l’empathie, la miséricorde et une véritable rencontre personnelle.

Il est crucial qu’un processus et un cadre soient en place pour guider cet effort mondial. Et les universités, en tant que puissants organisateurs et pôles de connaissances, sont prêtes à jouer un rôle de partenaires essentiels.

En tant que leaders éthiques et religieux de l’Université de Santa Clara, au cœur de la Silicon Valley, et forts de notre expérience dans la résolution de problèmes complexes grâce à la médiation et à la contribution de l’industrie technologique, nous suggérons d’adopter une idée promue par le prédécesseur de Leo, le pape François : synodalité.

Qu’est-ce que la synodalité ?

La synodalité est une méthode consultative permettant à ceux qui sont confrontés à un problème ou à un défi important de s’engager profondément, d’éviter délibérément un débat gagnant ou perdant et d’honorer intentionnellement la dignité de chaque participant. Elle se caractérise par une écoute active, un dialogue inclusif et un discernement partagé.

Le pape François a élevé la synodalité au rang de pratique à l’échelle de l’Église, passant trois ans à l’utiliser pour discerner la voie à suivre pour l’Église catholique. L’un des auteurs de cet article, le doyen Agbonkhianmeghe Orobator, était l’un des 364 participants votants aux deux rassemblements emblématiques d’une durée d’un mois pour le Synode de François sur la synodalité de 2023 à 2024.

Même si la synodalité dans l’Église catholique repose sur la croyance en la présence du Saint-Esprit à l’œuvre dans les discussions, elle a des mérites en dehors de la spiritualité. Il possède le pouvoir et la structure nécessaires pour invoquer des croyances partagées face aux défis. Notamment, un processus synodal en 2019 a contribué à la détente entre deux dirigeants en guerre au Soudan du Sud, grâce à leur volonté d’entreprendre cet effort d’introspection et de rappel de leurs valeurs communes en tant que peuple.

Parmi de nombreux éléments, la synodalité déplace le pouvoir vers le collectif et donne la priorité à la collaboration, guidée par cinq principes principaux. Nous les explorons ci-dessous, ainsi que ce que pourrait englober un processus synodal d’IA.

Voix égales et mutualité

Lors du Synode sur la Synodalité, des laïcs, des théologiens, des agents pastoraux, des jeunes adultes, des professeurs d’université, des militants et des dirigeants d’initiatives catholiques se sont joints aux cardinaux, aux évêques et au pape. Chacun avait une voix égale et des droits de vote égaux dans le processus. Il s’agissait là d’une rupture inconfortable par rapport aux pratiques historiques. Mais lorsqu’il est devenu clair que tous les groupes étaient ouverts à l’apprentissage et désireux de voir leurs perspectives changer, et que des décisions absolues n’allaient pas découler immédiatement du processus d’établissement de relations, les gens se sont ouverts à différents points de vue et ont pu les laisser s’imprégner.

Lors d’un rassemblement synodal d’IA, nous envisageons que les dirigeants de la Silicon Valley aient le même temps et la même voix avec des représentants réfléchis et sélectionnés de certaines des circonscriptions vitales soulevées dans « Magnifica Humanitas ». Par exemple:

• Les travailleurs préoccupés par l’orientation de l’IA, peut-être sélectionnés par les syndicats qui promulguent les principes concrets d’une « IA axée sur les travailleurs ».
• Technologues employés pour mettre en œuvre des outils visant à accroître la capacité de l’IA ; des lanceurs d’alerte éminents pourraient être des invités.
• Des lycéens ou collégiens informés sur l’IA et inquiets de son usurpation rapide du marché du travail, peut-être choisie par les dirigeants universitaires.
• Des universitaires ou des professionnels de la santé chargés d’imaginer le potentiel salvateur de l’IA pour résoudre certaines des maladies les plus dévastatrices ou les problèmes académiques les plus épineux auxquels l’humanité est confrontée.
• Les défenseurs des droits de l’homme partagent le bilan humain de l’extraction des ressources dans des pays comme l’Afrique, que le pape Léon a qualifié de « nouvelles formes d’esclavage ».
• Des dirigeants politiques réfléchis de tous bords qui souhaitent mettre en œuvre des règles possibles, justes et meilleures pour le bien commun.
• Les leaders environnementaux se sont concentrés sur les réalités de l’impact de l’IA sur le climat.
• Les chefs religieux, dont même le pape Léon, ont appelé à un ralentissement des progrès des technologies de l’IA et à une gouvernance responsable alignée sur la promotion de la dignité humaine.

Écoute intentionnelle et dialogue génératif

La synodalité donne la priorité à une compréhension profonde plutôt qu’à la simple « victoire » d’un argument. Les participants sont encouragés à évaluer le succès du rassemblement dans le contexte du développement et du renforcement de la communauté plutôt que dans le contexte de l’élévation de motivations préexistantes. L’avantage d’aborder le rassemblement avec cet état d’esprit est que cela ouvre la voie à un accord, à un compromis et à des règles de base partagées, avec lesquelles un état d’esprit compétitif a naturellement du mal.

Le défi et la promesse d’un rassemblement synodal sur l’IA serait de trouver des participants qui ne soient pas simplement des lobbyistes ayant des arguments bien aiguisés ou des intérêts directs dans l’IA, mais plutôt ceux qui représentent le véritable visage humain de son impact : des créateurs de première ligne, et non des spécialistes des relations publiques. Des ouvriers travaillant sur des solutions, pas des avocats défendant des intérêts particuliers.

En tant que région connue pour accueillir des tables rondes et des dialogues – et adopter des pratiques telles que la pleine conscience, les autopsies « irréprochables » après un échec et le développement de nouvelles technologies grâce à des collaborations ouvertes avec les parties prenantes – la Silicon Valley pourrait être prête à organiser ce type de rassemblement. Cela aurait l’avantage supplémentaire d’offrir une réponse positive et innovante aux réactions négatives de l’IA.

Réflexion sur soi et conversion personnelle

La caractéristique la plus unique d’un synode sur l’IA serait peut-être l’espace et le temps nécessaires pour réfléchir avec les participants divers et sélectionnés et leurs points de vue. Une réunion synodale impliquerait un dialogue multidimensionnel et multidisciplinaire incluant une variété d’interlocuteurs, notamment des innovateurs technologiques, des organisations de la société civile, des autorités politiques et des dirigeants des sciences humaines et sociales. Chacun travaillerait vers la vision proposée par le pape Léon : « trouver des principes de pensée, des critères de discernement et de jugement et des lignes directrices concrètes pour l’action ».

Ce faisant, les participants redécouvriront leur humanité commune – ces éléments qui méritent d’être protégés et pour lesquels il faut se battre à mesure que l’IA se développe et se diffuse dans notre monde.

Acceptation de l’inconfort productif

Lors du Synode sur la synodalité, de nombreux cardinaux et évêques étaient visiblement mal à l’aise de mettre de côté leurs rôles traditionnels d’enseignants et de décideurs. Mais abaisser leurs défenses et aplatir les hiérarchies traditionnelles s’est avéré être la clé pour permettre la vulnérabilité et la confiance entre les participants.

Comme le Pape Léon l’a dit précédemment à propos de la synodalité : « Personne n’est appelé à dominer ; tous sont appelés à servir. Personne ne doit imposer ses propres idées ; nous devons tous nous écouter les uns les autres. Personne n’est exclu ; nous sommes tous appelés à participer. Personne ne possède toute la vérité ; nous devons tous la chercher humblement et la chercher ensemble ».

Lors du Synode sur la synodalité, tous les participants ont centré leurs discussions autour d’une question essentielle posée par le pape François : « Quelles étapes l’Esprit nous invite-t-il à faire pour grandir dans notre « chemin ensemble » ? Les discussions à la table ont vu chaque individu répondre à cette question, partageant les défis et les opportunités qui les affectaient ainsi que ceux qu’ils représentent.

La question essentielle d’un synode sur l’IA pourrait être tout aussi simple, mais profonde. Par exemple : « L’IA devrait contribuer et soutenir l’épanouissement humain. De quelles manières le fait-elle ? De quelles manières ne le fait-elle pas ? » La question fondamentale serait bien sûr, comme le pose « Magnifica Humanitas », dans quel genre d’avenir voulons-nous vivre ensemble ?

Faire apparaître de nouveaux objectifs partagés

Les discussions des groupes de discussion des participants au Synode sur la synodalité ont été documentées par des scribes qui ont compilé les apprentissages dans des rapports quotidiens destinés au corps collectif. Les membres ont ensuite voté sur ce qui devait être inclus, chaque vote ayant le même poids. Cela était remarquable, car les cardinaux et les évêques étaient traditionnellement habitués à avoir le dernier mot.

Bien que l’une des critiques formulées à l’encontre de la synodalité ait été que son résultat principal était le dialogue et non des solutions concrètes, dans ce cas, il s’agirait d’une fonctionnalité et non d’un bug. Il faut parler avant de pouvoir agir. Nous ne pensons pas qu’il existe une voie à suivre significative pour l’IA sans la création d’un réseau de personnes en dialogue véritable les unes avec les autres. Lorsque les participants découvrent la valeur de cette formule synodale, ils sont habilités à la modéliser dans leurs propres organisations afin d’en maintenir les effets d’entraînement.

L’encyclique contient quatre références spécifiques et près de trois douzaines de références implicites à la synodalité. En discutant de la nécessité d’établir des idéaux pour ce que l’on entend par « bien commun », par exemple, le pape Léon reconnaît qu’il existe « de nombreuses différences idéologiques et pratiques entre les gens, ainsi que des intérêts divergents et des désaccords fréquents ». Il poursuit en affirmant que « cela ne signifie pas qu’il est impossible d’engager un dialogue pour établir un ensemble d’accords de base permettant de créer une vision partagée, sur laquelle chacun peut avancer ensemble ».

Comme François l’a dit aux participants au synode d’octobre 2023, un rassemblement réussi nécessite seulement la volonté d’essayer et la volonté de se laisser changer par le processus. En termes spirituels, c’est une forme de conversion. À notre époque et dans notre histoire, le résultat serait la première vision partagée du potentiel de l’IA, ce qui ouvrirait la porte à de nouvelles discussions vers de réels progrès.

Cette voie à suivre fournit les bases nécessaires de compréhension, de respect, de confiance et de relations essentielles au développement et à la mise en œuvre d’une IA qui sert la dignité humaine et le bien commun de tous. Nous sommes prêts à nous joindre à ceux qui souhaitent lancer une approche synodale de l’IA.

(Agbonkhianmeghe Orobator, SJ, est doyen de l’École jésuite de théologie de l’Université de Santa Clara. Brian Patrick Green est directeur de l’éthique technologique au Markkula Center for Applied Ethics de l’Université de Santa Clara. Les opinions exprimées dans ce commentaire ne reflètent pas nécessairement celles de Religion News Service.)