Oscar Cantú, président du groupe de travail des évêques américains sur l'IA, exhorte Trump à regarder au-delà de « l'ego

CITÉ DU VATICAN (RNS) — Le 16 septembre, la Conférence des évêques catholiques des États-Unis a annoncé que l’évêque de San José, en Californie, présiderait un nouveau groupe de travail sur la préservation de la dignité humaine à l’ère de l’intelligence artificielle. L’initiative vise à impliquer les développeurs d’IA, à plaider en faveur de garanties gouvernementales et à sensibiliser les évêques et les diocèses à la technologie émergente.

Le groupe de travail fait suite à l’appel du pape Léon XIV à la transparence, à la responsabilité et à une large participation du public dans l’élaboration de l’IA, comme le souligne son encyclique de mai, « Magnifica Humanitas ».

Religion News Service s’est entretenu avec Cantú via Zoom le 17 septembre au sujet de l’intérêt croissant de la Silicon Valley pour la contribution de l’Église catholique, des tensions avec l’administration Trump et de la possibilité d’une médiation du Vatican dans les négociations sur les garanties communes en matière d’IA entre les États-Unis et la Chine.

L’interview suivante a été modifiée pour des raisons de longueur et de clarté.

Quels sont les objectifs du groupe de travail de l’USCCB sur l’intelligence artificielle ?

Ce n’est pas comme si nous allions résoudre le problème en trois mois. Je ne suis pas le tsar de l’IA. Je suis évêque et je représenterai la voix de l’Église aux États-Unis et les efforts des évêques des États-Unis, compte tenu des ordres de marche que le pape Léon nous a donnés dans l’encyclique.

Nous travaillerons essentiellement dans trois ou quatre domaines. Premièrement, maintenir le dialogue avec les laboratoires frontières. Je pense qu’ils respectent la voix de l’Église, en particulier de l’Église catholique, parce que nous sommes mondiaux. Nous ne sommes pas liés à la politique américaine, nous ne subissons donc pas ces pressions, qu’il s’agisse de politiques partisanes ou de pressions financières. Aussi parce que nous apportons un réservoir d’enseignements et de principes moraux et éthiques. Ils apprécient donc l’influence que l’Église catholique peut apporter, notamment en ce qui concerne l’établissement d’une certaine réglementation. Cela ne va pas être facile.

Cela nous amène au deuxième domaine de travail de ce groupe de travail : le plaidoyer. Cela revient à plaider en faveur d’une réglementation et/ou d’une législation appropriée. Nous continuerons à travailler avec les législateurs et avec le Congrès. (La réglementation) est quelque chose que les laboratoires d’IA réclament eux-mêmes. La réaction du public est la suivante : qu’en est-il de la Chine ? La Chine fait ce qu’elle veut. C’est un mauvais argument – non pas qu’il soit faux, mais nous devons faire ce qui est juste parce que c’est la bonne chose à faire. Je pense que les entreprises américaines doivent prendre les devants sur cette question éthique et morale, en ralentissant pour s’assurer que ces agents très puissants ne nuisent pas à l’humanité.

Le troisième élément sur lequel le groupe de travail travaillera est la formation et l’éducation, apportant une certaine éducation sur ce qu’est l’IA – comment elle fonctionne, quels sont les avantages, quelles sont les préoccupations – à nos évêques et également à nos diocèses à travers les États-Unis.

Nous communiquerons également avec la Commission du Vatican sur l’intelligence artificielle et lui fournirons des rapports.

La Silicon Valley se trouve dans votre diocèse et les leaders technologiques semblent de plus en plus s’adresser à l’Église. Avez-vous remarqué un changement ?

J’ai. C’est l’encyclique qui nous a vraiment poussé à approfondir. J’ai organisé une conférence diocésaine deux semaines après la publication de « Magnifica Humanitas » et nous avons invité le public. J’ai été extrêmement impressionné par la séance publique et par le nombre de personnes de l’industrie technologique qui sont venues. Ils étaient curieux d’entendre parler de l’encyclique – ils l’avaient tous lu – et ils se posaient des questions à ce sujet. Ils ont été impressionnés par les connaissances du Pape sur l’intelligence artificielle et par le fait que le Pape soulignait également les questions qu’ils avaient soulevées. Ils se sont retrouvés face à des questions auxquelles ils n’avaient pas de réponse : quel est le sens de la vie humaine ? Qu’est-ce que cela signifie si les machines deviennent plus intelligentes que les humains ? S’ils font les choses mieux que les humains, qu’est-ce que cela signifie pour la société ?

Un de mes prêtres était impliqué et a été invité par Anthropic au cours de la dernière année et demie à approfondir ces conversations. Ils l’admettent : ils ne comprennent pas pourquoi les machines font certaines choses, et cela les effraie. Ils se tournent vers les théologiens et les philosophes pour obtenir des conseils.

Le 16 septembre, le comité administratif de l’USCCB a rencontré des représentants d’entreprises technologiques. Que pouvez-vous partager sur la réunion ?

Pardonnez-moi de ne pas entrer dans tous les détails, mais nous étions soumis aux règles de Chatham House, nous pouvions donc avoir une conversation plus ouverte. Je pense que sept experts en technologie ont été invités à parler au comité administratif de la conférence des évêques des États-Unis, soit environ 30 évêques. Ils représentaient quatre entreprises différentes. Nous sommes restés assis pendant environ deux heures et demie pour écouter leurs espoirs, leurs inquiétudes concernant la technologie qu’ils construisaient – ils ont été très francs sur certaines de leurs inquiétudes.

C’était l’occasion pour les évêques de comprendre un peu mieux la puissance de ces machines et la nécessité d’agir. Nous devons faire entendre notre voix, celle de l’Église, sur la place publique. Mais nous devons également amener la conversation auprès de nos paroissiens. C’est quelque chose que le Pape Léon nous a encouragé à faire : une sorte de démocratisation de cette conversation. Nous ne pouvons pas laisser le soin aux seules entreprises technologiques, et pas seulement aux actions ou à l’inaction du Congrès. Nous devons élever notre conscience, élever la voix de notre conscience auprès des entreprises, du gouvernement et, nous l’espérons, éventuellement une voix internationale.

Une douzaine d’évêques ont ensuite rencontré les législateurs au Capitole. Avez-vous discuté de la réglementation sur l’IA ?

Plusieurs de mes frères évêques se rendaient sur la colline pour discuter d’un projet de loi proposé. Je n’étais pas là, mais je pense qu’il est important que les législateurs ressentent le soutien de l’Église catholique et du Vatican en faveur d’une réglementation et d’une législation qui ont du sens et assurent la sécurité des enfants. Cela permet de conserver un sentiment d’intimité là où cela est nécessaire. Cela confirme la vérité au milieu de la montée des contrefaçons profondes. Des choses très basiques sur lesquelles les gens peuvent s’entendre. Et nous espérons que cette législation pourra être adoptée. Ils ont affaire à la Maison Blanche, qui a des idées très différentes sur l’IA et la politique, et nous sommes donc judicieux et réalistes quant à ce que nous pouvons accomplir et ce que nous ne pouvons pas. Un pas à la fois.

L’administration Trump se révèle être un interlocuteur difficile lorsqu’il s’agit de promouvoir la réglementation de l’IA. Dans quelle mesure les évêques sont-ils d’accord avec cette administration et où voyez-vous des différences majeures ?

Il est certain que le système de valeurs de l’Église et de la Maison Blanche ne sont pas synchronisés, notamment à cet égard. Les dirigeants d’Amnesty International s’adressent à l’Église pour demander un certain levier pour essayer de faire ce qu’il faut et de ralentir ce processus, car ils constatent qu’il existe des préoccupations extrêmement profondes. Il y a des questions plus importantes que celle de savoir qui gagnera la course à l’IA. Ils s’en rendent compte.

Nous encourageons la Maison Blanche à réfléchir non seulement aux résultats financiers ou à notre ego en tant qu’Américains, mais aussi au bien de la société. Nous dirons toujours la vérité, nous parlerons toujours pour la dignité de l’humanité et pour le bien commun. Tel sera toujours notre message et notre ordre de marche.

Pensez-vous que le Vatican pourrait servir d’intermédiaire crédible entre les États-Unis et la Chine en matière de garanties communes en matière d’IA ?

Cela ne va pas être facile. Mais si quelqu’un le peut, je pense que le Vatican est bien placé pour le faire, et je pense que le Vatican serait prêt à le faire s’il voit une voie à suivre.

Vous avez été un ardent défenseur des immigrants et d’autres communautés vulnérables grâce à votre travail pastoral et à votre direction du diocèse. Cela influence-t-il d’une manière ou d’une autre votre rôle en tant que président du groupe de travail sur l’IA ?

Oui. Lors d’une conversation que j’ai eue avec l’un des fondateurs de l’un des plus grands laboratoires d’IA, je lui ai fait part de mon inquiétude quant au retard de l’IA par rapport aux pays du Sud et à la manière dont cela pourrait affecter les pays du Sud. Ce sont des questions auxquelles nous n’avons pas beaucoup réfléchi.

J’ai partagé avec lui une de mes visites dans une région très reculée, au Pérou, dans les montagnes, (avec) un évêque qui y travaillait. Il n’avait que 12 prêtres. Deux d’entre eux sont morts du COVID. Il a fallu une éternité pour que le vaccin parvienne dans les montagnes et les gens souffraient.

J’ai dit : qu’en est-il des habitants de ces montagnes isolées ? Et sa réponse était révélatrice. Il a dit : « Oh, tout ce dont ils ont besoin c’est d’un téléphone portable. Ils ont une couverture cellulaire, et ils peuvent se connecter dans la langue de leur choix, et ils peuvent bénéficier d’une assistance médicale par l’IA. » Il avait cette réponse technologique à ces problèmes à plusieurs niveaux, et cela lui semblait si simple. Je ne suis pas sûr qu’il soit allé dans les montagnes du Pérou, qu’il les ait parcourus à pied ou qu’il ait parlé à cet évêque, mais je me suis rendu compte à quel point ils semblent avoir une solution simple à tous les problèmes de l’humanité. Ils ne pensent pas à certains des effets imprévus. Mon souci pour les moindres d’entre eux sera au centre de ces conversations, tout comme nous l’a demandé le pape Léon.