IA et religion : une proposition modeste

(RNS) — Alors qu’elle se prépare à une introduction en bourse d’un billion de dollars, la société d’IA Anthropic a consulté des experts religieux pour déterminer comment sa super suite de chatbots Claude peut être incitée à se comporter de manière éthique. En supposant qu’il s’agisse de plus qu’un simple exercice de relations publiques, je suis prêt à me réjouir ou deux.

Après tout, si les agents de l’IA peuvent faire beaucoup de mal à l’humanité, comme de nombreux dirigeants de l’industrie l’ont prévenu, pourquoi ne pas inclure la religion parmi les dispositifs de sécurité conçus pour les en empêcher ? Et qui sait ? Peut-être que la religion peut faire un meilleur travail pour façonner les agents de l’IA qu’elle ne l’a fait avec les êtres humains.

Ce qu’Anthropic semble avoir en tête, c’est une sorte d’éthique à dénominateur commun qui fonctionne pour tout le monde, partout. « Nous pensons qu’il existe une notion commune de bonté qui traverse la société de manière très large, et il semble que ces modèles comprennent de nombreuses vertus », a déclaré Christopher Olah, cofondateur d’Anthropic, à Elizabeth Dias du New York Times. « Je pense donc qu’il y a là quelque chose qui est une chose partagée avec laquelle nous pouvons tous nous engager. »

Peut-être. Mais considérons, par exemple, l’actuelle croisade chrétienne conservatrice contre l’empathie. L’empathie n’est évidemment pas une vertu partagée, du moins pour le moment.

Se pose ensuite la question de savoir comment appliquer une éthique religieuse des relations interpersonnelles à des entités qui, même si elles possèdent une conscience, ne sont pas des personnes comme vous et moi. Prenez l’injonction de Jésus dans Matthieu 7 : 12, le dénominateur commun de l’éthique chrétienne connue sous le nom de Règle d’or. (« Donc, en toute chose, faites aux autres ce que vous voudriez qu’ils vous fassent, car cela résume la Loi et les Prophètes. ») Comment cela pourrait-il s’appliquer aux agents de l’IA, alors qu’ils peuvent nous faire beaucoup de choses que nous ne pouvons pas leur faire ?

Dans son encyclique sur l’IA, « Magnifica Humanitas », le pape Léon XIV utilise l’histoire biblique de la Tour de Babel pour critiquer la nouvelle technologie. «C’était un exploit impressionnant : un seul langage, une seule technologie, une seule direction», écrit-il. « Cependant, le projet cachait un danger profond. C’était un projet conçu sans référence à Dieu, soutenu par une uniformité qui éliminait la diversité et qui préférait l’homogénéisation à la communion. »

Le pape oppose cela à la reconstruction de Jérusalem racontée dans le livre de Néhémie, qu’il décrit comme « une entreprise avec Dieu au centre, qui reconstruit les relations avant de reconstruire avec des pierres ». Aujourd’hui, écrit Leo, reconstruire « signifie reconnaître que, précisément de la pluralité des voix et des visions qui, même si elles nous rappellent parfois la confusion provoquée par la diversité des langues parlées, émerge une possibilité lumineuse ».

Je dirais qu’essayer d’intégrer une éthique universelle dans l’IA représente une sorte de syndrome de Babel contre lequel Leo met en garde. Au lieu de cela, Anthropic et les autres sociétés d’IA devraient reconnaître la valeur d’avoir une pluralité de visions éthiques, en s’appuyant sur les différentes compréhensions du bien-être humain qui existent en fait dans nos traditions religieuses.

Pour cela, je suggère de réfléchir à l’humanisme du grand penseur juif du siècle dernier, Emmanuel Levinas. Au cœur de son éthique théologique se trouve la conviction que l’on rencontre son prochain non pas à travers Dieu mais, au contraire, que le chemin vers Dieu passe par le bien envers son prochain.

Levinas a grandi en Lituanie et a immigré en France, où il a servi comme soldat dans l’armée française et a été capturé au début de la Seconde Guerre mondiale, passant quatre ans dans un camp de prisonniers de guerre allemand. Pendant ce temps, sa femme et sa fille ont été cachées avec succès par des religieuses françaises.

Avant de devenir un éminent professeur d’université française, Levinas a dirigé une école secondaire juive, l’École Normale Israélite Orientale, où il a enseigné le judaïsme et la philosophie à travers une lecture attentive et imaginative du Talmud. Parmi ses étudiants se trouvait mon vieil ami Guy Stroumsa, qui allait devenir titulaire de la chaire Martin Buber de religion comparée à l’Université hébraïque de Jérusalem et professeur d’étude des religions abrahamiques à l’Université d’Oxford.

Dans un mémoire à paraître, Stroumsa écrit (en français) à propos de Levinas : «Cet intellectuel sensible possédait une grande chaleur humaine, une qualité qui le déstabilisait parfois et qu’il tentait, sans succès, de maîtriser ou de dissimuler. Elle se situe néanmoins au cœur d’une vision du monde profondément empathique. Guy écrit que le livre de Levinas, « Humanisme de l’Autre » : « souligne son effort constant, son effort continu, non seulement pour penser à ou sur l’autre, mais pour essayer avec une persévérance inébranlable de penser, de ressentir comme l’autre – comme chaque autre. Aucune limite. Au-delà de toutes les frontières. La sympathie dans son sens premier et fort. S’imaginer, se sentir, à la place de l’autre. Se forcer toujours à voir l’autre côté des choses, l’autre cours de l’humanité – ce qui reste, comme la face cachée de la lune, caché.

En établissant des garanties pour l’IA, certaines entreprises devraient tenter d’intégrer non seulement des règles de comportement éthique, mais aussi, dans la mesure du possible, une idée de ce que signifie être un être de chair et de sang, un autre humain. Cela constituerait-il une brillante possibilité ? Cela vaut la peine de se donner la peine de le découvrir.