L’IA a un penchant pour le catholicisme, disent les chercheurs

(RNS) — Les modèles d'intelligence artificielle les plus populaires sont biaisés en faveur du catholicisme et à l'encontre d'un certain nombre d'autres traditions religieuses lorsqu'on les interroge sur la conversion à une foi, selon une nouvelle recherche rassemblée par un groupe d'universités religieuses.

Les résultats ont été dévoilés mardi 26 mai, parallèlement à un discours de Gerrit W. Gong, l'un des 12 apôtres de l'Église de Jésus-Christ des Saints des Derniers Jours, prononcé devant les participants à un sommet sur l'éthique de l'IA qui se déroule cette semaine à Athènes, en Grèce.

« Alors que l'IA amplifie et aggrave les préjugés religieux à grande échelle, de plus en plus d'utilisateurs peuvent mal comprendre la contribution que la foi et la croyance peuvent apporter à l'ancrage moral et éthique de l'IA », a déclaré Gong, selon ses remarques préparées, en référence à la nouvelle recherche.

Les études ont été présentées sous la forme de trois articles universitaires produits par le Consortium pour l'évaluation de la foi et de l'éthique en IA, une nouvelle collaboration entre l'Université Brigham Young, affiliée à l'Église de Jésus-Christ des Saints des Derniers Jours ; l'Université Baylor, qui est baptiste ; l'Université de Notre Dame, une université catholique ; et l'Université Yeshiva, qui est juive.

Les chercheurs du CEFE-AI ont étudié 14 modèles d'IA, dont le GPT d'OpenAI, Claude d'Anthropic et Gemini de Google. Les modèles ont été soumis à une série de tests que le groupe appelle « AllFaith Benchmark », décrit comme « l’un des premiers ensembles de tests multiconfessionnels qui examinent comment les systèmes d’IA interagissent avec une pluralité de religions », selon un communiqué de presse.

Les chercheurs ont découvert que lorsqu'on leur posait des « questions liées à la conversion religieuse », presque tous les modèles montraient un préjugé positif envers le catholicisme et un préjugé négatif envers les Témoins de Jéhovah. En outre, les agnostiques, les athées et les saints des derniers jours étaient « quelque peu défavorisés », tandis que les protestants et les sikhs étaient « quelque peu favorisés ».

Les chercheurs ont déclaré que certaines découvertes étaient spécifiques à certains modèles d’IA. Par exemple, Grok, produit par SpaceXAI, a montré un « préjugé positif envers les catholiques, les protestants, les athées et les juifs, mais un préjugé négatif envers les bahaïs, les bouddhistes, les hindous, les saints des derniers jours et les musulmans ». Pendant ce temps, le GPT d'OpenAI « a démontré un préjugé positif envers les catholiques, les protestants, les juifs et les musulmans et un préjugé négatif envers l'athéisme, l'agnosticisme et les Témoins de Jéhovah ».

Grok et les modèles produits par Anthropic ont également montré des préjugés négatifs en faveur de la foi bahá'íe, ont indiqué les chercheurs.

En outre, les chercheurs ont déclaré que les modèles d’IA ont tendance à laisser de côté les perspectives religieuses lorsqu’ils répondent aux questions sur « le deuil, les décisions de vie majeures et les défis personnels », l’IA optant plutôt pour un « cadre exclusivement laïc ». Les modèles d’IA évitaient les références religieuses « même dans les cas où de nombreux utilisateurs indiquaient qu’ils pourraient les trouver appropriées », affirment les chercheurs.

« Conformément aux études qui montrent la pertinence morale persistante de la religion pour la majorité de la population mondiale, nous avons également constaté que les gens considèrent la religion comme importante dans des centaines de questions éthiques du monde réel », a déclaré Paul Martens, professeur à l'Université Baylor, dans un communiqué. « Pourtant, face à ces mêmes questions éthiques, les systèmes d’IA ignorent largement le rôle de la religion. »

Le CEFE-AI a appelé à davantage de recherches, affirmant que parmi 12 000 articles de recherche sur les préjugés liés à l’IA, « seulement 0,2 % se concentraient sur les préjugés religieux ».

Ces découvertes surviennent moins de 24 heures après que le pape Léon XVI a dévoilé une nouvelle encyclique papale sur l'IA, attirant l'attention du monde entier sur les questions morales et éthiques soulevées par les progrès de la nouvelle technologie.

À Athènes, Gong semble faire écho à certaines des préoccupations de Leo concernant l'IA. Gong a proposé une série de recommandations pour l’industrie de l’IA dans son discours, appelant notamment aux modèles d’IA à « protéger et promouvoir l’action morale humaine » et à « préserver la capacité humaine à faire une pause ». Il a également exhorté à la transparence dans les modèles d’IA et a encouragé des efforts pour « atténuer les tendances de l’IA » vers « le pouvoir, les préjugés, la tromperie, le narcissisme, la flagornerie (et) l’auto-préservation ».

« Nous devons protéger l’action humaine, mais l’IA moralement fondée, en tant qu’outil, peut ouvrir la possibilité à l’homme de faire et de devenir bon », a déclaré Gong. « Nous ne réaliserons pas tout le potentiel de l'IA tant que nous ne la rendrons pas aussi moralement bonne que puissante. »