Une solution catholique aux préjugés sexistes dans l’IA

(RNS) — Les analyses largement répandues de l'encyclique du pape Léon XIV, « Magnifica Humanitas », négligent une chose : l'intelligence artificielle est intrinsèquement masculine.

La plupart des gens considèrent l’IA comme un outil permettant de résumer des informations à travers ce que l’on appelle de grands modèles linguistiques. Le problème : les LLM sont formés par des hommes, et la plupart des données et informations disponibles ont été créées par des hommes. La plupart des programmeurs qui apprennent à l’IA à « penser » sont des hommes. Ainsi, les comportements de prise de décision et de prédiction de l’IA sont essentiellement masculins.

Il n’est pas étonnant que le pape ait appelé au « désarmement » de l’IA. Les hommes partent en guerre.

Le monde est en désordre. L’IA peut-elle aider ?

Peut-être que oui. Peut-être que non.

Ce sont les réponses du pape Léon dans «Magnifica Humanitas», qu’il a publié lundi 25 mai en compagnie de trois cardinaux, de deux professeures et de Christopher Olah, co-fondateur du géant de l’IA Anthropic.

Olah se spécialise dans l'ingénierie inverse des réseaux de neurones chez Anthropic. Cela signifie qu’il regarde à l’intérieur de la machine, pour ainsi dire, essayant de comprendre comment elle apprend, comment elle « pense », comment elle prend des décisions. Mais presque tout ce qu’il étudie vient du point de vue masculin.

Le point de vue masculin domine les réponses de l’IA, les algorithmes de l’IA, les prédictions de l’IA et les décisions de l’IA du début à la fin.

Est-ce que « neutre en matière de genre » serait mieux ?

Non.

Si les formateurs visent la suppression complète du genre, si le genre disparaît de l’équation et si tout ce qui entre dans les machines d’IA est non binaire, les réponses et les décisions de l’IA sont toujours probablement orientées vers les hommes, puisque le langage par défaut est masculin.

Alors, y a-t-il une solution ? Où peut-on le trouver ?

Suggestion : synodalité et réciprocité synodale. « Réciprocité » est un mot récurrent dans le document final du Synode sur la synodalité qui a duré des années (et se poursuit), commencé par le pape François en 2021. La réciprocité exige que les points de vue des hommes et des femmes soient pris en compte de manière positive, sinon égale. C’est une question d’épistémologie – de la façon dont nous connaissons et comprenons. Les humains sont des êtres incarnés, sexués et possèdent des perspectives différentes. La réciprocité tente de fusionner les perspectives. Le concept de « réciprocité » nie l’erreur épistémologique selon laquelle l’homme et la femme existent et sont définis uniquement en opposition l’un à l’autre. Il soutient également que la combinaison des points de vue est plus susceptible d’aboutir à une réponse équilibrée à toute question posée.

La synodalité peut-elle survivre dans l’Église catholique, et l’IA peut-elle être utile, lorsque l’Église et l’IA adoptent par défaut un point de vue masculin ? Si la recherche est la vérité, seule la réciprocité peut produire des questions et des réponses équilibrées, voire correctes selon certains.

Comme l’a écrit le poète américain EE Cummings : « Toujours la plus belle réponse, qui pose la plus belle question ».

Le pape Léon pose les bonnes questions. Il a écrit : « Lorsque les systèmes d’IA se présentent comme neutres et objectifs, ils finissent par refléter et renforcer les stéréotypes ou les préjugés idéologiques de leurs concepteurs et développeurs. » (#102)

On ne peut qu’espérer que les opinions des femmes seront ajoutées à l’équation.