Le pape Léon applique l’enseignement social catholique à l’intelligence artificielle
Il s'agit de la troisième d'une série d'articles de l'auteur sur la première encyclique du pape Léon XIV, « Magnifica Humanitas ». Cet article se concentre sur le chapitre 3. Pour les colonnes précédentes, voir le chapitre 1 et le chapitre 2.
(RNS) —Après avoir résumé l’enseignement social catholique dans le chapitre 2 de son encyclique « Magnifica Humanitas » (Humanité magnifique), le pape Léon XIV applique cet enseignement aux technologies numériques modernes, notamment à l’intelligence artificielle.
Le pape Léon soutient notamment que l’IA doit respecter la dignité humaine, favoriser le bien commun et ne pas simplement responsabiliser et enrichir ceux qui développent l’IA.
Comme le pape François avant lui, Léon dénonce « la domination croissante d’un paradigme technocratique dans notre monde globalisé : la tendance à laisser la logique de l’efficacité, du contrôle et du profit seule façonner les décisions personnelles, sociales et économiques ».
Lorsque ce paradigme règne, affirme Leo, la technologie n’est pas seulement un outil, « elle devient la norme selon laquelle tout est jugé, elle commence à dicter ce qui compte et ce qui peut être rejeté, réduisant la création à un objet d’exploitation et les êtres humains à de simples rouages dans un système poussé vers une efficacité toujours plus grande. »
À l’ère des entreprises qui pèsent des milliers de milliards de dollars, Leo note que le contrôle des technologies numériques modernes est entre les mains d’acteurs économiques et technologiques majeurs qui « fixent effectivement les conditions d’accès, déterminent les règles de visibilité et façonnent les possibilités mêmes de participation ». Ils peuvent « échapper au contrôle public, augmentant ainsi le risque de formes de développement déformées qui donnent naissance à de nouvelles dépendances, exclusions, manipulations et inégalités ».
Face à cette réalité, Léon affirme que « les critères de jugement et de discernement dans cette nouvelle situation sont les nobles principes de la Doctrine Sociale : la dignité inaliénable de la personne humaine, être le bien commun, la destination universelle des biens, la subsidiarité, la solidarité et la justice sociale ». Cela signifie que l’IA doit favoriser la participation et le bien-être de tous plutôt que de simplement servir les propriétaires et les développeurs des entreprises. Il convient de se soucier particulièrement des pauvres et des exclus.
Contrairement à ceux qui croient que l’IA peut être équivalente ou meilleure que l’intelligence humaine, Leo soutient que les modèles d’IA ne font qu’imiter certaines fonctions de l’intelligence humaine. Ils « ne subissent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas dans les relations et ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié ou la responsabilité ».
« Ils n’ont pas non plus de conscience morale », écrit Léon, « puisqu’ils ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations et n’assument pas la responsabilité des conséquences. » En fin de compte, estime Leo, les humains doivent assumer la responsabilité des technologies qui peuvent avoir un impact sur la vie des gens, tant dans l’économie que dans les guerres.
Ils ne peuvent que simuler « une communication humaine positive – des conseils, de l’empathie, de l’amitié et même de l’amour », affirme Leo. « Le danger n’est pas tant qu’une personne puisse croire qu’elle communique avec une autre personne, mais plutôt qu’elle perde progressivement le désir même d’établir de véritables liens humains. » Ce n’est qu’en nous connectant aux autres que nous sommes vraiment humains, parce que Dieu nous a créés pour la compagnie et l’amour. La vie moderne a effiloché ces liens et nous ne voulons pas que l’IA aggrave la situation.
La réflexion éthique est essentielle car l'IA peut « affecter la vie des gens, elle touche aux droits, aux opportunités, au statut et à la liberté. Des décisions importantes et sensibles – concernant l'emploi, le crédit, l'accès aux services publics ou encore la réputation d'une personne – risquent d'être entièrement déléguées à des systèmes automatisés », prévient Leo.
Citant le pape François, il note que ces systèmes ne connaissent pas « la compassion, la miséricorde, le pardon et surtout l’espoir que les gens soient capables de changer », et peuvent donc donner lieu à de nouvelles formes d’exclusion pour les minorités et les pauvres qui sont toujours les derniers à avoir accès aux bénéfices des nouvelles technologies.
Le pape reconnaît que les systèmes d’IA peuvent être des outils précieux, mais « ils reflètent les hypothèses culturelles de ceux qui les ont conçus et formés, avec toutes leurs forces et leurs limites ». À l’ère des tech bros, alors que « les systèmes d’IA se présentent comme neutres et objectifs, ils finissent par refléter et renforcer les stéréotypes ou les préjugés idéologiques de leurs concepteurs et développeurs ».
Leo soutient que si l’IA est fondamentalement défectueuse dans sa conception, alors un utilisateur ne peut échapper à des résultats biaisés. C'est une forme de péché originel, pour le dire en termes catholiques. « Si un système est conçu ou utilisé de manière à considérer certaines vies comme moins dignes ou à les exclure sans possibilité de recours, poursuit Leo, alors ce n'est pas simplement un outil « à bien utiliser », puisqu'il a déjà introduit des critères qui contredisent la dignité inaliénable de la personne humaine.
En conséquence, pour Leo, il faut examiner non seulement comment un système est utilisé mais aussi comment il est conçu et « quelle vision de la personne humaine et de la société est ancrée dans les données et les modèles qui le guident ».
Défiant le credo de la Silicon Valley consistant à « avancer vite et à briser les choses », Leo appelle « à la prudence, à une évaluation rigoureuse et même, parfois, à un rythme plus lent dans l'adoption de l'IA ».
Il n’est pas non plus opposé à la réglementation gouvernementale de l’IA, un anathème pour beaucoup dans la Silicon Valley. « Il ne suffit pas d’invoquer l’éthique de manière abstraite », écrit Leo. « Des cadres juridiques (robustes), un contrôle indépendant, des utilisateurs informés et un système politique qui n’abdique pas ses responsabilités sont nécessaires. »
Leo craint qu’avec l’IA, « des groupes petits mais très influents puissent façonner les modes d’information et de consommation, influencer les processus démocratiques et orienter la dynamique économique à leur propre avantage, sapant ainsi la justice sociale et la solidarité entre les peuples ».
Il appelle à « désarmer l’IA » alors que les entreprises et les nations sont engagées dans « une course à des algorithmes toujours plus puissants et à des ensembles de données plus vastes, motivées par le désir d’assurer une domination géopolitique ou commerciale ». Il veut discréditer « l’hypothèse selon laquelle le pouvoir technique confère automatiquement le droit de gouverner ».
Leo remet également en question les mouvements transhumanistes et posthumanistes, où l'incapacité, la maladie, la vieillesse, la souffrance et la vulnérabilité sont considérées comme des défauts à corriger, plutôt que comme des réalités à travers lesquelles notre humanité mûrit et s'ouvre à la relation.
Au lieu de cela, « nous devons nous rappeler que l’humanité ne s’épanouit pas malgré ses limites, mais souvent grâce à elles ». C’est notre limitation qui inspire la compassion, la générosité et « nous ouvre à la reconnaissance du visage de Dieu et des autres ».
« Nous pouvons adopter le progrès technologique qui soulage la souffrance et ouvre de nouvelles possibilités », affirme Leo, « à condition de ne pas abandonner l’essence même de notre humanité, à savoir la capacité de relation et d’amour. »
La véritable transcendance pour l’être humain ne vient « pas d’une évasion de la réalité ou d’un mépris de ses limites, mais de son épanouissement dans l’amour ».
Mais si « le pouvoir grandit alors que le cœur se flétrit et que les liens humains s’effilochent », conclut Leo, « alors nous sommes confrontés à une nouvelle forme de Babel – une construction grandiose, mais fondamentalement déshumanisante ».
Le pape Léon estime que la révolution de l’IA aura tout autant d’impact que la révolution industrielle l’était à l’époque de son prédécesseur le pape Léon XIII. Le pape Léon XIV voit de la valeur mais aussi des dangers dans l’IA. Il soutient que son développement et son utilisation devraient être guidés par le respect de la dignité humaine. Elle doit servir le bien-être de toute l’humanité et pas seulement des riches et des puissants. Il a besoin de garde-fous éthiques non seulement dans son utilisation mais aussi dans sa conception même.
Reste à savoir si la Silicon Valley et Washington écouteront ses appels, mais il a exposé les problèmes aux développeurs, aux décideurs politiques et au public. Espérons et prions pour qu’il entame une conversation qui puisse guider le développement et l’utilisation de l’IA.
