Avec sa première encyclique, le pape Léon sort du cadre
(RNS) — Les fans des White Sox seront heureux de savoir que lors de sa première fois avec une encyclique, le pape Leo l'a sorti du stade approximatif. En vérité, le monde entier devrait être content, même si ceux qui veulent seulement gagner de l’argent avec une technologie débridée hueront.
L’encyclique de 42 000 mots, « Magnifica Humanitas » (Humanité magnifique), publiée lundi 25 mai, traite non seulement de l’intelligence artificielle mais plus largement de la technologie numérique et de son impact sur le monde réel dans lequel nous vivons. Et Leo soutient que l’enseignement social catholique peut nous aider à savoir comment gérer ces technologies et leur potentiel de perturbation.
Les deux premiers chapitres de l'encyclique retracent l'histoire et les fondements de la doctrine sociale catholique, fondée sur l'égale dignité de tous les êtres humains et la valeur des droits de l'homme. Il explique les principes de l'enseignement social catholique : le bien commun, la destination universelle des biens, la subsidiarité, la solidarité et la justice sociale.
Pour ceux qui découvrent l’enseignement social catholique, ces deux chapitres constituent une excellente introduction, et pour ceux qui connaissent l’enseignement, les chapitres constituent une excellente révision.
Ensuite, Leo analyse et critique le paradigme technologique qui guide actuellement la réflexion sur l'IA et les autres technologies numériques. À la suite du pape François, Léon décrit le paradigme technologique comme « la tendance à laisser la logique de l’efficacité, du contrôle et du profit seule façonner les décisions personnelles, sociales et économiques ».
Ici, la technologie n’est pas seulement un instrument mais devient « la norme par laquelle tout est jugé, elle commence à dicter ce qui compte et ce qui peut être rejeté, réduisant la création à un objet d’exploitation et les êtres humains à de simples rouages d’un système poussé vers une efficacité toujours plus grande ».
« Dans de nombreux cas », note Leo, « dans le contexte numérique, le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n'appartient pas aux États, mais aux principaux acteurs économiques et technologiques. Ces entités fixent effectivement les conditions d'accès, déterminent les règles de visibilité et façonnent les possibilités mêmes de participation. »
Il prévient que « lorsqu’un tel pouvoir est concentré entre les mains de quelques-uns, il a tendance à devenir opaque et à échapper au contrôle public, augmentant ainsi le risque de formes de développement déformées qui donnent naissance à de nouvelles dépendances, exclusions, manipulations et inégalités. »
Avec les principes de l’enseignement social catholique, dit Leo, nous devons « évaluer si la puissance des infrastructures numériques et des algorithmes favorise réellement la participation et la responsabilité, protège les personnes vulnérables, garantit un accès équitable aux opportunités et reste orientée vers le bien de tous ».
En parlant des intelligences artificielles, Leo avoue que l’on sait très peu de choses sur leur fonctionnement réel, même par leurs développeurs. Mais il sait clairement ce qu’ils ne sont pas.
Ils « ne subissent pas d'expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas dans les relations et ne savent pas de l'intérieur ce que signifient l'amour, le travail, l'amitié ou la responsabilité. Ils n'ont pas non plus de conscience morale, puisqu'ils ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations et n'assument pas la responsabilité des conséquences ».
«Ils peuvent imiter le langage, le comportement et les compétences analytiques, ou même simuler l’empathie et la compréhension, mais ils ne comprennent pas ce qu’ils produisent, car il leur manque la perspective affective, relationnelle et spirituelle à travers laquelle les êtres humains grandissent en sagesse.»
Il reconnaît que l’IA peut être une aide précieuse, mais qu’elle doit être abordée avec prudence et précaution.
Les systèmes d’IA affectent la vie des gens, ils ont un impact sur leurs « droits, opportunités, statut et liberté », et bien qu’ils se présentent « comme neutres et objectifs », en fait « ils finissent par refléter et renforcer les stéréotypes ou les préjugés idéologiques de leurs concepteurs et développeurs ».
« Chaque outil technique incarne des choix et des priorités », souligne Leo, « ce qu'il mesure, ignore et optimise, et comment il classe les personnes et les situations ».
De tels systèmes considéreront certaines vies, comme celles des pauvres, comme moins dignes et les excluront sans possibilité de recours.
Nous devons nous demander, insiste Leo, non seulement « si nous utilisons un système à des fins bonnes ou mauvaises », mais aussi « comment ce système est conçu et quelle vision de la personne humaine et de la société est ancrée dans les données et les modèles qui le guident ».
Leo appelle à la transparence, à la responsabilité et à l’obligation de rendre compte dans le développement et l’utilisation de l’IA. « Appeler à la prudence, à une évaluation rigoureuse et même, parfois, à un rythme plus lent dans l’adoption de l’IA ne signifie pas s’opposer au progrès ; il s’agit plutôt d’un exercice de prise en charge responsable de la famille humaine. »
L’IA devrait être soumise à un code éthique qui reflète des critères de justice sociale partagée, écrit Leo. « Sinon, ceux qui contrôlent l'IA imposeront leur propre vision morale, qui deviendra l'infrastructure invisible de ces systèmes. »
Sans certains contrôles, « des groupes petits mais très influents peuvent façonner les modes d’information et de consommation, influencer les processus démocratiques et orienter la dynamique économique à leur propre avantage, sapant ainsi la justice sociale et la solidarité entre les peuples ».
Les principes de l’enseignement social catholique peuvent nous guider, explique Leo :
« La destination universelle des biens implique de trouver les moyens d’assurer un accès universel aux technologies et à l’éducation nécessaire pour les utiliser. »
« La subsidiarité appelle à protéger la capacité des communautés à faire des choix et à apporter des corrections, plutôt que de limiter leur rôle à une simple surveillance une fois que les normes ont été fixées ailleurs. »
« La solidarité nous oblige à reconnaître les travailleurs cachés, souvent exploités, qui soutiennent les systèmes algorithmiques. »
« La justice nécessite de remettre en question la répartition mondiale du pouvoir qui décide qui peut effectivement former ces modèles et qui y est simplement soumis. De même, cela signifie reconnaître que la justice sociale n'est pas seulement un objectif à sauvegarder après le déploiement des technologies, mais une condition qui doit façonner leur conception même dès le départ. »
Leo aborde de nombreux autres sujets importants dans son encyclique, notamment le transhumanisme, le posthumanisme, l'utilisation de la technologie dans la guerre et l'impact de la technologie sur les travailleurs.
Il reconnaît que l'Église n'a pas toutes les réponses. Il doit y avoir une conversation sur ces questions impliquant les développeurs, les scientifiques, les éthiciens, les représentants gouvernementaux et les chefs religieux de toutes confessions.
En fin de compte, pour Léon, « la qualité d’une civilisation se mesure non pas à la puissance de ses moyens, mais aux soins qu’elle est capable d’offrir ».
« L’intelligence créatrice de l’humanité est un don qui peut soulager la souffrance et ouvrir de nouvelles possibilités », affirme-t-il, « mais elle doit rester orientée vers le bien commun, la justice, le soin des plus vulnérables et la création. »
