Le pape Léon appelle le gouvernement à agir pour protéger les enfants et les travailleurs contre l’IA

Il s'agit de la quatrième d'une série d'articles de l'auteur sur la première encyclique du pape Léon XIV, « Magnifica Humanitas ». Cet article se concentre sur le chapitre 4. Pour les colonnes précédentes, voir le chapitre 1, le chapitre 2 et le chapitre 3.

(RNS) —Après avoir utilisé l’enseignement social catholique pour examiner la technologie numérique dans le chapitre 3 de son encyclique « Magnifica Humanitas », le pape Léon analyse dans le chapitre 4 l’impact de cette technologie sur la vérité et la démocratie, les enfants et l’éducation, les travailleurs et la liberté.

Comme beaucoup d’entre nous, Leo s’inquiète du fait que les outils de l’ère numérique « qui pourraient favoriser le dialogue et la participation sont souvent utilisés pour construire des récits déformés et brouiller les frontières entre la vérité et le mensonge, en mélangeant les faits avec les opinions ».

Il prévient que ceux qui disposent de puissantes ressources technologiques et économiques peuvent contrôler ce que d’autres considèrent comme vrai, ce qui est particulièrement important dans une démocratie. Nous le voyons déjà dans les médias sociaux et dans la publicité commerciale et politique.

Dans le discours public, Leo estime que la vérité des faits nécessite une vérification, un recoupement des sources et une argumentation responsable, ce qui est l’une des raisons pour lesquelles il appelle au renforcement d’un journalisme sérieux.

Citant la philosophe Hannah Arendt, il met en garde contre le danger du totalitarisme lorsque les gens perdent « la distinction entre réalité et fiction (c’est-à-dire la réalité de l’expérience) et la distinction entre le vrai et le faux (c’est-à-dire les normes de la pensée) n’existe plus ».

Comme les parents et les enseignants du monde entier, le pape s’inquiète également de l’impact des technologies numériques sur les enfants et l’éducation.

Leo souhaite que l’école soit « le lieu où les nouvelles générations peuvent apprendre à rechercher et à aimer la vérité, à réfléchir sur le sens de la vie et à reconnaître la dignité de chaque personne ». Mais l’éducation est rendue plus difficile par l’omniprésence des médias numériques, qui « favorisent une culture de l’immédiateté et de l’hyper-stimulation, qui engendre fatigue, ennui et apathie face à l’effort requis pour rechercher la vérité ».

« Possérer un appareil mobile personnel trop tôt et l'utiliser sans la surveillance d'un adulte, prévient Leo, peut exacerber les vulnérabilités des jeunes, favoriser la dépendance et les exposer à l'isolement, au harcèlement et à la cyberintimidation, ainsi qu'aux pressions pour partager des images intimes ou des informations sensibles. »

En conséquence, il soutient les interventions gouvernementales, comme celles de l’Australie, « visant à fixer des limites d’âge, à responsabiliser les prestataires de services plutôt que de transférer tout le fardeau du contrôle sur les familles, et à fournir des protections spécifiques contre toutes les formes d’exploitation et de violence sexuelles en ligne ».

L’enseignement social catholique a toujours mis l’accent sur la protection des travailleurs. Il n’est donc pas surprenant que Léon accorde une place dans son encyclique à l’impact des robots et de l’IA sur les travailleurs.

« Il est certainement souhaitable que la technologie décharge les humains de tâches pénibles, répétitives ou dangereuses et apporte un soutien intelligent à l'activité humaine », affirme Leo.

Mais à l’heure où les développeurs d’IA promettent aux entreprises que l’IA permettra d’économiser de l’argent en remplaçant les travailleurs, le pape met en garde : « La recherche de plus grands profits ne peut justifier des choix qui sacrifient systématiquement des emplois, car la personne humaine est une fin et non un moyen, et l’ordre économique doit rester subordonné à la dignité humaine et au bien commun. »

Comme les syndicats, qu’il soutient, Leo s’oppose au simple licenciement des travailleurs sans soutien ni plan, comme cela se fait aux États-Unis.

« Chaque introduction de l'automatisation et de l'IA devrait s'accompagner de mesures vérifiables pour protéger l'emploi, la reconversion et la participation des travailleurs », déclare Leo. Cela nécessite « une formation continue et des transitions professionnelles accessibles à tous, en veillant à ce que le coût de l’adaptation ne pèse pas uniquement sur les individus ».

Pour parvenir à une société juste, Leo appelle à « un État vigilant et des institutions civiles capables de surmonter la mentalité singulière d’efficacité et de garantir que les ressources, les solutions créatives et les réglementations favorisent les plus vulnérables ». C’est un anathème pour les libertaires qui détestent l’ingérence du gouvernement dans les affaires.

Le pape ne croit pas non plus à la théorie des « retombées » de l’économie. « Au lieu d'attendre que les bénéfices de la croissance profitent « à terme » aux pauvres, des décisions doivent être prises pour garantir que la croissance devienne inclusive dès le départ », affirme-t-il.

Leo note que la richesse mondiale a augmenté en termes absolus, mais « elle est de plus en plus concentrée entre quelques mains, creusant les inégalités à la fois au sein des pays et entre eux ».

S’exprimant comme un socialiste démocrate, il affirme que « des lois justes et des méthodes de redistribution sont certainement nécessaires pour corriger les déséquilibres, y compris des systèmes fiscaux qui allègent le fardeau des plus faibles et exigent davantage de ceux qui ont les plus grandes ressources ».

En résumé, Leo affirme qu' »il n'est plus possible de s'appuyer uniquement sur la « main invisible » du marché. La politique a pour tâche d'orienter les économies et les technologies vers le bien commun, en promouvant un travail digne, l'inclusion sociale et une répartition équitable des bénéfices de l'innovation ».

Leo met également en garde contre le fait que les technologies numériques peuvent créer une dépendance et limiter la liberté. Il critique les plateformes et les services qui « sont souvent conçus pour capter le temps et l'attention des utilisateurs, exploitant leurs vulnérabilités et affaiblissant leur liberté intérieure ».

« Lorsque les modèles économiques se nourrissent de la faiblesse humaine, la personne est traitée comme un moyen plutôt que comme une fin », déplore-t-il. « Ceux qui conçoivent ou financent de tels systèmes portent une responsabilité morale qui ne peut être ignorée. »

Leo met également en garde contre diverses formes de servitude liées à l’économie numérique, notamment celles qui travaillent pour un salaire minimum à « l’étiquetage des données, la formation de modèles et la modération de contenus, impliquant souvent du matériel dérangeant ».

Un travail encore plus dur est enduré pour « extraire les ressources nécessaires à la production des appareils et des microprocesseurs dont dépend l’IA », se plaint Leo. « Dans certaines régions du monde, les enfants et les adolescents travaillent dans des conditions dangereuses, écrasant les matériaux dont sont extraits les éléments des terres rares. Les corps de ces personnes sont cicatrisés, blessés et usés, de sorte que le flux informatique peut se poursuivre sans interruption. »

Répondre aux technologies numériques exige une réponse de tous, selon Leo. « Il demande que ces processus soient guidés avec clairvoyance : par des institutions capables de réguler sans étouffer et de protéger sans prendre le pouvoir ; par des entreprises qui reconnaissent le travail et la dignité comme des mesures de réussite ; par des organisations intermédiaires et des communautés éducatives qui reconstruisent la confiance et les relations ; et par des citoyens qui cultivent la responsabilité, la modération, le discernement et le sens de la vérité. »

Est-ce que tout le monde répondra ?